الوصف
HuggingFaceH4/zephyr-7b-beta هو نموذج لغوي بـ 7 مليارات معامل، وهو نسخة مضبوطة بدقة من mistralai/Mistral-7B-v0.1. تم تدريبه باستخدام تحسين التفضيل المباشر (DPO) على مزيج من مجموعات البيانات المتاحة للجمهور والبيانات الاصطناعية. هذا النهج، الذي يتضمن إزالة محاذاة مجموعة البيانات المتأصلة، أدى إلى تحسين الأداء على معايير مثل MT-Bench و AlpacaEval، مما يضع Zephyr-7B-β كذكاء اصطناعي محادثة عالي القدرة.
قراءة المزيد
تم تصميم النموذج بشكل أساسي لمهام اللغة الإنجليزية وتم إصداره بموجب ترخيص MIT. بنيته تشبه GPT، وتم ضبطه بدقة على حوارات اصطناعية متنوعة تم إنشاؤها بواسطة ChatGPT وتمت محاذاتها بشكل إضافي باستخدام مدرب DPO من مكتبة 🤗 TRL على مجموعة بيانات openbmb/UltraFeedback. تتكون مجموعة البيانات هذه من 64,000 مطالبة وإكمالات نماذج مقابلة مرتبة بواسطة GPT-4، مما يساهم في فائدة النموذج.
يُظهر Zephyr-7B-β أداءً قويًا، حيث يحتل المرتبة الأولى كأفضل نموذج دردشة 7B على MT-Bench و AlpacaEval عند إصداره. يُظهر نتائج تنافسية ضد نماذج مفتوحة أكبر مثل Llama2-Chat-70B في العديد من فئات MT-Bench. ومع ذلك، قد يتأخر أداء النموذج في المهام المعقدة مثل البرمجة والرياضيات مقارنة بالنماذج الخاصة، مما يشير إلى مجالات للبحث والتطوير المستقبلي.
بينما يتفوق Zephyr-7B-β في تطبيقات الدردشة، من المهم ملاحظة قيوده. لم يخضع لنفس محاذاة السلامة أو التصفية داخل الحلقة مثل نماذج مثل ChatGPT، مما يعني أنه قد يولد نصًا إشكاليًا إذا طُلب منه ذلك. يجب أن يكون المستخدمون على دراية بهذا الاحتمال لتوليد مخرجات غير مرغوب فيها. القاعدة الأساسية للنموذج، mistralai/Mistral-7B-v0.1، التي تم تدريبها على الأرجح على مزيج من بيانات الويب والكتب والتعليمات البرمجية، تساهم في قدراته الواسعة.
يمكن تحقيق التكامل مع Zephyr-7B-β باستخدام الدالة `pipeline()` من مكتبة 🤗 Transformers. يدعم النموذج قوالب الدردشة لإدخال المحادثة المنظمة. يوضح المثال المقدم كيفية إعداد النموذج لتوليد النص، بما في ذلك رسائل النظام والمستخدم، وكيفية تنسيق المطالبة للتفاعل الأمثل.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتالويب
أبرز ملامح HuggingFaceH4/zephyr-7b-beta
تم ضبطه بدقة من Mistral-7B-v0.1
تم تدريبه باستخدام تحسين التفضيل المباشر (DPO)
دعم أساسي للغة الإنجليزية
7 مليارات معامل
أداء عالٍ على معايير MT-Bench و AlpacaEval
مناسب لتطبيقات الدردشة
إصدار مفتوح المصدر بموجب ترخيص MIT
يمكنه توليد نص إشكالي عند الطلب
يدعم قوالب الدردشة لإدخال المحادثة
البدء مع HuggingFaceH4/zephyr-7b-beta
الوصول إلى النموذج: تحميل نموذج HuggingFaceH4/zephyr-7b-beta باستخدام مكتبة Transformers.
إعداد البيئة: تثبيت المكتبات الضرورية مثل transformers و accelerate.
التكامل عبر API: استخدام الدالة `pipeline()` لمهام توليد النص.
تنسيق الإدخال: استخدام قالب الدردشة الخاص بمُرمّز النموذج لتنظيم رسائل المحادثة.
توليد النص: تقديم المطالبات المنسقة إلى pipeline للحصول على استجابات النموذج.
تحسين الإخراج: ضبط معلمات التوليد مثل `max_new_tokens` و `temperature` و `top_k` و `top_p`.
حالات استخدام HuggingFaceH4/zephyr-7b-beta
- الذكاء الاصطناعي المحادثة
- تطوير روبوتات الدردشة
- توليد النصوص
- المساعدة اللغوية
- تقييم المعايير
