الوصف
Mixtral-8x7B-Instruct-v0.1 هو نموذج لغوي كبير (LLM) تم تطويره بواسطة Mistral AI، مصمم لتعزيز وتعميم الذكاء الاصطناعي من خلال المصادر المفتوحة والعلوم المفتوحة. هذا النموذج هو نموذج مختلط مسبق التدريب من نوع Sparse Mixture of Experts، والذي أظهر أداءً متفوقًا مقارنةً بـ Llama 2 70B في العديد من المعايير. تم بناء النموذج على الإصدار الأصلي من Mixtral torrent، ولكن مع تنسيق ملف وأسماء معلمات مختلفة، مما يجعله متوافقًا مع خدمة vLLM ومكتبة Hugging Face transformers.
قراءة المزيد
تم تصميم نموذج Mixtral-8x7B لتسهيل عملية تقسيم النصوص باستخدام إطار العمل mistral-common. يُشجع المستخدمون على المساهمة في المشروع من خلال تقديم طلبات سحب لتصحيح مُقسّم النصوص الخاص بالتحويلات، لضمان توافقه مع تنفيذ المرجع mistral-common. يجب الالتزام بصيغة التعليمات الخاصة بالنموذج بدقة لتحقيق أفضل نتائج للإخراج، باستخدام رموز خاصة لبداية ونهاية السلاسل، بالإضافة إلى علامات تعليمات محددة.
بالنسبة لأولئك الذين يتطلعون إلى تشغيل النموذج، يُوصى بتحميله بدقة كاملة بشكل افتراضي. ومع ذلك، يمكن للمستخدمين تحسين استخدام الذاكرة من خلال استخدام خيارات نصف الدقة أو دقة أقل، مثل تكوينات 8 بت و4 بت، باستخدام مكتبة bitsandbytes. بالإضافة إلى ذلك، يمكن استخدام Flash Attention 2 لتعزيز الأداء بشكل أكبر.
بينما يُعتبر نموذج Mixtral-8x7B Instruct عرضًا مثيرًا لقدرات النموذج الأساسي، إلا أنه يفتقر حاليًا إلى آليات الاعتدال. يسعى فريق Mistral AI بنشاط إلى إشراك المجتمع لتطوير حواجز أمان تسمح بالنشر الآمن في البيئات التي تتطلب مخرجات معتدلة. تهدف هذه المقاربة التعاونية إلى تحسين أداء النموذج وضمان تلبيته لاحتياجات التطبيقات المختلفة في معالجة اللغة الطبيعية.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتالويب
أبرز ملامح Mixtral-8x7B-Instruct-v0.1
نموذج مسبق التدريب
مختلط من نوع Sparse Mixture of Experts
يتفوق على Llama 2 70B
متوافق مع vLLM
يدعم تحويلات Hugging Face
تقسيم النصوص باستخدام mistral-common
دعم الضبط الدقيق
تحسينات لاستخدام الذاكرة
البدء مع Mixtral-8x7B-Instruct-v0.1
الوصول إلى الصفحة: زيارة صفحة Mixtral-8x7B-Instruct-v0.1 على Hugging Face.
تحميل النموذج: استخدام مكتبة Hugging Face transformers لتحميل النموذج.
تكوين البيئة: إعداد بيئتك لتحقيق أداء مثالي، بما في ذلك إعدادات الدقة.
التكامل: تنفيذ النموذج في تطبيقك أو سير العمل الخاص بك.
الضبط الدقيق: ضبط معلمات النموذج حسب الحاجة لحالة الاستخدام الخاصة بك.
حالات استخدام Mixtral-8x7B-Instruct-v0.1
- معالجة اللغة الطبيعية
- الضبط الدقيق للتطبيقات المحددة
- البحث والتطوير
- تطوير الدردشة الآلية
- إنشاء المحتوى
