Mixtral-8x7B-Instruct-v0.1 — Hugging Face

الوصف

Mixtral-8x7B-Instruct-v0.1 هو نموذج لغوي كبير (LLM) تم تطويره بواسطة Mistral AI، مصمم لتعزيز وتعميم الذكاء الاصطناعي من خلال المصادر المفتوحة والعلوم المفتوحة. هذا النموذج هو نموذج مختلط مسبق التدريب من نوع Sparse Mixture of Experts، والذي أظهر أداءً متفوقًا مقارنةً بـ Llama 2 70B في العديد من المعايير. تم بناء النموذج على الإصدار الأصلي من Mixtral torrent، ولكن مع تنسيق ملف وأسماء معلمات مختلفة، مما يجعله متوافقًا مع خدمة vLLM ومكتبة Hugging Face transformers.

تم تصميم نموذج Mixtral-8x7B لتسهيل عملية تقسيم النصوص باستخدام إطار العمل mistral-common. يُشجع المستخدمون على المساهمة في المشروع من خلال تقديم طلبات سحب لتصحيح مُقسّم النصوص الخاص بالتحويلات، لضمان توافقه مع تنفيذ المرجع mistral-common. يجب الالتزام بصيغة التعليمات الخاصة بالنموذج بدقة لتحقيق أفضل نتائج للإخراج، باستخدام رموز خاصة لبداية ونهاية السلاسل، بالإضافة إلى علامات تعليمات محددة.

بالنسبة لأولئك الذين يتطلعون إلى تشغيل النموذج، يُوصى بتحميله بدقة كاملة بشكل افتراضي. ومع ذلك، يمكن للمستخدمين تحسين استخدام الذاكرة من خلال استخدام خيارات نصف الدقة أو دقة أقل، مثل تكوينات 8 بت و4 بت، باستخدام مكتبة bitsandbytes. بالإضافة إلى ذلك، يمكن استخدام Flash Attention 2 لتعزيز الأداء بشكل أكبر.

بينما يُعتبر نموذج Mixtral-8x7B Instruct عرضًا مثيرًا لقدرات النموذج الأساسي، إلا أنه يفتقر حاليًا إلى آليات الاعتدال. يسعى فريق Mistral AI بنشاط إلى إشراك المجتمع لتطوير حواجز أمان تسمح بالنشر الآمن في البيئات التي تتطلب مخرجات معتدلة. تهدف هذه المقاربة التعاونية إلى تحسين أداء النموذج وضمان تلبيته لاحتياجات التطبيقات المختلفة في معالجة اللغة الطبيعية.

أبرز ملامح Mixtral-8x7B-Instruct-v0.1

• نموذج مسبق التدريب

• مختلط من نوع Sparse Mixture of Experts

• يتفوق على Llama 2 70B

• متوافق مع vLLM

• يدعم تحويلات Hugging Face

• تقسيم النصوص باستخدام mistral-common

• دعم الضبط الدقيق

• تحسينات لاستخدام الذاكرة

البدء مع Mixtral-8x7B-Instruct-v0.1

1. 1

   الوصول إلى الصفحة: زيارة صفحة Mixtral-8x7B-Instruct-v0.1 على Hugging Face.

2. 2

   تحميل النموذج: استخدام مكتبة Hugging Face transformers لتحميل النموذج.

3. 3

   تكوين البيئة: إعداد بيئتك لتحقيق أداء مثالي، بما في ذلك إعدادات الدقة.

4. 4

   التكامل: تنفيذ النموذج في تطبيقك أو سير العمل الخاص بك.

5. 5

   الضبط الدقيق: ضبط معلمات النموذج حسب الحاجة لحالة الاستخدام الخاصة بك.

حالات استخدام Mixtral-8x7B-Instruct-v0.1

• معالجة اللغة الطبيعية
• الضبط الدقيق للتطبيقات المحددة
• البحث والتطوير
• تطوير الدردشة الآلية
• إنشاء المحتوى

الأسئلة الشائعة من Mixtral-8x7B-Instruct-v0.1

• ما هو Mixtral-8x7B-Instruct-v0.1؟

  Mixtral-8x7B-Instruct-v0.1 هو نموذج مختلط مسبق التدريب من نوع Sparse Mixture of Experts يتفوق في مهام معالجة اللغة الطبيعية.

• كيف يقارن Mixtral-8x7B بـ Llama 2 70B؟

  يتفوق Mixtral-8x7B على Llama 2 70B في معظم المعايير التي تم اختبارها.

• ما هي طريقة تقسيم النصوص المستخدمة؟

  يستخدم النموذج تقسيم النصوص باستخدام إطار العمل mistral-common.

• هل يمكنني ضبط نموذج Mixtral-8x7B بدقة؟

  نعم، يدعم النموذج الضبط الدقيق للتطبيقات المحددة.

• ما هي التحسينات المتاحة لتشغيل النموذج؟

  يمكنك تشغيل النموذج بدقة نصف أو دقة أقل باستخدام bitsandbytes.

• هل هناك آلية اعتدال في Mixtral-8x7B؟

  حاليًا، يفتقر النموذج إلى آليات الاعتدال، لكن الفريق يعمل على تطوير حواجز أمان.

• كيف يمكنني المساهمة في مشروع Mixtral-8x7B؟

  يمكنك تقديم طلبات سحب لتصحيح مُقسّم النصوص الخاص بالتحويلات أو الانخراط مع المجتمع.

• ما هي الرموز الخاصة المستخدمة في صيغة التعليمات؟

  تشمل الرموز الخاصة <s> لبداية السلسلة و</s> لنهاية السلسلة.