الوصف
minimind هو مستودع على GitHub يقدم نهجًا مبسطًا لتدريب نموذج لغة كبير (LLM) يحتوي على 64 مليون معلمة من البداية. تم تصميم المشروع لتمكين المستخدمين من إكمال هذه العملية التدريبية المكثفة في غضون ساعتين فقط، مما يوفر مسارًا سريعًا لتجربة تطوير LLM. إنه يعد موردًا قيمًا للأفراد الذين يتطلعون إلى فهم الآليات الأساسية لتدريب LLM دون الحاجة إلى موارد حسابية واسعة أو التزامات زمنية.
قراءة المزيد
تم هيكلة المستودع بعدة مكونات رئيسية، بما في ذلك أدلة مخصصة لـ «dataset»، و«images»، و«model»، و«scripts»، و«trainer». تسهل هذه المكونات خط أنابيب تدريب شامل، بدءًا من إعداد البيانات وتعريف النموذج إلى التنفيذ والتقييم. يوفر ملف «README.md» الوثائق الأساسية، بما في ذلك توضيحات حول كيفية تفسير منحنيات خسارة سياسة GRPO، مما يوجه المستخدمين خلال منهجيات المشروع.
يتم صيانة minimind بنشاط، مع التحديثات الأخيرة التي تشير إلى التطوير المستمر والتحسينات عبر وحدات مختلفة. على سبيل المثال، تتناول التحديثات الأخيرة تنسيق أزواج تفضيلات DPO، وتقصير التعليقات الزائدة في قسم النموذج، وتنقيح نصوص التدريب. يتضمن المشروع أيضًا «eval_llm.py» لتقييم النموذج و«requirements.txt» لإدارة التبعيات، مما يضمن عملية إعداد سلسة للمستخدمين.
موجه للمطورين والباحثين وعشاق الذكاء الاصطناعي، يجعل minimind الوصول إلى تدريب LLM متاحًا للجميع. يوفر تجربة عملية وعملية لأولئك المهتمين بتفاصيل بناء وتحسين نماذج اللغة الكبيرة. يركز المشروع على الكفاءة وسهولة الوصول، مما يجعله نقطة انطلاق ممتازة لتعلم هندسة LLM، ونماذج التدريب، وتقييم الأداء.
- الفئةتعلّم الآلة وعلم البيانات
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب
الميزات الأساسية لـ minimind
تدريب LLM يحتوي على 64 مليون معلمة من الصفر
وقت تدريب سريع يبلغ حوالي ساعتين
مستودع مفتوح المصدر على GitHub
يتضمن مكونات لإدارة البيانات
يوفر تعريفات لهندسة النموذج
يحتوي على نصوص تدريب
يتميز بوحدة مدرب مخصصة
يتضمن نصوص تقييم («eval_llm.py»)
يدير التبعيات عبر «requirements.txt»
يقدم وثائق حول منحنيات خسارة سياسة GRPO
يتم صيانته بنشاط مع تحديثات حديثة
يدعم تنسيق أزواج تفضيلات DPO
مساهمات المجتمع من 25 مساهمًا
البدء مع minimind
استنساخ المستودع: احصل على ملفات المشروع عن طريق استنساخ مستودع minimind على GitHub إلى جهازك المحلي.
تثبيت التبعيات: انتقل إلى دليل المشروع وقم بتثبيت جميع حزم Python المطلوبة المدرجة في «requirements.txt».
إعداد مجموعة البيانات: اتبع التعليمات الموجودة في دليل «dataset» لإعداد أو الحصول على البيانات اللازمة للتدريب.
تكوين النموذج: راجع واضبط معلمات النموذج والتكوينات داخل دليل «model» حسب الحاجة.
تنفيذ التدريب: قم بتشغيل نصوص التدريب الموجودة في أدلة «scripts» أو «trainer» لبدء تدريب LLM.
تقييم LLM: استخدم «eval_llm.py» لتقييم أداء وخصائص نموذج اللغة المدرب.
حالات استخدام minimind
- تجربة تدريب LLM
- موارد تعليمية
- تقييم الأداء
- النمذجة السريعة
- مساهمة مفتوحة المصدر








