الوصف
llm-architecture-from-scratch هو مستودع عام على GitHub أنشأه يون وو سونغ، مخصص لتنفيذ هياكل نماذج اللغة الكبيرة (LLM) باستخدام PyTorch. يعد هذا المستودع مصدرًا قيمًا للمطورين والباحثين المهتمين ببناء نماذج اللغة الكبيرة من الصفر. يتضمن المستودع مجموعة متنوعة من النماذج مثل deepseekv3 وgemma3 وgpt2-xl وllama-3-2-3b وllama3-8b وllama4_maverick وmistral_3_1 وolmo2 وphi4 وqwen3_235b_a22b وqwen3_32b وxlstm. كل نموذج مصحوب برسائل التزام مفصلة توفر رؤى حول عملية التطوير، مثل تنفيذ الميزات وإعادة الهيكلة وتحديثات الوثائق.
قراءة المزيد
يتم صيانة المستودع بنشاط، مع أحدث التزامات تمت في أكتوبر 2026، مما يضمن أن المحتوى يبقى محدثًا مع أحدث التطورات في هياكل نماذج اللغة الكبيرة. يمكن للمستخدمين استكشاف المستودع لفهم تعقيدات تصميم نماذج اللغة الكبيرة واكتساب خبرة عملية من خلال تجربة الكود المقدم.
هذا المشروع مفيد بشكل خاص للباحثين في مجال الذكاء الاصطناعي، ومهندسي التعلم الآلي، والمطورين الذين يهدفون إلى تعميق فهمهم لنماذج اللغة الكبيرة والمساهمة في مجال معالجة اللغة الطبيعية. من خلال تقديم مجموعة متنوعة من النماذج والوثائق الشاملة، يمكّن llm-architecture-from-scratch المستخدمين من بناء واختبار وتحسين نماذجهم الخاصة، مما يعزز الابتكار والتعاون داخل مجتمع الذكاء الاصطناعي.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب
الميزات الأساسية لـ LLM architecture from scratch
تنفيذ هياكل نماذج اللغة الكبيرة المتنوعة
تشمل النماذج deepseekv3 وgemma3 وgpt2-xl والمزيد
تم تطويرها باستخدام PyTorch
رسائل التزام مفصلة لكل نموذج
صيانة نشطة مع تحديثات حديثة
وثائق شاملة
مصدر للباحثين والمطورين في مجال الذكاء الاصطناعي
يسهل التجربة مع نماذج اللغة الكبيرة
البدء مع LLM architecture from scratch
استنساخ: تحميل المستودع من GitHub
تثبيت التبعيات: إعداد حزم Python المطلوبة
تكوين: ضبط معلمات النموذج حسب الحاجة
تنفيذ: تشغيل النماذج لاختبار وظيفتها
تحسين: تجربة تكوينات مختلفة لتحسين الأداء
حالات استخدام LLM architecture from scratch
- تطوير النماذج
- البحث
- التعليم
- التعاون
- التحسين
