تخطَّ إلى المحتوى الرئيسي
ToolPotion
مستشار الذكاء الاصطناعي
إرسال (مجاني)

DeepSeek V3 JAX

DeepSeek V3 JAX هو تنفيذ مفتوح المصدر لنموذج DeepSeek V3، بما في ذلك MLA، DeepSeekMoE، التوازن بدون خسارة إضافية، وMTP. تم تطويره في 190 سطرًا من JAX النقي، ويظهر هذا المشروع كيفية تدريب النموذج وعينة منه، حتى على MacBook Air. يوفر طريقة مختصرة وفعالة لاستكشاف هياكل نماذج اللغة الكبيرة المتقدمة.

عرض المستودع
مشاركة
عرض المستودع
مشاركة

DeepSeek V3 JAX هو تنفيذ مفتوح المصدر مضغوط وفعال لهياكل نماذج اللغة الكبيرة DeepSeek V3. تم تطوير هذا المشروع بواسطة Vaibhaav Tiwari، ويقوم بتبسيط تصميم DeepSeek V3 المعقد، الذي يتضمن ميزات مثل الانتباه متعدد الطبقات (MLA)، DeepSeekMoE (خليط من الخبراء)، التوازن بدون خسارة إضافية، والتدريب المسبق متعدد المهام (MTP)، في حوالي 190 سطرًا من كود JAX النقي.

قراءة المزيد

يوفر المستودع دليلًا شاملاً لفهم وتدريب وعينة نموذج DeepSeek V3. يتضمن نصوصًا لتعريف النموذج، حلقات التدريب، إعداد البيانات، والعينة، مما يجعله متاحًا للباحثين والمطورين المهتمين بالتجريب مع هياكل LLM المتقدمة. جانب ملحوظ من هذا التنفيذ هو قدرته المثبتة على التدريب على MacBook Air، مما يبرز كفاءته وإمكاناته للتطوير والتجريب المحلي.

يؤكد المشروع على الوضوح والإيجاز، مقدمًا نهجًا بسيطًا لتنفيذ نموذج متطور. يعمل كموارد تعليمية لأولئك الذين يتطلعون إلى التعمق في تفاصيل مكونات DeepSeek V3 وتنفيذها باستخدام JAX. يتضمن المستودع أيضًا اختبارات لضمان الصحة ويوفر دليلًا كاملًا للتكرار، مع أرقام ونتائج موثقة، مما يسمح للمستخدمين بتكرار الأداء المبلغ عنه.

بعيدًا عن تنفيذ النموذج الأساسي، يتناول DeepSeek V3 JAX أيضًا الجوانب العملية مثل إعداد ROCm (AMD GPU) للتدريب على Linux، مما يدل على قابليته للتكيف مع بيئات الأجهزة المختلفة. يتضمن النص التفصيلي على vaibhaav.in/writing/deepseek-v3-jax رؤى إضافية حول خيارات التصميم والأسس النظرية للمشروع، مما يجعله موردًا قيمًا لكل من التطبيق العملي والدراسة الأكاديمية.

  • الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
  • نموذج التسعيرمفتوح المصدر
  • النشراستضافة ذاتية
  • المنصاتmacOS, Linux

  • تنفيذ نموذج DeepSeek V3 في JAX

  • يتضمن الانتباه متعدد الطبقات (MLA)

  • يتضمن بنية DeepSeekMoE

  • يتميز بالتوازن بدون خسارة إضافية

  • يدعم التدريب المسبق متعدد المهام (MTP)

  • قاعدة كود مختصرة (حوالي 190 سطرًا من JAX)

  • تم إثبات التدريب على MacBook Air

  • نصوص للنموذج، التدريب، العينة، وإعداد البيانات

  • يتضمن اختبارات للتحقق

  • دليل تكرار كامل مع نتائج موثقة

  • إعداد ROCm (AMD GPU) لتدريب Linux

  • ترخيص MIT للاستخدام المفتوح المصدر

  1. استنساخ المستودع: احصل على ملفات المشروع من GitHub.

  2. تثبيت التبعيات: استخدم `requirements.txt` لإعداد حزم Python اللازمة.

  3. إعداد البيانات: قم بتشغيل `prepare_data.py` لتحضير مجموعة البيانات الخاصة بك للتدريب.

  4. تدريب النموذج: نفذ `train.py` لبدء عملية تدريب النموذج.

  5. عينة المخرجات: استخدم `sample.py` لتوليد نص من النموذج المدرب.

  6. تشغيل الاختبارات: تحقق من صحة التنفيذ باستخدام `tests.py`.

  • بحث في هياكل LLM
  • تنفيذ نموذج فعال
  • تدريب LLM محلي
  • ممارسة تطوير JAX
  • مساهمة مفتوحة المصدر
  • موارد تعليمية

تقييمات DeepSeek V3 JAX

جاري التحميل...

أدوات ذكاء اصطناعي شائعة مثل DeepSeek V3 JAX

DeepSeek-V3

مستودعات GitHub للذكاء الاصطناعي

DeepSeek-V3 هو نموذج لغة مفتوح الوزن من نوع Mixture-of-Experts من DeepSeek، يحتوي على 671 مليار معلمة إجمالية و37 مليار معلمة مفعلة لكل توكن. تم تدريبه مسبقًا على 14.8 تريليون…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

نموذج لغة مفتوح الوزن من نوع Mixture-of-Experts من DeepSeek، يحتوي على 671 مليار معلمة إجمالية و37 مليار معلمة مفعلة لكل توكن. تم تدريبه مسبقًا على 14.8 تريليون…DeepSeek-V3 هو نموذج لغة مفتوح الوزن من نوع Mixture-of-Experts من DeepSeek، يحتوي على 671 مليار معلمة إجمالية و37 مليار معلمة مفعلة لكل توكن. تم تدريبه مسبقًا على 14.8 تريليون…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

DeepSeek-V3

نماذج اللغة الكبيرة

DeepSeek-V3 هو نموذج لغوي من نوع Mixture-of-Experts يحتوي على 671 مليار معلمة، مصمم لتحقيق استدلال فعال وتدريب اقتصادي. يتفوق في مختلف المعايير، مما يظهر أداءً قويًا في مهام…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة

المرتبة 42 في نماذج اللغة الكبيرة

عرض الأداة

نماذج اللغة الكبيرة

نموذج لغوي من نوع Mixture-of-Experts يحتوي على 671 مليار معلمة، مصمم لتحقيق استدلال فعال وتدريب اقتصادي. يتفوق في مختلف المعايير، مما يظهر أداءً قويًا في مهام…DeepSeek-V3 هو نموذج لغوي من نوع Mixture-of-Experts يحتوي على 671 مليار معلمة، مصمم لتحقيق استدلال فعال وتدريب اقتصادي. يتفوق في مختلف المعايير، مما يظهر أداءً قويًا في مهام…

مميزةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
المرتبة 42 في نماذج اللغة الكبيرة

OpenLLaMA

مستودعات GitHub للذكاء الاصطناعي

OpenLLaMA هو نسخة مفتوحة المصدر ومرخصة بشكل متساهل من نموذج LLaMA 7B الخاص بـ Meta AI. تم تدريبه على مجموعة بيانات RedPajama، ويقدم إصدارات بمعاملات 3B و 7B و 13B، ويوفر أوزان…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

نسخة مفتوحة المصدر ومرخصة بشكل متساهل من نموذج LLaMA 7B الخاص بـ Meta AI. تم تدريبه على مجموعة بيانات RedPajama، ويقدم إصدارات بمعاملات 3B و 7B و 13B، ويوفر أوزان…OpenLLaMA هو نسخة مفتوحة المصدر ومرخصة بشكل متساهل من نموذج LLaMA 7B الخاص بـ Meta AI. تم تدريبه على مجموعة بيانات RedPajama، ويقدم إصدارات بمعاملات 3B و 7B و 13B، ويوفر أوزان…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

DeepSeek

نماذج اللغة الكبيرة

DeepSeek هي شركة بحث في الذكاء الاصطناعي مكرسة لتطوير الذكاء الاصطناعي العام. تقدم نماذج لغة كبيرة مفتوحة المصدر مثل DeepSeek-V4 وDeepSeek-R1 وDeepSeek-Coder، مما يمكّن المستخدمين…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة

المرتبة 2 في نماذج اللغة الكبيرة

عرض الأداة

نماذج اللغة الكبيرة

شركة بحث في الذكاء الاصطناعي مكرسة لتطوير الذكاء الاصطناعي العام. تقدم نماذج لغة كبيرة مفتوحة المصدر مثل DeepSeek-V4 وDeepSeek-R1 وDeepSeek-Coder، مما يمكّن المستخدمين…DeepSeek هي شركة بحث في الذكاء الاصطناعي مكرسة لتطوير الذكاء الاصطناعي العام. تقدم نماذج لغة كبيرة مفتوحة المصدر مثل DeepSeek-V4 وDeepSeek-R1 وDeepSeek-Coder، مما يمكّن المستخدمين…

مميزةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
المرتبة 2 في نماذج اللغة الكبيرة

DeepSeek-R1

مستودعات GitHub للذكاء الاصطناعي

DeepSeek-R1 هو مشروع على GitHub يركز على الحلول المدفوعة بالذكاء الاصطناعي. يقدم مجموعة متنوعة من المستودعات التي تعزز قدرات الذكاء الاصطناعي، بما في ذلك الإضافات، ونوى الانتباه…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مشروع على GitHub يركز على الحلول المدفوعة بالذكاء الاصطناعي. يقدم مجموعة متنوعة من المستودعات التي تعزز قدرات الذكاء الاصطناعي، بما في ذلك الإضافات، ونوى الانتباه…DeepSeek-R1 هو مشروع على GitHub يركز على الحلول المدفوعة بالذكاء الاصطناعي. يقدم مجموعة متنوعة من المستودعات التي تعزز قدرات الذكاء الاصطناعي، بما في ذلك الإضافات، ونوى الانتباه…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

FNet

مستودعات GitHub للذكاء الاصطناعي

FNet هو بنية مشفرة فعالة تشبه Transformer تستبدل الانتباه الذاتي بتحويلات فورييه. تم تطويره بواسطة Google Research، وهو يوفر بديلاً عالي الأداء لمهام معالجة اللغة الطبيعية. تم…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

بنية مشفرة فعالة تشبه Transformer تستبدل الانتباه الذاتي بتحويلات فورييه. تم تطويره بواسطة Google Research، وهو يوفر بديلاً عالي الأداء لمهام معالجة اللغة الطبيعية. تم…FNet هو بنية مشفرة فعالة تشبه Transformer تستبدل الانتباه الذاتي بتحويلات فورييه. تم تطويره بواسطة Google Research، وهو يوفر بديلاً عالي الأداء لمهام معالجة اللغة الطبيعية. تم…

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

DeepSeek Online

تطبيقات الذكاء الاصطناعي

عرض تجريبي مجاني عبر الإنترنت لنموذج DeepSeek V3 مفتوح المصدر (671 مليار معلمة) يعمل في متصفحك دون تسجيل، بالإضافة إلى روابط لتشغيل النموذج محليًا للاستخدام الشخصي والتجاري.

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض الأداة

تطبيقات الذكاء الاصطناعي

عرض تجريبي مجاني عبر الإنترنت لنموذج DeepSeek V3 مفتوح المصدر (671 مليار معلمة) يعمل في متصفحك دون تسجيل، بالإضافة إلى روابط لتشغيل النموذج محليًا للاستخدام الشخصي والتجاري.

نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
عرض أفضل 250 من تطبيقات الذكاء الاصطناعي

LlamaFactory

مستودعات GitHub للذكاء الاصطناعي

LlamaFactory هو مستودع على GitHub يركز على التخصيص الموحد والفعال لأكثر من 100 نموذج لغوي كبير (LLMs) ونموذج لغوي بصري (VLMs). يهدف إلى تبسيط عملية التخصيص للباحثين والمطورين في…

منصّات تعلّم الآلة

المرتبة 13 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مستودع على GitHub يركز على التخصيص الموحد والفعال لأكثر من 100 نموذج لغوي كبير (LLMs) ونموذج لغوي بصري (VLMs). يهدف إلى تبسيط عملية التخصيص للباحثين والمطورين في…LlamaFactory هو مستودع على GitHub يركز على التخصيص الموحد والفعال لأكثر من 100 نموذج لغوي كبير (LLMs) ونموذج لغوي بصري (VLMs). يهدف إلى تبسيط عملية التخصيص للباحثين والمطورين في…

مميزةمنصّات تعلّم الآلة
المرتبة 13 في مستودعات GitHub للذكاء الاصطناعي
1 من 8