توثيق Intel Gaudi

الوصف

مرحبًا بك في التوثيق الرسمي لمسرعات الذكاء الاصطناعي Intel® Gaudi®، والذي يغطي الإصدارات حتى v1.24. تم تصميم هذا المورد لتمكين المطورين والباحثين من الاستفادة الكاملة من إمكانيات مسرعات الذكاء الاصطناعي Intel® Gaudi® 2 و Intel® Gaudi® 3.

يوفر التوثيق معلومات معمقة لتسهيل رحلتك مع أجهزة Gaudi. ستجد أدلة مفصلة حول ترحيل نماذج الذكاء الاصطناعي الحالية الخاصة بك إلى منصة Gaudi، مما يضمن انتقالًا سلسًا. يتم تضمين عينات تعليمات برمجية عملية لتوضيح وظائف مختلفة وتسريع عملية التطوير الخاصة بك.

علاوة على ذلك، يتعمق التوثيق في أفضل الممارسات لتصحيح الأخطاء وتحسين أعباء عمل الذكاء الاصطناعي الخاصة بك على Gaudi. يتضمن ذلك نصائح لتحسين الأداء، ورؤى معمارية، واستراتيجيات لتحقيق أقصى قدر من الكفاءة. تتوفر مراجع واجهة برمجة التطبيقات (API) الشاملة لمساعدتك على فهم واستخدام النطاق الكامل لقدرات Gaudi.

تغطي الأقسام الرئيسية تثبيت البرامج والوصول إلى المنصة، مما يتيح لك إعداد بيئتك بشكل صحيح. يتم شرح وظائف التدريب والتوسع، مع إرشادات محددة حول تدريب نماذج PyTorch، وتشغيل النماذج الكبيرة باستخدام DeepSpeed، وتوسيع نطاق التدريب متعدد العقد باستخدام تقنيات التدريب الموزع. بالنسبة للاستدلال، يوضح التوثيق كيفية تشغيل استدلال PyTorch، واستخدام vLLM و SGLang لخدمة النماذج بكفاءة، والعمل مع النماذج المكمّاة باستخدام أنواع بيانات FP8 أو INT4.

يعمل هذا التوثيق كمركز مركزي لجميع المعلومات المتعلقة بـ Intel Gaudi، مما يضمن حصول المستخدمين على الأدوات والمعرفة اللازمة لبناء ونشر تطبيقات الذكاء الاصطناعي المتطورة. يمكن الوصول إلى إصدارات التوثيق الأقدم عبر زر "الإصدارات". يتم تشجيع تقديم الملاحظات حول تجربتك للمساعدة في تحسين الإصدارات المستقبلية.

الميزات الأساسية لـ توثيق Intel Gaudi

• توثيق لمسرعات الذكاء الاصطناعي Intel Gaudi 2 و Gaudi 3

• إرشادات حول ترحيل نماذج الذكاء الاصطناعي إلى Gaudi

• عينات تعليمات برمجية لوظائف مختلفة

• أفضل الممارسات لتصحيح الأخطاء والتحسين

• مراجع واجهة برمجة التطبيقات (API) لأجهزة وبرامج Gaudi

• أدلة تثبيت البرامج والوصول إلى المنصة

• تعليمات لتدريب نماذج PyTorch

• دعم تدريب النماذج الكبيرة مع DeepSpeed

• قدرات التدريب الموزع متعدد العقد

• إرشادات حول استدلال PyTorch

• استدلال باستخدام vLLM و SGLang

• دعم النماذج المكمّاة FP8 و INT4

• قدرات خدمة النماذج

البدء مع توثيق Intel Gaudi

1. 1

   تثبيت البرامج: اتبع دليل التثبيت لإعداد البرامج والتكوينات اللازمة للنظام.

2. 2

   الوصول إلى المنصة: تعرف على كيفية تشغيل صورة Docker الخاصة بـ Intel Gaudi على المنصة التي اخترتها.

3. 3

   بدء التدريب: ابدأ تدريب نماذج PyTorch واستكشف خيارات تشغيل النماذج الكبيرة باستخدام DeepSpeed.

4. 4

   توسيع نطاق التدريب: قم بتطبيق التدريب متعدد العقد باستخدام تقنيات التدريب الموزع.

5. 5

   تشغيل الاستدلال: ابدأ بتشغيل استدلال PyTorch واستكشف محركات الاستدلال المتقدمة مثل vLLM و SGLang.

6. 6

   تحسين النماذج: استخدم أنواع بيانات FP8 أو INT4 لتشغيل النماذج المكمّاة.

7. 7

   نشر النماذج: استكشف خيارات خدمة النماذج.

حالات استخدام توثيق Intel Gaudi

• ترحيل النماذج
• تدريب نماذج الذكاء الاصطناعي
• نشر النماذج الكبيرة
• الاستدلال المحسّن
• ضبط الأداء
• إعداد المنصة

الأسئلة الشائعة من توثيق Intel Gaudi

• ما هي مسرعات الذكاء الاصطناعي التي يغطيها توثيق Intel Gaudi؟

  يغطي التوثيق مسرع الذكاء الاصطناعي Intel® Gaudi® 2 ومسرع الذكاء الاصطناعي Intel® Gaudi® 3.

• أين يمكنني العثور على معلومات حول ترحيل النماذج إلى Gaudi؟

  تتوفر أدلة مفصلة حول ترحيل النماذج إلى Gaudi ضمن التوثيق.

• هل يتضمن التوثيق عينات تعليمات برمجية؟

  نعم، يوفر التوثيق عينات تعليمات برمجية عملية لمساعدة المستخدمين.

• كيف يمكنني تحسين نماذج الذكاء الاصطناعي الخاصة بي على Gaudi؟

  يقدم التوثيق أفضل الممارسات للتحسين، بما في ذلك معلومات حول استخدام أنواع بيانات FP8 أو INT4 للنماذج المكمّاة.

• ما هي خطوات تثبيت البرامج؟

  يمكنك العثور على تعليمات مفصلة في قسم "دليل التثبيت" في التوثيق.

• كيف أقوم بإعداد وتشغيل التدريب على Gaudi؟

  يتضمن التوثيق أقسامًا حول "التدريب والتوسع" التي تغطي إعداد نماذج PyTorch والتدريب الموزع.

• ما هي الخيارات المتاحة لاستدلال النماذج؟

  يوضح التوثيق كيفية تشغيل استدلال PyTorch، واستخدام vLLM، و SGLang، والعمل مع النماذج المكمّاة.

• هل يمكنني الوصول إلى إصدارات أقدم من التوثيق؟

  نعم، يمكن الوصول إلى الإصدارات الأقدم من التوثيق باستخدام زر "الإصدارات" الموجود في الجانب الأيمن السفلي من الصفحة.

• ما هو الغرض من توثيق Intel Gaudi؟

  الغرض هو توفير موارد شاملة لاستخدام مسرعات الذكاء الاصطناعي Intel Gaudi، بدءًا من التثبيت وصولاً إلى التحسين المتقدم والنشر.

• هل يغطي التوثيق التدريب متعدد العقد؟

  نعم، يتضمن قسم "التدريب والتوسع" معلومات حول توسيع نطاق التدريب متعدد العقد باستخدام تقنيات التدريب الموزع.