الوصف
مرحبًا بك في التوثيق الرسمي لمسرعات الذكاء الاصطناعي Intel® Gaudi®، والذي يغطي الإصدارات حتى v1.24. تم تصميم هذا المورد لتمكين المطورين والباحثين من الاستفادة الكاملة من إمكانيات مسرعات الذكاء الاصطناعي Intel® Gaudi® 2 و Intel® Gaudi® 3.
قراءة المزيد
يوفر التوثيق معلومات معمقة لتسهيل رحلتك مع أجهزة Gaudi. ستجد أدلة مفصلة حول ترحيل نماذج الذكاء الاصطناعي الحالية الخاصة بك إلى منصة Gaudi، مما يضمن انتقالًا سلسًا. يتم تضمين عينات تعليمات برمجية عملية لتوضيح وظائف مختلفة وتسريع عملية التطوير الخاصة بك.
علاوة على ذلك، يتعمق التوثيق في أفضل الممارسات لتصحيح الأخطاء وتحسين أعباء عمل الذكاء الاصطناعي الخاصة بك على Gaudi. يتضمن ذلك نصائح لتحسين الأداء، ورؤى معمارية، واستراتيجيات لتحقيق أقصى قدر من الكفاءة. تتوفر مراجع واجهة برمجة التطبيقات (API) الشاملة لمساعدتك على فهم واستخدام النطاق الكامل لقدرات Gaudi.
تغطي الأقسام الرئيسية تثبيت البرامج والوصول إلى المنصة، مما يتيح لك إعداد بيئتك بشكل صحيح. يتم شرح وظائف التدريب والتوسع، مع إرشادات محددة حول تدريب نماذج PyTorch، وتشغيل النماذج الكبيرة باستخدام DeepSpeed، وتوسيع نطاق التدريب متعدد العقد باستخدام تقنيات التدريب الموزع. بالنسبة للاستدلال، يوضح التوثيق كيفية تشغيل استدلال PyTorch، واستخدام vLLM و SGLang لخدمة النماذج بكفاءة، والعمل مع النماذج المكمّاة باستخدام أنواع بيانات FP8 أو INT4.
يعمل هذا التوثيق كمركز مركزي لجميع المعلومات المتعلقة بـ Intel Gaudi، مما يضمن حصول المستخدمين على الأدوات والمعرفة اللازمة لبناء ونشر تطبيقات الذكاء الاصطناعي المتطورة. يمكن الوصول إلى إصدارات التوثيق الأقدم عبر زر "الإصدارات". يتم تشجيع تقديم الملاحظات حول تجربتك للمساعدة في تحسين الإصدارات المستقبلية.
- الفئةمنصّات تعلّم الآلة
- النشرسحابي
- المنصاتالويب
الميزات الأساسية لـ Intel Gaudi
توثيق لمسرعات الذكاء الاصطناعي Intel Gaudi 2 و Gaudi 3
إرشادات حول ترحيل نماذج الذكاء الاصطناعي إلى Gaudi
عينات تعليمات برمجية لوظائف مختلفة
أفضل الممارسات لتصحيح الأخطاء والتحسين
مراجع واجهة برمجة التطبيقات (API) لأجهزة وبرامج Gaudi
أدلة تثبيت البرامج والوصول إلى المنصة
تعليمات لتدريب نماذج PyTorch
دعم تدريب النماذج الكبيرة مع DeepSpeed
قدرات التدريب الموزع متعدد العقد
إرشادات حول استدلال PyTorch
استدلال باستخدام vLLM و SGLang
دعم النماذج المكمّاة FP8 و INT4
قدرات خدمة النماذج
البدء مع Intel Gaudi
تثبيت البرامج: اتبع دليل التثبيت لإعداد البرامج والتكوينات اللازمة للنظام.
الوصول إلى المنصة: تعرف على كيفية تشغيل صورة Docker الخاصة بـ Intel Gaudi على المنصة التي اخترتها.
بدء التدريب: ابدأ تدريب نماذج PyTorch واستكشف خيارات تشغيل النماذج الكبيرة باستخدام DeepSpeed.
توسيع نطاق التدريب: قم بتطبيق التدريب متعدد العقد باستخدام تقنيات التدريب الموزع.
تشغيل الاستدلال: ابدأ بتشغيل استدلال PyTorch واستكشف محركات الاستدلال المتقدمة مثل vLLM و SGLang.
تحسين النماذج: استخدم أنواع بيانات FP8 أو INT4 لتشغيل النماذج المكمّاة.
نشر النماذج: استكشف خيارات خدمة النماذج.
حالات استخدام Intel Gaudi
- ترحيل النماذج
- تدريب نماذج الذكاء الاصطناعي
- نشر النماذج الكبيرة
- الاستدلال المحسّن
- ضبط الأداء
- إعداد المنصة
