الوصف
OpenVINO هي مجموعة أدوات شاملة مفتوحة المصدر مصممة لتبسيط نشر حلول الذكاء الاصطناعي عالية الأداء. إنها تمكّن المطورين من بناء تطبيقات تستفيد من نماذج الذكاء الاصطناعي التوليدية والتقليدية على حد سواء، والمستمدة من أطر عمل النماذج الأكثر شيوعًا. تسهل مجموعة الأدوات التحويل والتحسين وتنفيذ الاستدلال بكفاءة، مما يزيد من إمكانات أجهزة Intel®.
قراءة المزيد
في جوهرها، تقدم OpenVINO أربع أدوات رئيسية لمعالجة احتياجات النشر المختلفة. حزمة OpenVINO الأساسية مخصصة لتشغيل ونشر نماذج الذكاء الاصطناعي التقليدية. بالنسبة للذكاء الاصطناعي التوليدي، تبسط أداة OpenVINO GenAI عملية النشر. يمكّن مكون OpenVINO Physical AI من نشر نماذج VLA على الروبوتات. علاوة على ذلك، يوفر OpenVINO Model Server حلاً قابلاً للتوسع لنشر استدلال الذكاء الاصطناعي التوليدي والتقليدي على خادم، ويدعم عمليات النشر السحابية الأصلية داخل بيئات Kubernetes.
تشمل القدرات الرئيسية تقنيات ضغط النماذج، مثل الضغط بعد التدريب وأثناء التدريب باستخدام NNCF، لتحقيق الأداء الأمثل. تدعم OpenVINO الربط المباشر مع OpenVINO Runtime للاستدلال المحلي أو التكامل مع OpenVINO Model Server للاستدلال القابل للتوسع من جانب الخادم. تؤكد مجموعة الأدوات على النشر السريع والقابل للتوسع، مما يسمح بكتابة التطبيقات مرة واحدة ونشرها في أي مكان، والاستفادة من اكتشاف الأجهزة التلقائي لتعزيز المرونة.
OpenVINO Runtime متاح لأنظمة Linux و Windows و macOS، مع واجهات برمجة تطبيقات Python و C++ و C، مما يضمن توافقًا واسعًا مع اللغات وأنظمة التشغيل. يقلل تصميم النشر الأخف وزنًا من التبعيات الخارجية، مما يبسط التثبيت والإدارة. يقلل التجميع المخصص بشكل أكبر من حجم الملف الثنائي النهائي. بالنسبة للتطبيقات التي تتطلب بدء تشغيل سريع، تعزز OpenVINO زمن استجابة الاستدلال الأول من خلال الاستفادة الذكية من وحدة المعالجة المركزية (CPU) للاستدلال الأولي قبل التبديل إلى أجهزة أخرى، مع تحسين النماذج المجمعة المخزنة مؤقتًا لأوقات بدء التشغيل.
يشمل الجمهور المستهدف لـ OpenVINO مطوري الذكاء الاصطناعي ومهندسي التعلم الآلي والباحثين الذين يركزون على نشر نماذج الذكاء الاصطناعي بكفاءة عبر مجموعة من الأجهزة. تكمن القيمة المقترحة في قدرتها على تسريع استدلال الذكاء الاصطناعي، وتقليل تعقيد النشر، وتمكين التوافق عبر الأنظمة الأساسية، مما يجعلها أداة قوية لجلب الذكاء الاصطناعي إلى الحافة وما بعدها.
- الفئةأدوات الرؤية الحاسوبية
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتLinux, Windows, macOS
الميزات الأساسية لـ OpenVINO Toolkit
يدعم نشر نماذج الذكاء الاصطناعي التوليدية والتقليدية
يحسن نماذج الذكاء الاصطناعي للاستدلال عالي الأداء
متوافق مع أطر عمل النماذج الشائعة (TensorFlow, ONNX, PaddlePaddle)
يمكّن الاستدلال على السحابة وأجهزة الكمبيوتر المزودة بالذكاء الاصطناعي والأجهزة الطرفية
يوفر OpenVINO Runtime للاستدلال المحلي
يقدم OpenVINO Model Server للاستدلال القابل للتوسع
يشمل تقنيات ضغط النماذج (NNCF)
يدعم واجهات برمجة التطبيقات Python و C++ و C
التوافق عبر الأنظمة الأساسية (Linux, Windows, macOS)
مصمم لنشر أخف مع الحد الأدنى من التبعيات
يعزز وقت بدء تشغيل التطبيق مع الاستخدام الذكي للأجهزة
اكتشاف الأجهزة التلقائي لمرونة النشر
البدء مع OpenVINO Toolkit
التثبيت: قم بتثبيت مجموعة أدوات OpenVINO.
تحويل النموذج: قم بتحويل نموذج الذكاء الاصطناعي الخاص بك إلى تنسيق OpenVINO.
التحسين: قم بتطبيق تقنيات التحسين للأداء.
الاستدلال: قم بتشغيل الاستدلال محليًا باستخدام OpenVINO Runtime.
النشر: قم بنشر النماذج على الأجهزة المستهدفة (طرفية، كمبيوتر شخصي، سحابة).
التقديم: استخدم OpenVINO Model Server للاستدلال القابل للتوسع.
حالات استخدام OpenVINO Toolkit
- نشر الذكاء الاصطناعي على الحافة
- تطبيقات أجهزة الكمبيوتر المزودة بالذكاء الاصطناعي
- خدمات الذكاء الاصطناعي السحابية
- ذكاء اصطناعي الروبوتات
- نشر الذكاء الاصطناعي التوليدي
- استدلال الذكاء الاصطناعي التقليدي
