الوصف
ZETIC Melange هي منصة شاملة مصممة لتبسيط نشر نماذج الذكاء الاصطناعي مباشرة على الأجهزة الطرفية. تم بناؤه بواسطة مهندسين وباحثين ذوي خبرة في الذكاء الاصطناعي، بما في ذلك أولئك الذين كانوا في Qualcomm سابقًا، تعالج Melange تعقيدات الذكاء الاصطناعي على الجهاز، مما يجعلها أسرع وأرخص وأكثر أمانًا وأكثر استقلالية.
يوفر تشغيل نماذج الذكاء الاصطناعي محليًا مزايا كبيرة. فهو يلغي زمن الاستجابة السحابي، مما يضمن أداءً في الوقت الفعلي. يتم تقليل التكاليف عن طريق تجنب نفقات وحدات معالجة الرسومات (GPU) ورموز الوصول السحابي الباهظة. يتم تعزيز الخصوصية حيث تظل جميع البيانات على جهاز المستخدم الشخصي. علاوة على ذلك، يوفر الذكاء الاصطناعي على الجهاز وصولاً غير متصل بالإنترنت، مما يسمح بالوظائف دون اتصال بالإنترنت.
تبسط منصة Melange سير عمل النشر بأكمله إلى ثلاث خطوات بسيطة: التحميل، واختبار الأداء، والنشر. يمكن للمستخدمين تحميل نماذجهم بتنسيقات مختلفة، بما في ذلك TorchScript و TensorFlow و ONNX، أو عن طريق توفير رابط Hugging Face، أو عن طريق الاختيار من مكتبة نماذج محسّنة مسبقًا. بعد التحميل، تجري Melange اختبارات أداء للنموذج عبر أكثر من 200 جهاز فعلي، وتقدم تقارير مفصلة عن زمن الاستجابة والدقة لكل جهاز مستهدف. يتيح ذلك للمستخدمين اختيار الحل الأكثر تحسينًا لاحتياجاتهم الخاصة. أخيرًا، يتم تحقيق النشر بنسخ ولصق بسيط لكتلة تعليمات برمجية مكونة من ثلاثة أسطر، مما يدمج النموذج المحسّن في تطبيق جوال باستخدام مقتطف تعليمات برمجية جاهز للاستخدام.
تقدم Melange تأثيرًا أسرع وأكثر تحسينًا بشكل ملحوظ مقارنة بالطرق التقليدية. فهي تقلل وقت النشر من أشهر إلى ساعات من خلال التحسين الآلي المدرك للأجهزة. تفتح المنصة تسريع NPU بالكامل، وتحقق سرعات أسرع بما يصل إلى 60 مرة من وحدة المعالجة المركزية (CPU) وتقلل حجم النموذج بنسبة 50٪ للحصول على زمن استجابة منخفض للغاية. يمكن إكمال التنفيذ في أقل من 6 ساعات، ليحل محل أشهر من ضبط NPU يدويًا. تم تحسين Melange للحصول على أفضل أداء من خلال النشر الآلي مع التكميم المصمم خصيصًا لهياكل NPU، مما يزيد الإنتاجية إلى أقصى حد ويحافظ على الدقة دون هندسة يدوية.
تكمن ميزة ZETIC في خط أنابيبها الآلي بالكامل، والتسريع الهجين (CPU + GPU + NPU)، والنشر البسيط بـ 3 أسطر من التعليمات البرمجية، والاختبار الشامل للأجهزة على أكثر من 200 جهاز. وهي تدعم مجموعة واسعة من خيارات استيراد النماذج وتمتد إلى ما وراء الأجهزة المحمولة لتشمل حلول الذكاء الاصطناعي المدمجة لأجهزة الكمبيوتر الصناعية ووحدات التحكم الدقيقة (MCUs). تستبدل Melange ضبط وحدة المعالجة المركزية (CPU) يدويًا بخط أنابيب آلي مسرّع بواسطة NPU، مما يوفر بديلاً متفوقًا للإدارة المجزأة والترميز اليدوي المعقد.
الميزات الأساسية لـ ZETIC Melange
نشر الذكاء الاصطناعي الآلي على الجهاز
تحسين NPU للأداء المعجل
اختبار الأداء على أكثر من 200 جهاز فعلي
النشر في أقل من 6 ساعات
تكامل نشر بـ 3 أسطر من التعليمات البرمجية
يدعم نماذج TorchScript و TensorFlow و ONNX
تحسين النموذج لهياكل NPU محددة
يقلل حجم النموذج بنسبة تصل إلى 50٪
يحقق سرعات أسرع بما يصل إلى 60 مرة من وحدة المعالجة المركزية (CPU)
يقدم تقارير مفصلة عن زمن الاستجابة والدقة
استيراد النماذج من Hugging Face ومكتبة محسّنة مسبقًا
حلول الذكاء الاصطناعي المدمجة لوحدات التحكم الدقيقة (MCUs) وأجهزة الكمبيوتر الصناعية
كيفية استخدام ZETIC Melange؟
التحميل: قم بتوفير ملف النموذج الخاص بك، أو رابط Hugging Face، أو اختر من المكتبة.
اختبار الأداء: راجع تقارير زمن الاستجابة والدقة عبر أكثر من 200 جهاز.
النشر: انسخ كتلة التعليمات البرمجية المكونة من 3 أسطر للتكامل في تطبيقك.
التحسين: استفد من تسريع NPU والتكميم الآلي للحصول على أقصى أداء.
حالات استخدام ZETIC Melange
- الكشف عن الكائنات في الوقت الفعلي
- التعرف على الكلام على الجهاز
- التوصيات المخصصة
- تحليل الصور والفيديو
- تحليلات إنترنت الأشياء الصناعي
- تجارب الواقع المعزز
