الوصف
Cactus Runtime هو محرك متعدد الاستخدامات مصمم لتشغيل نماذج النصوص والكلام والرؤية محليًا عبر أنظمة التشغيل والبيئات المختلفة. يقدم ثنائيات تشغيل مسبقة البناء لنماذج محددة مثل Needle 3 وWhistle وMirage، مما يسمح للمطورين بدمج قدرات الذكاء الاصطناعي القوية مباشرة في تطبيقاتهم.
قراءة المزيد
تتمثل الوظيفة الأساسية لـ Cactus في توفير محرك موحد يمكنه التعامل مع مهام الذكاء الاصطناعي المتنوعة. يتم تخزين أوزان النموذج في مستودعاتها الخاصة، مما يضمن المرونة والوحدوية. بالنسبة لمطوري Python، فإن الدمج سهل: ما عليك سوى استيراد `cactus`، وسيقوم الحزمة تلقائيًا بتنزيل المحرك وأوزان النموذج المطابقة عند الاستخدام الأول. تتوفر واجهة برمجة تطبيقات Python شاملة وكود مصدر للتنفيذ التفصيلي.
يدعم Cactus قائمة واسعة من المنصات، مما يجعله قابلاً للتكيف بشكل كبير مع سيناريوهات النشر المختلفة. تشمل هذه المنصات macOS Apple Silicon، وتوزيعات Linux المختلفة (x86-64 وARM64 وARMv7 وRISC-V وMIPS32el)، وWindows (x64 وARM64)، وAndroid (ARM64 وARMv7 وRISC-V)، وiOS (ARM64 وSimulator ARM64)، وtvOS ARM64، وwatchOS ARM64، وحتى بيئات المتصفح وNode.js عبر WebAssembly (WASM). تضمن هذه التوافقية الواسعة أن يتمكن المطورون من نشر نماذج الذكاء الاصطناعي على أي جهاز أو نظام مستهدف تقريبًا.
لدمج محلي، يمكن للمطورين تنزيل مشغلات محددة لمنصتهم المختارة. تم تصميم هذه المشغلات لتحميل أوزان `.cact` في وقت التشغيل. يتم توفير مكتبات ثابتة، بما في ذلك `cactus.h`، لتطبيقات C وC++، مما يسهل الدمج العميق في قواعد الشيفرة الأصلية الموجودة. كما أن عجلات وقت تشغيل Python توسع هذا الدعم، مما يغطي الهياكل الشائعة لأجهزة الكمبيوتر المكتبية والخوادم.
يقدم Cactus أيضًا مكون WASI، الذي يصدر `cactus:runtime/[email protected]`، وهو متاح كأداة OCI موقعة. يسمح ذلك بالنشر في بيئات واجهة نظام WebAssembly، مما يوسع نطاق استخدامه إلى الوظائف بدون خادم وغيرها من التطبيقات السحابية الحديثة. يركز المشروع على التنزيلات القابلة للتكرار، حيث يوفر SHA-256 checksums وعلامات مراجعة محددة لقطع الإصدار. تتوفر دليل نشر مفصل للمساعدة في الدمج المحلي، واستخدام المتصفح، والإعداد دون اتصال.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرمفتوح المصدر
- النشريعمل محليًا, سحابي
- المنصاتmacOS, Linux, Windows
أبرز ملامح Cactus Runtime
تنفيذ محلي لنماذج النصوص والكلام والرؤية
ثنائيات تشغيل مسبقة البناء لنماذج Needle 3 وWhistle وMirage
واجهة برمجة تطبيقات Python لسهولة الدمج
تنزيلات تلقائية للمحرك وأوزان النموذج عند الاستخدام الأول (Python)
دعم لـ macOS Apple Silicon
دعم لـ Linux x86-64 وARM64 وARMv7 وRISC-V وMIPS32el
دعم لـ Windows x64 وARM64
دعم لـ Android ARM64 وARMv7 وRISC-V
دعم لـ iOS ARM64 وiOS Simulator ARM64
دعم لـ tvOS ARM64 وwatchOS ARM64
دعم WebAssembly (WASM) للمتصفح وNode.js
مكون WASI لبيئات واجهة نظام WebAssembly
مكتبات ثابتة (libcactus.a، cactus.h) لتطبيقات C/C++
أوزان النموذج تُدار في مستودعات منفصلة
SHA-256 checksums للتنزيلات القابلة للتكرار
البدء مع Cactus Runtime
تثبيت حزمة Python: استخدم `import cactus` في Python لتنزيل المحرك وأوزان النموذج تلقائيًا.
تنزيل مشغل محلي: اختر منصة من القائمة المدعومة وقم بتنزيل الثنائيات المقابلة.
تحديد النموذج: استخدم `--model needle3` أو `--model mirage` عند تشغيل المشغلات المحلية لاختيار نموذج محدد.
الدمج مع C/C++: قم بتضمين `cactus.h` وربط `libcactus.a` في تطبيقات C/C++ الخاصة بك.
النشر مع WASI: استخدم مكون WASI `cactus:runtime/[email protected]` أو أداة OCI لبيئات WASI.
الوصول إلى واجهة برمجة تطبيقات Python: راجع وثائق واجهة برمجة تطبيقات Python للاستخدام التفصيلي وأمثلة على الشيفرة المصدرية.
حالات استخدام Cactus Runtime
- تنفيذ نموذج الذكاء الاصطناعي محليًا
- تطوير الذكاء الاصطناعي عبر المنصات
- أنظمة الذكاء الاصطناعي المدمجة
- تطبيقات الذكاء الاصطناعي المستندة إلى الويب
- دمج التطبيقات الأصلية
- تطوير الذكاء الاصطناعي باستخدام Python
- معالجة الذكاء الاصطناعي دون اتصال








