تخطَّ إلى المحتوى الرئيسي
ToolPotion
مستشار الذكاء الاصطناعي
إرسال (مجاني)

Cactus Runtime

نماذج اللغة الكبيرة#82MLOps ونشر النماذجمفتوح المصدر · macOS, Linux, Windows

يوفر Cactus Runtime ثنائيات مسبقة البناء لنماذج Needle 3 وWhistle وMirage، مما يمكّن من التنفيذ المحلي لمهام النصوص والكلام والرؤية. يدعم مجموعة واسعة من المنصات بما في ذلك macOS وLinux وWindows وAndroid وiOS وtvOS وwatchOS وبيئات الويب. يمكن للمطورين دمجه عبر واجهة برمجة تطبيقات Python أو مشغلات أصلية، مع إدارة أوزان النموذج بشكل منفصل.

زيارة الرابط
مشاركة
لقطة شاشة لـ Cactus Runtime
لقطة شاشة لـ Cactus Runtime

Cactus Runtime هو محرك متعدد الاستخدامات مصمم لتشغيل نماذج النصوص والكلام والرؤية محليًا عبر أنظمة التشغيل والبيئات المختلفة. يقدم ثنائيات تشغيل مسبقة البناء لنماذج محددة مثل Needle 3 وWhistle وMirage، مما يسمح للمطورين بدمج قدرات الذكاء الاصطناعي القوية مباشرة في تطبيقاتهم.

قراءة المزيد

تتمثل الوظيفة الأساسية لـ Cactus في توفير محرك موحد يمكنه التعامل مع مهام الذكاء الاصطناعي المتنوعة. يتم تخزين أوزان النموذج في مستودعاتها الخاصة، مما يضمن المرونة والوحدوية. بالنسبة لمطوري Python، فإن الدمج سهل: ما عليك سوى استيراد `cactus`، وسيقوم الحزمة تلقائيًا بتنزيل المحرك وأوزان النموذج المطابقة عند الاستخدام الأول. تتوفر واجهة برمجة تطبيقات Python شاملة وكود مصدر للتنفيذ التفصيلي.

يدعم Cactus قائمة واسعة من المنصات، مما يجعله قابلاً للتكيف بشكل كبير مع سيناريوهات النشر المختلفة. تشمل هذه المنصات macOS Apple Silicon، وتوزيعات Linux المختلفة (x86-64 وARM64 وARMv7 وRISC-V وMIPS32el)، وWindows (x64 وARM64)، وAndroid (ARM64 وARMv7 وRISC-V)، وiOS (ARM64 وSimulator ARM64)، وtvOS ARM64، وwatchOS ARM64، وحتى بيئات المتصفح وNode.js عبر WebAssembly (WASM). تضمن هذه التوافقية الواسعة أن يتمكن المطورون من نشر نماذج الذكاء الاصطناعي على أي جهاز أو نظام مستهدف تقريبًا.

لدمج محلي، يمكن للمطورين تنزيل مشغلات محددة لمنصتهم المختارة. تم تصميم هذه المشغلات لتحميل أوزان `.cact` في وقت التشغيل. يتم توفير مكتبات ثابتة، بما في ذلك `cactus.h`، لتطبيقات C وC++، مما يسهل الدمج العميق في قواعد الشيفرة الأصلية الموجودة. كما أن عجلات وقت تشغيل Python توسع هذا الدعم، مما يغطي الهياكل الشائعة لأجهزة الكمبيوتر المكتبية والخوادم.

يقدم Cactus أيضًا مكون WASI، الذي يصدر `cactus:runtime/[email protected]`، وهو متاح كأداة OCI موقعة. يسمح ذلك بالنشر في بيئات واجهة نظام WebAssembly، مما يوسع نطاق استخدامه إلى الوظائف بدون خادم وغيرها من التطبيقات السحابية الحديثة. يركز المشروع على التنزيلات القابلة للتكرار، حيث يوفر SHA-256 checksums وعلامات مراجعة محددة لقطع الإصدار. تتوفر دليل نشر مفصل للمساعدة في الدمج المحلي، واستخدام المتصفح، والإعداد دون اتصال.

  • الفئةMLOps ونشر النماذج
  • نموذج التسعيرمفتوح المصدر
  • النشريعمل محليًا, سحابي
  • المنصاتmacOS, Linux, Windows

  • تنفيذ محلي لنماذج النصوص والكلام والرؤية

  • ثنائيات تشغيل مسبقة البناء لنماذج Needle 3 وWhistle وMirage

  • واجهة برمجة تطبيقات Python لسهولة الدمج

  • تنزيلات تلقائية للمحرك وأوزان النموذج عند الاستخدام الأول (Python)

  • دعم لـ macOS Apple Silicon

  • دعم لـ Linux x86-64 وARM64 وARMv7 وRISC-V وMIPS32el

  • دعم لـ Windows x64 وARM64

  • دعم لـ Android ARM64 وARMv7 وRISC-V

  • دعم لـ iOS ARM64 وiOS Simulator ARM64

  • دعم لـ tvOS ARM64 وwatchOS ARM64

  • دعم WebAssembly (WASM) للمتصفح وNode.js

  • مكون WASI لبيئات واجهة نظام WebAssembly

  • مكتبات ثابتة (libcactus.a، cactus.h) لتطبيقات C/C++

  • أوزان النموذج تُدار في مستودعات منفصلة

  • SHA-256 checksums للتنزيلات القابلة للتكرار

  1. تثبيت حزمة Python: استخدم `import cactus` في Python لتنزيل المحرك وأوزان النموذج تلقائيًا.

  2. تنزيل مشغل محلي: اختر منصة من القائمة المدعومة وقم بتنزيل الثنائيات المقابلة.

  3. تحديد النموذج: استخدم `--model needle3` أو `--model mirage` عند تشغيل المشغلات المحلية لاختيار نموذج محدد.

  4. الدمج مع C/C++: قم بتضمين `cactus.h` وربط `libcactus.a` في تطبيقات C/C++ الخاصة بك.

  5. النشر مع WASI: استخدم مكون WASI `cactus:runtime/[email protected]` أو أداة OCI لبيئات WASI.

  6. الوصول إلى واجهة برمجة تطبيقات Python: راجع وثائق واجهة برمجة تطبيقات Python للاستخدام التفصيلي وأمثلة على الشيفرة المصدرية.

  • تنفيذ نموذج الذكاء الاصطناعي محليًا
  • تطوير الذكاء الاصطناعي عبر المنصات
  • أنظمة الذكاء الاصطناعي المدمجة
  • تطبيقات الذكاء الاصطناعي المستندة إلى الويب
  • دمج التطبيقات الأصلية
  • تطوير الذكاء الاصطناعي باستخدام Python
  • معالجة الذكاء الاصطناعي دون اتصال

من Cactus Compute

ميزة في Cactus Compute.

تقييمات Cactus Runtime

جاري التحميل...

أدوات ذكاء اصطناعي شائعة مثل Cactus Runtime

Cactus Compute

مستودعات GitHub للذكاء الاصطناعي

Cactus Compute هو مشروع مفتوح المصدر يركز على التكميم، والنوى، وإدارة وقت التشغيل، ومحركات الاستدلال للأجهزة المحمولة، والأجهزة القابلة للارتداء، وأنظمة المنزل الذكي، والروبوتات.…

منصّات تعلّم الآلة

المرتبة 182 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مشروع مفتوح المصدر يركز على التكميم، والنوى، وإدارة وقت التشغيل، ومحركات الاستدلال للأجهزة المحمولة، والأجهزة القابلة للارتداء، وأنظمة المنزل الذكي، والروبوتات.…Cactus Compute هو مشروع مفتوح المصدر يركز على التكميم، والنوى، وإدارة وقت التشغيل، ومحركات الاستدلال للأجهزة المحمولة، والأجهزة القابلة للارتداء، وأنظمة المنزل الذكي، والروبوتات.…

منصّات تعلّم الآلة
المرتبة 182 في مستودعات GitHub للذكاء الاصطناعي

SGLang-Omni

مستودعات GitHub للذكاء الاصطناعي

SGLang-Omni هو إطار عمل عالي الأداء مصمم لنماذج الصوت مثل تحويل النص إلى كلام (TTS) والتعرف التلقائي على الكلام (ASR)، بالإضافة إلى النماذج متعددة الوسائط الموحدة. يوفر دعمًا…

MLOps ونشر النماذج

المرتبة 78 في مولّدات الأصوات بالذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

إطار عمل عالي الأداء مصمم لنماذج الصوت مثل تحويل النص إلى كلام (TTS) والتعرف التلقائي على الكلام (ASR)، بالإضافة إلى النماذج متعددة الوسائط الموحدة. يوفر دعمًا…SGLang-Omni هو إطار عمل عالي الأداء مصمم لنماذج الصوت مثل تحويل النص إلى كلام (TTS) والتعرف التلقائي على الكلام (ASR)، بالإضافة إلى النماذج متعددة الوسائط الموحدة. يوفر دعمًا…

MLOps ونشر النماذج
المرتبة 78 في مولّدات الأصوات بالذكاء الاصطناعي

Runware

تطبيقات الذكاء الاصطناعي

Runware هي منصة استدلال للذكاء الاصطناعي التوليدي توفر واجهة برمجة تطبيقات موحدة واحدة لنماذج الصور والفيديو والصوت و3D وLLM والرؤية. تقدم أكثر من 400,000 نموذج، وبنية تحتية…

MLOps ونشر النماذج
عرض الأداة

تطبيقات الذكاء الاصطناعي

منصة استدلال للذكاء الاصطناعي التوليدي توفر واجهة برمجة تطبيقات موحدة واحدة لنماذج الصور والفيديو والصوت و3D وLLM والرؤية. تقدم أكثر من 400,000 نموذج، وبنية تحتية…Runware هي منصة استدلال للذكاء الاصطناعي التوليدي توفر واجهة برمجة تطبيقات موحدة واحدة لنماذج الصور والفيديو والصوت و3D وLLM والرؤية. تقدم أكثر من 400,000 نموذج، وبنية تحتية…

MLOps ونشر النماذج
عرض أفضل 250 من تطبيقات الذكاء الاصطناعي

توفر Replicate واجهة برمجة تطبيقات سحابية لتشغيل وضبط نماذج التعلم الآلي مفتوحة المصدر. انشر نماذج مخصصة بسطر واحد من التعليمات البرمجية. قم بالوصول إلى آلاف نماذج الذكاء…

MLOps ونشر النماذج
عرض الأداة

توفر Replicate واجهة برمجة تطبيقات سحابية لتشغيل وضبط نماذج التعلم الآلي مفتوحة المصدر. انشر نماذج مخصصة بسطر واحد من التعليمات البرمجية. قم بالوصول إلى آلاف نماذج الذكاء…

مميزةMLOps ونشر النماذج
عرض أفضل 150 من منصات الذكاء الاصطناعي

SiliconFlow

منصات الذكاء الاصطناعي

منصة بنية تحتية للذكاء الاصطناعي للمطورين لنشر وتخصيص وتشغيل أكثر من 200 نموذج لغة كبير ونماذج متعددة الوسائط من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI بأسعار الدفع حسب…

MLOps ونشر النماذج
عرض الأداة

منصات الذكاء الاصطناعي

منصة بنية تحتية للذكاء الاصطناعي للمطورين لنشر وتخصيص وتشغيل أكثر من 200 نموذج لغة كبير ونماذج متعددة الوسائط من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI بأسعار الدفع حسب…

مميزةMLOps ونشر النماذج
عرض أفضل 150 من منصات الذكاء الاصطناعي

Baseten

منصات الذكاء الاصطناعي

تتيح منصة الاستدلال من Baseten للمستخدمين نشر وتوسيع نماذج الذكاء الاصطناعي مفتوحة المصدر والمخصصة بكفاءة. تقدم استدلالًا عالي الأداء مع بنية تحتية مخصصة، وواجهات برمجة تطبيقات…

MLOps ونشر النماذج

المرتبة 72 في منصات الذكاء الاصطناعي

عرض الأداة

منصات الذكاء الاصطناعي

تتيح منصة الاستدلال من Baseten للمستخدمين نشر وتوسيع نماذج الذكاء الاصطناعي مفتوحة المصدر والمخصصة بكفاءة. تقدم استدلالًا عالي الأداء مع بنية تحتية مخصصة، وواجهات برمجة تطبيقات…

مميزةMLOps ونشر النماذج
المرتبة 72 في منصات الذكاء الاصطناعي

SGLang

أطر عمل الذكاء الاصطناعي

SGLang هو إطار عمل عالي الأداء مصمم لنماذج اللغة الكبيرة والنماذج متعددة الوسائط. يوفر دعمًا واسعًا للأجهزة ونظامًا بيئيًا قويًا للمطورين الذين يتطلعون إلى تنفيذ حلول الذكاء…

MLOps ونشر النماذج
عرض الأداة

أطر عمل الذكاء الاصطناعي

إطار عمل عالي الأداء مصمم لنماذج اللغة الكبيرة والنماذج متعددة الوسائط. يوفر دعمًا واسعًا للأجهزة ونظامًا بيئيًا قويًا للمطورين الذين يتطلعون إلى تنفيذ حلول الذكاء…SGLang هو إطار عمل عالي الأداء مصمم لنماذج اللغة الكبيرة والنماذج متعددة الوسائط. يوفر دعمًا واسعًا للأجهزة ونظامًا بيئيًا قويًا للمطورين الذين يتطلعون إلى تنفيذ حلول الذكاء…

مميزةMLOps ونشر النماذج
عرض أفضل 50 من أطر عمل الذكاء الاصطناعي

TensorFold

مستودعات GitHub للذكاء الاصطناعي

TensorFold هو محرك استدلال LLM مفتوح المصدر مصمم للحوسبة عالية الأداء عبر منصات الأجهزة المختلفة. يدعم Metal وCUDA وVulkan، مما يوفر حلاً مرنًا لنشر نماذج اللغة الكبيرة. يركز…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال LLM مفتوح المصدر مصمم للحوسبة عالية الأداء عبر منصات الأجهزة المختلفة. يدعم Metal وCUDA وVulkan، مما يوفر حلاً مرنًا لنشر نماذج اللغة الكبيرة. يركز…TensorFold هو محرك استدلال LLM مفتوح المصدر مصمم للحوسبة عالية الأداء عبر منصات الأجهزة المختلفة. يدعم Metal وCUDA وVulkan، مما يوفر حلاً مرنًا لنشر نماذج اللغة الكبيرة. يركز…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي
1 من 8