تخطَّ إلى المحتوى الرئيسي
ToolPotion
مستشار الذكاء الاصطناعي
إرسال (مجاني)

BigMoeOnEdge

يمكن لـ BigMoeOnEdge تشغيل نماذج Mixture of Experts (MoE) أكبر من الذاكرة العشوائية (RAM) على أجهزة متنوعة، بما في ذلك الهواتف المحمولة وأجهزة الكمبيوتر المحمولة. يستخدم مُحسِّن تدفق تكيفي لضمان أداء خالي من الفقد على أي جهاز أو نظام تشغيل، مستفيدًا من llama.cpp.

عرض المستودع
مشاركة
عرض المستودع
مشاركة

BigMoeOnEdge هو مشروع مصمم لتسهيل تنفيذ نماذج Mixture of Experts (MoE) التي تتجاوز الذاكرة العشوائية المتاحة على أجهزة مثل الهواتف المحمولة وأجهزة الكمبيوتر المحمولة وأجهزة الحافة. هذه الأداة مفيدة بشكل خاص للمستخدمين الذين يحتاجون إلى تشغيل نماذج كبيرة الحجم دون قيود الأجهزة التقليدية. من خلال استخدام مُحسِّن تدفق تكيفي، يضمن BigMoeOnEdge أن تعمل النماذج بدون فقد، مع الحفاظ على أداء عالٍ بغض النظر عن الأجهزة أو نظام التشغيل المستخدم.

قراءة المزيد

المشروع مبني على llama.cpp، وهو إطار عمل معروف لتنفيذ النماذج، ومصمم ليكون متوافقًا مع أي جهاز أو نظام تشغيل أو نموذج أو طريقة تقليل. تجعل هذه المرونة منه حلاً مثاليًا للمطورين والباحثين الذين يحتاجون إلى قدرات تنفيذ نماذج قوية عبر بيئات متنوعة.

يعمل BigMoeOnEdge خلف خادم محلي متوافق مع OpenAI، مما يوفر تكاملًا سلسًا للمستخدمين المألوفين بنظام OpenAI البيئي. تضمن هذه التوافقية أن يتمكن المستخدمون من الاستفادة من الأدوات والتدفقات الحالية دون تعديلات كبيرة.

المستودع يتم صيانته بنشاط، مع التحديثات الأخيرة التي تشير إلى التطوير المستمر والتحسينات. المشروع مفتوح المصدر، مما يسمح للمطورين بالمساهمة وتخصيص الأداة لتناسب الاحتياجات المحددة. مع التركيز على الوصول والأداء، يعد BigMoeOnEdge موردًا قيمًا لأولئك الذين يتطلعون إلى دفع حدود تنفيذ النماذج على الأجهزة المحدودة.

  • الفئةMLOps ونشر النماذج
  • نموذج التسعيرمفتوح المصدر
  • النشريعمل محليًا
  • المنصاتWindows, macOS, Linux

  • تشغيل نماذج MoE أكبر من الذاكرة العشوائية

  • مُحسِّن تدفق تكيفي

  • أداء خالي من الفقد

  • متوافق مع أي جهاز

  • يدعم أي نظام تشغيل

  • يعمل مع أي نموذج

  • خادم متوافق مع OpenAI

  • مبني على llama.cpp

  1. استنساخ: تحميل المستودع من GitHub

  2. تثبيت التبعيات: إعداد المكتبات والأدوات اللازمة

  3. تكوين: ضبط الإعدادات لجهازك ونموذجك المحدد

  4. تنفيذ: تشغيل نماذج MoE باستخدام السكربتات المقدمة

  5. تحسين: استخدام المُحسِّن التدفق التكيفي للحصول على أفضل أداء

  • تنفيذ النماذج على الهواتف المحمولة
  • الحوسبة على الحافة
  • التوافق عبر الأنظمة
  • البحث والتطوير
  • التكامل مع OpenAI

تقييمات BigMoeOnEdge

جاري التحميل...

أدوات ذكاء اصطناعي شائعة مثل BigMoeOnEdge

Soup

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

MNN

مستودعات GitHub للذكاء الاصطناعي

MNN هو محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…MNN هو محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

LMDeploy

مستودعات GitHub للذكاء الاصطناعي

LMDeploy هو مجموعة أدوات مصممة لضغط ونشر وتقديم نماذج اللغة الكبيرة (LLMs). توفر للمطورين الأدوات اللازمة لإدارة LLMs بكفاءة، مما يضمن الأداء الأمثل وقابلية التوسع.

MLOps ونشر النماذج

المرتبة 57 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مجموعة أدوات مصممة لضغط ونشر وتقديم نماذج اللغة الكبيرة (LLMs). توفر للمطورين الأدوات اللازمة لإدارة LLMs بكفاءة، مما يضمن الأداء الأمثل وقابلية التوسع.LMDeploy هو مجموعة أدوات مصممة لضغط ونشر وتقديم نماذج اللغة الكبيرة (LLMs). توفر للمطورين الأدوات اللازمة لإدارة LLMs بكفاءة، مما يضمن الأداء الأمثل وقابلية التوسع.

MLOps ونشر النماذج
المرتبة 57 في مستودعات GitHub للذكاء الاصطناعي

DeepInfer

مستودعات GitHub للذكاء الاصطناعي

DeepInfer هو إطار استدلال عالي الأداء وواسع النطاق مصمم لنماذج DeepSeek. يسهل عمليات الاستدلال بكفاءة وقابلية التوسع، مما يجعله مثالياً للمطورين الذين يعملون على مشاريع التعلم…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

إطار استدلال عالي الأداء وواسع النطاق مصمم لنماذج DeepSeek. يسهل عمليات الاستدلال بكفاءة وقابلية التوسع، مما يجعله مثالياً للمطورين الذين يعملون على مشاريع التعلم…DeepInfer هو إطار استدلال عالي الأداء وواسع النطاق مصمم لنماذج DeepSeek. يسهل عمليات الاستدلال بكفاءة وقابلية التوسع، مما يجعله مثالياً للمطورين الذين يعملون على مشاريع التعلم…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

SiliconFlow

منصات الذكاء الاصطناعي

منصة بنية تحتية للذكاء الاصطناعي للمطورين لنشر وتخصيص وتشغيل أكثر من 200 نموذج لغة كبير ونماذج متعددة الوسائط من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI بأسعار الدفع حسب…

MLOps ونشر النماذج
عرض الأداة

منصات الذكاء الاصطناعي

منصة بنية تحتية للذكاء الاصطناعي للمطورين لنشر وتخصيص وتشغيل أكثر من 200 نموذج لغة كبير ونماذج متعددة الوسائط من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI بأسعار الدفع حسب…

مميزةMLOps ونشر النماذج
عرض أفضل 150 من منصات الذكاء الاصطناعي

mlc-llm

مستودعات GitHub للذكاء الاصطناعي

mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

vLLM

مستودعات GitHub للذكاء الاصطناعي

vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

MLOps ونشر النماذج

المرتبة 23 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

مميزةMLOps ونشر النماذج
المرتبة 23 في مستودعات GitHub للذكاء الاصطناعي

Bento

منصات الذكاء الاصطناعي

Bento هي منصة استدلال مصممة للسرعة والتحكم، مما يتيح لك نشر أي نموذج ذكاء اصطناعي في أي مكان. توفر تحسينًا مخصصًا، وتوسيعًا فعالًا، وعمليات مبسطة لفرق الذكاء الاصطناعي. بسّط…

MLOps ونشر النماذج
عرض الأداة

منصات الذكاء الاصطناعي

منصة استدلال مصممة للسرعة والتحكم، مما يتيح لك نشر أي نموذج ذكاء اصطناعي في أي مكان. توفر تحسينًا مخصصًا، وتوسيعًا فعالًا، وعمليات مبسطة لفرق الذكاء الاصطناعي. بسّط…Bento هي منصة استدلال مصممة للسرعة والتحكم، مما يتيح لك نشر أي نموذج ذكاء اصطناعي في أي مكان. توفر تحسينًا مخصصًا، وتوسيعًا فعالًا، وعمليات مبسطة لفرق الذكاء الاصطناعي. بسّط…

مميزةMLOps ونشر النماذج
عرض أفضل 150 من منصات الذكاء الاصطناعي
1 من 8