Xinference

PowerInfer

مستودعات GitHub للذكاء الاصطناعي

#202

أداة نموذج لغة كبيرة عالية السرعة مصممة للنشر المحلي. تتيح استنتاجًا فعالًا وسريعًا لنماذج اللغة الكبيرة، مما يجعلها مناسبة للمطورين والباحثين الذين يسعون لتنفيذ…PowerInfer هو أداة نموذج لغة كبيرة عالية السرعة مصممة للنشر المحلي. تتيح استنتاجًا فعالًا وسريعًا لنماذج اللغة الكبيرة، مما يجعلها مناسبة للمطورين والباحثين الذين يسعون لتنفيذ…

vLLM

مستودعات GitHub للذكاء الاصطناعي

#23

محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

FlashInfer

مستودعات GitHub للذكاء الاصطناعي

مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.FlashInfer هي مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.

BentoML

مستودعات GitHub للذكاء الاصطناعي

#93

منصة مفتوحة المصدر مصممة لتبسيط نشر نماذج وتطبيقات الذكاء الاصطناعي. تتيح للمطورين بناء واجهات برمجة التطبيقات لاستنتاج النماذج، وإدارة قوائم المهام، وإنشاء خطوط أنابيب…BentoML هي منصة مفتوحة المصدر مصممة لتبسيط نشر نماذج وتطبيقات الذكاء الاصطناعي. تتيح للمطورين بناء واجهات برمجة التطبيقات لاستنتاج النماذج، وإدارة قوائم المهام، وإنشاء خطوط أنابيب…

بتلات

مستودعات GitHub للذكاء الاصطناعي

#102

مشروع مفتوح المصدر يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة (LLMs) في المنزل باستخدام نهج شبيه بـ BitTorrent. يوفر سرعة أكبر في التخصيص والاستدلال مقارنةً بأساليب…بتلات هو مشروع مفتوح المصدر يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة (LLMs) في المنزل باستخدام نهج شبيه بـ BitTorrent. يوفر سرعة أكبر في التخصيص والاستدلال مقارنةً بأساليب…

LocalAI

مستودعات GitHub للذكاء الاصطناعي

#44

محرك ذكاء اصطناعي مفتوح المصدر يتيح للمستخدمين تشغيل نماذج متنوعة، بما في ذلك نماذج اللغة الكبيرة (LLMs)، والرؤية، والصوت، والصورة، والفيديو، على أي جهاز دون الحاجة إلى…LocalAI هو محرك ذكاء اصطناعي مفتوح المصدر يتيح للمستخدمين تشغيل نماذج متنوعة، بما في ذلك نماذج اللغة الكبيرة (LLMs)، والرؤية، والصوت، والصورة، والفيديو، على أي جهاز دون الحاجة إلى…

إطار استدلال رسمي لنماذج اللغة الكبيرة (LLMs) ذات البت الواحد التي طورتها مايكروسوفت. يتيح معالجة ونشر LLMs بكفاءة، مما يحسن الأداء واستخدام الموارد.BitNet هو إطار استدلال رسمي لنماذج اللغة الكبيرة (LLMs) ذات البت الواحد التي طورتها مايكروسوفت. يتيح معالجة ونشر LLMs بكفاءة، مما يحسن الأداء واستخدام الموارد.

Runanywhere

مستودعات GitHub للذكاء الاصطناعي

Runanywhere SDKs هو مجموعة أدوات جاهزة للإنتاج مصممة لتشغيل نماذج الذكاء الاصطناعي محليًا. تسهل تطوير ونشر تطبيقات الذكاء الاصطناعي من خلال توفير الأدوات والموارد الأساسية للتنفيذ…