TokenSpeed

vLLM

مستودعات GitHub للذكاء الاصطناعي

#23

محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

بتلات

مستودعات GitHub للذكاء الاصطناعي

#102

مشروع مفتوح المصدر يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة (LLMs) في المنزل باستخدام نهج شبيه بـ BitTorrent. يوفر سرعة أكبر في التخصيص والاستدلال مقارنةً بأساليب…بتلات هو مشروع مفتوح المصدر يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة (LLMs) في المنزل باستخدام نهج شبيه بـ BitTorrent. يوفر سرعة أكبر في التخصيص والاستدلال مقارنةً بأساليب…

إطار استدلال رسمي لنماذج اللغة الكبيرة (LLMs) ذات البت الواحد التي طورتها مايكروسوفت. يتيح معالجة ونشر LLMs بكفاءة، مما يحسن الأداء واستخدام الموارد.BitNet هو إطار استدلال رسمي لنماذج اللغة الكبيرة (LLMs) ذات البت الواحد التي طورتها مايكروسوفت. يتيح معالجة ونشر LLMs بكفاءة، مما يحسن الأداء واستخدام الموارد.

MNN

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…MNN هو محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…

AirLLM

مستودعات GitHub للذكاء الاصطناعي

#234

مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…AirLLM هو مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…

MLX

مستودعات GitHub للذكاء الاصطناعي

إطار عمل للمصفوفات مصمم خصيصًا لأجهزة Apple silicon، مما يمكّن من تنفيذ عمليات التعلم الآلي بكفاءة. يتيح للمطورين المساهمة في تطويره على GitHub، مما يعزز التعاون والابتكار…MLX هو إطار عمل للمصفوفات مصمم خصيصًا لأجهزة Apple silicon، مما يمكّن من تنفيذ عمليات التعلم الآلي بكفاءة. يتيح للمطورين المساهمة في تطويره على GitHub، مما يعزز التعاون والابتكار…

FlashInfer

مستودعات GitHub للذكاء الاصطناعي

مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.FlashInfer هي مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.

WebLLM

مستودعات GitHub للذكاء الاصطناعي

web-llm هو محرك استدلال LLM عالي الأداء يعمل داخل المتصفح، مصمم لتسهيل مهام التعلم الآلي مباشرة ضمن بيئات الويب. يتيح للمطورين المساهمة وتعزيز قدراته من خلال GitHub.