LMCache

GPTCache

مستودعات GitHub للذكاء الاصطناعي

ذاكرة تخزين دلالية مصممة لنماذج اللغة الكبيرة (LLMs)، متكاملة تمامًا مع LangChain و llama_index. يقوم بتحسين أداء LLMs من خلال تخزين البيانات الدلالية، مما يعزز…GPTCache هو ذاكرة تخزين دلالية مصممة لنماذج اللغة الكبيرة (LLMs)، متكاملة تمامًا مع LangChain و llama_index. يقوم بتحسين أداء LLMs من خلال تخزين البيانات الدلالية، مما يعزز…

LMDeploy

مستودعات GitHub للذكاء الاصطناعي

#72

مجموعة أدوات مصممة لضغط ونشر وتقديم نماذج اللغة الكبيرة (LLMs). توفر للمطورين الأدوات اللازمة لإدارة LLMs بكفاءة، مما يضمن الأداء الأمثل وقابلية التوسع.LMDeploy هو مجموعة أدوات مصممة لضغط ونشر وتقديم نماذج اللغة الكبيرة (LLMs). توفر للمطورين الأدوات اللازمة لإدارة LLMs بكفاءة، مما يضمن الأداء الأمثل وقابلية التوسع.

omlx

مستودعات GitHub للذكاء الاصطناعي

#135

خادم استدلال LLM مصمم لأجهزة Apple Silicon، ويتميز بالتجميع المستمر والتخزين المؤقت SSD. يتم إدارته مباشرة من شريط قائمة macOS، مما يوفر تجربة فعالة وسلسة للمطورين الذين…omlx هو خادم استدلال LLM مصمم لأجهزة Apple Silicon، ويتميز بالتجميع المستمر والتخزين المؤقت SSD. يتم إدارته مباشرة من شريط قائمة macOS، مما يوفر تجربة فعالة وسلسة للمطورين الذين…

vLLM

مستودعات GitHub للذكاء الاصطناعي

#23

محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

SGLang

مستودعات GitHub للذكاء الاصطناعي

#53

إطار تقديم عالي الأداء مصمم لنماذج اللغة الكبيرة والنماذج متعددة الوسائط. يوفر قدرات تقديم فعالة تعزز أداء تطبيقات الذكاء الاصطناعي، مما يجعله مناسبًا للمطورين والباحثين…SGLang هو إطار تقديم عالي الأداء مصمم لنماذج اللغة الكبيرة والنماذج متعددة الوسائط. يوفر قدرات تقديم فعالة تعزز أداء تطبيقات الذكاء الاصطناعي، مما يجعله مناسبًا للمطورين والباحثين…

llmware

مستودعات GitHub للذكاء الاصطناعي

#81

إطار موحد مصمم لبناء خطوط أنابيب RAG للمؤسسات باستخدام نماذج صغيرة ومتخصصة. إنه يبسط دمج نماذج الذكاء الاصطناعي المختلفة في خطوط أنابيب متماسكة، مما يعزز الكفاءة…llmware هو إطار موحد مصمم لبناء خطوط أنابيب RAG للمؤسسات باستخدام نماذج صغيرة ومتخصصة. إنه يبسط دمج نماذج الذكاء الاصطناعي المختلفة في خطوط أنابيب متماسكة، مما يعزز الكفاءة…

Soup

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

mlc-llm

مستودعات GitHub للذكاء الاصطناعي

محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.