تخطَّ إلى المحتوى الرئيسي
ToolPotion
مستشار الذكاء الاصطناعي
إرسال (مجاني)

smolmaxxing

smolmaxxing هو مشروع على GitHub يركز على تحسين تنفيذ نماذج اللغة الكبيرة (LLMs) على الأجهزة ذات الموارد المحدودة. يوفر معايير، وأدوات، ووثائق لتمكين استدلال LLM بكفاءة على أجهزة صغيرة مثل الهواتف، وأجهزة iPad، وصناديق التلفاز. يهدف المشروع إلى تحقيق أقصى أداء وتوافق عبر مجموعة من الأجهزة، مما يجعل الذكاء الاصطناعي المتقدم متاحًا على الأجهزة اليومية.

عرض المستودع
مشاركة
عرض المستودع
مشاركة

smolmaxxing هو مستودع مفتوح المصدر على GitHub مخصص لدفع حدود تشغيل نماذج اللغة الكبيرة (LLMs) على أصغر الأجهزة الممكنة. المهمة الأساسية للمشروع هي تعظيم القدرة على نشر وتنفيذ نماذج LLM المختلفة بكفاءة على الأجهزة التي تعتبر عادةً غير قوية بما يكفي لمثل هذه المهام، بما في ذلك الهواتف الذكية، والأجهزة اللوحية، وصناديق التلفاز الذكية.

قراءة المزيد

يحتوي المستودع على مجموعة شاملة من الموارد، بما في ذلك المعايير، والبيانات، والوثائق، والأدوات. يعرض مقاييس الأداء لمختلف نماذج LLM، مثل Qwen3-Next-80B-A3B وQwen3.6-35B-A3B، التي تعمل على أجهزة محددة مثل هاتف OnePlus أو صندوق Xiaomi TV Box S. يتتبع المشروع بدقة أداء التوكن في الثانية (tok/s)، مما يوضح إمكانية تشغيل نماذج تتراوح من 260K إلى 9B معلمة على هذه الأجهزة المدمجة.

smolmaxxing يوفر نهجًا منظمًا للتجارب، مع أدلة مخصصة للأصول، والمعايير، والبيانات، والوثائق. يتضمن تصحيحات وأدوات لتسهيل عملية التحسين، بالإضافة إلى لقطات توضح تقدم المشروع. يعمل ملف `README.md` كمركز رئيسي، حيث يحتوي على لوحة نتائج لأفضل النماذج أداءً حسب فئة الحجم وروابط للنماذج المستضافة على Hugging Face.

هذا المشروع مثالي للمطورين، والباحثين، والهواة المهتمين بالذكاء الاصطناعي على الحافة، وتعلم الآلة على الأجهزة، وتحسين استدلال LLM للبيئات منخفضة الطاقة. يعزز التعاون، مع مساهمات من عدة مطورين، ويتضمن دليل `CONTRIBUTING.md` لأولئك الذين يتطلعون إلى تقديم معايير أجهزتهم أو تحسينات الكود. يشير ملف `LICENSE` إلى ترخيص MIT، مما يعزز الاستخدام المفتوح والتعديل.

  • الفئةMLOps ونشر النماذج
  • نموذج التسعيرمفتوح المصدر
  • النشرسحابي, استضافة ذاتية
  • المنصاتالويب

  • تحسين استدلال LLM على الأجهزة الصغيرة

  • معايير لمختلف LLMs على أجهزة متنوعة

  • دعم للنماذج من 260K إلى 9B معلمة

  • تتبع الأداء (التوكنات في الثانية)

  • وثائق لتحسينات محددة للأجهزة

  • أدوات وتصحيحات لنشر LLM

  • لوحة نتائج لأفضل النماذج أداءً

  • روابط لنماذج Hugging Face

  • مساهمات المجتمع ونماذج القضايا

  • ترخيص MIT للاستخدام المفتوح المصدر

  • أمثلة للهواتف، وأجهزة iPad، وصناديق التلفاز

  • مستودع للبحث والتطوير المستمر

  1. استنساخ المستودع: استخدم `git clone` للحصول على مشروع smolmaxxing على جهازك المحلي.

  2. استكشاف الوثائق: راجع دليل `docs/` و`README.md` للحصول على نظرة عامة على المشروع، وتفاصيل الجهاز، وتعليمات الإعداد.

  3. مراجعة المعايير: افحص أدلة `bench/` و`data/` لفهم أداء LLM الحالي على مختلف الأجهزة الصغيرة.

  4. تثبيت التبعيات: حدد وثبت أي مكتبات أو أدوات ضرورية لتشغيل LLMs على جهازك المستهدف.

  5. تطبيق التصحيحات/الأدوات: استخدم التصحيحات والأدوات المقدمة من أدلة `patches/` و`tools/` لتحسين تنفيذ LLM.

  6. تشغيل التجارب: اتبع الإرشادات في `EXPERIMENT.md` لإجراء اختبارات استدلال LLM الخاصة بك على الأجهزة الصغيرة.

  7. مساهمة النتائج: استخدم نموذج القضايا `Submit your device` أو `CONTRIBUTING.md` لمشاركة نتائجك أو تحسينات الكود.

  • تطوير الذكاء الاصطناعي على الحافة
  • استدلال LLM على الجهاز
  • تقييم الأداء
  • الذكاء الاصطناعي في بيئات ذات موارد محدودة
  • الذكاء الاصطناعي لأجهزة إنترنت الأشياء
  • تطبيقات الذكاء الاصطناعي المحمولة

تقييمات smolmaxxing

جاري التحميل...

أدوات ذكاء اصطناعي شائعة مثل smolmaxxing

MNN

مستودعات GitHub للذكاء الاصطناعي

MNN هو محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…MNN هو محرك استدلال خفيف الوزن وعالي الأداء تم تطويره بواسطة Alibaba. تم تصميمه لتحسين نماذج اللغة الكبيرة (LLMs) وتطبيقات الذكاء الاصطناعي على الأجهزة، مما يوفر قدرات استدلال…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

BigMoeOnEdge

مستودعات GitHub للذكاء الاصطناعي

يمكن لـ BigMoeOnEdge تشغيل نماذج Mixture of Experts (MoE) أكبر من الذاكرة العشوائية (RAM) على أجهزة متنوعة، بما في ذلك الهواتف المحمولة وأجهزة الكمبيوتر المحمولة. يستخدم مُحسِّن…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

يمكن لـ BigMoeOnEdge تشغيل نماذج Mixture of Experts (MoE) أكبر من الذاكرة العشوائية (RAM) على أجهزة متنوعة، بما في ذلك الهواتف المحمولة وأجهزة الكمبيوتر المحمولة. يستخدم مُحسِّن…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

trnrt

مستودعات GitHub للذكاء الاصطناعي

trnrt هو محرك استدلال LLM مفتوح المصدر مصمم لـ AWS Trainium، ويقدم نوى NKI العملاقة ويدعم سياقًا مكونًا من 1M توكن. تم تطويره بواسطة RunAnywhere، ويوفر واجهة برمجة تطبيقات متوافقة…

MLOps ونشر النماذج

المرتبة 160 في MLOps ونشر النماذج

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال LLM مفتوح المصدر مصمم لـ AWS Trainium، ويقدم نوى NKI العملاقة ويدعم سياقًا مكونًا من 1M توكن. تم تطويره بواسطة RunAnywhere، ويوفر واجهة برمجة تطبيقات متوافقة…trnrt هو محرك استدلال LLM مفتوح المصدر مصمم لـ AWS Trainium، ويقدم نوى NKI العملاقة ويدعم سياقًا مكونًا من 1M توكن. تم تطويره بواسطة RunAnywhere، ويوفر واجهة برمجة تطبيقات متوافقة…

MLOps ونشر النماذج
المرتبة 160 في MLOps ونشر النماذج

vLLM

مستودعات GitHub للذكاء الاصطناعي

vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

MLOps ونشر النماذج

المرتبة 23 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

مميزةMLOps ونشر النماذج
المرتبة 23 في مستودعات GitHub للذكاء الاصطناعي

llama-modchip

مستودعات GitHub للذكاء الاصطناعي

llama-modchip هو مشروع على GitHub يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة مثل 284B DeepSeek-V4-Flash و30B MoEs على معالج CPU بسعة 64GB بدون وحدات معالجة رسومية. يدعم معدلات…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مشروع على GitHub يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة مثل 284B DeepSeek-V4-Flash و30B MoEs على معالج CPU بسعة 64GB بدون وحدات معالجة رسومية. يدعم معدلات…llama-modchip هو مشروع على GitHub يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة مثل 284B DeepSeek-V4-Flash و30B MoEs على معالج CPU بسعة 64GB بدون وحدات معالجة رسومية. يدعم معدلات…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

mlc-llm

مستودعات GitHub للذكاء الاصطناعي

mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

Soup

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

AirLLM

مستودعات GitHub للذكاء الاصطناعي

AirLLM هو مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…

MLOps ونشر النماذج

المرتبة 73 في تعلّم الآلة وعلم البيانات

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…AirLLM هو مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…

MLOps ونشر النماذج
المرتبة 73 في تعلّم الآلة وعلم البيانات
1 من 8