تخطَّ إلى المحتوى الرئيسي
ToolPotion
مستشار الذكاء الاصطناعي
إرسال (مجاني)

hunch

hunch هو مشروع مفتوح المصدر على GitHub يعمل كوكيل لنظام واحد. يستفيد من التضمينات لتقطير نموذج المعلم، موفراً إطار عمل لتقنيات تقطير النماذج المتقدمة. يتضمن هذا المستودع مكونات متنوعة مثل سير العمل، الوثائق، الأمثلة، وأشكال الوزن المختلفة (int8 و fp8) لنشر النماذج بكفاءة والتجريب.

عرض المستودع
مشاركة
عرض المستودع
مشاركة

hunch هو مستودع GitHub تم تطويره بواسطة undrgrnd-labs، مصمم ليعمل كوكيل لنظام واحد. تدور الوظيفة الأساسية حول استخدام التضمينات لتقطير نموذج المعلم، وهي تقنية تُستخدم غالباً لإنشاء نماذج أصغر وأسرع وأكثر كفاءة مع الاحتفاظ بالكثير من أداء نموذج المعلم الأكبر والأكثر تعقيداً.

قراءة المزيد

يتضمن هيكل المشروع عدة دلائل وملفات رئيسية. تشير الدليل `.github/workflows` إلى أن هناك ممارسات للأتمتة والتكامل المستمر، مما يضمن جودة الكود وتطويراً فعالاً. يشير مجلد `docs` إلى أن هناك وثائق شاملة متاحة، وهو أمر حيوي لفهم المشروع والمساهمة فيه. من المحتمل أن يشير مكون `eg2cpu` إلى محرك مُحسّن للتنفيذ على وحدة المعالجة المركزية، ربما لمهام الاستدلال، ويدعم كل من أوزان int8 و fp8، مما يبرز التركيز على الأداء وتقليل استخدام الذاكرة.

توجد أمثلة ضمن دليل `examples`، تقدم عروضاً عملية حول كيفية استخدام نظام `hunch`. هذا لا يقدر بثمن للمطورين الذين يتطلعون إلى دمج أو تجربة المشروع. تشير وجود `LICENSE-APACHE` و `LICENSE-MIT` إلى أن المشروع مفتوح المصدر، مما يسمح بالاستخدام والتعديل والتوزيع على نطاق واسع بموجب شروط مرنة.

تظهر التحديثات المنتظمة من خلال تاريخ الالتزام، مع رسائل حديثة تشير إلى تحسينات مثل إضافة أوزان int8 و fp8 إلى محرك `eg2cpu` وتحديث فقرات الترخيص. كما يسرد المشروع مساهمين اثنين، مات ماستراشي وMd. طارق محمود، مما يدل على تطوير نشط وتعاون داخل مجتمع المصدر المفتوح. يشير ملف `pyproject.toml` إلى أن المشروع يعتمد على Python، وهو شائع الاستخدام في تطوير التعلم الآلي والذكاء الاصطناعي.

  • الفئةMLOps ونشر النماذج
  • نموذج التسعيرمفتوح المصدر
  • النشرسحابي, استضافة ذاتية
  • المنصاتالويب

  • تنفيذ وكيل نظام واحد

  • تقطير نموذج المعلم باستخدام التضمينات

  • دعم أوزان int8 و fp8

  • محرك مُحسّن لوحدة المعالجة المركزية (eg2cpu)

  • وثائق شاملة

  • عروض استخدام الأمثلة

  • ترخيص مفتوح المصدر (Apache و MIT)

  • تطوير نشط مع التزامات حديثة

  • هيكل مشروع يعتمد على Python

  • تحكم في الإصدارات باستخدام Git

  • مساهمات المجتمع

  • أتمتة سير العمل

  1. استنساخ المستودع: استخدم `git clone` للحصول على نسخة محلية من مشروع hunch.

  2. تثبيت التبعيات: راجع `pyproject.toml` و `uv.lock` للحصول على حزم Python المطلوبة وقم بتثبيتها.

  3. استكشاف الأمثلة: انتقل إلى دليل `examples` لفهم كيفية استخدام النظام.

  4. تكوين الأوزان: قم بتحميل أوزان int8 أو fp8 في محرك `WebGPU` أو `eg2cpu` حسب الحاجة لمهام محددة.

  5. تشغيل الوكيل: نفذ وكيل النظام الواحد مع نموذج المعلم والتضمينات المطلوبة.

  6. المساهمة: اتبع إرشادات المشروع لتقديم تحسينات أو ميزات جديدة.

  • تقطير النماذج
  • تطوير الوكيل
  • نشر الذكاء الاصطناعي على الحافة
  • البحث والتجريب
  • تحسين الأداء

تقييمات hunch

جاري التحميل...

أدوات ذكاء اصطناعي شائعة مثل hunch

Soup

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

llamafile

مستودعات GitHub للذكاء الاصطناعي

Llamafile هي أداة مصممة لتبسيط توزيع وتنفيذ نماذج اللغة الكبيرة (LLMs) باستخدام ملف واحد. تسهل التعاون والتطوير داخل مجتمع Mozilla AI على GitHub.

MLOps ونشر النماذج

المرتبة 142 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

أداة مصممة لتبسيط توزيع وتنفيذ نماذج اللغة الكبيرة (LLMs) باستخدام ملف واحد. تسهل التعاون والتطوير داخل مجتمع Mozilla AI على GitHub.Llamafile هي أداة مصممة لتبسيط توزيع وتنفيذ نماذج اللغة الكبيرة (LLMs) باستخدام ملف واحد. تسهل التعاون والتطوير داخل مجتمع Mozilla AI على GitHub.

MLOps ونشر النماذج
المرتبة 142 في مستودعات GitHub للذكاء الاصطناعي

FlashInfer

مستودعات GitHub للذكاء الاصطناعي

FlashInfer هي مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.FlashInfer هي مكتبة نواة مصممة لخدمة نماذج اللغة الكبيرة (LLMs). تسهل نشر وإدارة LLMs بكفاءة، مما يمكّن المطورين من المساهمة وتعزيز قدراتها من خلال GitHub.

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

BentoML

مستودعات GitHub للذكاء الاصطناعي

BentoML هي منصة مفتوحة المصدر مصممة لتبسيط نشر نماذج وتطبيقات الذكاء الاصطناعي. تتيح للمطورين بناء واجهات برمجة التطبيقات لاستنتاج النماذج، وإدارة قوائم المهام، وإنشاء خطوط أنابيب…

MLOps ونشر النماذج

المرتبة 108 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

منصة مفتوحة المصدر مصممة لتبسيط نشر نماذج وتطبيقات الذكاء الاصطناعي. تتيح للمطورين بناء واجهات برمجة التطبيقات لاستنتاج النماذج، وإدارة قوائم المهام، وإنشاء خطوط أنابيب…BentoML هي منصة مفتوحة المصدر مصممة لتبسيط نشر نماذج وتطبيقات الذكاء الاصطناعي. تتيح للمطورين بناء واجهات برمجة التطبيقات لاستنتاج النماذج، وإدارة قوائم المهام، وإنشاء خطوط أنابيب…

MLOps ونشر النماذج
المرتبة 108 في مستودعات GitHub للذكاء الاصطناعي

PowerInfer

مستودعات GitHub للذكاء الاصطناعي

PowerInfer هو أداة نموذج لغة كبيرة عالية السرعة مصممة للنشر المحلي. تتيح استنتاجًا فعالًا وسريعًا لنماذج اللغة الكبيرة، مما يجعلها مناسبة للمطورين والباحثين الذين يسعون لتنفيذ…

MLOps ونشر النماذج

المرتبة 181 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

أداة نموذج لغة كبيرة عالية السرعة مصممة للنشر المحلي. تتيح استنتاجًا فعالًا وسريعًا لنماذج اللغة الكبيرة، مما يجعلها مناسبة للمطورين والباحثين الذين يسعون لتنفيذ…PowerInfer هو أداة نموذج لغة كبيرة عالية السرعة مصممة للنشر المحلي. تتيح استنتاجًا فعالًا وسريعًا لنماذج اللغة الكبيرة، مما يجعلها مناسبة للمطورين والباحثين الذين يسعون لتنفيذ…

MLOps ونشر النماذج
المرتبة 181 في مستودعات GitHub للذكاء الاصطناعي

Dify

مستودعات GitHub للذكاء الاصطناعي

Dify هي منصة مفتوحة المصدر لتطوير تطبيقات LLM. توفر لوحة مرئية لبناء تدفقات عمل الذكاء الاصطناعي، وخطوط أنابيب RAG، وقدرات الوكيل. مع دعم شامل للنماذج وميزات LLMOps، تتيح النماذج…

أدوات بناء وكلاء الذكاء الاصطناعي

المرتبة 11 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

منصة مفتوحة المصدر لتطوير تطبيقات LLM. توفر لوحة مرئية لبناء تدفقات عمل الذكاء الاصطناعي، وخطوط أنابيب RAG، وقدرات الوكيل. مع دعم شامل للنماذج وميزات LLMOps، تتيح النماذج…Dify هي منصة مفتوحة المصدر لتطوير تطبيقات LLM. توفر لوحة مرئية لبناء تدفقات عمل الذكاء الاصطناعي، وخطوط أنابيب RAG، وقدرات الوكيل. مع دعم شامل للنماذج وميزات LLMOps، تتيح النماذج…

مميزةأدوات بناء وكلاء الذكاء الاصطناعي
المرتبة 11 في مستودعات GitHub للذكاء الاصطناعي

Unsloth

مستودعات GitHub للذكاء الاصطناعي

unslothai/unsloth هي واجهة مستخدم محلية مصممة لتشغيل وتدريب نماذج اللغة الكبيرة (LLMs) ونماذج الانتشار. تدعم مجموعة متنوعة من النماذج بما في ذلك Qwen3.8 وKimi K3 وMiniMax-H3…

MLOps ونشر النماذج

المرتبة 40 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

واجهة مستخدم محلية مصممة لتشغيل وتدريب نماذج اللغة الكبيرة (LLMs) ونماذج الانتشار. تدعم مجموعة متنوعة من النماذج بما في ذلك Qwen3.8 وKimi K3 وMiniMax-H3…unslothai/unsloth هي واجهة مستخدم محلية مصممة لتشغيل وتدريب نماذج اللغة الكبيرة (LLMs) ونماذج الانتشار. تدعم مجموعة متنوعة من النماذج بما في ذلك Qwen3.8 وKimi K3 وMiniMax-H3…

مميزةMLOps ونشر النماذج
المرتبة 40 في مستودعات GitHub للذكاء الاصطناعي

Ollama

مستودعات GitHub للذكاء الاصطناعي

Ollama هي أداة مفتوحة المصدر لتشغيل نماذج اللغة الكبيرة على جهاز الكمبيوتر الخاص بك. تتيح للمطورين تثبيت نماذج مثل Llama وGemma وQwen وDeepSeek بأمر واحد، ثم استخدامها من خلال…

MLOps ونشر النماذج

المرتبة 9 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

أداة مفتوحة المصدر لتشغيل نماذج اللغة الكبيرة على جهاز الكمبيوتر الخاص بك. تتيح للمطورين تثبيت نماذج مثل Llama وGemma وQwen وDeepSeek بأمر واحد، ثم استخدامها من خلال…Ollama هي أداة مفتوحة المصدر لتشغيل نماذج اللغة الكبيرة على جهاز الكمبيوتر الخاص بك. تتيح للمطورين تثبيت نماذج مثل Llama وGemma وQwen وDeepSeek بأمر واحد، ثم استخدامها من خلال…

مميزةMLOps ونشر النماذج
المرتبة 9 في مستودعات GitHub للذكاء الاصطناعي
1 من 8