تخطَّ إلى المحتوى الرئيسي
ToolPotion
مستشار الذكاء الاصطناعي
إرسال (مجاني)

TensorFold

TensorFold هو محرك استدلال LLM مفتوح المصدر مصمم للحوسبة عالية الأداء عبر منصات الأجهزة المختلفة. يدعم Metal وCUDA وVulkan، مما يوفر حلاً مرنًا لنشر نماذج اللغة الكبيرة. يركز المشروع على التنفيذ الفعال ويقدم أدوات للتطوير والنشر، مما يجعله مناسبًا للباحثين والمطورين الذين يعملون مع نماذج الذكاء الاصطناعي المتقدمة.

عرض المستودع
مشاركة
عرض المستودع
مشاركة

TensorFold هو مشروع مفتوح المصدر مستضاف على GitHub، يعمل كمحرك استدلال LLM (نموذج اللغة الكبير). تم تصميمه لتوفير تنفيذ عالي الأداء لنماذج اللغة الكبيرة عبر هياكل الأجهزة المتنوعة، مع دعم خاص لـ Metal وCUDA وVulkan. تتيح هذه التوافقية الواسعة للمطورين نشر وتشغيل LLMs بكفاءة على مجموعة من الأجهزة، من الأجهزة المدعومة بـ Metal من Apple إلى وحدات معالجة الرسوميات المدعومة بـ CUDA من NVIDIA وغيرها من الأجهزة التي تدعم واجهة برمجة التطبيقات Vulkan.

قراءة المزيد

يتم تطوير المشروع بنشاط، مع التزام حديث يشير إلى تحسينات مستمرة وإضافات للميزات. يتضمن مكونات لمختلف جوانب نشر LLM، مثل إعداد نقاط التحقق والصور، وواجهات برمجة التطبيقات الخاصة بالمنظم للتحكم عن بعد، وأدوات للتقييم والتسجيل على وحدات معالجة الرسوميات المختلفة. يهدف TensorFold إلى تقديم أساس قوي ومرن لدمج قدرات LLM في التطبيقات والأنظمة.

تم تصميم بنية TensorFold لتسهيل تطوير وتعبئة أوقات تشغيل LLM. يوفر وثائق لتحسين الأداء وأدلة للتقييم. تتضمن هيكلية المستودع أدلة لشفرة التطبيق، والأصول، والوثائق، وأدوات التعبئة، ومكونات الويب، مما يشير إلى نظام بيئي شامل لبناء ونشر حلول قائمة على LLM. يتميز المشروع أيضًا بمعاينة محرك Zig، مما يدل على التركيز على الأداء الأصلي وقدرات الخادم لنماذج مثل Nemotron 3.5 LLM.

مع تركيزه على التطوير مفتوح المصدر ودعمه لعدة واجهات استدلال، يضع TensorFold نفسه كموارد قيمة لمجتمع الذكاء الاصطناعي. يمكّن الباحثين والمهندسين من تجربة ونشر نماذج اللغة الكبيرة دون أن يكونوا مقيدين بموردي الأجهزة المحددين، مما يعزز الوصول الأوسع والابتكار في مجال استدلال الذكاء الاصطناعي.

  • الفئةMLOps ونشر النماذج
  • نموذج التسعيرمفتوح المصدر
  • النشرسحابي, استضافة ذاتية
  • المنصاتالويب

  • محرك استدلال LLM

  • يدعم Metal لأجهزة Apple

  • يدعم CUDA لوحدات معالجة الرسوميات NVIDIA

  • يدعم Vulkan لتوافق واسع مع وحدات معالجة الرسوميات

  • مستودع مفتوح المصدر على GitHub

  • أدوات لإعداد نقاط التحقق والصور

  • واجهة برمجة التطبيقات للتحكم عن بعد للمنظم

  • نشر تلقائي لوقت التشغيل على سطح المكتب للإصدارات المستقرة

  • أدوات مرجعية نصية وتسجيل غير مرتبطة بوحدات معالجة الرسوميات

  • محرك Metal أصلي ومعاينة خادم لنموذج Nemotron 3.5 LLM

  • وثائق شاملة لتحسين الأداء والتقييم

  • ترخيص Apache-2.0

  • تكامل محرك Python (TensorFold 1.0.0)

  • مهارات طلب سحب وكيل المساهمين

  1. استنساخ المستودع: احصل على المشروع عن طريق استنساخ مستودع TensorFold على GitHub إلى جهازك المحلي.

  2. تثبيت التبعيات: قم بإعداد بيئة البناء اللازمة وتثبيت أي تبعيات مطلوبة كما هو موضح في وثائق المشروع.

  3. بناء المحرك: قم بتجميع محرك TensorFold لجهازك المستهدف (Metal أو CUDA أو Vulkan) باستخدام سكريبتات البناء المقدمة.

  4. تكوين النماذج: أعد نقاط التحقق والصور الخاصة بـ LLM وفقًا لإرشادات المشروع للاستدلال.

  5. تشغيل الاستدلال: نفذ مهام استدلال LLM باستخدام محرك TensorFold، مستفيدًا من أدائه المحسن لواجهة البرمجة الخلفية التي اخترتها.

  6. تطوير التطبيقات: دمج TensorFold في تطبيقاتك باستخدام واجهاته وأدواته لبناء حلول مخصصة مدعومة بـ LLM.

  7. المساهمة: شارك مع مجتمع المصدر المفتوح من خلال المساهمة في تطوير المشروع أو وثائقه أو جهوده في الاختبار.

  • استدلال LLM عالي الأداء
  • نشر الذكاء الاصطناعي عبر الأنظمة
  • تطوير نماذج الذكاء الاصطناعي
  • البحث والتجريب
  • بناء تطبيقات مخصصة لـ LLM
  • معالجة النصوص المعجلة بواسطة GPU

تقييمات TensorFold

جاري التحميل...

أدوات ذكاء اصطناعي شائعة مثل TensorFold

TensorRT-LLM

مستودعات GitHub للذكاء الاصطناعي

يوفر TensorRT-LLM واجهة برمجة تطبيقات بايثون لتعريف نماذج اللغة الكبيرة، وتحسين الاستدلال على وحدات معالجة الرسومات من NVIDIA. ويتضمن مكونات لإنشاء بيئات تشغيل بايثون وC++ لتنظيم…

منصّات تعلّم الآلة

المرتبة 74 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

يوفر TensorRT-LLM واجهة برمجة تطبيقات بايثون لتعريف نماذج اللغة الكبيرة، وتحسين الاستدلال على وحدات معالجة الرسومات من NVIDIA. ويتضمن مكونات لإنشاء بيئات تشغيل بايثون وC++ لتنظيم…

منصّات تعلّم الآلة
المرتبة 74 في مستودعات GitHub للذكاء الاصطناعي

Soup

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

حساء هو مستودع على GitHub يمكّن من تحسين نماذج اللغة الكبيرة (LLMs) باستخدام ملف YAML واحد. يستخدم تقنية تدفق الطبقات لتدريب نموذج يحتوي على 8 مليار معلمة على وحدة معالجة…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

AirLLM

مستودعات GitHub للذكاء الاصطناعي

AirLLM هو مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…

MLOps ونشر النماذج

المرتبة 73 في تعلّم الآلة وعلم البيانات

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…AirLLM هو مشروع على GitHub يمكّن من استنتاج 70 مليار معلمة باستخدام وحدة معالجة رسومات واحدة بسعة 4 جيجابايت. تم تصميمه لتحسين أداء نماذج اللغة الكبيرة على الأجهزة المحدودة، مما…

MLOps ونشر النماذج
المرتبة 73 في تعلّم الآلة وعلم البيانات

trnrt

مستودعات GitHub للذكاء الاصطناعي

trnrt هو محرك استدلال LLM مفتوح المصدر مصمم لـ AWS Trainium، ويقدم نوى NKI العملاقة ويدعم سياقًا مكونًا من 1M توكن. تم تطويره بواسطة RunAnywhere، ويوفر واجهة برمجة تطبيقات متوافقة…

MLOps ونشر النماذج

المرتبة 160 في MLOps ونشر النماذج

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال LLM مفتوح المصدر مصمم لـ AWS Trainium، ويقدم نوى NKI العملاقة ويدعم سياقًا مكونًا من 1M توكن. تم تطويره بواسطة RunAnywhere، ويوفر واجهة برمجة تطبيقات متوافقة…trnrt هو محرك استدلال LLM مفتوح المصدر مصمم لـ AWS Trainium، ويقدم نوى NKI العملاقة ويدعم سياقًا مكونًا من 1M توكن. تم تطويره بواسطة RunAnywhere، ويوفر واجهة برمجة تطبيقات متوافقة…

MLOps ونشر النماذج
المرتبة 160 في MLOps ونشر النماذج

vLLM

مستودعات GitHub للذكاء الاصطناعي

vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

MLOps ونشر النماذج

المرتبة 23 في مستودعات GitHub للذكاء الاصطناعي

عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…vllm-project/vllm هو محرك استدلال وخدمة عالي الإنتاجية وفعال من حيث الذاكرة مصمم لنماذج اللغة الكبيرة (LLMs). يقوم بتحسين الأداء مع تقليل استخدام الموارد، مما يجعله مناسبًا…

مميزةMLOps ونشر النماذج
المرتبة 23 في مستودعات GitHub للذكاء الاصطناعي

mlc-llm

مستودعات GitHub للذكاء الاصطناعي

mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.mlc-llm هو محرك نشر LLM عالمي يستخدم تجميع التعلم الآلي لتبسيط عملية النشر. تم تصميمه لتعزيز كفاءة وقابلية توسيع نشر نماذج اللغة الكبيرة عبر منصات متنوعة.

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

TensorFlow

مستودعات GitHub للذكاء الاصطناعي

TensorFlow هو إطار عمل مفتوح المصدر لتعلم الآلة مصمم للجميع. يوفر نظامًا بيئيًا شاملاً لبناء ونشر نماذج تعلم الآلة، مما يجعله متاحًا للمطورين والباحثين على حد سواء.

منصّات تعلّم الآلة
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

إطار عمل مفتوح المصدر لتعلم الآلة مصمم للجميع. يوفر نظامًا بيئيًا شاملاً لبناء ونشر نماذج تعلم الآلة، مما يجعله متاحًا للمطورين والباحثين على حد سواء.TensorFlow هو إطار عمل مفتوح المصدر لتعلم الآلة مصمم للجميع. يوفر نظامًا بيئيًا شاملاً لبناء ونشر نماذج تعلم الآلة، مما يجعله متاحًا للمطورين والباحثين على حد سواء.

مميزةمنصّات تعلّم الآلة
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي

llama-modchip

مستودعات GitHub للذكاء الاصطناعي

llama-modchip هو مشروع على GitHub يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة مثل 284B DeepSeek-V4-Flash و30B MoEs على معالج CPU بسعة 64GB بدون وحدات معالجة رسومية. يدعم معدلات…

MLOps ونشر النماذج
عرض الأداة

مستودعات GitHub للذكاء الاصطناعي

مشروع على GitHub يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة مثل 284B DeepSeek-V4-Flash و30B MoEs على معالج CPU بسعة 64GB بدون وحدات معالجة رسومية. يدعم معدلات…llama-modchip هو مشروع على GitHub يمكّن المستخدمين من تشغيل نماذج اللغة الكبيرة مثل 284B DeepSeek-V4-Flash و30B MoEs على معالج CPU بسعة 64GB بدون وحدات معالجة رسومية. يدعم معدلات…

MLOps ونشر النماذج
عرض أفضل 250 من مستودعات GitHub للذكاء الاصطناعي
1 من 8