الوصف
TML-d24-varloop-research هو نموذج بحث متعدد الوسائط تم تطويره بواسطة Thinking Machines Lab, Inc.، مصمم لمعالجة كل من مدخلات النص والصورة وإنتاج مخرجات نصية. تم إصداره في 20 نوفمبر 2026، بموجب ترخيص Apache 2.0، ويعتبر هذا النموذج مساهمة كبيرة في مجال النماذج المتكررة، حيث يقدم بنية ذات حلقات متغيرة على عكس نظيره الثابت، Inkling 2 Mini. يمكن للباحثين ضبط عدد الحلقات ديناميكيًا أثناء الاستدلال، مما يتيح مقارنات أكثر وضوحًا حول كيفية تأثير الحسابات الإضافية على العمليات الداخلية للنموذج وقدراته العامة.
قراءة المزيد
يتم توزيع النموذج كأوزان مفتوحة من خلال Hugging Face، مع حجم نقطة تفتيش واحدة تبلغ حوالي 20 جيجابايت. يتطلب جهازًا بذاكرة GPU أو ذاكرة موحدة لا تقل عن 32 جيجابايت، متوافق مع تكوينات مثل NVIDIA DGX Spark، وNVIDIA GPUs (مثل GeForce RTX 5090 أو RTX PRO 6000 Blackwell)، أو أجهزة Mac بمعالجات Apple silicon. يدعم TML-d24-varloop-research الاستدلال المحلي باستخدام أطر عمل متنوعة، بما في ذلك Hugging Face وSGLang وvLLM وTokenSpeed وNVIDIA Dynamo وUnsloth وllama.cpp وLlama App وOllama وExo Labs. كما يدعم التدريب بعده مع Miles وSkyRL.
من الناحية المعمارية، TML-d24-varloop-research هو محول مكون من 24 طبقة فقط من نوع فك التشفير مع طبقات تغذية أمامية من نوع Mixture-of-Experts (MoE) نادرة. يمكن للطبقات الـ 12 الوسطى العمل عدد متغير من المرات، مع مشاركة الأوزان، وتم تدريبها مع 1 إلى 5 تمريرات. كل طبقة توجه الرموز إلى 8 من 128 خبيرًا، والانتباه هو مزيج من الطبقات المحلية والعالمية. النموذج متعدد الوسائط بشكل أصلي، حيث يقوم بتشفير الصور عبر محول بصري ومعالجتها بشكل مشترك مع النص في مساحة خفية مشتركة. يحتوي على 26.4 مليار معلمة (3.4 مليار نشطة عند 1 تمريرة) ويدعم الأرقام NVFP4 وMXFP8. يتعامل مع نص مشفر بتنسيق UTF-8 ومدخلات صور قائمة على البكسل (من 40 بكسل إلى 4096 بكسل لكل بُعد) مع نافذة سياق تصل إلى 1 مليون رمز.
تشمل بيانات التدريب لـ TML-d24-varloop-research مجموعة واسعة من أنواع المحتوى من مصادر متاحة للجمهور، وعمليات شراء من طرف ثالث، وبيانات تم إنشاؤها داخليًا/اصطناعيًا. تضمنت تنسيق البيانات تنظيفًا وإزالة التكرار وتصفية لضمان الجودة والسلامة. يشارك النموذج تدريبه المسبق والمرحلة الأولى من التدريب المتوسط مع Inkling 2 Mini ولكنه ينحرف في المراحل اللاحقة، خاصة في تدريبه المتغير الحلقات، حيث تم أخذ عينات من 1 إلى 5 تمريرات. بينما تظهر التقييمات أداءً متباينًا مقارنةً بـ Inkling 2 Mini عبر معايير مثل Agentic Coding وVision Interpretation وReasoning، فإنه يُقصد به أساسًا كأداة بحث وليس موصى به للاستخدام في الإنتاج بسبب سلوكياته غير المتوقعة المحتملة عند عدد تمريرات مختلف والقيود العامة الشائعة للنماذج الأساسية، مثل الهلوسة والتحيزات الناتجة عن بيانات التدريب.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشريعمل محليًا
- المنصاتالويب
أبرز ملامح TML-d24-varloop-research
مدخلات متعددة الوسائط: يقبل كل من مدخلات النص والصورة
مخرجات نصية: يولد نصًا بناءً على المدخلات
حلقة متغيرة: يمكن اختيار عدد الطبقات المتكررة في وقت الاستدلال
أوزان مفتوحة: متاحة للتنزيل لدعم البحث
26.4 مليار معلمة: نموذج كبير الحجم مع 3.4 مليار معلمة نشطة عند 1 تمريرة
دعم متعدد اللغات: دعم عام لعدة لغات
ترخيص Apache 2.0: ترخيص مفتوح المصدر للاستخدام والتعديل
دعم الاستدلال المحلي: متوافق مع Hugging Face وSGLang وvLLM وTokenSpeed وNVIDIA Dynamo وUnsloth وllama.cpp وLlama App وOllama وExo Labs
دعم ما بعد التدريب: يمكن تدريبه بعده مع Miles وSkyRL
Mixture-of-Experts (MoE) نادرة: تستخدم طبقات تغذية أمامية من نوع MoE
انتباه هجين: يجمع بين طبقات الانتباه المحلية والعالمية
تعدد الوسائط الأصلي: يتم تشفير الصور عبر محول بصري ومعالجتها بشكل مشترك مع النص
نافذة سياق عالية: تدعم حتى 1 مليون رمز
أرقام دقة مختلطة: تدعم NVFP4 وMXFP8
البدء مع TML-d24-varloop-research
تنزيل الأوزان: الوصول إلى أوزان النموذج من خلال Hugging Face.
تحضير الأجهزة: التأكد من توفر جهاز واحد بذاكرة GPU أو ذاكرة موحدة لا تقل عن 32 جيجابايت.
تثبيت البرمجيات: إعداد أطر الاستدلال المطلوبة مثل Hugging Face وSGLang أو vLLM مع تبعياتها.
تكوين النموذج: تحميل نقطة التفتيش بحجم 20 جيجابايت في إطار العمل المختار.
تعيين تمريرات الحلقة: اختيار العدد المطلوب من الطبقات المتكررة للاستدلال.
تقديم المدخلات: إدخال نص مشفر بتنسيق UTF-8 وصور قائمة على البكسل (أبعاد من 40 بكسل إلى 4096 بكسل) إلى النموذج.
توليد المخرجات: استلام المخرجات النصية من النموذج بناءً على المدخلات المقدمة.
حالات استخدام TML-d24-varloop-research
- البحث متعدد الوسائط
- دراسات النموذج المتكرر
- توليد النص من الصور
- معالجة النصوص متعددة اللغات
- تطوير نموذج بأوزان مفتوحة
- نشر الاستدلال المحلي
- تعديل النموذج









