الوصف
Laguna M.1 هو نموذج مزيج من الخبراء (MoE) متطور تم تطويره للبرمجة الوكيلة والمهام طويلة الأمد. مع إجمالي 225 مليار معلمة و23 مليار معلمة مفعلة لكل رمز، تم تصميمه للتعامل مع المهام الحسابية المعقدة بكفاءة. يتكون النموذج من 70 طبقة، بما في ذلك 67 طبقة MoE نادرة مع 256 خبيرًا، ويستخدم آلية توجيه خبراء عالية السعة. يسمح هذا التصميم بتوجيه top-k=16 وتوازن تحميل خالٍ من الخسائر الإضافية، مما يعزز كفاءته الحسابية.
قراءة المزيد
يستخدم النموذج بنية انتباه عالمية عبر جميع الطبقات، مع 64 رأس Q و8 رؤوس KV، مع بوابة مخرجات انتباه softplus. يدعم هذا الإعداد قدرات التفكير الأصلية، مما يمكّن من التفكير المتداخل بين استدعاءات الأدوات، والتي يمكن تمكينها أو تعطيلها لكل طلب. يظهر Laguna M.1 أداءً قويًا على عدة معايير، بما في ذلك SWE-bench Verified وSWE-bench Multilingual وSWE-Bench Pro وTerminal-Bench 2.0، مما يجعله تنافسيًا مع النماذج الرائدة في هذا المجال.
يتم ترخيص Laguna M.1 بموجب رخصة Apache 2.0، مما يسمح بالاستخدام والتعديل المجاني للأغراض التجارية وغير التجارية. يتم دعمه من قبل منصات مختلفة، بما في ذلك vLLM وSGLang وTransformers وTRT-LLM، بفضل التعاون مع NVIDIA. تم تصميم النموذج لحالات استخدام هندسة البرمجيات والبرمجة الوكيلة، مع التركيز على الحفاظ على التفكير في تاريخ الرسائل لتحسين الأداء.
يمكن للمستخدمين نشر Laguna M.1 محليًا باستخدام vLLM أو SGLang، مع دعم لاستدعاء الأدوات، واستجابات البث، وتحليل التفكير. النموذج متاح أيضًا بصيغ كمية، مثل FP8 وNVFP4، لتلبية احتياجات النشر المختلفة. لأولئك المهتمين باستكشاف قدراته، يمكن الوصول إلى Laguna M.1 من خلال منصات مثل vLLM وSGLang، مع توفر إرشادات نشر مفصلة في الوثائق الخاصة بهم.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب, macOS, Linux
أبرز ملامح Laguna M.1
225 مليار معلمة إجمالية
23 مليار معلمة مفعلة لكل رمز
محول MoE مكون من 70 طبقة
256 خبيرًا مع توجيه top-k=16
بنية انتباه عالمية
دعم التفكير الأصلي
رخصة Apache 2.0
أداء قوي في المعايير
البدء مع Laguna M.1
الوصول إلى صفحة النموذج: زيارة صفحة Hugging Face لـ Laguna M.1
المصادقة: الحصول على مفتاح API للوصول
التكوين: إعداد النموذج مع المعلمات المطلوبة
إرسال المطالبات: استخدام النموذج لمهام النص إلى نص
التعديل الدقيق: ضبط النموذج لحالات الاستخدام المحددة
حالات استخدام Laguna M.1
- البرمجة الوكيلة
- المهام طويلة الأمد
- اختبار المعايير
- تكامل الأدوات
- البحث والتطوير
