الوصف
نموذج NVIDIA Nemotron 3.5 Bolt 74B هو نموذج لغوي كبير متطور يدمج بنية هجينة من Mamba-2–Transformer مع مشفر رؤية C-RADIO v4-H. يتميز بإجمالي 74 مليار معلمة، مع 9 مليارات نشطة، ويعمل بدقة BF16 للأوزان بدقة كاملة. يمكن للنموذج التعامل مع أطوال سياق تصل إلى 256K توكن، ويدعم المدخلات النصية والصورية والفيديو، وينتج مخرجات نصية. يتم نشره على أجهزة NVIDIA من نوع Ampere أو Hopper أو Blackwell، مستخدمًا vLLM لعمليات فعالة.
قراءة المزيد
تم تحسين النموذج للتشفير التخميني من خلال مُعدّ LiLiCorr عبر DFlash، مما يولد سبعة توكنات تخمينية في الوصفات المقدمة من vLLM. يتميز بوضع تفكير مع عناصر تحكم قالب الدردشة، الموروثة من عميل Super 3.5 VL، وهو الأنسب للتخصيص وما بعد التدريب، وإنشاء نسخ كمية لمهام وكيلة محلية. الإعدادات الموصى بها لأخذ العينات للنص هي درجة حرارة 1.0 وtop_p 0.95.
نموذج NVIDIA Nemotron 3.5 Bolt 74B مرخص بموجب OpenMDW-1.1، مما يضمن الوصول المفتوح لمزيد من التطوير والتكامل. تم تقييم النموذج عبر اختبارات مختلفة، بما في ذلك GDPVal-AA-V2 وTerminal-Bench 2.1 وغيرها، مما يظهر مقاييس أداء تنافسية. إنه فعال بشكل خاص في المهام التي تتطلب تفاعلات متعددة الأدوار وقد أظهر تحسينات في قدرات استخدام MCP.
تتضمن منهجية التدريب بيئات وكيلة متعددة مع استهداف GRPO E2E الكامل لمهام MCP وSWE. تعتمد أساسيات النموذج على مجموعة بيانات Nemotron 3، التي تشمل مجموعات بيانات مثل Nemotron-CC-v2 وNemotron-Pretraining-Code-v1، من بين أخرى. تأكدت NVIDIA من عدم استخدام أي بيانات مصدرها المستخدم في التدريب، مما يحافظ على الخصوصية وسلامة البيانات.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرNVIDIA Ampere, Hopper, Blackwell
- المنصاتالويب
أبرز ملامح NVIDIA Nemotron 3.5 Bolt 74B
بنية هجينة من Mamba-2–Transformer
مشفر رؤية C-RADIO v4-H
74 مليار معلمة
دقة BF16
طول السياق يصل إلى 256K توكن
التشفير التخميني مع مُعدّ LiLiCorr
وضع التفكير مع عناصر تحكم قالب الدردشة
ترخيص OpenMDW-1.1
البدء مع NVIDIA Nemotron 3.5 Bolt 74B
الوصول إلى صفحة النموذج: قم بزيارة صفحة نموذج Hugging Face لنموذج NVIDIA Nemotron 3.5 Bolt 74B.
المصادقة: تأكد من أن لديك بيانات الاعتماد اللازمة للوصول إلى النموذج.
التكوين: قم بإعداد معلمات النموذج والبيئة وفقًا لاحتياجاتك.
إرسال المطالبات: أدخل بيانات نصية أو صورية أو فيديو إلى النموذج للمعالجة.
التخصيص: خصص النموذج لمهام أو تطبيقات محددة.
حالات استخدام NVIDIA Nemotron 3.5 Bolt 74B
- التخصيص
- ما بعد التدريب
- نسخ كمية
- تفاعلات متعددة الأدوار
- معالجة النصوص
