الوصف
نموذج NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 هو نموذج لغوي كبير متطور تم تطويره بواسطة NVIDIA. يتميز بهندسة هجينة تجمع بين MoE وMamba-2 وآليات الانتباه، مع إجمالي 30 مليار معلمة، منها 3 مليارات نشطة. يعمل النموذج بدقة BF16، مما يضمن دقة عالية في معالجة المهام.
قراءة المزيد
يدعم النموذج طول سياق يصل إلى 1 مليون توكن عند نشره على وحدة معالجة الرسوميات H100 واحدة، مما يجعله مناسبًا للتعامل مع مدخلات بيانات واسعة.
تم تصميم النموذج ليكون قابلًا للتخصيص بدرجة عالية، حيث يدعم تقنيات ما بعد التدريب مثل التخصيص تحت الإشراف، والتعلم المعزز، والتقطير. تتيح هذه المرونة للمستخدمين تكييف النموذج مع مجالات محددة، وإنشاء نسخ مضغوطة، وإجراء البحث والتقييم بدقة كاملة. يعد نموذج NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 مناسبًا بشكل خاص للمهام التي تتطلب تفكيرًا موسعًا ومعالجة بيانات معقدة.
يدعم النموذج عدة لغات، بما في ذلك الإنجليزية، الإسبانية، الفرنسية، الألمانية، الإيطالية، واليابانية، بالإضافة إلى لغات البرمجة المختلفة. تم تحسينه للنشر على أجهزة NVIDIA، بما في ذلك وحدات معالجة الرسوميات من سلسلة Blackwell وHopper وAmpere. يتضمن النموذج أيضًا قدرات فك تشفير تخمينية لنشره في مراكز البيانات ذات التزامن المنخفض، مما يعزز كفاءته في حالات الاستخدام المحددة.
تم إصداره بموجب اتفاقية ترخيص OpenMDW النسخة 1.1، نموذج NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 متاح للنشر العالمي. إنه مثالي للمنظمات التي تسعى للاستفادة من قدرات الذكاء الاصطناعي المتقدمة للتخصيص، والتكيف مع المجالات، والبحث عالي الدقة.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتالويب
أبرز ملامح NVIDIA Nemotron 3.5 Lightning 30B A3B BF16
30 مليار معلمة
دقة BF16
هندسة هجينة MoE وMamba-2 وآليات الانتباه
يدعم حتى 1 مليون توكن
قابل للتخصيص بعد التدريب
يدعم عدة لغات
محسن لأجهزة NVIDIA
قدرات فك تشفير تخمينية
البدء مع NVIDIA Nemotron 3.5 Lightning 30B A3B BF16
الوصول إلى صفحة النموذج: زيارة صفحة نموذج Hugging Face
المصادقة: تسجيل الدخول إلى حساب Hugging Face الخاص بك
التكوين: إعداد النموذج مع المعلمات المطلوبة
إرسال المطالبات: إدخال البيانات للمعالجة
التخصيص: تخصيص النموذج لمهام محددة
حالات استخدام NVIDIA Nemotron 3.5 Lightning 30B A3B BF16
- التكيف مع المجالات
- البحث والتقييم
- التخصيص
- الدعم متعدد اللغات
- فك التشفير التخمني
