الوصف
NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 هو نموذج لغوي كبير تم تطويره بواسطة NVIDIA، ويستخدم هندسة GPT العادية (المخفية المتكررة). تم تصميم هذا النموذج للتعامل مع مهام التفكير العام مع الحفاظ على بصمة حسابية صغيرة. يتميز بانتباه نافذة منزلقة متداخلة (SWA) وطبقات انتباه كاملة، مما يسمح له بمعالجة ما يصل إلى 256K توكن في طول السياق.
قراءة المزيد
النموذج مبني بـ 4 مليارات معلمة ويستخدم دقة BF16، مما يجعله مناسبًا للتطبيقات التجارية وغير التجارية. يدعم معالجة اللغة الإنجليزية وهو الأنسب للمهام التي تتطلب قدرات تفكير عامة. تسمح هندسة النموذج بالحوسبة المرنة للاستدلال، مما يمكّن المستخدمين من ضبط عدد الحلقات لتحقيق التوازن بين الكفاءة الحسابية والدقة دون الحاجة إلى إعادة التدريب.
تم تدريب Dory1.0-4B-BF16 مسبقًا باستخدام تنسيق NVFP4 من NVIDIA قبل الاستمرار في BF16، مما يضمن أداءً عاليًا على أنظمة تسريع GPU من NVIDIA. يتوفر النموذج بعدة تنسيقات، بما في ذلك BF16 وMXFP8 وNVFP4 وQ5_K_M، مما يوفر مرونة في النشر عبر تكوينات الأجهزة المختلفة.
شمل تدريب النموذج 6 تريليون توكن، مع التركيز على مجالات متنوعة مثل الرياضيات والعلوم والمعرفة العامة. خضع للتدريب الدقيق تحت إشراف وتعلم التعزيز لتعزيز أدائه في استخدام الأدوات متعددة الخطوات، واتباع التعليمات، وبيئات المخرجات المنظمة. تظهر معايير النموذج أداءً تنافسياً عبر مهام متنوعة، بما في ذلك البرمجة والتفكير واتباع التعليمات.
NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 يخضع لاتفاقية ترخيص OpenMDW، الإصدار 1.1، وتم إصداره في 16 أكتوبر 2026. تم تصميمه للعمل بشكل مثالي على هندستي Hopper وBlackwell من NVIDIA، مع دعم أنظمة تشغيل Linux.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتLinux
أبرز ملامح NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
هندسة مخفية متكررة
انتباه نافذة منزلقة متداخل
طول سياق 256K توكن
دقة BF16
حوسبة استدلال مرنة
تدريب مسبق أصلي NVFP4
تكرار موفر للذاكرة
اتفاقية ترخيص OpenMDW
البدء مع NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
الوصول إلى صفحة النموذج: زيارة صفحة نموذج Hugging Face لـ NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16.
المصادقة: تأكد من أن لديك بيانات الاعتماد اللازمة للوصول إلى النموذج.
التكوين: إعداد معلمات النموذج، بما في ذلك عدد الحلقات وإعدادات ذاكرة KV.
إرسال المطالبات: إدخال تسلسلات نصية إلى النموذج للمعالجة.
التدريب الدقيق: ضبط إعدادات النموذج لمهام محددة إذا لزم الأمر.
حالات استخدام NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
- التفكير العام
- مهام البرمجة
- اتباع التعليمات
- معالجة السياق الطويل
- البحث العلمي
