الوصف
Beam 1.0 DFlash2 هو نموذج مسودة يعمل بالتعاون مع نموذج Beam اللغوي، حيث يقدم نهجًا فريدًا لمعالجة اللغة من خلال فك التشفير التخميني. هذا النموذج ليس مستقلًا؛ بل يعمل كمسودة، حيث يقوم بتوليد كتلة من الرموز في تمريرة واحدة للأمام مع الحفاظ على أفضل المرشحين في كل موضع. ثم يختار محدد صغير المسار الأمثل من بين هؤلاء المرشحين. تتضمن بنية النموذج خمس طبقات بحجم مخفي يبلغ 5120، ويستخدم التلافيف الديناميكية ذات النقرات المزدوجة لمنع تدهور الدقة نحو نهاية الكتلة.
قراءة المزيد
تقوم المسودة بالتكييف على الحالات المخفية من Beam، مع إعادة استخدام تضمين Beam المجمد ورأس نموذج اللغة. يتميز النموذج بالاهتمام بالسياق من خلال نافذة منزلقة بحجم 4096 رمزًا، مما يضمن عدم زيادة تكاليف المسودة مع طول السياق. مع 1.93 مليار معلمة، يتم تدريب Beam 1.0 DFlash2 بحجم كتلة يبلغ 16، على الرغم من أن حجم 8 موصى به للخدمة.
فيما يتعلق بالأداء، يظهر Beam 1.0 DFlash2 نتائج مثيرة للإعجاب عبر مجموعة متنوعة من المعايير، بما في ذلك GSM8K وMATH-500 وHumanEval وMBPP وMT-Bench. يختلف طول قبول النموذج مع طول المطالبة، مع الحفاظ على الكفاءة حتى مع السياقات الطويلة. بالإضافة إلى ذلك، يقدم النموذج تسريعًا كبيرًا في فك التشفير، حيث تزداد الرموز الناتجة في الثانية بشكل كبير عبر مستويات مختلفة من التوازي.
تم تصميم Beam 1.0 DFlash2 للتكامل مع Beam في تنسيقات bf16 وFP8 أو NVFP4، باستخدام وصفات مثل SGLang وvLLM وTokenSpeed. هذا النموذج مناسب بشكل خاص للتطبيقات التي تتطلب دقة وكفاءة عالية في معالجة اللغة، مما يجعله أداة قيمة للمطورين والباحثين في مجال الذكاء الاصطناعي.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- النشرسحابي
- المنصاتالويب
أبرز ملامح Beam 1.0 DFlash2
خادم فك التشفير التخميني
مسودة الرموز مع اختيار أفضل المرشحين
تلافيف ديناميكية ذات نقرات مزدوجة
اهتمام نافذة منزلقة بحجم 4096 رمزًا
1.93 مليار معلمة
بنية من خمس طبقات
التكامل مع تضمين Beam المجمد
دعم تنسيقات bf16 وFP8 وNVFP4
البدء مع Beam 1.0 DFlash2
الوصول إلى النموذج: زيارة Hugging Face
المصادقة: استخدام بيانات الاعتماد الخاصة بك
إعداد البيئة: تكوين النظام لـ Beam
التكامل عبر API: الاتصال باستخدام الوصفات المقدمة
تحسين: ضبط الإعدادات للأداء
حالات استخدام Beam 1.0 DFlash2
- معالجة اللغة
- مسودة الرموز
- الاهتمام السياقي
- بحث الذكاء الاصطناعي
- تكامل النموذج










