الوصف
نموذج Qwen1.5-110B هو جزء من سلسلة Qwen1.5، وهو إصدار تجريبي من Qwen2، مصمم كنموذج لغوي يعتمد على المحولات فقط. تم تدريبه مسبقًا على مجموعة بيانات كبيرة، مما يوفر تحسينات كبيرة مقارنة بالإصدارات السابقة. النموذج متاح بأحجام مختلفة، بما في ذلك النموذج الكثيف 110B، ويتميز بدعم متعدد اللغات في كل من النماذج الأساسية ونماذج الدردشة. من التحسينات الملحوظة دعمه الثابت لطول سياق يبلغ 32K عبر جميع أحجام النموذج، وهو أمر حاسم للتعامل مع مدخلات بيانات واسعة.
تستند بنية النموذج إلى إطار عمل المحولات، وتدمج ميزات متقدمة مثل تفعيل SwiGLU، وتحامل QKV، ومزيج من آليات الانتباه المتحركة والانتباه الكامل. تسهم هذه الابتكارات في أدائه المتفوق، خاصة في تطبيقات الدردشة. يتضمن النموذج أيضًا مُحسِّنًا محسنًا يتكيف مع عدة لغات طبيعية وأكواد، مما يعزز من مرونته.
تم دمج Qwen1.5-110B في أحدث محولات Hugging Face، ويتطلب إصدارًا أدنى من 4.37.0 لتجنب الأخطاء. يُنصح المستخدمون بتطبيق تقنيات ما بعد التدريب مثل SFT، وRLHF، أو الاستمرار في التدريب المسبق للحصول على أفضل نتائج في توليد النصوص. تم تنزيل النموذج 635 مرة في الشهر الماضي، مما يدل على شعبيته المتزايدة بين المطورين والباحثين.
هذا النموذج مناسب بشكل خاص للباحثين والمطورين في مجال الذكاء الاصطناعي الذين يبحثون عن نموذج لغوي متعدد اللغات قوي مع قدرات متقدمة. تتماشى طبيعته مفتوحة المصدر مع المهمة الرامية إلى ديمقراطية الذكاء الاصطناعي من خلال العلوم المفتوحة، مما يجعله متاحًا لمجموعة واسعة من التطبيقات.
أبرز ملامح نموذج Qwen1.5-110B
بنية تعتمد على المحولات
دعم متعدد اللغات
طول سياق ثابت 32K
تفعيل SwiGLU
تحامل QKV
انتباه استعلام جماعي
آلية الانتباه المتحركة والانتباه الكامل
مُحسِّن محسن
البدء مع نموذج Qwen1.5-110B
الوصول إلى الصفحة: زيارة صفحة نموذج Hugging Face
تحميل النموذج: تنزيل Qwen1.5-110B
تكوين البيئة: التأكد من أن المحولات>=4.37.0
الدمج: الاستخدام في تطبيقات الذكاء الاصطناعي
التعديل الدقيق: تطبيق تقنيات ما بعد التدريب
حالات استخدام نموذج Qwen1.5-110B
- الدردشة متعددة اللغات
- توليد نصوص متقدمة
- بحث الذكاء الاصطناعي
- معالجة اللغة الطبيعية
- تحليل الشيفرة










