bigscience/bloom

الوصف

BLOOM، الذي تم تطويره بواسطة BigScience، هو نموذج لغوي كبير يعتمد على التوليد الذاتي (LLM) مصمم لتقدم وتعميم الذكاء الاصطناعي من خلال المصادر المفتوحة والعلوم المفتوحة. تم إصداره في 11 يوليو 2022، هذا النموذج قادر على إنشاء نصوص متماسكة عبر 46 لغة طبيعية و13 لغة برمجة، مما يجعله أداة متعددة الاستخدامات لتطبيقات متنوعة في معالجة اللغة الطبيعية.

تعتمد بنية BLOOM على نموذج المحولات، المعدل من Megatron-LM GPT2. يحتوي على 176 مليار معلمة، مع 70 طبقة و112 رأس انتباه، مما يسمح له بمعالجة وإنشاء النصوص بشكل فعال. تم تدريب النموذج على مجموعة بيانات كبيرة بحجم 1.6 تيرابايت من النصوص المعالجة مسبقًا، والتي تشمل 350 مليار رمز فريد. يمكّن هذا التدريب الواسع BLOOM من أداء مهام إنشاء النصوص، بما في ذلك استخراج المعلومات، والإجابة على الأسئلة، والتلخيص، حتى بالنسبة للمهام التي لم يتم تدريبه عليها بشكل صريح.

BLOOM مخصص للبحث العام في نماذج اللغة الكبيرة، مما يجعله متاحًا للباحثين والمعلمين والمطورين. يمكن دمجه بسهولة في التطبيقات باستخدام نظام Hugging Face، ويتطلب تثبيت مكتبات المحولات والتسريع. تشمل المستخدمين المستهدفين للنموذج الجمهور العام، والباحثين، والطلاب، والمهندسين، من بين آخرين. ومع ذلك، من المهم ملاحظة أنه لا ينبغي استخدام النموذج في البيئات ذات المخاطر العالية أو لاتخاذ القرارات الحرجة، حيث قد ينتج عنه مخرجات تبدو واقعية ولكن يمكن أن تكون غير صحيحة.

تم إجراء تدريب BLOOM على الحاسوب العمومي جان زاي، باستخدام 384 وحدة معالجة رسومية A100 بسعة 80 جيجابايت، وتم تمويله من قبل الحكومة الفرنسية. يتم التخفيف من الأثر البيئي لعملية التدريب من خلال استخدام الطاقة النووية، حيث يتم إعادة استخدام الحرارة الناتجة لتدفئة المساكن الجامعية. بشكل عام، يمثل BLOOM خطوة كبيرة إلى الأمام في مجال الذكاء الاصطناعي، حيث يوفر أداة قوية لإنشاء اللغة والبحث.

أبرز ملامح bigscience/bloom

• نوع النموذج: نموذج لغوي يعتمد على المحولات

• المعلمات: 176 مليار

• اللغات المدعومة: 46 لغة طبيعية، 13 لغة برمجة

• الرخصة: رخصة RAIL v1.0

• تاريخ الإصدار: 11 يوليو 2022

• حجم بيانات التدريب: 1.6 تيرابايت

• رموز التدريب: 350 مليار رمز فريد

• البنية التحتية للحوسبة: الحاسوب العمومي جان زاي

البدء مع bigscience/bloom

1. 1

   الوصول إلى الصفحة: زيارة موقع Hugging Face الخاص بـ BLOOM.

2. 2

   تحميل النموذج: تنزيل نموذج BLOOM باستخدام مكتبة المحولات من Hugging Face.

3. 3

   تكوين البيئة: التأكد من تثبيت المحولات والتسريع في بيئتك.

4. 4

   الدمج: استخدام النموذج لمهام إنشاء النصوص حسب الحاجة.

5. 5

   التخصيص: تخصيص النموذج بشكل اختياري لتطبيقات محددة.

حالات استخدام bigscience/bloom

• إنشاء النصوص
• استخراج المعلومات
• الإجابة على الأسئلة
• التلخيص
• البحث اللغوي

الأسئلة الشائعة من bigscience/bloom

• ما هو BLOOM؟

  BLOOM هو نموذج لغوي كبير متعدد اللغات يعتمد على التوليد الذاتي تم تطويره بواسطة BigScience.

• كم عدد اللغات التي يدعمها BLOOM؟

  يدعم BLOOM 46 لغة طبيعية و13 لغة برمجة.

• ما هو حجم بيانات التدريب لـ BLOOM؟

  تم تدريب BLOOM على 1.6 تيرابايت من النصوص المعالجة مسبقًا.

• ما هو تاريخ إصدار BLOOM؟

  تم إصدار BLOOM في 11 يوليو 2022.

• ما نوع الرخصة التي يمتلكها BLOOM؟

  BLOOM مرخص بموجب رخصة RAIL v1.0.

• من الذي طور BLOOM؟

  تم تطوير BLOOM بواسطة BigScience.

• ما هو الغرض من BLOOM؟

  BLOOM مخصص للبحث العام في نماذج اللغة الكبيرة.

• هل يمكن استخدام BLOOM في اتخاذ القرارات الحرجة؟

  لا، لا ينبغي استخدام BLOOM في البيئات ذات المخاطر العالية أو لاتخاذ القرارات الحرجة.