الوصف
يمثل Meena تقدمًا كبيرًا في مجال الذكاء الاصطناعي للمحادثات مفتوحة النطاق، حيث يعالج العيب الحرج لروبوتات الدردشة الحالية التي غالبًا ما تفتقر إلى المنطقية والتحديد. تم تطوير هذا النموذج العصبي المدرب بالكامل من طرف إلى طرف بمعاملات 2.6 مليار بواسطة Google Research، وهو مصمم للدردشة حول أي شيء تقريبًا يرغب فيه المستخدم، متجاوزًا قيود روبوتات الدردشة المتخصصة.
في جوهره، يستخدم Meena بنية Evolved Transformer seq2seq، وهو تنوع تم اكتشافه من خلال البحث التطوري عن البنية العصبية لتحسين الحيرة (perplexity). يتكون النموذج من كتلة مشفر (encoder) واحدة لمعالجة سياق المحادثة و 13 كتلة مفكك (decoder) لتوليد الردود. تسمح هذه البنية لـ Meena بفهم أدوار الحوار السابقة وصياغة ردود ذات صلة. يركز هدف التدريب على تقليل الحيرة، وهي مقياس لعدم اليقين في التنبؤ بالكلمة التالية في المحادثة. من خلال الضبط الشامل للمعاملات الفائقة، وجد الباحثون أن مفككًا أقوى كان حاسمًا لتعزيز جودة المحادثة.
يتم تنظيم المحادثات لتدريب Meena في سلاسل شجرية، مع اعتبار كل رد دورًا. يتم استخراج أمثلة التدريب كمسارات عبر هذه السلاسل، وعادةً ما تستخدم سبعة أدوار من السياق لموازنة عمق السياق مع قيود الذاكرة. تم تدريب Meena على 341 جيجابايت من بيانات النص المفلترة من محادثات وسائل التواصل الاجتماعي العامة. والجدير بالذكر أنه يتمتع بسعة نموذج أكبر بـ 1.7 مرة وتم تدريبه على بيانات أكثر بـ 8.5 مرات من GPT-2 من OpenAI، وهو نموذج توليدي رائد في ذلك الوقت.
لتقييم أداء Meena، تم تقديم مقياس تقييم بشري جديد يسمى متوسط المنطقية والتحديد (Sensibleness and Specificity Average - SSA). يلتقط SSA مدى معقولية ومدى ملاءمة سياق ردود روبوت الدردشة. من خلال المحادثات المجمعة مع Meena وروبوتات الدردشة الأخرى مثل Mitsuku و Cleverbot و XiaoIce و DialoGPT، أظهر Meena درجات SSA فائقة، مقتربًا من مستويات الأداء البشري. علاوة على ذلك، اكتشف الباحثون ارتباطًا قويًا بين الحيرة و SSA، مما يشير إلى أن الحيرة يمكن أن تكون مقياسًا تلقائيًا موثوقًا لتقييم جودة المحادثة، مما يسرع التطوير المستقبلي.
بينما يظهر Meena وعدًا، تركز الأبحاث المستمرة على تقليل الحيرة بشكل أكبر، واستكشاف سمات مثل الشخصية والواقعية، ومعالجة السلامة والتحيز بشكل نقدي. يقوم الفريق بتقييم المخاطر والفوائد المحتملة لإصدار نقطة فحص النموذج لتعزيز المزيد من البحث في هذا المجال.
أبرز ملامح Meena Conversational Agent
نموذج محادثة عصبي مدرب بالكامل من طرف إلى طرف
2.6 مليار معامل
بنية Evolved Transformer seq2seq
كتلة مشفر واحدة لمعالجة السياق
13 كتلة مفكك لتوليد الردود
تم تدريبه على 341 جيجابايت من محادثات وسائل التواصل الاجتماعي
يقلل الحيرة كهدف تدريبي
يحقق درجات عالية في متوسط المنطقية والتحديد (SSA)
ارتباط قوي بين الحيرة و SSA
مصمم للحوار مفتوح النطاق
البدء مع Meena Conversational Agent
الوصول إلى النموذج: استخدم نموذج Meena من خلال تنفيذه البحثي.
إعداد البيئة: جهز الموارد الحسابية والمكتبات اللازمة.
التكامل عبر API: اتصل بواجهة النموذج لإدخال وإخراج المحادثات.
توفير سياق المحادثة: أدخل أدوار الحوار السابقة ليقوم النموذج بمعالجتها.
توليد الرد: استقبل رد النموذج الذي تم إنشاؤه للسياق المقدم.
تقييم المخرجات: قم بتقييم منطقية وتحديد الردود التي تم إنشاؤها.
حالات استخدام Meena Conversational Agent
- الدردشة مفتوحة النطاق
- ممارسة اللغة
- الترفيه التفاعلي
- التفاعل بين الإنسان والحاسوب
- منصة بحث الذكاء الاصطناعي







