الوصف
MetaEncoder v1 هو نموذج قوي لاستخراج الميزات تم تطويره بواسطة Facebook، ويحتوي على 28 مليار معلمة. مستضاف على Hugging Face، يوفر حلاً قويًا للمطورين والباحثين الذين يعملون مع أنواع البيانات المعقدة. تم تصميم النموذج لسهولة الاستخدام، ويتطلب `transformers>=5.15` و80 جيجابايت من وحدة معالجة الرسوميات لتحقيق الأداء الأمثل بدقة bf16.
قراءة المزيد
في جوهره، يقدم MetaEncoder v1 ثلاث وظائف رئيسية: `encode` و`retrieve` و`decide`. تتيح وظيفة `encode` للمستخدمين تضمين مدخلات متنوعة—مثل السلاسل النصية، وصور PIL، أو القواميس التي تحتوي على نصوص، وصور، أو إطارات فيديو—في مصفوفة (n، 6656) من نوع float32. يتم تطبيع هذه التضمينات باستخدام L2 ويمكن استخدامها للتخزين أو التجميع أو مهام المقارنة. النموذج حساس للتعليمات، مما يعني أن نفس المدخل يمكن تضمينه بشكل مختلف بناءً على السياق المقدم، مما يعزز قابليته للتكيف مع حالات الاستخدام المحددة.
تم تصميم وظيفة `retrieve` لتصنيف مجموعة مقابل استفسار معين. يمكن للمستخدمين تمرير استفسار ومجموعة (إما قائمة من العناصر أو مصفوفة مشفرة مسبقًا) مع تعليمات اختيارية لكليهما. تعيد قائمة من كائنات `Hit`، مرتبة من الأفضل إلى الأول، مما يجعلها مثالية لتطبيقات البحث واسترجاع المعلومات. هذه القدرة فعالة بشكل خاص للمجموعات الكبيرة، حيث يمكن تشفير المجموعة مرة واحدة ثم البحث فيها بشكل متكرر.
أخيرًا، تتيح وظيفة `decide` للنموذج الإجابة على أسئلة بأسلوب Jev حول حالة معينة. يمكن أن تكون هذه الحالة سلسلة نصية أو أي قيمة JSON، مصحوبة اختياريًا بصور أو فيديو. يتم هيكلة الأسئلة بأنواع مثل 'noul' (نعم/لا)، 'choice' (خيارات متعددة)، أو 'score' (مستويات مرتبة)، كل منها مع تعليمات ومعايير محددة. يوفر النموذج إجابات مع احتمالات، ودرجات ثقة، وتشابهات كوسينوس خام. تتوفر أيضًا وظيفة `decide_batch` لمعالجة حالات متعددة في وقت واحد، وتسمح ميزة المعايرة للمستخدمين بضبط درجة حرارة النموذج لتناسب بياناتهم المحددة لتحسين الدقة.
ميزة رئيسية في MetaEncoder v1 هي تنسيق المطالبات الداخلي، الذي يلغي الحاجة للمستخدمين لكتابة المطالبات يدويًا. يضمن الغلاف تنسيق المدخلات تمامًا كما كانت أثناء التدريب، مما يحافظ على الاتساق ويسهل التكامل. يشمل ذلك التعامل مع دور النظام والمستخدم، وترميز الصور والفيديو، والتجميع. بالنسبة للمستخدمين المتقدمين، يمكن الوصول المباشر إلى `modeling_metaencoder.py` لتجاوز الغلاف لتنسيق المطالبات المخصصة والتجميع، مما يوفر مرونة مع الاستفادة من القدرات الأساسية للنموذج.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- النشرسحابي
- المنصاتHugging Face
أبرز ملامح MetaEncoder v1
نموذج استخراج الميزات
28 مليار معلمة
تضمين المدخلات (encode)
تصنيف المجموعة مقابل الاستفسار (retrieve)
الإجابة على أسئلة بأسلوب Jev (decide)
يدعم المدخلات النصية والصور والفيديو
تنسيق المطالبات الداخلي
تضمين قائم على التعليمات
معالجة قرارات الدفعات
معايرة النموذج لتناسب درجة الحرارة
تضمينات L2-Normalized
لا حاجة لكتابة المطالبات يدويًا
متوافق مع transformers>=5.15
يتطلب 80 جيجابايت من وحدة معالجة الرسوميات (bf16)
الوصول المباشر إلى النمذجة للتخصيص
البدء مع MetaEncoder v1
الوصول إلى النموذج: انتقل إلى صفحة facebook/meta-encoder-v1 على Hugging Face.
إعداد البيئة: تأكد من تثبيت `transformers>=5.15` وتوفر 80 جيجابايت من وحدة معالجة الرسوميات لدقة bf16.
تضمين المدخلات: استخدم استدعاء `encode(inputs, instruction=None)` لإنشاء تضمينات للنصوص أو الصور أو الفيديو.
استرجاع المعلومات: استخدم `retrieve(query, corpus, top_k=None, query_instruction=None, corpus_instruction=None)` لتصنيف مجموعة مقابل استفسار.
اتخاذ القرارات: استخدم `decide(state, questions, images=None, video=None)` للإجابة على الأسئلة المنظمة حول حالة معينة.
معايرة النموذج: لتحسين الدقة، استخدم `model.calibrate(answers, labels)` مع مجموعة بيانات موسومة لضبط درجة الحرارة.
حالات استخدام MetaEncoder v1
- استرجاع المعلومات
- تجميع البيانات
- البحث الدلالي
- أنظمة الإجابة على الأسئلة
- فهم المحتوى
- معالجة البيانات متعددة الوسائط
- أنظمة دعم القرار







