الوصف
نموذج all-mpnet-base-v2 هو نموذج قوي لتحويل الجمل تم تطويره بواسطة Hugging Face. تم تصميمه لرسم الجمل والفقرات في فضاء متجهات كثيف بعدد أبعاد 768، مما يجعله مناسبًا لمهام معالجة اللغة الطبيعية المختلفة مثل التجميع والبحث الدلالي.
قراءة المزيد
هذا النموذج مبني على نموذج microsoft/mpnet-base المدرب مسبقًا وقد تم تحسينه على مجموعة بيانات ضخمة تتكون من أكثر من مليار زوج من الجمل. استخدم عملية التدريب هدف تعلم تبايني ذاتي الإشراف، مما سمح للنموذج بتعلم تضمينات جمل فعالة. تضمنت عملية التحسين حساب تشابه كوساين بين أزواج الجمل وتطبيق خسارة الانتروبيا المتقاطعة لتحسين أداء النموذج.
الاستخدام المقصود من all-mpnet-base-v2 هو كترميز للجمل والفقرات القصيرة. عند تزويده بنص مدخل، يقوم النموذج بإخراج متجه يلتقط المعلومات الدلالية للنص المدخل. هذه القدرة مفيدة بشكل خاص لاسترجاع المعلومات، والتجميع، وتقييم تشابه الجمل. ومن الجدير بالذكر أن النموذج يقوم بتقصير النص المدخل الذي يتجاوز 384 قطعة كلمة للحفاظ على الكفاءة.
تم إجراء تدريب هذا النموذج باستخدام بنية تحتية متقدمة للأجهزة، بما في ذلك 7 وحدات TPU v3-8، واستفاد من التعاون مع خبراء في أطر التعلم العميق. تم تفصيل بنية النموذج وإجراءات التدريب في الوثائق المرفقة، مما يضمن أن المستخدمين يمكنهم الاستفادة بشكل فعال من قدراته لتطبيقاتهم.
بشكل عام، يمثل all-mpnet-base-v2 تقدمًا كبيرًا في مجال تضمينات الجمل، حيث يوفر أداة قوية للمطورين والباحثين الذين يتطلعون إلى تعزيز مشاريعهم في معالجة اللغة الطبيعية.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي
- المنصاتالويب
أبرز ملامح all-mpnet-base-v2
نموذج تضمين الجمل
متجهات بعدد أبعاد 768
تم تحسينه على 1 مليار زوج من الجمل
هدف التعلم التبايني
تقصير المدخلات الطويلة
يدعم مهام التجميع
قدرات البحث الدلالي
حل استدلال سريع
البدء مع all-mpnet-base-v2
الوصول إلى صفحة Hugging Face: انتقل إلى صفحة نموذج all-mpnet-base-v2 على Hugging Face.
تحميل النموذج: استخدم مكتبة sentence-transformers لتحميل نموذج all-mpnet-base-v2.
تكوين البيئة: تأكد من إعداد بيئتك مع الاعتماديات اللازمة، بما في ذلك JAX/Flax.
التكامل: نفذ النموذج في تطبيقك لترميز الجمل.
تحسين: اختياريًا، قم بتحسين النموذج على مجموعة بياناتك الخاصة لتحسين الأداء.
حالات استخدام all-mpnet-base-v2
- البحث الدلالي
- التجميع
- استرجاع المعلومات
- تشابه الجمل
- تصنيف النص
