الوصف
LiquidAI LFM2.5-2.6B هو جزء من عائلة LFM2.5، وهي سلسلة من النماذج الهجينة المصممة للنشر على الأجهزة. بناءً على بنية LFM2، يتميز بوجود نافذة سياق بحجم 128K وتدريب وكيل بعد التدريب، مما يجعله تنافسيًا مع النماذج التي تعادل أربعة أضعاف حجمه في استخدام الأدوات، واتباع التعليمات، والمهام الوكيلة متعددة الخطوات.
قراءة المزيد
تم تدريب النموذج باستخدام التعلم المعزز الوكيل، مما يعزز توافقه مع أحزمة الوكيل الشائعة.
يتميز النموذج بقدرات استدلال فعالة، حيث يحقق 220 توكن في الثانية على جهاز Apple M5 Max و113 توكن في الثانية على معالج AMD Ryzen، وكل ذلك ضمن بصمة ذاكرة تقل عن 2.5 جيجابايت. إنه نموذج نصي عام فقط يحتوي على 2.69 مليار معلمة، و30 طبقة، وحجم مفردات يبلغ 128,000. يدعم النموذج مجموعة واسعة من اللغات، بما في ذلك الإنجليزية، والعربية، والصينية، والفرنسية، وغيرها.
LFM2.5-2.6B متاح بتنسيقات متنوعة، مثل النموذج الأساسي للتخصيص، وتنسيق مُقَدر للاستدلال على وحدة المعالجة المركزية، وتنسيق ONNX Runtime للنشر عبر المنصات. تم تحسينه لاستدلال سريع على Apple Silicon باستخدام إطار MLX ويدعم فك التشفير التخميني للحصول على مخرجات أسرع.
يوصى باستخدام النموذج في أحمال العمل الوكيلة، واستخدام الأدوات، واستخراج البيانات، وسير العمل طويل السياق، على الرغم من أنه ليس مثاليًا للبرمجة الوكيلة والمهام التي تتطلب معرفة كثيفة. يدعم استدعاء الوظائف في سير العمل الوكيل، مما يسمح بالتكامل السلس في الأنظمة القائمة. يُشجع على التخصيص لتحقيق نتائج مثلى لحالات الاستخدام المحددة.
تم تقييم LFM2.5-2.6B مقابل نماذج أخرى أقل من 10B، مما يظهر أداءً تنافسيًا عبر مقاييس متنوعة. تتيح بنية النموذج الفعالة استدلالًا سريعًا على وحدة المعالجة المركزية ووحدة معالجة الرسوميات، مما يجعله مناسبًا لمجموعة واسعة من التطبيقات.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب, macOS, Windows
أبرز ملامح LiquidAI LFM2.5-2.6B
نموذج هجين للنشر على الأجهزة
نافذة سياق بحجم 128K
تدريب وكيل بعد التدريب
استدلال فعال
2.69 مليار معلمة
يدعم عدة لغات
متاح بتنسيقات متنوعة
محسّن لـ Apple Silicon
البدء مع LiquidAI LFM2.5-2.6B
الوصول إلى صفحة النموذج: زيارة موقع Hugging Face
المصادقة: تسجيل الدخول إلى حساب Hugging Face الخاص بك
التكوين: إعداد النموذج لحالة الاستخدام الخاصة بك
إرسال المطالبات: استخدام النموذج للاستدلال أو سير العمل الوكيل
حالات استخدام LiquidAI LFM2.5-2.6B
- سير العمل الوكيل
- استخراج البيانات
- استخدام الأدوات
- المهام طويلة السياق
- النشر عبر المنصات
