الوصف
Needle 3 هو نموذج أساسي تم تطويره بواسطة Cactus Compute، مُحسّن للأجهزة المحمولة، والأجهزة القابلة للارتداء، والروبوتات، وأنظمة المنزل الذكي، وتطبيقات السيارات، ووحدات التحكم الدقيقة. النموذج مدمج، بحجم ملف يتراوح بين 8 إلى 29 ميجابايت، مما يسمح له بتجاوز النماذج الأكبر في مهام معينة على المنصات المحمولة. يركز Needle 3 على ثلاث وظائف رئيسية: استدعاءات الأدوات، والاستخراج المنظم، وتضمين النصوص.
قراءة المزيد
تتيح استدعاءات الأدوات للنموذج اختيار الوظائف المناسبة من التطبيق وملء المعاملات بناءً على إدخال المستخدم. يضمن ذلك تنفيذ المهام بدقة دون تخمين، حيث يوفر قائمة فارغة عند عدم توفر أداة مناسبة. يسمح الاستخراج المنظم للمستخدمين بتعريف شكل واستلام حقول مكتوبة من نص غير منظم، مثل الفواتير أو الإشعارات، مع ضمان دقة التحليل.
يولد تضمين النصوص متجهات للجمل، مما يسهل البحث المحلي، والمطابقة، والتوجيه داخل التطبيقات. بالإضافة إلى ذلك، يدعم Needle 3 قدرات تحويل الكلام إلى نص من خلال التكامل مع نموذج Whistle، مما يمكّن من النسخ والتفاعل مع الأدوات بعدة لغات.
تتضمن بنية النموذج، المعروفة باسم شبكة الانتباه البسيطة المتدرجة، تقنيات متقدمة مثل Monarch Hadamard MLP، وانتباه GQA، وذاكرة n-gram، مما يضمن أداءً فعالاً عبر أعماق مختلفة. Needle 3 قابل للتخصيص، مما يسمح بالتعديل الدقيق للتطبيقات المحددة، ويدعم النشر عبر منصات متعددة، بما في ذلك Python، وC API، وبيئات المتصفح.
تقدم Cactus Compute أدلة شاملة لتصميم الأدوات، واستغلال درجات الثقة، وتعديل النموذج. يمكن للمستخدمين الوصول إلى النموذج ومكوناته عبر GitHub وموقع Cactus Compute، مما يضمن تكاملًا ونشرًا سهلاً.
- الفئةنماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة
- نموذج التسعيرمفتوح المصدر
- النشرسحابي, استضافة ذاتية
- المنصاتالويب
أبرز ملامح Needle 3
استدعاءات الأدوات
الاستخراج المنظم
تضمين النصوص
تكامل تحويل الكلام إلى نص
شبكة الانتباه البسيطة المتدرجة
تعديل دقيق قابل للتخصيص
نشر متعدد المنصات
حجم نموذج مدمج
البدء مع Needle 3
الوصول إلى صفحة النموذج: زيارة صفحة Needle 3 على Hugging Face.
المصادقة: التأكد من أن لديك وصولاً إلى مستودع النموذج.
التكوين: إعداد معلمات النموذج والبيئة.
إرسال المطالبات: استخدام النموذج لاستدعاءات الأدوات والاستخراج.
التعديل الدقيق: تخصيص النموذج للتطبيقات المحددة.
حالات استخدام Needle 3
- استدعاءات الأدوات المحمولة
- استخراج النصوص
- البحث المحلي
- نسخ الكلام
- ذكاء اصطناعي مدمج
