الوصف
مصنع رموز نيبيوس هو جزء من سحابة نيبيوس للذكاء الاصطناعي، الذراع الموجهة للمطورين لشركة نيبيوس، وهي شركة بنية تحتية للذكاء الاصطناعي مدرجة في البورصة (NBIS). يقدم نماذج لغوية مفتوحة المصدر من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI، بحيث يمكن أن تشير الشيفرة الموجودة المكتوبة ضد مكتبات عملاء OpenAI إلى مصنع الرموز مع تغييرات طفيفة. تصف نيبيوس المنتج بأنه يغطي الاستدلال في الوقت الحقيقي والدفعات، ونقاط النهاية المخصصة، وSLA الإنتاج، مما يجعله مناسبًا للأحمال التي تتجاوز التجارب الأولية.
قراءة المزيد
تغطي الخدمة كل من البدء السريع وأحمال الإنتاج. يمكن للمطورين استدعاء واجهة برمجة التطبيقات مباشرة، واختبار المطالبات في ملعب، أو توصيلها بالأدوات الموجودة من خلال التكاملات المدعومة مثل LiteLLM وAisuite، والأطر مثل LlamaIndex وLangChain، ومكتبات الوكلاء بما في ذلك Agno وCrewAI. بالنسبة للفرق التي تجاوزت مرحلة النموذج الأولي، يضيف مصنع الرموز نقاط نهاية مخصصة، وتوسيع تلقائي مع توجيه مدرك للتخزين المؤقت، والاستدلال على دفعات لمعالجة كميات كبيرة من الطلبات خارج قيود الوقت الحقيقي.
بجانب تقديم النماذج المدربة مسبقًا كما هي، يدعم مصنع الرموز ما بعد التدريب والتخصيص: يمكن للفرق تحسين النماذج المفتوحة على بياناتهم الخاصة ونشر النماذج المخصصة الناتجة من خلال نفس البنية التحتية. تدعم نيبيوس ذلك بوثائق فنية ومقالات مدونة تغطي مواضيع معمارية مثل لماذا تؤثر نماذج مزيج الخبراء الكبيرة على ميزانيات الكمون، وكيف يغير فك التشفير التخميني تقديم الإنتاج، وكيف يؤثر تصميم التوجيه على الفرق بين التوسع والتوقف تحت الحمل.
يستهدف مصنع الرموز المطورين وفرق الذكاء الاصطناعي التي تبني على نماذج مفتوحة بدلاً من واجهات برمجة التطبيقات المغلقة والملكية. يتناسب مع سحابة نيبيوس الأوسع للذكاء الاصطناعي، التي تقدم آلات افتراضية GPU ومجموعات للفرق التي ترغب في تدريب أو تشغيل أكوامها المخصصة بدلاً من استخدام الاستدلال المدارة. تدير نيبيوس أيضًا برنامج Builder الذي يقدم اعتمادات ودعم، وكتب طبخ مع أمثلة قابلة للتشغيل، وساعات مكتبية مجتمعية، وDiscord للأشخاص الذين يبنون على المنصة، بالإضافة إلى قوائم تشغيل على YouTube تستعرض معمارية مصنع الرموز والمشاريع المجتمعية المبنية عليه.
لم يتم نشر تسعير محدد لاستدلال مصنع الرموز على الصفحة نفسها؛ تسعير سحابة نيبيوس الأوسع للذكاء الاصطناعي يعتمد على الاستخدام ويغطي حالات GPU المستخدمة للتدريب والاستضافة بشكل منفصل عن الاستدلال المدارة لمصنع الرموز.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرمجاني مع ميزات مدفوعة
- النشرسحابي
- المنصاتالويب
الميزات الأساسية لـ مصنع رموز نيبيوس
واجهة برمجة تطبيقات متوافقة مع OpenAI لخدمة النماذج مفتوحة المصدر
استدلال في الوقت الحقيقي للتطبيقات التفاعلية
استدلال دفعات للأحمال الكبيرة وغير التفاعلية
نقاط نهاية مخصصة مع توسيع تلقائي وتوجيه مدرك للتخزين المؤقت
دعم ما بعد التدريب والتخصيص لتخصيص النماذج المفتوحة
تكاملات مع LiteLLM وAisuite وLlamaIndex وLangChain
دعم إطار العمل عبر Agno وCrewAI وPydantic
ملعب تفاعلي لاختبار النماذج قبل التكامل
كيفية استخدام مصنع رموز نيبيوس؟
سجل: أنشئ حساب مصنع الرموز للحصول على وصول إلى واجهة برمجة التطبيقات
احصل على مفتاح واجهة برمجة التطبيقات: أنشئ بيانات الاعتماد من لوحة معلومات مصنع الرموز
اختبر في الملعب: جرب المطالبات وقارن النماذج المفتوحة قبل كتابة الشيفرة
استدعِ واجهة برمجة التطبيقات: وجه الشيفرة الحالية المتوافقة مع OpenAI إلى نقطة نهاية مصنع الرموز
قم بالتوسع: انتقل إلى نقاط نهاية مخصصة أو استدلال دفعات مع زيادة حجم الطلبات
خصص: قم بتحسين نموذج على بياناتك الخاصة باستخدام أدوات ما بعد التدريب
حالات استخدام مصنع رموز نيبيوس
- النمذجة الأولية باستخدام النماذج المفتوحة
- استدلال الإنتاج على نطاق واسع
- معالجة بيانات الدفعات
- نشر نموذج مخصص
