الوصف
RunInfra يتيح للمطورين استدعاء نماذج الذكاء الاصطناعي مفتوحة المصدر من خلال API واحد متوافق مع OpenAI وAnthropic، بدلاً من استضافة وتحسين بنية النموذج بأنفسهم.
قراءة المزيد
RunInfra يستضيف مكتبة صغيرة من النماذج المفتوحة، بما في ذلك Nemotron 3.5 Lightning 30B وQwen3.8 27B وOrnith 1.5 35B في وقت كتابة هذه السطور، خلف بوابة واحدة، يمكن الوصول إليها باستخدام SDKs الخاصة بـ OpenAI أو Anthropic من خلال توجيه عنوان URL الأساسي إلى API الخاص بـ RunInfra. يتم احتساب الطلبات حسب عدد الرموز المدخلة والمخرجة، مع سعر منفصل وأقل لرموز الإدخال المخزنة مؤقتًا. لتحسين معدلات التخزين المؤقت، يستخدم RunInfra توجيهًا واعيًا للجلسة: حيث يحتفظ بجلسة وكيل معينة مرتبطة بنفس النسخة الخلفية عبر المكالمات المتكررة، بحيث تظل السياقات التي تم تحميلها مسبقًا دافئة، بدلاً من الهبوط على نسخة عشوائية في كل مرة. يتم قياس ونشر معدلات نجاح التخزين المؤقت لكل نموذج، حيث تتجاوز 95% لبعض النماذج في نافذة 24 ساعة حديثة، ويتم احتساب النجاحات بسعر التخزين المؤقت، على الرغم من أن الشركة تصف نجاحات التخزين المؤقت بأنها جهد أفضل.
تشمل القدرات الرئيسية واجهة API لإكمال الدردشة متوافقة مع OpenAI وAnthropic؛ تسعير لكل نموذج مع نشر معدلات نجاح التخزين المؤقت ومؤشرات سرعة المخرجات؛ استدعاء الأدوات، وضع JSON، البث، ودعم إدخال الصور حسب النموذج؛ واجهة سطر الأوامر التي تربط نماذج RunInfra المستضافة بوكلاء الترميز بما في ذلك Claude Code وCodex وOpenCode وCline وDroid وGrok Build؛ وخيار طلب نموذج لنماذج لم يتم استضافتها بعد.
يتم احتساب استخدام النموذج حسب الرمز، على سبيل المثال 0.05 دولار لكل مليون رمز مدخل و0.15 دولار لكل مليون رمز مخرج لنموذج مستضاف واحد، مع احتساب الإدخال المخزن مؤقتًا بشكل منفصل بسعر أقل، يصل إلى 0.01 دولار لكل مليون رمز مخزن مؤقتًا. تبدأ خطط وكيل الترميز من 10 دولارات في الشهر.
فيما يتعلق بالأمان، يذكر RunInfra أن واجهات API للنماذج المستضافة لا تخزن المطالبات بشكل افتراضي (عدم الاحتفاظ بالبيانات)، وتشفّر البيانات باستخدام TLS أثناء النقل وAES-256 أثناء الراحة، وتقدم مساحات عمل مع أدوار وأمان على مستوى الصف، ولا تتدرب على مطالبات العملاء أو الإكمالات، وتحمل شهادة SOC 2 Type II.
تم بناء RunInfra للمطورين والفرق التي تبني وكلاء ذكاء اصطناعي أو سير عمل لوكلاء الترميز الذين يرغبون في استنتاج النماذج المفتوحة دون إدارة بنية GPU الخاصة بهم؛ الشركة، التي هي جزء من RightNow، مدعومة من Y Combinator. مكتبتها للنماذج المستضافة صغيرة، ثلاثة نماذج في وقت البحث، على الرغم من وجود خيار طلب نموذج للفرق التي تحتاج إلى شيء آخر.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرالدفع حسب الاستخدام
- النشرمدار ومضيف ذاتي
- المنصاتسحابي
الميزات الأساسية لـ RunInfra
مفتاح API واحد متوافق مع كل من SDKs الخاصة بـ OpenAI وAnthropic
يستضيف نماذج مفتوحة بما في ذلك Nemotron وQwen وOrnith
توجيه واعٍ للجلسة يحافظ على مكالمات الوكيل المتكررة على نفس النسخة الدافئة
تسعير منشور لكل نموذج، ومعدل نجاح التخزين المؤقت، ومؤشرات سرعة المخرجات
استدعاء الأدوات، وضع JSON، البث، ودعم إدخال الصور حسب النموذج
تكامل واجهة سطر الأوامر مع وكلاء الترميز بما في ذلك Claude Code وCodex وOpenCode وCline وDroid وGrok Build
عدم الاحتفاظ بالمطالبات بشكل افتراضي، مع شهادة SOC 2 Type II
مساحات عمل مع أدوار وأمان على مستوى الصف
كيفية استخدام RunInfra؟
احصل على مفتاح API: قم بالتسجيل في RunInfra وولّد مفتاح API للبوابة
وجه SDK الخاص بك إلى RunInfra: قم بتعيين عنوان URL الأساسي إلى نقطة النهاية الخاصة بـ RunInfra في SDK الخاص بـ OpenAI أو Anthropic
اختر نموذجًا: اختر من مكتبة النماذج المستضافة بناءً على القدرة والسعر
استدعِ النموذج: أرسل طلبات إكمال الدردشة باستخدام كود SDK الحالي لديك
قم بتوصيل وكلاء الترميز: قم بتثبيت واجهة سطر الأوامر الخاصة بـ RunInfra لتوجيه الوكلاء مثل Claude Code أو Cline إلى نماذج RunInfra المستضافة
راقب التكلفة ونجاحات التخزين المؤقت: تحقق من التسعير المنشور ومعدل نجاح التخزين المؤقت لكل نموذج لإدارة الإنفاق
حالات استخدام RunInfra
- الوصول إلى API للنماذج المفتوحة
- استنتاج وكيل الذكاء الاصطناعي
- خلفية وكيل الترميز
