الوصف
الحوسبة العامة هي مزود استدلال يركز على السرعة. يقوم بنشر نماذج AI على بنية تحتية مصممة خصيصًا باستخدام ASIC بدلاً من وحدات معالجة الرسوميات، ويعرضها من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI حتى تتمكن الفرق من التبديل عن طريق تغيير عنوان URL الأساسي ومفتاح API دون إعادة كتابة الكود. يعلن عن وقت وصول أقل من مللي ثانية لأول رمز، مرورًا عاليًا، وما يصل إلى 1,000 رمز في الثانية، مع مقارنات معيارية بين نفس النموذج الذي يعمل على الحوسبة العامة مقابل خط الأساس لوحدات معالجة الرسوميات.
قراءة المزيد
تقدم المنصة ثلاث طرق للتشغيل: واجهة برمجة تطبيقات ذاتية الخدمة مع استدلال يعتمد على الاستخدام، سعة مخصصة للفرق التي تحتاج إلى سعة مضمونة ودعم إنتاجي، وخدمة نماذج خاصة تعمل على بنية الحوسبة العامة. جميعها تشترك في نفس السطح المتوافق مع OpenAI، بما في ذلك استدعاء الأدوات، وضع JSON، نماذج التفكير، وسمات البث، لذا تظل المنسقات الحالية تعمل. يتم تشغيل حركة المرور الإنتاجية في منطقة أمريكية اليوم، مع مناطق مخصصة متاحة لنشر المؤسسات.
تضع الحوسبة العامة نفسها كمزود يعتمد على الطلب، ويملك أصولًا ثقيلة تشتري وتوزع وتدير السيليكون المتخصص (مثل SambaNova وEtched Sohu) حتى يتمكن العملاء من العمل على الشرائح التي لن يقوموا بتجميعها بأنفسهم، وبيع النتيجة كاستدلال. تبدأ الحسابات الجديدة برصيد مجاني، وتستفيد خطط الدفع حسب الاستخدام من موثوقية أفضل جهد، بينما تضيف مستويات المؤسسات اتفاقيات مستوى الخدمة التعاقدية، ومسارات التصعيد، وسعة مخصصة.
- الفئةMLOps ونشر النماذج
- نموذج التسعيرفريميوم
- النشرسحابي
- المنصاتالويب
الميزات الأساسية لـ الحوسبة العامة
واجهة برمجة تطبيقات استدلال متوافقة مع OpenAI مع ترحيل عنوان URL الأساسي
بنية تحتية مصممة خصيصًا باستخدام ASIC لاستدلال عالي السرعة
وقت منخفض للوصول إلى أول رمز ومرور عالي
استدعاء الأدوات، وضع JSON، نماذج التفكير، والبث
واجهة برمجة تطبيقات ذاتية الخدمة، نشرات مخصصة، وخدمة نماذج خاصة
رصيد مجاني للحسابات الجديدة
مستويات مؤسسية مع اتفاقيات مستوى الخدمة التعاقدية وسعة مخصصة
كيفية استخدام الحوسبة العامة؟
احصل على مفتاح: قم بالتسجيل واستلم مفتاح API مع رصيد مجاني.
قم بتبديل عنوان URL الأساسي: وجه SDK المتوافق مع OpenAI الحالي إلى الحوسبة العامة.
قم بتشغيل الاستدلال: أرسل الطلبات واستخدم استدعاء الأدوات، وضع JSON، والبث كما هو معتاد.
قم بالتوسع: انتقل إلى سعة مخصصة أو احضر نموذجك الخاص عندما تحتاج إلى سعة مضمونة.
حالات استخدام الحوسبة العامة
- وكلاء البرمجة
- الصوت في الوقت الحقيقي والذكاء الاصطناعي التفاعلي
- استدلال عالي المرور
- خدمة نموذج خاص
