الحوسبة العامة

الوصف

الحوسبة العامة هي مزود استدلال يركز على السرعة. يقوم بنشر نماذج AI على بنية تحتية مصممة خصيصًا باستخدام ASIC بدلاً من وحدات معالجة الرسوميات، ويعرضها من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI حتى تتمكن الفرق من التبديل عن طريق تغيير عنوان URL الأساسي ومفتاح API دون إعادة كتابة الكود. يعلن عن وقت وصول أقل من مللي ثانية لأول رمز، مرورًا عاليًا، وما يصل إلى 1,000 رمز في الثانية، مع مقارنات معيارية بين نفس النموذج الذي يعمل على الحوسبة العامة مقابل خط الأساس لوحدات معالجة الرسوميات.

تقدم المنصة ثلاث طرق للتشغيل: واجهة برمجة تطبيقات ذاتية الخدمة مع استدلال يعتمد على الاستخدام، سعة مخصصة للفرق التي تحتاج إلى سعة مضمونة ودعم إنتاجي، وخدمة نماذج خاصة تعمل على بنية الحوسبة العامة. جميعها تشترك في نفس السطح المتوافق مع OpenAI، بما في ذلك استدعاء الأدوات، وضع JSON، نماذج التفكير، وسمات البث، لذا تظل المنسقات الحالية تعمل. يتم تشغيل حركة المرور الإنتاجية في منطقة أمريكية اليوم، مع مناطق مخصصة متاحة لنشر المؤسسات.

تضع الحوسبة العامة نفسها كمزود يعتمد على الطلب، ويملك أصولًا ثقيلة تشتري وتوزع وتدير السيليكون المتخصص (مثل SambaNova وEtched Sohu) حتى يتمكن العملاء من العمل على الشرائح التي لن يقوموا بتجميعها بأنفسهم، وبيع النتيجة كاستدلال. تبدأ الحسابات الجديدة برصيد مجاني، وتستفيد خطط الدفع حسب الاستخدام من موثوقية أفضل جهد، بينما تضيف مستويات المؤسسات اتفاقيات مستوى الخدمة التعاقدية، ومسارات التصعيد، وسعة مخصصة.

الميزات الأساسية لـ الحوسبة العامة

• واجهة برمجة تطبيقات استدلال متوافقة مع OpenAI مع ترحيل عنوان URL الأساسي

• بنية تحتية مصممة خصيصًا باستخدام ASIC لاستدلال عالي السرعة

• وقت منخفض للوصول إلى أول رمز ومرور عالي

• استدعاء الأدوات، وضع JSON، نماذج التفكير، والبث

• واجهة برمجة تطبيقات ذاتية الخدمة، نشرات مخصصة، وخدمة نماذج خاصة

• رصيد مجاني للحسابات الجديدة

• مستويات مؤسسية مع اتفاقيات مستوى الخدمة التعاقدية وسعة مخصصة

كيفية استخدام الحوسبة العامة؟

1. 1

   احصل على مفتاح: قم بالتسجيل واستلم مفتاح API مع رصيد مجاني.

2. 2

   قم بتبديل عنوان URL الأساسي: وجه SDK المتوافق مع OpenAI الحالي إلى الحوسبة العامة.

3. 3

   قم بتشغيل الاستدلال: أرسل الطلبات واستخدم استدعاء الأدوات، وضع JSON، والبث كما هو معتاد.

4. 4

   قم بالتوسع: انتقل إلى سعة مخصصة أو احضر نموذجك الخاص عندما تحتاج إلى سعة مضمونة.

حالات استخدام الحوسبة العامة

• وكلاء البرمجة
• الصوت في الوقت الحقيقي والذكاء الاصطناعي التفاعلي
• استدلال عالي المرور
• خدمة نموذج خاص

الأسئلة الشائعة من الحوسبة العامة

• ما هي الحوسبة العامة؟

  إنه مزود استدلال يقدم نماذج AI على بنية تحتية مصممة خصيصًا باستخدام ASIC من خلال واجهة برمجة تطبيقات متوافقة مع OpenAI، يركز على السرعة العالية.

• كيف يمكنني الانتقال إليه؟

  إنه متوافق مع OpenAI، لذا يمكنك تغيير عنوان URL الأساسي وتبديل مفتاح API الخاص بك مع الاحتفاظ بكودك الحالي.

• ما الأداء الذي يقدمه؟

  يعلن عن وقت وصول أقل من مللي ثانية لأول رمز، مرورًا عاليًا، وما يصل إلى 1,000 رمز في الثانية، مع مقارنات معيارية متساوية ضد خطوط الأساس لوحدات معالجة الرسوميات.

• ما خيارات النشر المتاحة؟

  واجهة برمجة تطبيقات ذاتية الخدمة تعتمد على الاستخدام، سعة مخصصة لأحمال العمل الإنتاجية، وخدمة نماذج خاصة للأوزان الخاصة.

• هل هناك رصيد مجاني؟

  نعم. تحصل الحسابات الجديدة على رصيد مجاني لبدء البناء.

• ماذا عن ضمانات الموثوقية؟

  تستفيد خطط الدفع حسب الاستخدام من موثوقية أفضل جهد، بينما تشمل مستويات المؤسسات اتفاقيات مستوى الخدمة التعاقدية، ومسارات التصعيد، وسعة مخصصة.