Description
Calcul Général est un fournisseur d'inférence axé sur la vitesse. Il déploie des modèles AI sur une infrastructure ASIC conçue sur mesure plutôt que sur des GPU, et les expose via une API compatible OpenAI afin que les équipes puissent changer simplement leur URL de base et leur clé API sans réécrire de code. Il annonce un temps jusqu'au premier jeton inférieur à la milliseconde, un débit élevé, et jusqu'à 1 000 jetons par seconde, avec des benchmarks comparant le même modèle exécuté sur Calcul Général par rapport à une référence GPU.
Lire la suite
La plateforme propose trois façons d'exécuter : une API en libre-service avec une facturation basée sur l'utilisation, une capacité dédiée pour les équipes qui ont besoin d'une capacité garantie et d'un support de production, et un service de modèles apportés par l'utilisateur qui exécute des poids privés sur l'infrastructure de Calcul Général. Tous partagent la même interface compatible OpenAI, y compris l'appel d'outils, le mode JSON, les modèles prêts pour le raisonnement et les sémantiques de streaming, permettant aux orchestrateurs existants de continuer à fonctionner. Le trafic de production s'exécute aujourd'hui dans une région des États-Unis, avec des régions dédiées disponibles pour les déploiements d'entreprise.
Calcul Général se positionne comme un fournisseur axé sur la demande et lourd en actifs qui achète, déploie et exploite des silicones spécialisés (tels que SambaNova et Etched Sohu) afin que les clients puissent fonctionner sur des puces qu'ils ne mettraient pas eux-mêmes en rack, vendant le résultat comme inférence. Les nouveaux comptes commencent avec un crédit gratuit, et les plans de paiement à l'utilisation héritent d'une fiabilité de meilleur effort tandis que les niveaux d'entreprise ajoutent des SLA contractuels, des voies d'escalade et une capacité dédiée.
- CatégorieMLOps et déploiement de modèles
- Modèle tarifaireFreemium
- DéploiementCloud
- PlateformesWeb
Fonctionnalités principales de Calcul Général
API d'inférence compatible OpenAI avec migration de l'URL de base
Infrastructure ASIC conçue sur mesure pour une inférence à haute vitesse
Faible temps jusqu'au premier jeton et débit élevé
Appel d'outils, mode JSON, modèles de raisonnement et streaming
API en libre-service, déploiements dédiés et service de modèles apportés par l'utilisateur
Crédit gratuit pour les nouveaux comptes
Niveaux d'entreprise avec SLA contractuels et capacité dédiée
Comment utiliser Calcul Général ?
Obtenez une clé : Inscrivez-vous et recevez une clé API avec un crédit gratuit.
Échangez votre URL de base : Orientez votre SDK compatible OpenAI existant vers Calcul Général.
Exécutez l'inférence : Envoyez des requêtes et utilisez l'appel d'outils, le mode JSON et le streaming comme d'habitude.
Montez en charge : Passez à une capacité dédiée ou apportez votre propre modèle lorsque vous avez besoin d'une capacité garantie.
Cas d'utilisation de Calcul Général
- Agents de codage
- Voix en temps réel et AI interactive
- Inférence à haut débit
- Service de modèles privés
