Description
Cloptima est une plateforme de gouvernance de l'IA pour les entreprises, conçue pour gérer et optimiser chaque appel de modèle effectué par une organisation. Elle fonctionne comme une passerelle IA complète, se plaçant directement dans le chemin de la demande pour appliquer des politiques, masquer des données sensibles, réserver des budgets et attribuer des coûts avant qu'un jeton n'atteigne le fournisseur d'IA. Cette approche proactive garantit que les appels bloqués n'engendrent aucun coût et que les données sensibles ne sont jamais divulguées.
Lire la suite
La plateforme offre des garde-fous robustes, permettant aux utilisateurs de définir des règles pour masquer les secrets et les informations personnellement identifiables (PII) des invites. Elle s'intègre également aux principaux scans de sécurité d'Azure, AWS et Google pour prévenir l'injection d'invites et garantir la conformité. Des budgets stricts peuvent être définis avec des limites quotidiennes et mensuelles, des plafonds de jetons par demande et des limites d'alerte uniquement pour les cas d'utilisation expérimentaux, empêchant efficacement les dépassements de budget plutôt que de simplement alerter à ce sujet.
Cloptima améliore l'efficacité grâce à des mécanismes de mise en cache, y compris des caches de réponses exactes et sémantiques qui réduisent les dépenses en jetons et les temps de réponse. Elle dispose également d'une bascule automatique, réessayant les appels échoués et passant sans effort à des fournisseurs alternatifs pour le même modèle, tout en respectant les budgets et les garde-fous établis. La plateforme se vante d'une faible latence, avec des opérations de politique, de garde-fous, de budget et de registre se complétant en un seul passage, atteignant une latence p95 allant jusqu'à 13 ms.
Pour les opérations financières, Cloptima fournit des capacités détaillées de FinOps LLM, attribuant les dépenses par équipe, application, environnement, modèle et champs personnalisés. Cela garantit que les équipes de finance et d'ingénierie travaillent avec des données de coût cohérentes et précises, tarifées à des taux négociés. Elle prend en charge le contrôle des coûts des agents en permettant la gouvernance sur les serveurs et outils MCP que les agents peuvent utiliser, et fournit une visibilité sur les sessions des agents, les réessais, les boucles et les flux de travail de longue durée.
Les options de déploiement incluent une passerelle de périphérie qui peut fonctionner au sein du Cloud Privé Virtuel (VPC) d'un utilisateur, maintenant le trafic local et sous la même politique. Cloptima propose un point de terminaison unique compatible avec les API OpenAI et Anthropic, prenant en charge une large gamme de fournisseurs, y compris OpenAI, Anthropic, Google Gemini/Vertex AI et Amazon Bedrock, avec plus de 248 modèles dans son catalogue. Elle fournit également des outils orientés développeurs comme un serveur MCP et une CLI pour interroger et gérer les données de dépenses et de gouvernance de l'IA de manière programmatique. Cloptima propose un plan gratuit à vie, AI Developer, sans carte de crédit requise, ainsi que des niveaux payants pour des besoins croissants.
- CatégorieOutils DevOps et cloud IA
- Modèle tarifaireFreemium
- DéploiementCloud, VPC
- PlateformesWeb
Fonctionnalités principales de Cloptima
Passerelle IA avec garde-fous et budgets stricts
FinOps LLM au niveau des jetons pour l'analyse des dépenses
Bascule automatique des fournisseurs et réessais
Mise en cache des réponses exactes et sémantiques
Masquage des données sensibles (secrets et PII)
Plafonds de jetons par demande et limites quotidiennes/mensuelles
Registre attribué pour les dépenses par équipe, application, modèle
Gouvernance des outils MCP pour les agents IA
Déploiement de passerelle de périphérie dans le VPC
Point de terminaison unifié pour plusieurs fournisseurs LLM
Application des politiques en temps réel dans le chemin de la demande
Points de terminaison compatibles avec OpenAI et Anthropic
CLI et API REST pour les données de gouvernance
Contrôles de sécurité alignés sur SOC 2
Plan gratuit à vie disponible
Comment utiliser Cloptima ?
Point SDK : Dirigez l'URL de base de votre client vers le point de terminaison de la passerelle Cloptima.
Générer une clé virtuelle : Créez une clé virtuelle au sein de Cloptima pour remplacer votre clé de fournisseur.
Lier la politique : Attachez une politique à votre clé virtuelle pour définir les règles de gouvernance.
Faire le premier appel : Initiez votre première demande de modèle via la passerelle Cloptima.
Surveiller les dépenses : Observez les dépenses, le trafic et les blocs de sécurité se remplissant dans le registre attribué.
Optimiser : Utilisez la mise en cache, la bascule et les contrôles de budget pour optimiser les dépenses et les performances de l'IA.
Cas d'utilisation de Cloptima
- Gouvernance des dépenses IA
- Sécurité des données et masquage des PII
- Contrôle des coûts des agents
- Bascule des fournisseurs de modèles
- Refacturation et affichage des LLM
- Optimisation des performances
- Découverte de l'IA cachée
- Passerelle IA d'entreprise
- Reporting des marges IA
