Description
KOSMO est une plateforme de gestion de l'IA adaptée aux entreprises réglementées, combinant gouvernance de l'IA, observabilité et un bac à sable d'agents IA natif Kubernetes en une seule plateforme. Elle gère les systèmes d'IA à travers quatre couches : Inventaire IA, Surveillance et Observabilité IA, Gouvernance IA et Contrôle des Actions IA.
KOSMO prend en charge les LLM publics, les modèles privés, les serveurs MCP, les agents autonomes et les applications personnalisées, offrant une solution de gestion complète.
La passerelle AI de la plateforme sert de frontière de politique, acheminant chaque appel LLM, MCP et agent à agent à travers elle. Cela garantit que les garde-fous pour le langage toxique, les PII, l'injection de prompt et la conformité aux politiques sont appliqués au niveau de la passerelle. La capsule d'action de KOSMO offre un environnement d'exécution de confinement pour les agents IA, les modèles ou les serveurs MCP, appliquant une autorisation préalable, des baux d'exécution et des identifiants just-in-time.
KOSMO est conçu pour réduire la dépendance aux fournisseurs et aux modèles en se plaçant au-dessus des fournisseurs de modèles et des services cloud. Il expose une API compatible avec OpenAI à travers les modèles pris en charge, permettant des changements de configuration sans réécriture de code. La plateforme est déployable sur Azure, AWS, GCP ou sur site, offrant portabilité et flexibilité.
KOSMO fournit un support robuste pour l'audit et la conformité, enregistrant chaque décision de garde-fou, approbation et dérogation en tant qu'événement avec un horodatage, un acteur, un système et un résultat. Cette piste d'audit couvre des aspects essentiels de la gestion des risques, de la documentation technique et de la transparence, en accord avec les réglementations émergentes sur l'IA.
Les fonctionnalités d'observabilité de la plateforme enregistrent chaque appel IA avec des détails sur le modèle, l'application, l'équipe et les coûts, permettant le suivi et l'optimisation des coûts. Le routeur LLM de KOSMO achemine automatiquement les prompts simples vers des modèles plus petits et moins chers, aidant les entreprises à réduire considérablement leurs coûts. La plateforme est agnostique en matière de modèle, prenant en charge à la fois les LLM publics et privés, ainsi que les modèles de langue ajustés.
Fonctionnalités principales de KOSMO AI Platform
Passerelle IA pour l'application des politiques
Acheminement des appels LLM, MCP et A2A
Bac à sable d'agents IA avec Capsule d'Action
API compatible avec OpenAI
Journalisation d'audit et de conformité
Suivi et optimisation des coûts
Support agnostique aux modèles
Déploiement natif Kubernetes
Comment utiliser KOSMO AI Platform ?
Configurer : Mettre en place la Passerelle IA et les Capsules d'Action
Utiliser : Déployer des modèles et agents IA
Surveiller : Suivre l'utilisation et les coûts de l'IA
Optimiser : Ajuster les configurations pour l'efficacité des coûts
Cas d'utilisation de KOSMO AI Platform
- Gouvernance de l'IA
- Optimisation des Coûts
- Gestion de la Conformité
- Réduction de la Dépendance aux Fournisseurs
- Surveillance de l'IA
