Descripción
KOSMO es una plataforma de gestión de IA adaptada para empresas reguladas, que combina gobernanza de IA, observabilidad y un sandbox nativo de agentes de IA en una sola plataforma. Gestiona sistemas de IA a través de cuatro capas: Inventario de IA, Monitoreo y Observabilidad de IA, Gobernanza de IA y Control de Acción de IA. KOSMO admite LLM públicos, modelos privados, servidores MCP, agentes autónomos y aplicaciones personalizadas, proporcionando una solución integral de gestión.
El AI Gateway de la plataforma actúa como un límite de políticas, dirigiendo cada LLM, MCP y llamada de agente a agente a través de él. Esto asegura que se apliquen las restricciones para lenguaje tóxico, PII, inyección de prompts y cumplimiento de políticas a nivel de gateway. La Action Capsule de KOSMO ofrece un entorno de contención para agentes de IA, modelos o servidores MCP, aplicando autorización previa, arrendamientos de ejecución y credenciales just-in-time.
KOSMO está diseñado para reducir la dependencia de proveedores y modelos al situarse por encima de los proveedores de modelos y servicios en la nube. Expone una API compatible con OpenAI a través de los modelos soportados, permitiendo cambios de configuración sin necesidad de reescribir código. La plataforma es desplegable en Azure, AWS, GCP o en instalaciones locales, ofreciendo portabilidad y flexibilidad.
KOSMO proporciona un sólido soporte de auditoría y cumplimiento, registrando cada decisión de restricción, aprobación y anulación como un evento con una marca de tiempo, actor, sistema y resultado. Esta pista de auditoría cubre aspectos esenciales de gestión de riesgos, documentación técnica y transparencia, alineándose con las regulaciones emergentes de IA.
Las características de observabilidad de la plataforma registran cada llamada de IA con detalles de modelo, aplicación, equipo y costos, permitiendo el seguimiento y la optimización de costos. El enrutador LLM de KOSMO dirige automáticamente los prompts simples a modelos más pequeños y económicos, ayudando a las empresas a reducir costos de manera significativa. La plataforma es agnóstica a modelos, admitiendo tanto LLM públicos como privados, así como modelos de lenguaje ajustados.
Características principales de KOSMO AI Platform
AI Gateway para la aplicación de políticas
Enrutamiento de llamadas LLM, MCP y A2A
Sandbox de agentes de IA con Action Capsule
API compatible con OpenAI
Registro de auditoría y cumplimiento
Seguimiento y optimización de costos
Soporte agnóstico a modelos
Despliegue nativo en Kubernetes
¿Cómo usar KOSMO AI Platform?
Configurar: Establecer AI Gateway y Action Capsules
Usar: Desplegar modelos y agentes de IA
Monitorear: Rastrear el uso y costos de IA
Optimizar: Ajustar configuraciones para eficiencia de costos
Casos de uso de KOSMO AI Platform
- Gobernanza de IA
- Optimización de Costos
- Gestión de Cumplimiento
- Reducción de Dependencia de Proveedores
- Monitoreo de IA
