Bento

Bento admite el despliegue de una amplia gama de modelos, incluidas opciones populares de código abierto como Llama 4, DeepSeek, Ling/Ring, Flux, Qwen y GPT-OSS, a través de su Catálogo de Modelos Abiertos. También ofrece un marco unificado para empaquetar y desplegar modelos personalizados de cualquier arquitectura, framework o modalidad, incluidos modelos de código abierto afinados y modelos personalizados propietarios. La plataforma automatiza los procesos de despliegue y CI/CD, proporciona observabilidad integral, control de acceso detallado y seguimiento de recursos/cuotas.

Para un escalado eficiente, Bento cuenta con el Motor de Cómputo Bento, que proporciona una gestión inteligente de recursos para una utilización óptima del cómputo. Admite escalado entre regiones, escalado automático elástico, aceleración de arranque en frío, orquestación de cómputo multicloud y capacidades de escalado a cero. Los usuarios tienen control total sobre su infraestructura y entorno de despliegue, con opciones para desplegar en su propia nube, en Kubernetes on-premises, o aprovechar Bento Cloud para acceder a hardware de GPU de vanguardia sin problemas de adquisición, incluidas GPUs Nvidia, GPUs AMD y B200, H100, MI300X.

Bento acelera el camino a producción para aplicaciones de IA al proporcionar a los desarrolladores todo lo que necesitan para construir, enviar y escalar la inferencia de IA. Esto incluye un Espacio de Código de Desarrollo (Dev Codespace) para una iteración rápida en la nube, una Puerta de Enlace LLM (LLM Gateway) para una interfaz unificada a todos los proveedores de LLM con control de costos centralizado, y operaciones simplificadas con gestión completa del ciclo de vida del despliegue, control de versiones, reversiones y pruebas A/B. La observabilidad completa se logra a través de la monitorización exhaustiva de métricas de cómputo, rendimiento y métricas específicas de LLM.

La plataforma está construida para seguridad, cumplimiento y capacidades operativas de nivel empresarial, garantizando la fiabilidad con SLAs de rendimiento, monitorización 24/7, garantías de tiempo de actividad y failover automático. Bento también ofrece Ingeniería de Despliegue Avanzado (Forward Deployed Engineering) con expertos técnicos dedicados, investigación de optimización de inferencia y benchmarking continuo. La soberanía de los datos se mantiene con control total sobre los datos del usuario. BentoML ahora forma parte de Modular.