Descripción
AI21 construye infraestructura para empresas que ejecutan agentes de IA en producción, en lugar de enviar su propia aplicación para el usuario final. Su propuesta es que la mayoría de los equipos pagan por muchos más tokens de los que sus agentes realmente necesitan, y que un simple intercambio de modelo genérico no puede solucionar eso sin afectar la calidad.
Leer más
Su producto principal, AI21 Gateway, actualmente en beta, es un punto final que se sitúa entre un agente y sus modelos. La integración es un cambio de una línea, apuntando la URL base de la API de un agente al gateway, y funciona con herramientas como Claude Code, Codex, LangChain o un arnés personalizado sin cambios adicionales en el código. El gateway construye un perfil de costos a partir del tráfico propio de un agente, luego recorta y reestructura el contexto redundante, dirige cada turno al modelo correcto según la dificultad de la tarea y ajusta la caché, ponderando toda la ejecución en lugar de optimizar llamadas individuales de forma aislada. AI21 informa una reducción del 68% en costos en un agente de revisión de código autónomo y publicita facturas de tokens reducidas en hasta un 40% de manera más amplia, con cada recomendación de ahorro verificada contra estándares de codificación antes de llegar a producción. AI21 Gateway es gratuito durante su vista previa beta; las características empresariales como el acceso a espacios de trabajo compartidos requieren contactar a AI21 directamente.
El segundo producto, Post-Training, hace que AI21 trabaje junto al equipo propio de un cliente para entrenar un modelo dedicado con sus datos, y luego entrega la receta de entrenamiento para que el equipo pueda ejecutar más rondas por sí mismo. AI21 presenta esto como el camino más económico una vez que la factura de inferencia de una empresa ya supera lo que costaría alojar y entrenar su propio modelo.
AI21 ha entrenado modelos de lenguaje desde 2021, cuando lanzó Jurassic-1, y dice que fue la segunda empresa en el mundo en enviar un modelo de lenguaje grande. Su trabajo incluye la familia de modelos de código abierto Jamba y 11 artículos de investigación publicados sobre mezclas de datos, arquitectura y escalado. Está dirigido por el CEO Ori Goshen y el presidente Prof. Yoav Shoham, un profesor emérito de Stanford y ex científico principal de Google.
Las herramientas de AI21 están diseñadas para equipos de ingeniería y ML que operan agentes de IA a gran escala y que desean costos de inferencia más bajos o un modelo ajustado a sus propios datos, en lugar de para desarrolladores individuales que construyen un primer prototipo.
- CategoríaPlataformas de aprendizaje automático
- Modelo de preciosFreemium
- ImplementaciónNube
- PlataformasWeb
Características principales de AI21
AI21 Gateway: un punto final que reduce el costo de tokens en el tráfico de agentes de IA
Integración de una línea; funciona con Claude Code, Codex, LangChain o un arnés personalizado
Construye un perfil de costos por agente a partir del tráfico en vivo en lugar de heurísticas genéricas
Ahorros conscientes de la trayectoria que ponderan toda la ejecución de un agente, no llamadas individuales de forma aislada
Compresión de contexto y caché adaptativa para reducir el gasto redundante de tokens
Recomendaciones de ahorro validadas contra estándares de codificación antes de llegar a producción
Post-Training: entrenamiento de modelos personalizados con los propios datos de una empresa, con la receta entregada posteriormente
Stack de investigación de pre-entrenamiento interno, incluida la familia de modelos de código abierto Jamba
¿Cómo usar AI21?
Conectar: apunta la URL base de la API de tu agente al AI21 Gateway
Ejecutar tráfico: deja que el Gateway construya un perfil de costos a partir del uso real de tu agente
Revisar: verifica las recomendaciones de ahorro que el Gateway presenta para tu agente
Aprobar: confirma qué cambios aplicar antes de que lleguen a producción
Obtener modelos personalizados: trabaja con el equipo de Post-Training de AI21 para entrenar un modelo dedicado con tus propios datos
Casos de uso de AI21
- Reducción de costos de agentes
- Agentes de codificación
- Modelos empresariales personalizados
- Agentes multi-framework
