Descrição
AI21 constrói infraestrutura para empresas que executam agentes de IA em produção, em vez de lançar seu próprio aplicativo para o usuário final. Sua proposta é que a maioria das equipes paga por muito mais tokens do que seus agentes realmente precisam, e que uma troca de modelo genérico sozinha não pode resolver isso sem prejudicar a qualidade.
Ler mais
Seu principal produto, AI21 Gateway, atualmente em beta, é um endpoint que se coloca entre um agente e seus modelos. A integração é uma mudança de uma linha, apontando a URL base da API de um agente para o gateway, e funciona com ferramentas como Claude Code, Codex, LangChain ou um harness personalizado sem mais alterações de código. O gateway constrói um perfil de custo a partir do tráfego real de um agente, depois corta e reestrutura contextos redundantes, direciona cada turno para o modelo certo com base na dificuldade da tarefa e ajusta o cache, pesando toda a execução em vez de otimizar chamadas únicas isoladamente. A AI21 relata uma redução de 68% nos custos em um agente autônomo de revisão de código e anuncia cortes nas contas de tokens de até 40% de forma mais ampla, com cada recomendação de economia verificada em relação a benchmarks de codificação antes de chegar à produção. O AI21 Gateway é gratuito durante sua prévia beta; recursos empresariais, como acesso a espaço de trabalho compartilhado, exigem contato direto com a AI21.
O segundo produto, Post-Training, faz com que a AI21 trabalhe ao lado da equipe de um cliente para treinar um modelo dedicado com seus dados, e depois entrega a receita de treinamento para que a equipe possa realizar mais rodadas por conta própria. A AI21 apresenta isso como o caminho mais econômico uma vez que a conta de inferência de uma empresa já excede o que custaria hospedar e treinar seu próprio modelo.
A AI21 treina modelos de linguagem desde 2021, quando lançou o Jurassic-1, e afirma ter sido a segunda empresa no mundo a lançar um modelo de linguagem grande. Seu trabalho inclui a família de modelos Jamba de código aberto e 11 artigos de pesquisa publicados sobre misturas de dados, arquitetura e escalabilidade. É liderada pelo CEO Ori Goshen e pelo presidente Prof. Yoav Shoham, professor emérito de Stanford e ex-cientista principal do Google.
As ferramentas da AI21 são construídas para equipes de engenharia e ML que operam agentes de IA em grande escala e que desejam custos de inferência mais baixos ou um modelo ajustado aos seus próprios dados, em vez de para desenvolvedores individuais construindo um primeiro protótipo.
- CategoriaPlataformas de machine learning
- Modelo de preçosFreemium
- ImplantaçãoNuvem
- PlataformasWeb
Recursos principais de AI21
AI21 Gateway: um endpoint que reduz o custo de token no tráfego de agentes de IA
Integração de uma linha; funciona com Claude Code, Codex, LangChain ou um harness personalizado
Constrói um perfil de custo por agente a partir do tráfego ao vivo, em vez de heurísticas genéricas
Economias conscientes da trajetória que pesam toda a execução do agente, não chamadas únicas isoladamente
Compactação de contexto e cache adaptativo para reduzir gastos redundantes com tokens
Recomendações de economia validadas em relação a benchmarks de codificação antes de chegarem à produção
Post-Training: treinamento de modelo personalizado com os dados de uma empresa, com a receita entregue posteriormente
Pilha de pesquisa de pré-treinamento interna, incluindo a família de modelos Jamba de código aberto
Como usar AI21?
Conectar: aponte a URL base da API do seu agente para o AI21 Gateway
Executar tráfego: deixe o Gateway construir um perfil de custo a partir do uso real do seu agente
Revisar: verifique as recomendações de economia que o Gateway apresenta para seu agente
Aprovar: confirme quais mudanças aplicar antes que cheguem à produção
Obter modelos personalizados: trabalhe com a equipe de Post-Training da AI21 para treinar um modelo dedicado com seus próprios dados
Casos de uso de AI21
- Redução de custos de agentes
- Agentes de codificação
- Modelos empresariais personalizados
- Agentes multi-framework
