描述
AI21 为在生产中运行 AI 代理的公司构建基础设施，而不是推出自己的终端用户应用程序。它的主张是，大多数团队支付的令牌远远超过其代理实际需要的数量，而仅仅更换通用模型无法在不影响质量的情况下解决这个问题。
阅读更多
其主要产品 AI21 Gateway 目前处于测试阶段，是一个位于代理与其模型之间的即插即用端点。集成只需一行代码，将代理的 API 基础 URL 指向网关，它可以与 Claude Code、Codex、LangChain 或自定义工具无缝协作，而无需进一步的代码更改。该网关根据代理的实时流量构建成本配置文件，然后修剪和重构冗余上下文，根据任务难度将每个回合路由到正确的模型，并调整缓存，权衡整个运行过程，而不是单独优化单次调用。AI21 报告称，自动代码审查代理的成本降低了 68%，并更广泛地宣传令牌账单最多可减少 40%，每项节省建议在投入生产之前都会与编码基准进行核对。AI21 Gateway 在其测试预览期间免费使用；企业功能如共享工作区访问需要直接联系 AI21。
第二个产品后训练（Post-Training）使 AI21 与客户的团队合作，在他们的数据上训练专用模型，然后交付训练配方，以便团队可以自行进行进一步的训练。AI21 将此视为一种更便宜的路径，一旦公司的推理费用超过托管和训练自己模型的成本。
自 2021 年发布 Jurassic-1 以来，AI21 一直在训练语言模型，并表示它是全球第二家推出大型语言模型的公司。其工作包括开源的 Jamba 模型系列和 11 篇关于数据混合、架构和扩展的研究论文。公司由首席执行官 Ori Goshen 和董事长 Yoav Shoham 教授领导，后者是斯坦福大学名誉教授和前谷歌首席科学家。
AI21 的工具是为大规模运营 AI 代理的工程和机器学习团队构建的，旨在降低推理成本或根据自己的数据调整模型，而不是为构建第一个原型的个人开发者设计。
- 类别机器学习平台
- 定价模式免费增值
- 部署云端
- 平台网页版
AI21的核心功能
AI21 Gateway：一个即插即用的端点，减少 AI 代理流量的令牌成本
一行集成；与 Claude Code、Codex、LangChain 或自定义工具兼容
根据实时流量而非通用启发式方法构建每个代理的成本配置文件
轨迹感知的节省，权衡整个代理运行，而非单独调用
上下文压缩和自适应缓存以减少冗余令牌支出
节省建议在投入生产之前经过编码基准验证
后训练：在公司的数据上进行定制模型训练，随后交付配方
内部预训练研究堆栈，包括开源的 Jamba 模型系列
如何使用 AI21？
连接：将代理的 API 基础 URL 指向 AI21 Gateway
运行流量：让网关根据代理的实际使用情况构建成本配置文件
审查：检查网关为您的代理提供的节省建议
批准：确认在投入生产之前应用哪些更改
获取定制模型：与 AI21 的后训练团队合作，在您的数据上训练专用模型
AI21的使用案例
- 代理成本降低
- 编码代理
- 定制企业模型
- 多框架代理
