説明
AI21は、エンドユーザーアプリを提供するのではなく、AIエージェントを本番環境で運用する企業向けのインフラを構築しています。その提案は、ほとんどのチームがエージェントが実際に必要とする以上のトークンを支払っており、一般的なモデルの交換だけでは品質を損なうことなくその問題を解決できないというものです。
続きを読む
主な製品であるAI21 Gatewayは、現在ベータ版で、エージェントとそのモデルの間に位置するドロップインエンドポイントです。統合は1行の変更で、エージェントのAPIベースURLをゲートウェイに向けるだけで、Claude Code、Codex、LangChain、またはカスタムハーネスなどのツールと連携し、さらなるコード変更なしで機能します。ゲートウェイは、エージェントのトラフィックからコストプロファイルを構築し、冗長なコンテキストを削減・再構成し、タスクの難易度に基づいて各ターンを適切なモデルにルーティングし、キャッシングを調整します。これにより、単一の呼び出しを孤立して最適化するのではなく、全体の実行を重視します。AI21は、自律的なコードレビューエージェントで68%のコスト削減を報告しており、トークン請求書は最大40%削減されると宣伝しています。すべての節約提案は、本番環境に到達する前にコーディングベンチマークに対して確認されます。AI21 Gatewayはベータプレビュー中は無料で使用でき、共有ワークスペースアクセスなどのエンタープライズ機能はAI21に直接連絡する必要があります。
2つ目の製品であるPost-Trainingは、AI21が顧客のチームと協力して、顧客のデータに基づいて専用モデルをトレーニングし、その後トレーニングレシピを渡すことで、チームがさらに自分たちでラウンドを実行できるようにします。AI21は、企業の推論コストが自社のモデルをホストしてトレーニングするコストを超えた場合、これがより安価な道であると提案しています。
AI21は2021年にJurassic-1をリリースして以来、言語モデルをトレーニングしており、世界で2番目に大規模言語モデルを出荷した企業であると述べています。その作業には、オープンソースのJambaモデルファミリーや、データミクス、アーキテクチャ、スケーリングに関する11本の研究論文が含まれています。CEOのOri Goshenと、スタンフォード大学名誉教授で元Googleの主任科学者であるProf. Yoav Shohamが率いています。
AI21のツールは、AIエージェントを大規模に運用するエンジニアリングおよびMLチーム向けに構築されており、低い推論コストや自社のデータに調整されたモデルを求めているものであり、初期プロトタイプを構築する個々の開発者向けではありません。
- カテゴリー機械学習プラットフォーム
- 料金モデルフリーミアム
- デプロイクラウド
- プラットフォームWeb
AI21の主要機能
AI21 Gateway: AIエージェントのトラフィックにおけるトークンコストを削減するドロップインエンドポイント
1行の統合; Claude Code、Codex、LangChainまたはカスタムハーネスと連携
一般的なヒューリスティックではなく、ライブトラフィックからエージェントごとのコストプロファイルを構築
全体のエージェント実行を重視した軌道認識型の節約
冗長なトークン支出を削減するためのコンテキスト圧縮と適応型キャッシング
本番環境に到達する前にコーディングベンチマークに対して検証された節約提案
Post-Training: 企業のデータに基づくカスタムモデルのトレーニング、その後レシピを渡す
オープンソースのJambaモデルファミリーを含む社内の事前トレーニング研究スタック
AI21の使い方は？
接続: エージェントのAPIベースURLをAI21 Gatewayに向ける
トラフィックを実行: ゲートウェイがエージェントの実際の使用からコストプロファイルを構築できるようにする
レビュー: ゲートウェイがエージェントのために提示する節約提案を確認する
承認: 本番環境に到達する前に適用する変更を確認する
カスタムモデルを取得: AI21のPost-Trainingチームと協力して、自社のデータに基づく専用モデルをトレーニングする
AI21の使用例
- エージェントコスト削減
- コーディングエージェント
- カスタムエンタープライズモデル
- マルチフレームワークエージェント
