説明
Langfuse AI Gatewayは、AIコールとエージェントの管理と観察のための統一されたソリューションを提供するオープンソースのAIエンジニアリングプラットフォームです。これは、テレメトリーデータの業界標準であるOpenTelemetryに基づいて構築されており、すべてのAIインタラクションにおいて堅牢でスケーラブルな可観測性を保証します。このプラットフォームは、すべてのAIコールとすべてのエージェントのための単一のポイントとして設計されており、AIエンジニアリングの複雑さを簡素化します。
続きを読む
Langfuse AI Gatewayの主な機能には、エージェントの可観測性が含まれており、開発者はリアルタイムでAIエージェントの動作とパフォーマンスを監視できます。これは、デバッグ、最適化、およびエージェントがさまざまなAIモデルやデータソースとどのように相互作用するかを理解するために重要です。このプラットフォームは、ユーザーがAIモデルやプロンプトの質と効果を評価できる包括的な評価機能もサポートしています。
さらに、Langfuse AI Gatewayはプロンプトとスキル管理機能を提供し、プロンプトやAIスキルを整理、バージョン管理、展開するための構造化された方法を提供します。これにより、異なるプロジェクト間でAIコンポーネントの一貫性を維持し、再利用性を向上させることができます。ゲートウェイは、Google Vertex AIを含むさまざまなAIプロバイダーをサポートし、OpenAIやAzureのようなサービスのためのカスタムベースURLや追加ヘッダーを許可します。
ユーザーは、Langfuse AI Gatewayを自己ホストすることでデータとインフラストラクチャに対する完全な制御を得るか、管理されたサービス体験のためにLangfuse Cloudを利用する柔軟性があります。このプラットフォームは継続的に開発されており、最近のアップデートではHTTP/2ウェブ通信の改善、新しいゲートウェイプロバイダーの追加、設定のアクセス性の向上、コストの正確性の確保に焦点を当てています。これは、AIエンジニアリングのワークフローを合理化し、AIシステムに対するより深い洞察を得ようとする開発者や組織にとって堅牢なソリューションです。
- カテゴリーMLOps・モデルデプロイ
- 料金モデルオープンソース
- デプロイセルフホスト, クラウド
- プラットフォームWeb
Langfuse AI Gatewayの主要機能
オープンソースのAIエンジニアリングプラットフォーム
AIゲートウェイ機能
エージェントの可観測性
AIモデルの評価
プロンプト管理
スキル管理
OpenTelemetryに基づいて構築
Google Vertex AIをプロバイダーとしてサポート
OpenAIとAzureのためのカスタムベースURL
OpenAIとAzureのための追加ヘッダー
自己ホスティングオプション
Langfuse Cloudオプション
HTTP/2ウェブサポート
即時解決リトライメカニズム
分析のためのコストの正確性
Langfuse AI Gatewayをはじめる
リポジトリをクローン: GitHubリポジトリをクローンしてLangfuse AI Gatewayのソースコードを取得します。
依存関係をインストール: プロジェクトファイルに指定された必要なRustおよびその他のプロジェクト依存関係を設定します。
ゲートウェイを構成: AIプロバイダーのエンドポイントや認証情報を含むゲートウェイ設定をカスタマイズします。
サービスをビルド: 提供されたビルドスクリプトまたはDockerfileを使用してRustサービスをコンパイルします。
ゲートウェイを実行: AIゲートウェイサービスをローカルまたはインフラストラクチャにデプロイして実行します。
AIコールを統合: Langfuse AI Gatewayを通じてAIコールをルーティングし、可観測性と管理を有効にします。
Langfuse AI Gatewayの使用例
- AIエージェントの監視
- AIモデルの評価
- プロンプトエンジニアリング管理
- 中央集権的なAIコールルーティング
- カスタムAI API統合
- 自己ホスト型AIインフラストラクチャ
- AIコストの最適化








