説明
CRAB(Cross-environment Agent Benchmark)は、マルチモーダル言語モデル(MLM)エージェントのための汎用的な評価フレームワークとして設計されています。エージェントの構築、さまざまな環境での運用、およびそのパフォーマンスを厳密にテストするためのベンチマーク作成のための、エンドツーエンドでユーザーフレンドリーなシステムを提供します。このフレームワークは、クロス環境サポート、洗練されたグラフ評価器、自動タスク生成という3つのコアコンポーネントを中心に構築されています。
続きを読む
このフレームワークを使用して開発されたCRAB Benchmark-v0は、UbuntuとAndroidという2つの異なる環境にまたがる120のタスクでその能力を示しています。3つの多様な通信設定下で6つの異なるMLMをテストするために使用され、パフォーマンス分析のための多様なデータセットを提供しています。フレームワークの設計は使いやすさを重視しており、すべてのエージェント操作、観測、評価器はPython関数として定義されています。これにより、最小限のコードで新しい環境を簡単に統合できます。ベンチマーク構成は宣言型プログラミングパラダイムに準拠しており、実験設定の再現性を保証します。
主な機能には、エージェントがさまざまなインターフェースに適応してパフォーマンスを発揮できるクロス環境サポートが含まれます。グラフ評価器は、単純な成功率を超えた詳細なパフォーマンス分析を提供し、強みと弱みを特定します。タスク生成はグラフベースの方法を使用して自動化され、サブタスクを組み合わせて手作業を削減する複雑で現実的なシナリオを作成します。このフレームワークは、OpenAI、Anthropic、Google、Mistral AI、ByteDanceなどのさまざまなMLMをサポートしており、異なる通信設定と出力タイプの結果が公開されています。
CRABは、複雑でマルチモーダルな環境と対話する必要がある高度なAIエージェントに取り組む研究者や開発者にとって特に価値があります。さまざまなLLMの多様なパフォーマンスを理解し、高ステップ制限の処理、無効なアクションの削減、マルチエージェント通信での誤った完了の最小化などの改善領域を特定するのに役立ちます。このベンチマークは、現実世界に近いシナリオでのエージェントの能力と限界についての深い理解を促進します。
- カテゴリー機械学習プラットフォーム
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
CRAB Benchmarkの主要機能
エージェント評価のためのクロス環境サポート
詳細なパフォーマンス分析のためのグラフベース評価器
現実世界のシナリオを模倣した自動タスク生成
エージェントの構築とテストのためのエンドツーエンドフレームワーク
複数のマルチモーダル言語モデル(MLM)のサポート
UbuntuおよびAndroid環境での評価
テストのための3つの異なる通信設定
Python関数による新しい環境の簡単な統合
ベンチマーク構成のための宣言型プログラミングパラダイム
ステップ制限超過や無効なアクションなどの終了理由の分析
CRAB Benchmarkをはじめる
環境設定: Python関数を使用して、エージェントの操作、観測、評価器を定義します。
タスク生成: グラフベースの方法を利用して、複雑で動的なタスクを作成します。
モデル選択: テストするサポートされているMLMから選択します。
ベンチマーク実行: 指定された環境と通信設定内でエージェントを実行します。
結果分析: グラフ評価器と完了率を使用してエージェントのパフォーマンスを評価します。
改善点の特定: 終了理由を確認して、エージェントの最適化領域を特定します。
CRAB Benchmarkの使用例
- エージェントパフォーマンス評価
- クロス環境テスト
- タスク生成自動化
- LLMエージェント研究
- エージェント改善分析
- オープンソースモデルのベンチマーク







