説明
敵対的ロバストネスツールボックス（ART）は、機械学習モデルのセキュリティに焦点を当てた包括的なPythonライブラリです。LF AI & Data Foundationのプロジェクトとして、ARTは開発者や研究者に対して、敵対的脅威に対抗するための機械学習モデルやアプリケーションを評価、保護、検証するために必要なツールを提供します。元々IBMによって開発されたARTは、2020年7月にLF AIに移管され、その重要性がAIコミュニティで強調されました。
このツールボックスは、TensorFlow、Keras、PyTorch、MXNet、scikit-learn、XGBoost、LightGBM、CatBoost、GPyなどの人気のある機械学習フレームワークを幅広くサポートしています。また、画像、テーブル、音声、動画などのさまざまなデータタイプを扱うことができ、分類、物体検出、生成、認証などの多くの機械学習タスクに適用可能です。
ARTは、回避、毒物、抽出、推論の4つの主要なタイプに分類された39の攻撃モジュールを備えています。これらのモジュールを使用することで、ユーザーはさまざまな敵対的シナリオをシミュレーションし、研究することができます。さらに、ARTは、前処理器、後処理器、トレーナー、トランスフォーマー、検出器の5つのカテゴリに整理された29の防御モジュールを提供しています。これらの防御メカニズムは、潜在的な敵対的攻撃に対してモデルを強化するのに役立ちます。
このツールボックスには、3つのロバストネス指標、1つの認証指標、1つの検証指標が含まれており、機械学習モデルのロバストネスを評価するための包括的なスイートを提供します。ユーザーは、ユーザーガイドでこれらの指標や推定器に関する詳細情報を見つけることができ、ARTの使用を開始するための例のノートブックも用意されています。
ARTは、ユーザーが開発に貢献できるGitHubリポジトリを通じてコミュニティの関与を奨励しています。このプロジェクトは、マイルストーンの発表から技術的な議論まで、さまざまな関心に応じた3つのメーリングリストを維持しています。このオープンソースプロジェクトは、AIモデルのセキュリティとロバストネスを強化したいと考えているすべての人にとって貴重なリソースです。
敵対的ロバストネスツールボックスの主要機能
人気のあるMLフレームワークをサポート
多様なデータタイプを扱う
39の攻撃モジュール
29の防御モジュール
ロバストネス指標を含む
認証および検証指標
コミュニティ主導の開発
オープンソースプロジェクト
敵対的ロバストネスツールボックスの使い方は？
設定: ユーザーガイドを使用してツールボックスを設定する
使用: 攻撃および防御モジュールを実装する
評価: 指標を使用してモデルのロバストネスを評価する
貢献: GitHubでコミュニティに参加する
敵対的ロバストネスツールボックスの使用例
- モデル評価
- 敵対的防御
- セキュリティ研究
- コミュニティ貢献
- 教育目的
