Deskripsi
Adversarial Robustness Toolbox (ART) adalah pustaka Python yang komprehensif yang berfokus pada keamanan model pembelajaran mesin. Sebagai proyek di bawah LF AI & Data Foundation, ART menyediakan pengembang dan peneliti dengan alat yang diperlukan untuk mengevaluasi, mempertahankan, dan memverifikasi model dan aplikasi pembelajaran mesin terhadap ancaman adversarial. Awalnya dikembangkan oleh IBM, ART dipindahkan ke LF AI pada Juli 2020, menyoroti pentingnya dalam komunitas AI.
Baca Selengkapnya
Kotak alat ini mendukung berbagai kerangka kerja pembelajaran mesin yang populer, termasuk TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost, dan GPy. Ini sangat fleksibel dalam menangani berbagai jenis data seperti gambar, tabel, audio, dan video, dan dapat diterapkan pada berbagai tugas pembelajaran mesin seperti klasifikasi, deteksi objek, generasi, dan sertifikasi.
ART dilengkapi dengan 39 modul serangan yang dikategorikan menjadi empat jenis utama: Evasion, Poisoning, Extraction, dan Inference. Modul-modul ini memungkinkan pengguna untuk mensimulasikan dan mempelajari berbagai skenario adversarial. Selain itu, ART menawarkan 29 modul pertahanan, yang diorganisir menjadi lima kategori: Preprocessor, Postprocessor, Trainer, Transformer, dan Detector. Mekanisme pertahanan ini membantu memperkuat model terhadap potensi serangan adversarial.
Kotak alat ini juga mencakup dukungan untuk tiga metrik ketahanan, satu metrik sertifikasi, dan satu metrik verifikasi, menyediakan rangkaian komprehensif untuk menilai ketahanan model pembelajaran mesin. Pengguna dapat menemukan informasi terperinci tentang metrik dan estimator ini dalam panduan pengguna, bersama dengan buku catatan contoh untuk memudahkan memulai dengan ART.
ART mendorong keterlibatan komunitas melalui repositori GitHub-nya, di mana pengguna dapat berkontribusi pada pengembangannya. Proyek ini juga mempertahankan tiga daftar email untuk memenuhi berbagai minat, mulai dari pengumuman tonggak hingga diskusi teknis. Proyek sumber terbuka ini adalah sumber daya yang berharga bagi siapa saja yang ingin meningkatkan keamanan dan ketahanan model AI mereka.
- KategoriAlat Keamanan Siber AI
- Model HargaOpen source
- PenerapanCloud
- PlatformTensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost, GPy
Fitur Inti Adversarial Robustness Toolbox
Mendukung kerangka kerja ML yang populer
Menangani berbagai jenis data
39 modul serangan
29 modul pertahanan
Metrik ketahanan termasuk
Metrik sertifikasi dan verifikasi
Pengembangan yang dipimpin komunitas
Proyek sumber terbuka
Memulai dengan Adversarial Robustness Toolbox
Konfigurasi: Siapkan kotak alat menggunakan panduan pengguna
Gunakan: Terapkan modul serangan dan pertahanan
Evaluasi: Nilai ketahanan model dengan metrik
Kontribusi: Bergabunglah dengan komunitas di GitHub
Kasus Penggunaan Adversarial Robustness Toolbox
- Evaluasi Model
- Pertahanan Adversarial
- Riset Keamanan
- Kontribusi Komunitas
- Tujuan Pendidikan
