Description
La Boîte à outils de robustesse aux attaques (ART) est une bibliothèque Python complète qui se concentre sur la sécurité des modèles d'apprentissage automatique. En tant que projet sous la LF AI & Data Foundation, ART fournit aux développeurs et aux chercheurs les outils nécessaires pour évaluer, défendre et vérifier les modèles et applications d'apprentissage automatique contre les menaces adversariales. Développé à l'origine par IBM, ART a été transféré à la LF AI en juillet 2020, soulignant son importance dans la communauté de l'IA.
La boîte à outils prend en charge un large éventail de cadres d'apprentissage automatique populaires, y compris TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost et GPy. Elle est polyvalente dans le traitement de divers types de données tels que les images, les tableaux, l'audio et la vidéo, et est applicable à de nombreuses tâches d'apprentissage automatique comme la classification, la détection d'objets, la génération et la certification.
ART est équipée de 39 modules d'attaque classés en quatre types principaux : Évasion, Poisonnement, Extraction et Inférence. Ces modules permettent aux utilisateurs de simuler et d'étudier différents scénarios adversariaux. De plus, ART propose 29 modules de défense, organisés en cinq catégories : Préprocesseur, Postprocesseur, Entraîneur, Transformateur et Détecteur. Ces mécanismes de défense aident à renforcer les modèles contre les attaques adversariales potentielles.
La boîte à outils comprend également le support de trois métriques de robustesse, d'une métrique de certification et d'une métrique de vérification, fournissant un ensemble complet pour évaluer la robustesse des modèles d'apprentissage automatique. Les utilisateurs peuvent trouver des informations détaillées sur ces métriques et estimateurs dans le guide de l'utilisateur, ainsi que des notebooks d'exemple pour faciliter le démarrage avec ART.
ART encourage l'implication de la communauté à travers son dépôt GitHub, où les utilisateurs peuvent contribuer à son développement. Le projet maintient également trois listes de diffusion pour répondre à différents intérêts, allant des annonces de jalons aux discussions techniques. Ce projet open-source est une ressource précieuse pour quiconque cherchant à améliorer la sécurité et la robustesse de ses modèles d'IA.
Fonctionnalités principales de Boîte à outils de robustesse aux attaques
Prend en charge les cadres d'apprentissage automatique populaires
Gère divers types de données
39 modules d'attaque
29 modules de défense
Métriques de robustesse incluses
Métriques de certification et de vérification
Développement dirigé par la communauté
Projet open-source
Comment utiliser Boîte à outils de robustesse aux attaques ?
Configurer : Configurez la boîte à outils en utilisant le guide de l'utilisateur
Utiliser : Implémentez les modules d'attaque et de défense
Évaluer : Évaluez la robustesse du modèle avec des métriques
Contribuer : Rejoignez la communauté sur GitHub
Cas d'utilisation de Boîte à outils de robustesse aux attaques
- Évaluation de modèle
- Défense adversariale
- Recherche en sécurité
- Contribution communautaire
- Objectifs éducatifs
