Descripción
La Caja de Herramientas de Robustez Adversarial (ART) es una biblioteca completa de Python que se centra en la seguridad de los modelos de aprendizaje automático. Como un proyecto bajo la Fundación LF AI & Data, ART proporciona a desarrolladores e investigadores las herramientas necesarias para evaluar, defender y verificar modelos y aplicaciones de aprendizaje automático contra amenazas adversariales. Originalmente desarrollada por IBM, ART fue trasladada a LF AI en julio de 2020, destacando su importancia en la comunidad de IA.
La caja de herramientas soporta una amplia gama de marcos populares de aprendizaje automático, incluyendo TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost y GPy. Es versátil en el manejo de varios tipos de datos como imágenes, tablas, audio y video, y es aplicable a numerosas tareas de aprendizaje automático como clasificación, detección de objetos, generación y certificación.
ART está equipada con 39 módulos de ataque categorizados en cuatro tipos principales: Evasión, Envenenamiento, Extracción e Inferencia. Estos módulos permiten a los usuarios simular y estudiar diferentes escenarios adversariales. Además, ART ofrece 29 módulos de defensa, que están organizados en cinco categorías: Preprocesador, Postprocesador, Entrenador, Transformador y Detector. Estos mecanismos de defensa ayudan a fortalecer los modelos contra posibles ataques adversariales.
La caja de herramientas también incluye soporte para tres métricas de robustez, una métrica de certificación y una métrica de verificación, proporcionando un conjunto completo para evaluar la robustez de los modelos de aprendizaje automático. Los usuarios pueden encontrar información detallada sobre estas métricas y estimadores en la guía del usuario, junto con cuadernos de ejemplo para facilitar el inicio con ART.
ART fomenta la participación de la comunidad a través de su repositorio de GitHub, donde los usuarios pueden contribuir a su desarrollo. El proyecto también mantiene tres listas de correo para atender diferentes intereses, que van desde anuncios de hitos hasta discusiones técnicas. Este proyecto de código abierto es un recurso valioso para cualquiera que busque mejorar la seguridad y robustez de sus modelos de IA.
Características principales de Caja de Herramientas de Robustez Adversarial
Soporta marcos de ML populares
Maneja diversos tipos de datos
39 módulos de ataque
29 módulos de defensa
Métricas de robustez incluidas
Métricas de certificación y verificación
Desarrollo impulsado por la comunidad
Proyecto de código abierto
¿Cómo usar Caja de Herramientas de Robustez Adversarial?
Configurar: Configura la caja de herramientas utilizando la guía del usuario
Usar: Implementa módulos de ataque y defensa
Evaluar: Evalúa la robustez del modelo con métricas
Contribuir: Únete a la comunidad en GitHub
Casos de uso de Caja de Herramientas de Robustez Adversarial
- Evaluación de Modelos
- Defensa Adversarial
- Investigación en Seguridad
- Contribución Comunitaria
- Propósitos Educativos
