Descrição
Adversarial Robustness Toolbox (ART) é uma biblioteca Python abrangente que se concentra na segurança de modelos de aprendizado de máquina. Como um projeto sob a LF AI & Data Foundation, o ART fornece aos desenvolvedores e pesquisadores as ferramentas necessárias para avaliar, defender e verificar modelos e aplicações de aprendizado de máquina contra ameaças adversariais. Originalmente desenvolvido pela IBM, o ART foi transferido para a LF AI em julho de 2020, destacando sua importância na comunidade de IA.
A caixa de ferramentas suporta uma ampla gama de estruturas populares de aprendizado de máquina, incluindo TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost e GPy. É versátil no manuseio de vários tipos de dados, como imagens, tabelas, áudio e vídeo, e é aplicável a inúmeras tarefas de aprendizado de máquina, como classificação, detecção de objetos, geração e certificação.
O ART está equipado com 39 módulos de ataque categorizados em quatro tipos principais: Evasão, Envenenamento, Extração e Inferência. Esses módulos permitem que os usuários simulem e estudem diferentes cenários adversariais. Além disso, o ART oferece 29 módulos de defesa, que estão organizados em cinco categorias: Pré-processador, Pós-processador, Treinador, Transformador e Detector. Esses mecanismos de defesa ajudam a fortalecer os modelos contra possíveis ataques adversariais.
A caixa de ferramentas também inclui suporte para três métricas de robustez, uma métrica de certificação e uma métrica de verificação, fornecendo um conjunto abrangente para avaliar a robustez de modelos de aprendizado de máquina. Os usuários podem encontrar informações detalhadas sobre essas métricas e estimadores no guia do usuário, juntamente com cadernos de exemplo para facilitar o início com o ART.
O ART incentiva a participação da comunidade por meio de seu repositório no GitHub, onde os usuários podem contribuir para seu desenvolvimento. O projeto também mantém três listas de discussão para atender a diferentes interesses, variando de anúncios de marcos a discussões técnicas. Este projeto de código aberto é um recurso valioso para qualquer pessoa que deseje aumentar a segurança e a robustez de seus modelos de IA.
Recursos principais de Adversarial Robustness Toolbox
Suporta estruturas populares de ML
Lida com diversos tipos de dados
39 módulos de ataque
29 módulos de defesa
Métricas de robustez incluídas
Métricas de certificação e verificação
Desenvolvimento orientado pela comunidade
Projeto de código aberto
Como usar Adversarial Robustness Toolbox?
Configurar: Configure a caixa de ferramentas usando o guia do usuário
Usar: Implemente módulos de ataque e defesa
Avaliar: Avalie a robustez do modelo com métricas
Contribuir: Junte-se à comunidade no GitHub
Casos de uso de Adversarial Robustness Toolbox
- Avaliação de Modelos
- Defesa Adversarial
- Pesquisa em Segurança
- Contribuição da Comunidade
- Fins Educacionais
