설명
적대적 강건성 툴박스(ART)는 기계 학습 모델의 보안에 중점을 둔 종합적인 Python 라이브러리입니다. LF AI & Data Foundation의 프로젝트로서, ART는 개발자와 연구자에게 적대적 위협에 대해 기계 학습 모델과 응용 프로그램을 평가하고 방어하며 검증하는 데 필요한 도구를 제공합니다. 원래 IBM에 의해 개발된 ART는 2020년 7월 LF AI로 이전되어 AI 커뮤니티에서의 중요성을 강조합니다.
이 툴박스는 TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost 및 GPy를 포함한 다양한 인기 기계 학습 프레임워크를 지원합니다. 이미지, 테이블, 오디오 및 비디오와 같은 다양한 데이터 유형을 처리할 수 있으며, 분류, 객체 탐지, 생성 및 인증과 같은 여러 기계 학습 작업에 적용할 수 있습니다.
ART는 회피, 오염, 추출 및 추론의 네 가지 주요 유형으로 분류된 39개의 공격 모듈을 갖추고 있습니다. 이러한 모듈은 사용자가 다양한 적대적 시나리오를 시뮬레이션하고 연구할 수 있도록 합니다. 또한 ART는 전처리기, 후처리기, 트레이너, 변환기 및 탐지기로 구성된 29개의 방어 모듈을 제공합니다. 이러한 방어 메커니즘은 잠재적인 적대적 공격에 대해 모델을 강화하는 데 도움을 줍니다.
이 툴박스는 세 가지 강건성 메트릭, 하나의 인증 메트릭 및 하나의 검증 메트릭을 지원하여 기계 학습 모델의 강건성을 평가하기 위한 포괄적인 도구 모음을 제공합니다. 사용자는 사용자 가이드에서 이러한 메트릭 및 추정기에 대한 자세한 정보를 찾을 수 있으며, ART를 시작하는 데 도움이 되는 예제 노트북도 제공됩니다.
ART는 GitHub 리포지토리를 통해 커뮤니티 참여를 장려하며, 사용자는 개발에 기여할 수 있습니다. 이 프로젝트는 이정표 발표부터 기술 논의에 이르기까지 다양한 관심사를 충족하기 위해 세 개의 메일링 리스트를 유지합니다. 이 오픈 소스 프로젝트는 AI 모델의 보안과 강건성을 강화하고자 하는 모든 사람에게 귀중한 자원입니다.
적대적 강건성 툴박스의 핵심 기능
인기 ML 프레임워크 지원
다양한 데이터 유형 처리
39개의 공격 모듈
29개의 방어 모듈
강건성 메트릭 포함
인증 및 검증 메트릭
커뮤니티 주도 개발
오픈 소스 프로젝트
적대적 강건성 툴박스 사용 방법은?
구성: 사용자 가이드를 사용하여 툴박스를 설정합니다.
사용: 공격 및 방어 모듈을 구현합니다.
평가: 메트릭을 사용하여 모델의 강건성을 평가합니다.
기여: GitHub에서 커뮤니티에 참여합니다.
적대적 강건성 툴박스의 사용 사례
- 모델 평가
- 적대적 방어
- 보안 연구
- 커뮤니티 기여
- 교육 목적
