설명
적대적 강건성 툴박스(ART)는 기계 학습 모델의 보안에 중점을 둔 종합적인 Python 라이브러리입니다. LF AI & Data Foundation의 프로젝트로서, ART는 개발자와 연구자에게 적대적 위협에 대해 기계 학습 모델과 응용 프로그램을 평가하고 방어하며 검증하는 데 필요한 도구를 제공합니다. 원래 IBM에 의해 개발된 ART는 2020년 7월 LF AI로 이전되어 AI 커뮤니티에서의 중요성을 강조합니다.
더 읽기
이 툴박스는 TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost 및 GPy를 포함한 다양한 인기 기계 학습 프레임워크를 지원합니다. 이미지, 테이블, 오디오 및 비디오와 같은 다양한 데이터 유형을 처리할 수 있으며, 분류, 객체 탐지, 생성 및 인증과 같은 여러 기계 학습 작업에 적용할 수 있습니다.
ART는 회피, 오염, 추출 및 추론의 네 가지 주요 유형으로 분류된 39개의 공격 모듈을 갖추고 있습니다. 이러한 모듈은 사용자가 다양한 적대적 시나리오를 시뮬레이션하고 연구할 수 있도록 합니다. 또한 ART는 전처리기, 후처리기, 트레이너, 변환기 및 탐지기로 구성된 29개의 방어 모듈을 제공합니다. 이러한 방어 메커니즘은 잠재적인 적대적 공격에 대해 모델을 강화하는 데 도움을 줍니다.
이 툴박스는 세 가지 강건성 메트릭, 하나의 인증 메트릭 및 하나의 검증 메트릭을 지원하여 기계 학습 모델의 강건성을 평가하기 위한 포괄적인 도구 모음을 제공합니다. 사용자는 사용자 가이드에서 이러한 메트릭 및 추정기에 대한 자세한 정보를 찾을 수 있으며, ART를 시작하는 데 도움이 되는 예제 노트북도 제공됩니다.
ART는 GitHub 리포지토리를 통해 커뮤니티 참여를 장려하며, 사용자는 개발에 기여할 수 있습니다. 이 프로젝트는 이정표 발표부터 기술 논의에 이르기까지 다양한 관심사를 충족하기 위해 세 개의 메일링 리스트를 유지합니다. 이 오픈 소스 프로젝트는 AI 모델의 보안과 강건성을 강화하고자 하는 모든 사람에게 귀중한 자원입니다.
- 카테고리AI 사이버 보안 도구
- 요금제오픈소스
- 배포클라우드
- 플랫폼TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost, GPy
적대적 강건성 툴박스의 핵심 기능
인기 ML 프레임워크 지원
다양한 데이터 유형 처리
39개의 공격 모듈
29개의 방어 모듈
강건성 메트릭 포함
인증 및 검증 메트릭
커뮤니티 주도 개발
오픈 소스 프로젝트
적대적 강건성 툴박스 시작하기
구성: 사용자 가이드를 사용하여 툴박스를 설정합니다.
사용: 공격 및 방어 모듈을 구현합니다.
평가: 메트릭을 사용하여 모델의 강건성을 평가합니다.
기여: GitHub에서 커뮤니티에 참여합니다.
적대적 강건성 툴박스의 사용 사례
- 모델 평가
- 적대적 방어
- 보안 연구
- 커뮤니티 기여
- 교육 목적
