Adversarial Robustness Toolbox

주요 기능

• 회피(Evasion), 오염(Poisoning), 추출(Extraction), 추론(Inference) 공격에 대한 방어와 평가
• TensorFlow, Keras, PyTorch, scikit-learn 등 주요 ML 프레임워크 지원
• 이미지, 표, 오디오, 비디오 등 여러 데이터 타입 대응
• 레드팀, 블루팀 모두를 위한 공격, 방어 도구 모음

왜 주목하나

ART는 IBM이 시작해 Linux Foundation AI & Data가 호스팅하는 머신러닝 보안 파이썬 라이브러리다. 적대적 위협에 대해 모델을 방어하고 평가하는 도구를 제공해, 연구자와 개발자가 ML 시스템의 견고성을 점검하는 데 쓰인다.

참고

• GitHub 저장소