garak

주요 기능

• LLM 취약점 스캐너: 환각, 데이터 유출, 프롬프트 인젝션, 탈옥, 유해 생성 등 탐지
• 정적, 동적, 적응형 프로브 조합으로 실패 방식 탐색
• Hugging Face, OpenAI, AWS Bedrock, litellm, REST 등 다양한 LLM 지원
• python -m pip install garak 로 설치하는 명령줄 도구

왜 주목하나

garak은 NVIDIA가 개발한 무료 LLM 취약점 스캐너로, nmap이나 Metasploit이 시스템에 하는 일을 LLM에 대해 수행한다. 여러 프로브로 모델을 압박해 원치 않는 방식으로 실패하는 지점을 찾아, LLM 애플리케이션의 보안 점검에 쓰인다.

참고

• GitHub 저장소