DeepTeam

주요 기능

• LLM 시스템을 위한 오픈소스 레드티밍 프레임워크
• 탈옥, 프롬프트 인젝션, 멀티턴 공격 등 시뮬레이션
• 편향, PII 유출, SQL 인젝션 같은 취약점 탐지
• 프로덕션 방어를 위한 가드레일 제공
• 로컬에서 실행, DeepEval 기반

왜 주목하나

DeepTeam은 LLM 시스템을 위한 침투 테스트 격의 레드티밍 프레임워크로, 공격을 시뮬레이션해 에이전트, RAG, 챗봇의 취약점을 드러낸다. OWASP LLM Top 10을 겨냥한 공격과 가드레일을 함께 제공하며, 데이터를 외부로 보내지 않고 로컬에서 돌아간다.

참고

• GitHub 저장소