LLM Guard

주요 기능

• LLM 상호작용용 보안 툴킷: 입력, 출력 스캐너 제공
• 입력 스캐너: PromptInjection, Anonymize(PII), Secrets, Toxicity, BanTopics 등
• 출력 스캐너: Bias, MaliciousURLs, NoRefusal, Sensitive, FactualConsistency 등
• 프롬프트 인젝션 방어, 데이터 유출 방지, 유해 언어 탐지
• pip install llm-guard 로 설치

왜 주목하나

LLM Guard는 Protect AI가 만든 LLM 보안 툴킷으로, 입력과 출력을 각각 스캔해 프롬프트 인젝션, PII 노출, 유해 콘텐츠를 걸러낸다. 다만 현재 저장소는 아카이브되어 더 이상 활발히 유지보수되지 않는다.

참고

• GitHub 저장소