“prompt-injection” 관련 오픈소스 프로젝트

AI 모델 파일, 코드, 실시간 LLM/에이전트/MCP 엔드포인트와 저장된 에이전트 추적을 검증하고 발견 사항과 점검 공백을 보고하는 오픈소스 CLI 및 라이브러리입니다.

LLM 기반 대화형 애플리케이션에 프로그래밍 가능한 가드레일을 추가해 주제, 대화 흐름, 출력을 제어하는 오픈 소스 Python 툴킷입니다.

Cisco의 Python 도구로 YARA 규칙, LLM 분석, Cisco AI Defense를 사용해 MCP 서버 등을 보안 검사합니다.