Repolode
제출하기
ZeroLeaks

ZeroLeaks/zeroleaks

시스템 프롬프트와 에이전트 지침의 프롬프트 추출 및 인젝션 취약점을 레드팀 방식으로 검사하는 CLI·라이브러리 스캐너입니다.

GitHub에서 보기웹사이트
스타
744
포크
112
열린 이슈
1
마지막 커밋
지난달

어떤 프로젝트인가요?

ZeroLeaks는 선택한 모델에 시스템 프롬프트를 로드한 뒤, 추출 및 인젝션 프로브로 모델을 공격하고 프롬프트가 얼마나 잘 버텼는지 보고합니다. 추출 테스트는 모델이 자신의 시스템 프롬프트를 드러내도록 유도할 수 있는지 확인합니다. 인젝션 테스트는 문서, 도구 결과 또는 가짜 관리자 메시지에 숨겨진 지침을 모델이 따르는지, 도구를 악용하는 데 동의하는지 확인합니다.

스캐너는 기본적으로 OpenRouter를 사용하거나 OpenAI에 직접 연결해, 사용자의 모델 제공자 키로 로컬에서 실행됩니다. 여러 에이전트가 공격을 계획하고 대상의 응답을 살펴보며 스캔 중 전술을 바꾸고, LLM 판정기가 각 결과를 완전 준수, 부분 준수 또는 거부로 평가합니다. 인젝션 코퍼스에는 도구 하이재킹, 간접 인젝션, 다중 턴 길들이기 등의 범주를 아우르는 행동 프로브 78개가 포함되어 있습니다.

패키지는 CLI와 TypeScript 라이브러리로 제공되며 Ollama, vLLM, LiteLLM 같은 OpenAI 호환 엔드포인트에서 사용할 수 있습니다. 색상이 적용된 터미널 보고서나 JSON을 출력하며, CI에서 실행할 수 있도록 종료 코드를 사용합니다. 이 프로젝트는 오픈소스가 아니라 FSL 라이선스에 따라 소스 공개 방식으로 배포됩니다.

핵심 기능

  • 01시스템 프롬프트를 대상으로 추출 및 인젝션 스캔을 실행합니다.
  • 02여러 에이전트가 공격을 계획하고 스캔 도중 전술을 조정합니다.
  • 03여섯 가지 범주에 걸친 행동 인젝션 프로브 78개를 제공합니다.
  • 04LLM 판정기를 사용해 모델이 실제로 지침을 따랐는지 평가합니다.
  • 05공격자, 대상, 평가자, 판정자에 서로 다른 모델을 지정할 수 있습니다.
  • 06OpenRouter, OpenAI 및 로컬·호스팅 OpenAI 호환 엔드포인트를 지원합니다.
  • 07터미널 보고서나 JSON을 출력하며, CI용 종료 코드도 제공합니다.

활용 사례

  • 고객 대상 챗봇을 배포하기 전에 시스템 프롬프트를 테스트합니다.
  • 에이전트가 검색된 문서나 도구 출력에 숨겨진 지침에 저항하는지 확인합니다.
  • CI 파이프라인에 프롬프트 보안 회귀 검사를 추가합니다.
  • 동일한 프롬프트에 대해 모델별 대응력을 비교합니다.

빠른 시작

  1. 1

    npm으로 패키지를 설치합니다

    npm install zeroleaks
  2. 2

    OpenRouter API 키를 설정합니다

    export OPENROUTER_API_KEY=sk-or-...
  3. 3

    명령줄에서 시스템 프롬프트를 스캔합니다

    zeroleaks scan --prompt "You are a helpful assistant..."

사용 전 알아둘 점

  • 직접 준비한 모델 제공업체의 API 키가 필요하며, 스캔할 때마다 제공업체에 비용을 지불해야 합니다.
  • 라이선스는 FSL-1.1-Apache-2.0(소스 공개형)으로, 표준 오픈소스 라이선스가 아닙니다.
  • README에는 npm install과 Bun 런타임 외에 필요한 Node/Bun 설정이 안내되어 있지 않습니다.

포함된 컬렉션

오픈소스 AI 에이전트 프레임워크와 앱CLI·터미널 도구

토픽

#llm-security#prompt-injection#red-teaming#ai-agents#cli#typescript#security-testing

자주 묻는 질문

zeroleaks은(는) 무엇인가요?
시스템 프롬프트와 에이전트 지침의 프롬프트 추출 및 인젝션 취약점을 레드팀 방식으로 검사하는 CLI·라이브러리 스캐너입니다. ZeroLeaks는 선택한 모델에 시스템 프롬프트를 로드한 뒤, 추출 및 인젝션 프로브로 모델을 공격하고 프롬프트가 얼마나 잘 버텼는지 보고합니다. 추출 테스트는 모델이 자신의 시스템 프롬프트를 드러내도록 유도할 수 있는지 확인합니다. 인젝션 테스트는 문서, 도구 결과 또는 가짜 관리자 메시지에 숨겨진 지침을 모델이 따르는지, 도구를 악용하는 데 동의하는지 확인합니다.
zeroleaks은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
zeroleaks은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
zeroleaks은(는) 아직 유지보수되고 있나요?
6개월 이내 업데이트. zeroleaks의 마지막 커밋은 2026년 9월 26일입니다.
zeroleaks은(는) 어디에 사용할 수 있나요?
고객 대상 챗봇을 배포하기 전에 시스템 프롬프트를 테스트합니다. 에이전트가 검색된 문서나 도구 출력에 숨겨진 지침에 저항하는지 확인합니다. CI 파이프라인에 프롬프트 보안 회귀 검사를 추가합니다. 동일한 프롬프트에 대해 모델별 대응력을 비교합니다.
zeroleaks는 어떻게 설치하나요?
npm으로 패키지를 설치합니다: npm install zeroleaks OpenRouter API 키를 설정합니다: export OPENROUTER_API_KEY=sk-or-... 명령줄에서 시스템 프롬프트를 스캔합니다: zeroleaks scan --prompt "You are a helpful assistant..."
zeroleaks은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ZeroLeaks/zeroleaks

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트