Repolode
投稿する
ZeroLeaks

ZeroLeaks/zeroleaks

システムプロンプトやエージェント指示を対象に、プロンプト抽出・インジェクションの脆弱性を検査するコマンドラインツール兼ライブラリ。

GitHub で見る公式サイト
スター
744
フォーク
112
未解決の Issue
1
最終コミット
先月

これは何？

ZeroLeaksは、選択したモデルにシステムプロンプトを読み込ませ、抽出やインジェクションを試みるプローブで攻撃し、プロンプトがどの程度耐えられたかを報告します。抽出テストでは、モデルを誘導して自身のシステムプロンプトを漏らさせられるかを確認します。インジェクションテストでは、ドキュメントやツールの実行結果、偽の管理者メッセージに隠された指示に従うか、またツールの不正利用に同意するかを確認します。

スキャナーは、OpenRouterをデフォルトとして、またはOpenAIに直接接続し、利用者自身のモデルプロバイダーのキーを使ってローカルで実行できます。複数のエージェントが攻撃を計画し、スキャン中に対象の応答を読んで手法を変えます。LLMの判定役が、各結果を完全な遵守、一部の遵守、拒否に分類します。インジェクション用コーパスには、ツールの乗っ取り、間接インジェクション、複数ターンにわたる誘導などのカテゴリを網羅する78件の振る舞いプローブが含まれています。

このパッケージはCLIとTypeScriptライブラリとして提供され、Ollama、vLLM、LiteLLMなど、OpenAI互換のあらゆるエンドポイントで動作します。色付きのターミナルレポートまたはJSONを出力し、終了コードにも対応しているためCIで実行できます。このプロジェクトはオープンソースではなく、FSLライセンスの下でソースコードを公開しています。

主な機能

  • 01システムプロンプトに対して抽出スキャンとインジェクションスキャンを実行する。
  • 02複数のエージェントが攻撃を計画し、スキャン中に手法を調整する。
  • 036つのカテゴリにわたる78件の振る舞いインジェクションプローブを収録する。
  • 04LLMの判定役がモデルが実際に指示に従ったかを評価する。
  • 05攻撃側、対象、評価役、判定役にそれぞれ別のモデルを指定できる。
  • 06OpenRouter、OpenAI、およびローカルまたはホスト型のOpenAI互換エンドポイントに対応する。
  • 07ターミナルレポートまたはJSONを出力し、CI向けの終了コードにも対応する。

ユースケース

  • 顧客向けチャットボットのシステムプロンプトを、デプロイ前にテストする。
  • 取得したドキュメントやツールの出力に隠された指示に、エージェントが抵抗できるか確認する。
  • CIパイプラインにプロンプトセキュリティの回帰チェックを追加する。
  • 同じプロンプトに対する複数のモデルの耐性を比較する。

クイックスタート

  1. 1

    npmでパッケージをインストールする

    npm install zeroleaks
  2. 2

    OpenRouterのAPIキーを設定する

    export OPENROUTER_API_KEY=sk-or-...
  3. 3

    コマンドラインからシステムプロンプトをスキャンする

    zeroleaks scan --prompt "You are a helpful assistant..."

使う前に知っておきたいこと

  • 自分で用意したモデルプロバイダーのAPIキーが必要で、スキャンごとにプロバイダーへの支払いが発生します。
  • ライセンスはFSL-1.1-Apache-2.0（ソース公開型）であり、標準的なオープンソースライセンスではありません。
  • READMEには、npm installとBunランタイム以外に必要なNode/Bunのセットアップについて記載がありません。

収録されている特集

オープンソースの AI エージェント・フレームワークとアプリCLI・ターミナルツール

トピック

#llm-security#prompt-injection#red-teaming#ai-agents#cli#typescript#security-testing

よくある質問

zeroleaks とは？
システムプロンプトやエージェント指示を対象に、プロンプト抽出・インジェクションの脆弱性を検査するコマンドラインツール兼ライブラリ。 ZeroLeaksは、選択したモデルにシステムプロンプトを読み込ませ、抽出やインジェクションを試みるプローブで攻撃し、プロンプトがどの程度耐えられたかを報告します。抽出テストでは、モデルを誘導して自身のシステムプロンプトを漏らさせられるかを確認します。インジェクションテストでは、ドキュメントやツールの実行結果、偽の管理者メッセージに隠された指示に従うか、またツールの不正利用に同意するかを確認します。
zeroleaks は無料で使えますか？ライセンスは？
zeroleaks は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
zeroleaks は今もメンテナンスされていますか？
半年以内に更新あり。zeroleaks の最終コミットは 2026年9月26日 です。
zeroleaks は何に使えますか？
顧客向けチャットボットのシステムプロンプトを、デプロイ前にテストする。 取得したドキュメントやツールの出力に隠された指示に、エージェントが抵抗できるか確認する。 CIパイプラインにプロンプトセキュリティの回帰チェックを追加する。 同じプロンプトに対する複数のモデルの耐性を比較する。
zeroleaks のインストール方法は？
npmでパッケージをインストールする: npm install zeroleaks OpenRouterのAPIキーを設定する: export OPENROUTER_API_KEY=sk-or-... コマンドラインからシステムプロンプトをスキャンする: zeroleaks scan --prompt "You are a helpful assistant..."
zeroleaks はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/ZeroLeaks/zeroleaks

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト