humanbound/humanbound

これは何？

主な機能

• 01ライブのエージェントHTTPエンドポイントに対する複数ターンの敵対的テスト
• 02scope.yamlの制限対象アクションリストに基づく、ツールの不正使用を調べるプローブ
• 03セキュリティ体制をスコアと評価で示し、HTMLレポートを出力
• 04テストの検出結果をhumanbound-firewallランタイム用のガードレールルールに変換
• 05OpenAI、Anthropic、Gemini、Ollamaを使ったローカル実行に対応し、完全オフラインの構成も可能

ユースケース

• リリース前のカスタマーサポートエージェントに対するレッドチームテスト
• LLMエージェントがツールや権限の境界を守るか確認
• 失敗したテストからガードレールルールを生成し、デプロイ済みエージェントを保護
• 意図的に脆弱性を持たせたエージェントを使ったAIセキュリティテストの練習

クイックスタート

1. 1

   PyPIからCLIとSDKをインストールする

   pip install humanbound
2. 2

   LLMプロバイダーとAPIキーを設定する

   export HB_PROVIDER=openai
3. 3

   エージェント設定に対して敵対的テストを実行する

   hb test --endpoint ./bot-config.json --repo . --wait

使う前に知っておきたいこと

• !テストの実行にはLLMプロバイダーのAPIキー、またはengine extraをインストールしたローカルのOllama環境が必要です。
• !Platformバックエンドやファイアウォール連携など、一部の機能はオプションのextrasまたは外部サービスに依存します。

収録されている特集

トピック

よくある質問

humanbound とは？

ライブエンドポイント経由でAIエージェントに攻撃を仕掛け、失敗をファイアウォールルールに変換するオープンソースの敵対的テストエンジン、SDK、CLI。 Humanboundは、単独のプロンプトではなくAIエージェントをテストします。ライブのエージェントエンドポイントに対して複数ターンの会話を実行し、ツールの使用状況やスコープの境界を調べ、scopeファイルで定義されたセキュリティポリシーに基づいて結果を採点します。テストは、独自のLLMプロバイダー（OpenAI、Anthropic、Gemini、Ollama）を使ってローカルで実行することも、Humanbound Platformに対して実行することもできます。

humanbound は無料で使えますか？ライセンスは？

humanbound は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

humanbound は今もメンテナンスされていますか？

活発にメンテナンス中。humanbound の最終コミットは 2026年11月5日 です。

humanbound は何に使えますか？

リリース前のカスタマーサポートエージェントに対するレッドチームテスト LLMエージェントがツールや権限の境界を守るか確認 失敗したテストからガードレールルールを生成し、デプロイ済みエージェントを保護 意図的に脆弱性を持たせたエージェントを使ったAIセキュリティテストの練習

humanbound のインストール方法は？

PyPIからCLIとSDKをインストールする: pip install humanbound LLMプロバイダーとAPIキーを設定する: export HB_PROVIDER=openai エージェント設定に対して敵対的テストを実行する: hb test --endpoint ./bot-config.json --repo . --wait

humanbound はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/humanbound/humanbound