LLMシステムやAIエージェントへの攻撃をシミュレーションして脆弱性を見つけ、本番環境向けのガードレールも提供する、オープンソースのPython製レッドチームフレームワーク。
3035497PythonApache-2.0更新 一昨日
#llm-guardrails
「llm-guardrails」に関するオープンソースプロジェクト
llm-guardrails に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#llm-guardrails
llm-guardrails に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
LLMシステムやAIエージェントへの攻撃をシミュレーションして脆弱性を見つけ、本番環境向けのガードレールも提供する、オープンソースのPython製レッドチームフレームワーク。