LLMシステムやAIエージェントへの攻撃をシミュレーションして脆弱性を見つけ、本番環境向けのガードレールも提供する、オープンソースのPython製レッドチームフレームワーク。
3035497PythonApache-2.0更新 一昨日
#llm-red-teaming
llm-red-teaming に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
LLMシステムやAIエージェントへの攻撃をシミュレーションして脆弱性を見つけ、本番環境向けのガードレールも提供する、オープンソースのPython製レッドチームフレームワーク。