prompt injection、データ漏洩、jailbreak、有害な出力などの問題をLLMに対して検査する、オープンソースのコマンドラインスキャナー。
96351390PythonApache-2.0更新 17 時間前
#vulnerability-assessment
vulnerability-assessment に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
prompt injection、データ漏洩、jailbreak、有害な出力などの問題をLLMに対して検査する、オープンソースのコマンドラインスキャナー。