「prompt-injection」に関するオープンソースプロジェクト

LLMベースの会話アプリケーションにプログラム可能なガードレールを追加し、話題や対話の流れ、出力を制御するオープンソースのPythonツールキット。

Cisco製のPythonツール。YARAルール、LLM分析、Cisco AI Defenseを使ってMCPサーバーなどをスキャンします。