Открытый Python-инструментарий для программно настраиваемых ограничений в диалоговых приложениях на базе LLM: он контролирует темы, сценарии диалога и ответы.
7,3 тыс.876PythonOtherОбновлён 10 часов назад
#prompt-injection
Open source проекты по теме «prompt-injection»
Отобранные репозитории GitHub по теме prompt-injection с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
2 репозитория
Инструмент Cisco на Python для поиска угроз в MCP-серверах, инструментах, промптах и исходном коде с помощью YARA, LLM-анализа и Cisco AI Defense.
1,1 тыс.148PythonApache-2.0Обновлён 4 дня назад