Локальный уровень защиты в runtime: проверяет команды оболочки, доступ к файлам, установку пакетов и вызовы инструментов MCP перед выполнением.
Agent-Threat-Rule/agent-threat-rules
Открытый формат правил обнаружения угроз безопасности для AI-агентов: исполняемые и тестируемые YAML-правила для prompt injection, отравления инструментов и атак на MCP.
- Звёзды
- 426
- Форки
- 66
- Открытые issues
- 46
- Последний коммит
- 12 часов назад
Что это?
ATR (Agent Threat Rules) — не зависящий от вендора формат правил обнаружения атак на AI-агентов, созданный по образцу Sigma для логов SIEM и YARA для вредоносного ПО. Каждое правило — YAML-документ с версионируемой схемой, в которой задаются шаблон атаки, проверяемое входное поле (входные и выходные данные LLM, аргументы вызова инструментов, содержимое SKILL.md или конфигурация агента), тестовые случаи и соответствия OWASP, MITRE ATLAS и другим фреймворкам.
В репозитории есть эталонный движок на TypeScript с npm-пакетом и CLI, а также обёртка для Python (pyatr). CLI умеет сканировать файлы навыков, конфигурации MCP и списки инструментов, экспортировать правила в regex, форматы Splunk SPL и Elasticsearch, а также запускать тестовые случаи для каждого правила. GitHub Action формирует результаты в SARIF для вкладки Security, а MCP-сервер интегрируется с IDE-клиентами, например Claude Code и Cursor.
Набор правил охватывает такие категории, как prompt injection, отравление инструментов, эксфильтрация контекста, повышение привилегий и компрометация навыков. Проект публикует показатели обнаружения для каждого источника с отдельными значениями по направлениям, а также описывает известные ограничения и методы обхода.
Ключевые возможности
- 01Правила представлены в виде YAML-документов с версионируемой схемой и общедоступной системой идентификаторов ATR-YYYY-NNNNN.
- 02Движок и CLI на TypeScript, а также пакет для Python (pyatr).
- 03Экспорт правил в regex, Splunk SPL и форматы запросов Elasticsearch.
- 04GitHub Action формирует результаты SARIF для сканирования кода.
- 05MCP-сервер для интеграции в реальном времени с IDE-клиентами, например Claude Code и Cursor.
- 06Каждое правило связано со ссылками на OWASP Agentic Top 10, OWASP LLM Top 10 и MITRE ATLAS.
Сценарии использования
- Сканирование файлов SKILL.md и конфигураций MCP-серверов в CI перед слиянием изменений.
- Добавление проверок на prompt injection во время выполнения во фреймворк агента или прокси с помощью API движка.
- Экспорт правил обнаружения в существующую SIEM, например Splunk или Elasticsearch.
- Проверка LLM-приложения в рамках red teaming по общему тестируемому набору шаблонов атак на агентов.
Быстрый старт
- 1
Установите npm-пакет
npm install agent-threat-rules - 2
Просканируйте файл SKILL.md с помощью CLI
atr scan skill.md
Что важно знать
- Данные о частоте ложноположительных результатов Lane были отозваны и ещё не измерялись повторно, поэтому сейчас показатели точности недоступны.
- Сейчас проектом управляет один мейнтейнер; в будущем планируется перейти к Technical Steering Committee.
Темы
Частые вопросы
- Что такое agent-threat-rules?
- Открытый формат правил обнаружения угроз безопасности для AI-агентов: исполняемые и тестируемые YAML-правила для prompt injection, отравления инструментов и атак на MCP. ATR (Agent Threat Rules) — не зависящий от вендора формат правил обнаружения атак на AI-агентов, созданный по образцу Sigma для логов SIEM и YARA для вредоносного ПО. Каждое правило — YAML-документ с версионируемой схемой, в которой задаются шаблон атаки, проверяемое входное поле (входные и выходные данные LLM, аргументы вызова инструментов, содержимое SKILL.md или конфигурация агента), тестовые случаи и соответствия OWASP, MITRE ATLAS и другим фреймворкам.
- agent-threat-rules можно использовать бесплатно? Какая у него лицензия?
- agent-threat-rules распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- agent-threat-rules всё ещё поддерживается?
- Активно поддерживается. Последний коммит в agent-threat-rules — 6 нояб. 2026 г..
- Для чего можно использовать agent-threat-rules?
- Сканирование файлов SKILL.md и конфигураций MCP-серверов в CI перед слиянием изменений. Добавление проверок на prompt injection во время выполнения во фреймворк агента или прокси с помощью API движка. Экспорт правил обнаружения в существующую SIEM, например Splunk или Elasticsearch. Проверка LLM-приложения в рамках red teaming по общему тестируемому набору шаблонов атак на агентов.
- Как установить agent-threat-rules?
- Установите npm-пакет: npm install agent-threat-rules Просканируйте файл SKILL.md с помощью CLI: atr scan skill.md
- Где скачать agent-threat-rules?
- Исходный код и инструкции по установке — на GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Корпоративная система безопасности для обнаружения и инвентаризации AI-агентов, наблюдения за ними, оценки их защищённости и выявления рискованного поведения.
Платформа Tencent Zhuque Lab для red teaming ИИ, проверяющая AI-агентов, MCP-серверы, Agent Skills и ИИ-инфраструктуру на риски безопасности.
CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.
Сканер безопасности для AI-агентов, пишущих код: проверяет сгенерированный код, MCP-серверы, промпты и предложенные AI пакеты на риски.
Сканер безопасности с приоритетом на AI: проверяет код и конфигурации AI-агентов, включая приложения на LLM, MCP-серверы и секреты в истории чатов и командной оболочки.