Repolode
Agent-Threat-Rule

Agent-Threat-Rule/agent-threat-rules

Открытый формат правил обнаружения угроз безопасности для AI-агентов: исполняемые и тестируемые YAML-правила для prompt injection, отравления инструментов и атак на MCP.

Звёзды
426
Форки
66
Открытые issues
46
Последний коммит
12 часов назад

Что это?

ATR (Agent Threat Rules) — не зависящий от вендора формат правил обнаружения атак на AI-агентов, созданный по образцу Sigma для логов SIEM и YARA для вредоносного ПО. Каждое правило — YAML-документ с версионируемой схемой, в которой задаются шаблон атаки, проверяемое входное поле (входные и выходные данные LLM, аргументы вызова инструментов, содержимое SKILL.md или конфигурация агента), тестовые случаи и соответствия OWASP, MITRE ATLAS и другим фреймворкам.

В репозитории есть эталонный движок на TypeScript с npm-пакетом и CLI, а также обёртка для Python (pyatr). CLI умеет сканировать файлы навыков, конфигурации MCP и списки инструментов, экспортировать правила в regex, форматы Splunk SPL и Elasticsearch, а также запускать тестовые случаи для каждого правила. GitHub Action формирует результаты в SARIF для вкладки Security, а MCP-сервер интегрируется с IDE-клиентами, например Claude Code и Cursor.

Набор правил охватывает такие категории, как prompt injection, отравление инструментов, эксфильтрация контекста, повышение привилегий и компрометация навыков. Проект публикует показатели обнаружения для каждого источника с отдельными значениями по направлениям, а также описывает известные ограничения и методы обхода.

Ключевые возможности

  • 01Правила представлены в виде YAML-документов с версионируемой схемой и общедоступной системой идентификаторов ATR-YYYY-NNNNN.
  • 02Движок и CLI на TypeScript, а также пакет для Python (pyatr).
  • 03Экспорт правил в regex, Splunk SPL и форматы запросов Elasticsearch.
  • 04GitHub Action формирует результаты SARIF для сканирования кода.
  • 05MCP-сервер для интеграции в реальном времени с IDE-клиентами, например Claude Code и Cursor.
  • 06Каждое правило связано со ссылками на OWASP Agentic Top 10, OWASP LLM Top 10 и MITRE ATLAS.

Сценарии использования

  • Сканирование файлов SKILL.md и конфигураций MCP-серверов в CI перед слиянием изменений.
  • Добавление проверок на prompt injection во время выполнения во фреймворк агента или прокси с помощью API движка.
  • Экспорт правил обнаружения в существующую SIEM, например Splunk или Elasticsearch.
  • Проверка LLM-приложения в рамках red teaming по общему тестируемому набору шаблонов атак на агентов.

Быстрый старт

  1. 1

    Установите npm-пакет

    npm install agent-threat-rules
  2. 2

    Просканируйте файл SKILL.md с помощью CLI

    atr scan skill.md

Что важно знать

  • Данные о частоте ложноположительных результатов Lane были отозваны и ещё не измерялись повторно, поэтому сейчас показатели точности недоступны.
  • Сейчас проектом управляет один мейнтейнер; в будущем планируется перейти к Technical Steering Committee.

Темы

#agent-security#ai-security#prompt-injection#mcp-security#llm-security#threat-detection#yaml-rules#sigma-rules#agent-threat-rules#garak

Частые вопросы

Что такое agent-threat-rules?
Открытый формат правил обнаружения угроз безопасности для AI-агентов: исполняемые и тестируемые YAML-правила для prompt injection, отравления инструментов и атак на MCP. ATR (Agent Threat Rules) — не зависящий от вендора формат правил обнаружения атак на AI-агентов, созданный по образцу Sigma для логов SIEM и YARA для вредоносного ПО. Каждое правило — YAML-документ с версионируемой схемой, в которой задаются шаблон атаки, проверяемое входное поле (входные и выходные данные LLM, аргументы вызова инструментов, содержимое SKILL.md или конфигурация агента), тестовые случаи и соответствия OWASP, MITRE ATLAS и другим фреймворкам.
agent-threat-rules можно использовать бесплатно? Какая у него лицензия?
agent-threat-rules распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
agent-threat-rules всё ещё поддерживается?
Активно поддерживается. Последний коммит в agent-threat-rules — 6 нояб. 2026 г..
Для чего можно использовать agent-threat-rules?
Сканирование файлов SKILL.md и конфигураций MCP-серверов в CI перед слиянием изменений. Добавление проверок на prompt injection во время выполнения во фреймворк агента или прокси с помощью API движка. Экспорт правил обнаружения в существующую SIEM, например Splunk или Elasticsearch. Проверка LLM-приложения в рамках red teaming по общему тестируемому набору шаблонов атак на агентов.
Как установить agent-threat-rules?
Установите npm-пакет: npm install agent-threat-rules Просканируйте файл SKILL.md с помощью CLI: atr scan skill.md
Где скачать agent-threat-rules?
Исходный код и инструкции по установке — на GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Корпоративная система безопасности для обнаружения и инвентаризации AI-агентов, наблюдения за ними, оценки их защищённости и выявления рискованного поведения.

2,1 тыс.+37 за неделю231PythonApache-2.0Активно поддерживаетсяОбновлён 7 дней назад

CLI и библиотека с открытым исходным кодом для проверки файлов моделей ИИ, кода, работающих конечных точек LLM/агентов/MCP и записанных трасс агентов с отчетом о проблемах и пробелах в проверках.

20317PythonApache-2.0Обновлён 7 часов назад