Repolode
Agent-Threat-Rule

Agent-Threat-Rule/agent-threat-rules

面向 AI Agent 安全威胁的开放检测规则格式,提供可执行、可测试的 YAML 规则。

Star
426
Fork
66
未关闭 Issue
46
最近提交
21小时前

这是什么?

ATR(Agent Threat Rules)是一种与厂商无关的检测规则格式,用于识别针对 AI Agent 的攻击,设计思路参考了用于 SIEM 日志的 Sigma 和用于恶意软件的 YARA。每条规则都是符合版本化 schema 的 YAML 文档,声明攻击模式、检查的输入字段(如 LLM 输入输出、工具调用参数、SKILL.md 内容或 Agent 配置)、测试用例,以及与 OWASP、MITRE ATLAS 等框架的映射。

项目提供 TypeScript 参考引擎,包含 npm 包和命令行工具,并附带 Python 封装 pyatr。CLI 可扫描 skill 文件、MCP 配置和工具列表,将规则导出为正则、Splunk SPL 或 Elasticsearch 查询格式,并运行每条规则自带的测试用例。GitHub Action 可输出 SARIF 结果到 Security 页面,MCP 服务器则可与 Claude Code、Cursor 等 IDE 客户端集成。

规则库覆盖提示词注入、工具投毒、上下文数据外泄、权限提升和 skill 层面的攻击等类别。项目按数据源公布检测效果,并记录已知局限与绕过手法。

核心功能

  • 01规则为符合版本化 schema 的 YAML 文档,使用 ATR-YYYY-NNNNN 形式的公开编号。
  • 02提供 TypeScript 引擎与命令行工具,并有 Python 包 pyatr。
  • 03可将规则导出为正则、Splunk SPL 和 Elasticsearch 查询格式。
  • 04GitHub Action 输出 SARIF 结果,可接入代码扫描。
  • 05提供 MCP 服务器,可与 Claude Code、Cursor 等 IDE 客户端直接集成。
  • 06每条规则映射到 OWASP Agentic Top 10、OWASP LLM Top 10 和 MITRE ATLAS。

适用场景

  • 在 CI 中扫描 SKILL.md 文件和 MCP 服务器配置,在合并前发现风险。
  • 通过引擎 API 为 Agent 框架或代理增加运行时提示词注入检测。
  • 将检测规则导出到 Splunk、Elasticsearch 等现有 SIEM 中。
  • 基于一套可测试的 Agent 攻击模式对 LLM 应用进行红队测试。

快速上手

  1. 1

    安装 npm 包

    npm install agent-threat-rules
  2. 2

    使用 CLI 扫描 SKILL.md 文件

    atr scan skill.md

使用前须知

  • 各检测通道的误报率已被撤回且尚未重新测量,目前没有可靠的精度数据。
  • 项目治理目前由单一维护者(BDFL)负责,计划过渡到技术指导委员会。

标签

#agent-security#ai-security#prompt-injection#mcp-security#llm-security#threat-detection#yaml-rules#sigma-rules#agent-threat-rules#garak

常见问题

agent-threat-rules 是什么?
面向 AI Agent 安全威胁的开放检测规则格式,提供可执行、可测试的 YAML 规则。 ATR(Agent Threat Rules)是一种与厂商无关的检测规则格式,用于识别针对 AI Agent 的攻击,设计思路参考了用于 SIEM 日志的 Sigma 和用于恶意软件的 YARA。每条规则都是符合版本化 schema 的 YAML 文档,声明攻击模式、检查的输入字段(如 LLM 输入输出、工具调用参数、SKILL.md 内容或 Agent 配置)、测试用例,以及与 OWASP、MITRE ATLAS 等框架的映射。
agent-threat-rules 可以免费使用吗?用的什么许可证?
agent-threat-rules 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
agent-threat-rules 还在维护吗?
活跃维护中。agent-threat-rules 最近一次提交是在 2026年11月6日。
agent-threat-rules 适合用来做什么?
在 CI 中扫描 SKILL.md 文件和 MCP 服务器配置,在合并前发现风险。 通过引擎 API 为 Agent 框架或代理增加运行时提示词注入检测。 将检测规则导出到 Splunk、Elasticsearch 等现有 SIEM 中。 基于一套可测试的 Agent 攻击模式对 LLM 应用进行红队测试。
agent-threat-rules 怎么安装和运行?
安装 npm 包: npm install agent-threat-rules 使用 CLI 扫描 SKILL.md 文件: atr scan skill.md
在哪里获取 agent-threat-rules?
源代码和安装说明在 GitHub 上:https://github.com/Agent-Threat-Rule/agent-threat-rules

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目