本地优先的运行时安全层,在 AI 智能体执行前审查其命令、文件访问、包安装和 MCP 工具调用。
Agent-Threat-Rule/agent-threat-rules
面向 AI Agent 安全威胁的开放检测规则格式,提供可执行、可测试的 YAML 规则。
- Star
- 426
- Fork
- 66
- 未关闭 Issue
- 46
- 最近提交
- 21小时前
这是什么?
ATR(Agent Threat Rules)是一种与厂商无关的检测规则格式,用于识别针对 AI Agent 的攻击,设计思路参考了用于 SIEM 日志的 Sigma 和用于恶意软件的 YARA。每条规则都是符合版本化 schema 的 YAML 文档,声明攻击模式、检查的输入字段(如 LLM 输入输出、工具调用参数、SKILL.md 内容或 Agent 配置)、测试用例,以及与 OWASP、MITRE ATLAS 等框架的映射。
项目提供 TypeScript 参考引擎,包含 npm 包和命令行工具,并附带 Python 封装 pyatr。CLI 可扫描 skill 文件、MCP 配置和工具列表,将规则导出为正则、Splunk SPL 或 Elasticsearch 查询格式,并运行每条规则自带的测试用例。GitHub Action 可输出 SARIF 结果到 Security 页面,MCP 服务器则可与 Claude Code、Cursor 等 IDE 客户端集成。
规则库覆盖提示词注入、工具投毒、上下文数据外泄、权限提升和 skill 层面的攻击等类别。项目按数据源公布检测效果,并记录已知局限与绕过手法。
核心功能
- 01规则为符合版本化 schema 的 YAML 文档,使用 ATR-YYYY-NNNNN 形式的公开编号。
- 02提供 TypeScript 引擎与命令行工具,并有 Python 包 pyatr。
- 03可将规则导出为正则、Splunk SPL 和 Elasticsearch 查询格式。
- 04GitHub Action 输出 SARIF 结果,可接入代码扫描。
- 05提供 MCP 服务器,可与 Claude Code、Cursor 等 IDE 客户端直接集成。
- 06每条规则映射到 OWASP Agentic Top 10、OWASP LLM Top 10 和 MITRE ATLAS。
适用场景
- 在 CI 中扫描 SKILL.md 文件和 MCP 服务器配置,在合并前发现风险。
- 通过引擎 API 为 Agent 框架或代理增加运行时提示词注入检测。
- 将检测规则导出到 Splunk、Elasticsearch 等现有 SIEM 中。
- 基于一套可测试的 Agent 攻击模式对 LLM 应用进行红队测试。
快速上手
- 1
安装 npm 包
npm install agent-threat-rules - 2
使用 CLI 扫描 SKILL.md 文件
atr scan skill.md
使用前须知
- 各检测通道的误报率已被撤回且尚未重新测量,目前没有可靠的精度数据。
- 项目治理目前由单一维护者(BDFL)负责,计划过渡到技术指导委员会。
标签
常见问题
- agent-threat-rules 是什么?
- 面向 AI Agent 安全威胁的开放检测规则格式,提供可执行、可测试的 YAML 规则。 ATR(Agent Threat Rules)是一种与厂商无关的检测规则格式,用于识别针对 AI Agent 的攻击,设计思路参考了用于 SIEM 日志的 Sigma 和用于恶意软件的 YARA。每条规则都是符合版本化 schema 的 YAML 文档,声明攻击模式、检查的输入字段(如 LLM 输入输出、工具调用参数、SKILL.md 内容或 Agent 配置)、测试用例,以及与 OWASP、MITRE ATLAS 等框架的映射。
- agent-threat-rules 可以免费使用吗?用的什么许可证?
- agent-threat-rules 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- agent-threat-rules 还在维护吗?
- 活跃维护中。agent-threat-rules 最近一次提交是在 2026年11月6日。
- agent-threat-rules 适合用来做什么?
- 在 CI 中扫描 SKILL.md 文件和 MCP 服务器配置,在合并前发现风险。 通过引擎 API 为 Agent 框架或代理增加运行时提示词注入检测。 将检测规则导出到 Splunk、Elasticsearch 等现有 SIEM 中。 基于一套可测试的 Agent 攻击模式对 LLM 应用进行红队测试。
- agent-threat-rules 怎么安装和运行?
- 安装 npm 包: npm install agent-threat-rules 使用 CLI 扫描 SKILL.md 文件: atr scan skill.md
- 在哪里获取 agent-threat-rules?
- 源代码和安装说明在 GitHub 上:https://github.com/Agent-Threat-Rule/agent-threat-rules
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
面向企业的 AI 智能体安全系统,用于发现、观测、评测并检测编码与客服类智能体的风险行为。
腾讯朱雀实验室开源的全栈 AI 红队测试平台,用于扫描 AI 智能体、MCP 服务、Agent Skills 与 AI 基础设施的安全风险。
开源 AI 安全验证工具,检查模型文件、代码、在线 LLM/Agent/MCP 服务及录制的 Agent 运行记录。
面向 AI 编码代理的安全扫描器,检查生成代码、MCP 服务器、提示词和 AI 推荐的依赖包风险。
面向代码与 AI 智能体配置的安全扫描器,内置 LLM 应用、MCP 服务与泄露密钥等检测规则。