Repolode
Enviar
Agent-Threat-Rule

Agent-Threat-Rule/agent-threat-rules

Formato abierto de reglas de detección de amenazas contra la seguridad de agentes de IA, con reglas YAML ejecutables y comprobables para la inyección de prompts, el envenenamiento de herramientas y los ataques a MCP.

Ver en GitHubSitio web
Estrellas
426
Forks
66
Issues abiertos
46
Último commit
hace 17 horas

¿Qué es?

ATR (Agent Threat Rules) es un formato de reglas de detección independiente de proveedores para ataques contra agentes de IA, basado en Sigma para registros SIEM y YARA para malware. Cada regla es un documento YAML con un esquema versionado que especifica el patrón de ataque, el campo de entrada que inspecciona (entrada y salida del LLM, argumentos de llamadas a herramientas, contenido de SKILL.md o configuración del agente), casos de prueba y correspondencias con OWASP, MITRE ATLAS y otros marcos.

El repositorio incluye un motor de referencia en TypeScript con un paquete npm y una CLI, además de un wrapper de Python (pyatr). La CLI puede analizar archivos de skills, configuraciones de MCP y listas de herramientas; exportar reglas a formatos de regex, Splunk SPL y Elasticsearch; y ejecutar los casos de prueba de cada regla. Una GitHub Action genera resultados SARIF para la pestaña Security, y un servidor MCP se integra con clientes de IDE como Claude Code y Cursor.

El conjunto de reglas abarca categorías como la inyección de prompts, el envenenamiento de herramientas, la exfiltración de contexto, la escalada de privilegios y el compromiso de skills. El proyecto publica mediciones de detección por fuente, con cifras separadas por carril, y documenta las limitaciones conocidas y las técnicas de evasión.

Funciones clave

  • 01Las reglas son documentos YAML con un esquema versionado y un esquema público de identificadores ATR-YYYY-NNNNN.
  • 02Motor y CLI en TypeScript, además de un paquete de Python (pyatr).
  • 03Exporta reglas a formatos de regex y de consultas de Splunk SPL y Elasticsearch.
  • 04La GitHub Action genera resultados SARIF para el análisis de código.
  • 05Servidor MCP para integrarse en tiempo real con clientes de IDE como Claude Code y Cursor.
  • 06Cada regla se vincula con referencias de OWASP Agentic Top 10, OWASP LLM Top 10 y MITRE ATLAS.

Casos de uso

  • Analizar archivos SKILL.md y configuraciones de servidores MCP en CI antes de fusionarlos.
  • Añadir comprobaciones de inyección de prompts en tiempo de ejecución a un framework o proxy de agentes mediante la API del motor.
  • Exportar reglas de detección a un SIEM existente, como Splunk o Elasticsearch.
  • Hacer red teaming de una aplicación con LLM frente a un conjunto compartido y comprobable de patrones de ataque contra agentes.

Inicio rápido

  1. 1

    Instala el paquete npm

    npm install agent-threat-rules
  2. 2

    Analiza un archivo SKILL.md con la CLI

    atr scan skill.md

Antes de usarlo

  • Se retiraron las tasas de falsos positivos de Lane y aún no se han vuelto a medir, por lo que actualmente no hay cifras de precisión disponibles.
  • La gobernanza depende actualmente de una sola persona mantenedora, y está previsto pasar a un Technical Steering Committee.

Temas

#agent-security#ai-security#prompt-injection#mcp-security#llm-security#threat-detection#yaml-rules#sigma-rules#agent-threat-rules#garak

Preguntas frecuentes

¿Qué es agent-threat-rules?
Formato abierto de reglas de detección de amenazas contra la seguridad de agentes de IA, con reglas YAML ejecutables y comprobables para la inyección de prompts, el envenenamiento de herramientas y los ataques a MCP. ATR (Agent Threat Rules) es un formato de reglas de detección independiente de proveedores para ataques contra agentes de IA, basado en Sigma para registros SIEM y YARA para malware. Cada regla es un documento YAML con un esquema versionado que especifica el patrón de ataque, el campo de entrada que inspecciona (entrada y salida del LLM, argumentos de llamadas a herramientas, contenido de SKILL.md o configuración del agente), casos de prueba y correspondencias con OWASP, MITRE ATLAS y otros marcos.
¿agent-threat-rules es gratuito? ¿Qué licencia tiene?
agent-threat-rules es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿agent-threat-rules sigue mantenido?
Mantenimiento activo. El último commit de agent-threat-rules fue el 6 nov 2026.
¿Para qué puedo usar agent-threat-rules?
Analizar archivos SKILL.md y configuraciones de servidores MCP en CI antes de fusionarlos. Añadir comprobaciones de inyección de prompts en tiempo de ejecución a un framework o proxy de agentes mediante la API del motor. Exportar reglas de detección a un SIEM existente, como Splunk o Elasticsearch. Hacer red teaming de una aplicación con LLM frente a un conjunto compartido y comprobable de patrones de ataque contra agentes.
¿Cómo se instala agent-threat-rules?
Instala el paquete npm: npm install agent-threat-rules Analiza un archivo SKILL.md con la CLI: atr scan skill.md
¿Dónde consigo agent-threat-rules?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados