Repolode
Agent-Threat-Rule

Agent-Threat-Rule/agent-threat-rules

Formato aberto de regras de detecção de ameaças à segurança de agentes de IA, com regras YAML executáveis e testáveis para prompt injection, envenenamento de ferramentas e ataques a MCP.

Estrelas
426
Forks
66
Issues abertas
46
Último commit
há 19 horas

O que é?

ATR (Agent Threat Rules) é um formato de regras de detecção independente de fornecedores para ataques contra agentes de IA, inspirado no Sigma para logs de SIEM e no YARA para malware. Cada regra é um documento YAML com um schema versionado que declara o padrão de ataque, o campo de entrada analisado (entrada e saída do LLM, argumentos de chamadas de ferramentas, conteúdo de SKILL.md ou configuração do agente), casos de teste e mapeamentos para OWASP, MITRE ATLAS e outros frameworks.

O repositório inclui um mecanismo de referência em TypeScript com um pacote npm e CLI, além de um wrapper para Python (pyatr). A CLI pode analisar arquivos de skills, configurações de MCP e listas de ferramentas, exportar regras para regex e formatos do Splunk SPL e Elasticsearch, além de executar os casos de teste de cada regra. Uma GitHub Action gera resultados SARIF para a aba Security, e um servidor MCP se integra a clientes de IDE como Claude Code e Cursor.

O conjunto de regras abrange categorias como prompt injection, envenenamento de ferramentas, exfiltração de contexto, escalonamento de privilégios e comprometimento de skills. O projeto publica métricas de detecção por fonte, com resultados separados por lane, e documenta limitações conhecidas e técnicas de evasão.

Recursos principais

  • 01As regras são documentos YAML com um schema versionado e um esquema público de identificadores ATR-YYYY-NNNNN.
  • 02Mecanismo e CLI em TypeScript, além de um pacote Python (pyatr).
  • 03Exporta regras para regex e formatos de consulta do Splunk SPL e Elasticsearch.
  • 04A GitHub Action gera resultados SARIF para análise de código.
  • 05Servidor MCP para integração em tempo real com clientes de IDE como Claude Code e Cursor.
  • 06Cada regra é associada a referências do OWASP Agentic Top 10, OWASP LLM Top 10 e MITRE ATLAS.

Casos de uso

  • Analisar arquivos SKILL.md e configurações de servidores MCP no CI antes de integrá-los.
  • Adicionar verificações de prompt injection em tempo de execução a um framework de agentes ou proxy por meio da API do mecanismo.
  • Exportar regras de detecção para um SIEM existente, como Splunk ou Elasticsearch.
  • Fazer red teaming de uma aplicação com LLM usando um conjunto compartilhado e testável de padrões de ataque a agentes.

Início rápido

  1. 1

    Instale o pacote npm

    npm install agent-threat-rules
  2. 2

    Analise um arquivo SKILL.md com a CLI

    atr scan skill.md

Antes de usar

  • As taxas de falsos positivos do Lane foram retiradas e ainda não foram medidas novamente, portanto, os valores de precisão não estão disponíveis no momento.
  • A governança atualmente é feita por uma única pessoa mantenedora, com uma mudança planejada para um Technical Steering Committee.

Tópicos

#agent-security#ai-security#prompt-injection#mcp-security#llm-security#threat-detection#yaml-rules#sigma-rules#agent-threat-rules#garak

Perguntas frequentes

O que é agent-threat-rules?
Formato aberto de regras de detecção de ameaças à segurança de agentes de IA, com regras YAML executáveis e testáveis para prompt injection, envenenamento de ferramentas e ataques a MCP. ATR (Agent Threat Rules) é um formato de regras de detecção independente de fornecedores para ataques contra agentes de IA, inspirado no Sigma para logs de SIEM e no YARA para malware. Cada regra é um documento YAML com um schema versionado que declara o padrão de ataque, o campo de entrada analisado (entrada e saída do LLM, argumentos de chamadas de ferramentas, conteúdo de SKILL.md ou configuração do agente), casos de teste e mapeamentos para OWASP, MITRE ATLAS e outros frameworks.
agent-threat-rules é gratuito? Qual é a licença?
agent-threat-rules é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
agent-threat-rules ainda é mantido?
Manutenção ativa. O último commit de agent-threat-rules foi em 6 de nov. de 2026.
Para que posso usar agent-threat-rules?
Analisar arquivos SKILL.md e configurações de servidores MCP no CI antes de integrá-los. Adicionar verificações de prompt injection em tempo de execução a um framework de agentes ou proxy por meio da API do mecanismo. Exportar regras de detecção para um SIEM existente, como Splunk ou Elasticsearch. Fazer red teaming de uma aplicação com LLM usando um conjunto compartilhado e testável de padrões de ataque a agentes.
Como instalar agent-threat-rules?
Instale o pacote npm: npm install agent-threat-rules Analise um arquivo SKILL.md com a CLI: atr scan skill.md
Onde consigo agent-threat-rules?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados