Repolode
Enviar
0x4D31

0x4D31/endpoint-ai-agent-abuse

Catálogo organizado de técnicas e casos reais que mostram como atacantes abusam de agentes de IA locais por meio de configurações, estado, ferramentas e acessos herdados.

Ver no GitHub
Estrelas
100
Forks
6
Issues abertas
0
Último commit
há 4 dias

O que é?

EAA cataloga as formas como atacantes podem abusar de agentes de IA executados em estações de trabalho, containers de desenvolvimento e runners de CI. Descreve como um atacante inicia um agente, altera suas instruções e configurações, coleta suas transcrições e seu estado e usa o acesso que o agente tem a arquivos, ferramentas e serviços.

Cada técnica do catálogo identifica a ação do atacante e seus pré-requisitos, além de receber um nível de maturidade: viável, demonstrada por pesquisas públicas ou por um artefato malicioso, ou observada em um relatório de incidente ou campanha. Registros de casos separados acompanham se um procedimento estava presente, foi tentado, executado ou levou a um impacto confirmado.

O projeto se concentra em agentes executados em nome de um usuário ou organização vítima. Ele inclui um catálogo JSON legível por máquina e um schema, ideias de detecção com a telemetria necessária e um script validador para contribuições.

Recursos principais

  • 01Cataloga 21 técnicas relacionadas à inicialização, configuração, coleta de estado, abuso de MCP e ferramentas e autoridade herdada.
  • 02Atribui um nível de maturidade a cada técnica (viável, demonstrada ou observada).
  • 03Relaciona incidentes, artefatos maliciosos e pesquisas a técnicas específicas.
  • 04Apresenta ideias de detecção, a telemetria necessária e suas limitações.
  • 05Inclui um catálogo JSON legível por máquina, com schema e um validador sem dependências.

Casos de uso

  • Equipes de segurança que criam regras de detecção para agentes de IA executados em estações de trabalho de desenvolvedores.
  • Red teams que analisam como um agente poderia ser abusado por meio de sua configuração ou do acesso às ferramentas.
  • Engenheiros que avaliam os riscos de conceder acesso a agentes a runners de CI ou containers de desenvolvimento.
  • Pesquisadores que buscam uma taxonomia estruturada e uma lista de casos de abuso de agentes.

Início rápido

  1. 1

    Abra o catálogo principal no repositório

  2. 2

    Execute o validador sem dependências a partir da raiz do repositório

    python3 scripts/validate.py

Antes de usar

  • O README informa que as fontes e as afirmações técnicas ainda precisam de uma revisão separada, além da validação.

Em coleções

Frameworks e apps de agentes de IA open sourceServidores MCPFerramentas de varredura, auditoria e inteligência de ameaças

Tópicos

#ai-agents#security#threat-intelligence#mcp#prompt-injection#detection#red-team

Perguntas frequentes

O que é endpoint-ai-agent-abuse?
Catálogo organizado de técnicas e casos reais que mostram como atacantes abusam de agentes de IA locais por meio de configurações, estado, ferramentas e acessos herdados. EAA cataloga as formas como atacantes podem abusar de agentes de IA executados em estações de trabalho, containers de desenvolvimento e runners de CI. Descreve como um atacante inicia um agente, altera suas instruções e configurações, coleta suas transcrições e seu estado e usa o acesso que o agente tem a arquivos, ferramentas e serviços.
endpoint-ai-agent-abuse é gratuito? Qual é a licença?
endpoint-ai-agent-abuse é open source sob a licença CC0-1.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
endpoint-ai-agent-abuse ainda é mantido?
Manutenção ativa. O último commit de endpoint-ai-agent-abuse foi em 3 de nov. de 2026.
Para que posso usar endpoint-ai-agent-abuse?
Equipes de segurança que criam regras de detecção para agentes de IA executados em estações de trabalho de desenvolvedores. Red teams que analisam como um agente poderia ser abusado por meio de sua configuração ou do acesso às ferramentas. Engenheiros que avaliam os riscos de conceder acesso a agentes a runners de CI ou containers de desenvolvimento. Pesquisadores que buscam uma taxonomia estruturada e uma lista de casos de abuso de agentes.
Como instalar endpoint-ai-agent-abuse?
Abra o catálogo principal no repositório Execute o validador sem dependências a partir da raiz do repositório: python3 scripts/validate.py
Onde consigo endpoint-ai-agent-abuse?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/0x4D31/endpoint-ai-agent-abuse

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados

salesforce / jarm

JARM é uma ferramenta ativa de fingerprinting de servidores TLS que envia probes Client Hello especialmente elaborados para identificar configurações de servidores e detectar infraestrutura maliciosa.

Segurança#tls#fingerprinting#security
1,3 mil+2 esta semana156PythonBSD-3-ClauseAtualizado há 3 meses