Plataforma de código aberto baseada em OpenTelemetry para rastrear, avaliar, proteger e monitorar agentes de IA, agentes de programação, custos de LLM e GPUs.
FailproofAI/failproofai
Observabilidade e aplicação de políticas para agentes e assistentes de programação com IA, bloqueando chamadas perigosas de ferramentas em 12 harnesses antes que sejam executadas.
- Estrelas
- 6,000
- Forks
- 506
- Issues abertas
- 61
- Último commit
- anteontem
O que é?
Failproof AI é uma ferramenta local que registra o que os agentes de IA fazem e pode bloquear ações arriscadas antes que aconteçam. Ela se integra a 12 harnesses de agentes, incluindo CLIs de programação como Claude Code, Codex, OpenCode e Goose, além de gateways de chat ou assistentes como Hermes e OpenClaw. Cada execução é registrada no histórico de uma sessão, que você pode consultar em um dashboard local disponível em localhost:8020, sem precisar de uma conta.
A aplicação das regras é feita por meio de políticas. O projeto inclui 40 políticas prontas, como bloquear a leitura de arquivos .env, exclusões recursivas, sudo, force pushes no git e SQL destrutivo, e as equipes podem adicionar suas próprias políticas como código. Cada política pode permitir uma operação, negá-la com uma mensagem para o agente ou deixá-la passar com contexto adicional. Agentes que não são cobertos por um harness podem reportar execuções por meio de um SDK Python para rastreamento e sessões.
O projeto também inclui um comando de auditoria offline que verifica o histórico das sessões em busca de padrões arriscados e sugere políticas para tratá-los. O produto hospedado Failproof AI Observability usa o mesmo modelo de dados para monitoramento em toda a frota, mas as ferramentas locais são executadas inteiramente na sua máquina.
Recursos principais
- 01Integra-se a 12 harnesses de agentes, incluindo Claude Code, Codex e Hermes.
- 02Bloqueia chamadas arriscadas de ferramentas, como leituras de .env, sudo e force pushes, antes que sejam executadas.
- 03Inclui 40 políticas prontas e aceita políticas personalizadas escritas em JavaScript ou TypeScript.
- 04Executa um dashboard local que mostra sessões, chamadas de modelo, chamadas de ferramentas e decisões dos hooks.
- 05Oferece uma auditoria offline que verifica o histórico em busca de padrões arriscados e sugere políticas.
Casos de uso
- Impedir que um agente de programação exclua arquivos, faça force push para main ou execute SQL destrutivo.
- Manter arquivos secretos, como .env, fora do contexto de um agente.
- Revisar o que um agente fez em sessões anteriores e encontrar padrões recorrentes de falha.
- Compartilhar proteções para toda a equipe adicionando arquivos de política a um repositório.
Início rápido
- 1
Instale a CLI globalmente pelo npm
npm install -g failproofai - 2
Conecte seus agentes e o daemon
failproofai config - 3
Adicione o pacote de políticas que determina o que será aplicado
failproofai policies add FailproofAI/policies - 4
Abra o painel em localhost:8020
failproofai
Antes de usar
- A licença é MIT with Commons Clause, portanto, a revenda comercial do próprio failproofai exige um acordo separado.
- A configuração não ativa nenhuma política por padrão. Portanto, é preciso adicionar um pacote antes que qualquer coisa além de block-failproofai-commands seja aplicada.
- A hospedagem própria da plataforma de observabilidade hospedada no seu próprio cluster está disponível apenas no plano Enterprise.
Tópicos
Perguntas frequentes
- O que é failproofai?
- Observabilidade e aplicação de políticas para agentes e assistentes de programação com IA, bloqueando chamadas perigosas de ferramentas em 12 harnesses antes que sejam executadas. Failproof AI é uma ferramenta local que registra o que os agentes de IA fazem e pode bloquear ações arriscadas antes que aconteçam. Ela se integra a 12 harnesses de agentes, incluindo CLIs de programação como Claude Code, Codex, OpenCode e Goose, além de gateways de chat ou assistentes como Hermes e OpenClaw. Cada execução é registrada no histórico de uma sessão, que você pode consultar em um dashboard local disponível em localhost:8020, sem precisar de uma conta.
- failproofai é gratuito? Qual é a licença?
- failproofai é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
- failproofai ainda é mantido?
- Manutenção ativa. O último commit de failproofai foi em 21 de out. de 2026.
- Para que posso usar failproofai?
- Impedir que um agente de programação exclua arquivos, faça force push para main ou execute SQL destrutivo. Manter arquivos secretos, como .env, fora do contexto de um agente. Revisar o que um agente fez em sessões anteriores e encontrar padrões recorrentes de falha. Compartilhar proteções para toda a equipe adicionando arquivos de política a um repositório.
- Como instalar failproofai?
- Instale a CLI globalmente pelo npm: npm install -g failproofai Conecte seus agentes e o daemon: failproofai config Adicione o pacote de políticas que determina o que será aplicado: failproofai policies add FailproofAI/policies Abra o painel em localhost:8020: failproofai
- Onde consigo failproofai?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/FailproofAI/failproofai
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
SDK Python do Pydantic Logfire, uma ferramenta de observabilidade que instrumenta apps Python e agentes de LLM com traces, métricas e logs do OpenTelemetry.
Observabilidade open source para agentes de IA que agrupa traces com falha, aciona agentes de programação para corrigi-los e reproduz as correções com traces reais.
Plataforma open source de observabilidade para agentes de IA, com tracing, avaliações, sinais e dashboards, que pode ser hospedada com Docker Compose.
Workspace agentic local-first que reúne apps, ferramentas de chat, integrações, memória e qualquer agente (Claude Code, Codex, modelos BYOK) lado a lado.
Dashboard self-hosted para distribuir tarefas, revisar execuções de agentes, acompanhar gastos e coordenar runtimes de agentes de IA como OpenClaw, Claude Code e Codex.