Repolode
FailproofAI

FailproofAI/failproofai

Observabilidade e aplicação de políticas para agentes e assistentes de programação com IA, bloqueando chamadas perigosas de ferramentas em 12 harnesses antes que sejam executadas.

Estrelas
6,000
Forks
506
Issues abertas
61
Último commit
anteontem

O que é?

Failproof AI é uma ferramenta local que registra o que os agentes de IA fazem e pode bloquear ações arriscadas antes que aconteçam. Ela se integra a 12 harnesses de agentes, incluindo CLIs de programação como Claude Code, Codex, OpenCode e Goose, além de gateways de chat ou assistentes como Hermes e OpenClaw. Cada execução é registrada no histórico de uma sessão, que você pode consultar em um dashboard local disponível em localhost:8020, sem precisar de uma conta.

A aplicação das regras é feita por meio de políticas. O projeto inclui 40 políticas prontas, como bloquear a leitura de arquivos .env, exclusões recursivas, sudo, force pushes no git e SQL destrutivo, e as equipes podem adicionar suas próprias políticas como código. Cada política pode permitir uma operação, negá-la com uma mensagem para o agente ou deixá-la passar com contexto adicional. Agentes que não são cobertos por um harness podem reportar execuções por meio de um SDK Python para rastreamento e sessões.

O projeto também inclui um comando de auditoria offline que verifica o histórico das sessões em busca de padrões arriscados e sugere políticas para tratá-los. O produto hospedado Failproof AI Observability usa o mesmo modelo de dados para monitoramento em toda a frota, mas as ferramentas locais são executadas inteiramente na sua máquina.

Recursos principais

  • 01Integra-se a 12 harnesses de agentes, incluindo Claude Code, Codex e Hermes.
  • 02Bloqueia chamadas arriscadas de ferramentas, como leituras de .env, sudo e force pushes, antes que sejam executadas.
  • 03Inclui 40 políticas prontas e aceita políticas personalizadas escritas em JavaScript ou TypeScript.
  • 04Executa um dashboard local que mostra sessões, chamadas de modelo, chamadas de ferramentas e decisões dos hooks.
  • 05Oferece uma auditoria offline que verifica o histórico em busca de padrões arriscados e sugere políticas.

Casos de uso

  • Impedir que um agente de programação exclua arquivos, faça force push para main ou execute SQL destrutivo.
  • Manter arquivos secretos, como .env, fora do contexto de um agente.
  • Revisar o que um agente fez em sessões anteriores e encontrar padrões recorrentes de falha.
  • Compartilhar proteções para toda a equipe adicionando arquivos de política a um repositório.

Início rápido

  1. 1

    Instale a CLI globalmente pelo npm

    npm install -g failproofai
  2. 2

    Conecte seus agentes e o daemon

    failproofai config
  3. 3

    Adicione o pacote de políticas que determina o que será aplicado

    failproofai policies add FailproofAI/policies
  4. 4

    Abra o painel em localhost:8020

    failproofai

Antes de usar

  • A licença é MIT with Commons Clause, portanto, a revenda comercial do próprio failproofai exige um acordo separado.
  • A configuração não ativa nenhuma política por padrão. Portanto, é preciso adicionar um pacote antes que qualquer coisa além de block-failproofai-commands seja aplicada.
  • A hospedagem própria da plataforma de observabilidade hospedada no seu próprio cluster está disponível apenas no plano Enterprise.

Tópicos

Perguntas frequentes

O que é failproofai?
Observabilidade e aplicação de políticas para agentes e assistentes de programação com IA, bloqueando chamadas perigosas de ferramentas em 12 harnesses antes que sejam executadas. Failproof AI é uma ferramenta local que registra o que os agentes de IA fazem e pode bloquear ações arriscadas antes que aconteçam. Ela se integra a 12 harnesses de agentes, incluindo CLIs de programação como Claude Code, Codex, OpenCode e Goose, além de gateways de chat ou assistentes como Hermes e OpenClaw. Cada execução é registrada no histórico de uma sessão, que você pode consultar em um dashboard local disponível em localhost:8020, sem precisar de uma conta.
failproofai é gratuito? Qual é a licença?
failproofai é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
failproofai ainda é mantido?
Manutenção ativa. O último commit de failproofai foi em 21 de out. de 2026.
Para que posso usar failproofai?
Impedir que um agente de programação exclua arquivos, faça force push para main ou execute SQL destrutivo. Manter arquivos secretos, como .env, fora do contexto de um agente. Revisar o que um agente fez em sessões anteriores e encontrar padrões recorrentes de falha. Compartilhar proteções para toda a equipe adicionando arquivos de política a um repositório.
Como instalar failproofai?
Instale a CLI globalmente pelo npm: npm install -g failproofai Conecte seus agentes e o daemon: failproofai config Adicione o pacote de políticas que determina o que será aplicado: failproofai policies add FailproofAI/policies Abra o painel em localhost:8020: failproofai
Onde consigo failproofai?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/FailproofAI/failproofai

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados