Repolode
Enviar
FailproofAI

FailproofAI/failproofai

Observabilidad y aplicación de políticas para agentes y asistentes de programación con IA; bloquea llamadas peligrosas a herramientas en 12 entornos.

Ver en GitHubSitio web
Estrellas
6,000
Forks
506
Issues abiertos
61
Último commit
anteayer

¿Qué es?

Failproof AI es una herramienta local que registra lo que hacen los agentes de IA y puede bloquear acciones de riesgo antes de que ocurran. Se integra con 12 entornos de agentes, incluidas CLI de programación como Claude Code, Codex, OpenCode y Goose, y gateways de chat o asistentes como Hermes y OpenClaw. Cada ejecución se guarda en el historial de una sesión que puedes consultar en un panel local disponible en localhost:8020, sin necesidad de crear una cuenta.

La aplicación de restricciones se realiza mediante políticas. El proyecto incluye 40 políticas listas para usar, como bloquear la lectura de archivos .env, las eliminaciones recursivas, sudo, los force push en Git y las consultas SQL destructivas. Además, los equipos pueden añadir sus propias políticas como código. Cada política puede permitir una operación, denegarla con un mensaje para el agente o dejarla pasar con contexto adicional. Los agentes que no estén cubiertos por un entorno compatible pueden informar de sus ejecuciones mediante un SDK de Python para trazas y sesiones.

El proyecto también incluye un comando de auditoría sin conexión que analiza el historial de sesiones para detectar patrones de riesgo y sugiere políticas para abordarlos. El producto de observabilidad alojado de Failproof AI se basa en el mismo modelo de datos para ofrecer supervisión de toda la flota, pero las herramientas locales se ejecutan por completo en tu máquina.

Funciones clave

  • 01Se integra con 12 entornos de agentes, incluidos Claude Code, Codex y Hermes.
  • 02Bloquea llamadas de riesgo a herramientas, como leer archivos .env, ejecutar sudo y hacer force push, antes de que se ejecuten.
  • 03Incluye 40 políticas listas para usar y permite crear políticas personalizadas en JavaScript o TypeScript.
  • 04Ofrece un panel local que muestra sesiones, llamadas a modelos, llamadas a herramientas y decisiones de los hooks.
  • 05Incluye una auditoría sin conexión que analiza el historial para detectar patrones de riesgo y sugiere políticas.

Casos de uso

  • Evitar que un agente de programación elimine archivos, haga force push a main o ejecute consultas SQL destructivas.
  • Impedir que archivos secretos como .env se incluyan en el contexto de un agente.
  • Revisar lo que hizo un agente en sesiones anteriores y detectar patrones recurrentes de fallos.
  • Compartir medidas de protección en todo el equipo mediante archivos de políticas versionados en un repositorio.

Inicio rápido

  1. 1

    Instala la CLI globalmente desde npm

    npm install -g failproofai
  2. 2

    Conecta tus agentes y el daemon

    failproofai config
  3. 3

    Añade el paquete de políticas que determina qué se aplica

    failproofai policies add FailproofAI/policies
  4. 4

    Abre el panel en localhost:8020

    failproofai

Antes de usarlo

  • La licencia es MIT with Commons Clause, por lo que la reventa comercial de failproofai como tal requiere un acuerdo aparte.
  • La configuración no activa ninguna política de forma predeterminada, así que debes añadir un paquete antes de que se aplique nada más allá de block-failproofai-commands.
  • El autoalojamiento de la plataforma de observabilidad alojada en tu propio clúster solo está disponible en el plan Enterprise.

Temas

#ai-agent#observability#guardrails#claude-code#llm-observability#agent-reliability#policy-enforcement#agent-failure#agent-harness#agent-observability

Preguntas frecuentes

¿Qué es failproofai?
Observabilidad y aplicación de políticas para agentes y asistentes de programación con IA; bloquea llamadas peligrosas a herramientas en 12 entornos. Failproof AI es una herramienta local que registra lo que hacen los agentes de IA y puede bloquear acciones de riesgo antes de que ocurran. Se integra con 12 entornos de agentes, incluidas CLI de programación como Claude Code, Codex, OpenCode y Goose, y gateways de chat o asistentes como Hermes y OpenClaw. Cada ejecución se guarda en el historial de una sesión que puedes consultar en un panel local disponible en localhost:8020, sin necesidad de crear una cuenta.
¿failproofai es gratuito? ¿Qué licencia tiene?
failproofai es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿failproofai sigue mantenido?
Mantenimiento activo. El último commit de failproofai fue el 21 oct 2026.
¿Para qué puedo usar failproofai?
Evitar que un agente de programación elimine archivos, haga force push a main o ejecute consultas SQL destructivas. Impedir que archivos secretos como .env se incluyan en el contexto de un agente. Revisar lo que hizo un agente en sesiones anteriores y detectar patrones recurrentes de fallos. Compartir medidas de protección en todo el equipo mediante archivos de políticas versionados en un repositorio.
¿Cómo se instala failproofai?
Instala la CLI globalmente desde npm: npm install -g failproofai Conecta tus agentes y el daemon: failproofai config Añade el paquete de políticas que determina qué se aplica: failproofai policies add FailproofAI/policies Abre el panel en localhost:8020: failproofai
¿Dónde consigo failproofai?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/FailproofAI/failproofai

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados