Repolode
FailproofAI

FailproofAI/failproofai

为 AI 编码智能体与助手提供可观测性和策略拦截,在工具调用执行前阻止危险操作。

Star
6,000
Fork
506
未关闭 Issue
61
最近提交
昨天

这是什么?

Failproof AI 是一个本地运行的工具,用于记录 AI 智能体的执行过程,并在危险操作发生前进行拦截。它支持 12 种智能体运行环境,包括 Claude Code、Codex、OpenCode、Goose 等编码命令行工具,以及 Hermes、OpenClaw 等聊天与助手网关。每次运行都会被记录为会话历史,可在 localhost:8020 的本地仪表盘中查看,无需注册账号。

拦截通过策略实现。项目内置 40 条策略,例如阻止读取 .env 文件、递归删除、sudo 提权、git 强制推送和危险 SQL 语句,团队也可以用代码编写自定义策略。每条策略可以放行操作、以消息拒绝并反馈给智能体,或放行并向智能体的下一次提示中添加上下文。未被直接支持的智能体可通过 Python SDK 上报运行数据,获得追踪和会话记录。

项目还提供离线审计命令,扫描会话历史中的风险模式,并建议对应策略。托管版 Failproof AI Observability 基于相同的数据模型,面向多智能体的集中监控;本地工具则完全在用户机器上运行。

核心功能

  • 01接入 12 种智能体运行环境,包括 Claude Code、Codex、Hermes 等。
  • 02在执行前拦截 .env 读取、sudo、强制推送等高风险工具调用。
  • 03内置 40 条策略,并支持用 JavaScript 或 TypeScript 编写自定义策略。
  • 04提供本地仪表盘,展示会话、模型调用、工具调用和钩子决策。
  • 05提供离线审计,扫描历史记录中的风险模式并建议策略。

适用场景

  • 防止编码智能体误删文件、强制推送到 main 分支或执行破坏性 SQL。
  • 避免 .env 等密钥文件被智能体读取并带入上下文。
  • 回顾智能体过往会话,找出反复出现的失败模式。
  • 将策略文件提交到代码仓库,让团队共享同一套防护规则。

标签

常见问题

failproofai 是什么?
为 AI 编码智能体与助手提供可观测性和策略拦截,在工具调用执行前阻止危险操作。 Failproof AI 是一个本地运行的工具,用于记录 AI 智能体的执行过程,并在危险操作发生前进行拦截。它支持 12 种智能体运行环境,包括 Claude Code、Codex、OpenCode、Goose 等编码命令行工具,以及 Hermes、OpenClaw 等聊天与助手网关。每次运行都会被记录为会话历史,可在 localhost:8020 的本地仪表盘中查看,无需注册账号。
failproofai 可以免费使用吗?用的什么许可证?
failproofai 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
failproofai 还在维护吗?
活跃维护中。failproofai 最近一次提交是在 2026年10月21日。
failproofai 适合用来做什么?
防止编码智能体误删文件、强制推送到 main 分支或执行破坏性 SQL。 避免 .env 等密钥文件被智能体读取并带入上下文。 回顾智能体过往会话,找出反复出现的失败模式。 将策略文件提交到代码仓库,让团队共享同一套防护规则。
在哪里获取 failproofai?
源代码和安装说明在 GitHub 上:https://github.com/FailproofAI/failproofai

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目