基于 OpenTelemetry 的开源平台,用于追踪、评估和防护 AI 智能体与编程智能体,并监控 LLM 成本和 GPU。
FailproofAI/failproofai
为 AI 编码智能体与助手提供可观测性和策略拦截,在工具调用执行前阻止危险操作。
- Star
- 6,000
- Fork
- 506
- 未关闭 Issue
- 61
- 最近提交
- 昨天
这是什么?
Failproof AI 是一个本地运行的工具,用于记录 AI 智能体的执行过程,并在危险操作发生前进行拦截。它支持 12 种智能体运行环境,包括 Claude Code、Codex、OpenCode、Goose 等编码命令行工具,以及 Hermes、OpenClaw 等聊天与助手网关。每次运行都会被记录为会话历史,可在 localhost:8020 的本地仪表盘中查看,无需注册账号。
拦截通过策略实现。项目内置 40 条策略,例如阻止读取 .env 文件、递归删除、sudo 提权、git 强制推送和危险 SQL 语句,团队也可以用代码编写自定义策略。每条策略可以放行操作、以消息拒绝并反馈给智能体,或放行并向智能体的下一次提示中添加上下文。未被直接支持的智能体可通过 Python SDK 上报运行数据,获得追踪和会话记录。
项目还提供离线审计命令,扫描会话历史中的风险模式,并建议对应策略。托管版 Failproof AI Observability 基于相同的数据模型,面向多智能体的集中监控;本地工具则完全在用户机器上运行。
核心功能
- 01接入 12 种智能体运行环境,包括 Claude Code、Codex、Hermes 等。
- 02在执行前拦截 .env 读取、sudo、强制推送等高风险工具调用。
- 03内置 40 条策略,并支持用 JavaScript 或 TypeScript 编写自定义策略。
- 04提供本地仪表盘,展示会话、模型调用、工具调用和钩子决策。
- 05提供离线审计,扫描历史记录中的风险模式并建议策略。
适用场景
- 防止编码智能体误删文件、强制推送到 main 分支或执行破坏性 SQL。
- 避免 .env 等密钥文件被智能体读取并带入上下文。
- 回顾智能体过往会话,找出反复出现的失败模式。
- 将策略文件提交到代码仓库,让团队共享同一套防护规则。
标签
常见问题
- failproofai 是什么?
- 为 AI 编码智能体与助手提供可观测性和策略拦截,在工具调用执行前阻止危险操作。 Failproof AI 是一个本地运行的工具,用于记录 AI 智能体的执行过程,并在危险操作发生前进行拦截。它支持 12 种智能体运行环境,包括 Claude Code、Codex、OpenCode、Goose 等编码命令行工具,以及 Hermes、OpenClaw 等聊天与助手网关。每次运行都会被记录为会话历史,可在 localhost:8020 的本地仪表盘中查看,无需注册账号。
- failproofai 可以免费使用吗?用的什么许可证?
- failproofai 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
- failproofai 还在维护吗?
- 活跃维护中。failproofai 最近一次提交是在 2026年10月21日。
- failproofai 适合用来做什么?
- 防止编码智能体误删文件、强制推送到 main 分支或执行破坏性 SQL。 避免 .env 等密钥文件被智能体读取并带入上下文。 回顾智能体过往会话,找出反复出现的失败模式。 将策略文件提交到代码仓库,让团队共享同一套防护规则。
- 在哪里获取 failproofai?
- 源代码和安装说明在 GitHub 上:https://github.com/FailproofAI/failproofai
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
Pydantic Logfire 的 Python SDK,基于 OpenTelemetry 为应用和 LLM 智能体提供追踪、指标与日志。
开源 AI 智能体可观测平台,自动归类失败调用链,派发编码智能体修复并用真实调用链验证。
面向 AI 智能体的开源可观测性平台,提供追踪、评测、信号告警与仪表盘,支持 Docker Compose 自托管。
本地优先的 Agent 工作空间,将应用、聊天工具、集成与共享记忆放在同一处,可接入 Claude Code、Codex 等多种 Agent。
自托管的 AI 智能体控制台,用于分派任务、审查运行记录、追踪成本,并协调 OpenClaw、Claude Code、Codex 等运行时。