future-agi/future-agi

这是什么？

核心功能

• 01支持基于角色和对抗输入的多轮 Agent 模拟，包括语音 Agent。
• 02通过统一的 evaluate() 调用 50 多种评估指标。
• 03基于 OpenTelemetry 的追踪，为 50 多种 AI 框架提供插桩。
• 04内置护栏扫描器，并对接多家第三方护栏服务。
• 05兼容 OpenAI 接口的网关，支持路由、缓存和虚拟密钥。
• 06提供六种提示词优化算法，可使用线上追踪数据作为输入。

适用场景

• 上线前用模拟对话测试客服 Agent。
• 监控线上 LLM 应用的延迟与 Token 成本。
• 在模型 API 前增加 PII 和提示词注入检测。
• 基于已记录的追踪数据优化 RAG 流程的提示词。

快速上手

1. 1

   克隆代码仓库

   git clone https://github.com/future-agi/future-agi.git
2. 2

   进入目录并运行安装脚本（需要 Docker Compose v2.24 及以上版本，并为 Docker 分配 2 个 vCPU 和 4 GB 内存）

   cd future-agi && ./bin/install
3. 3

   安装埋点包，并将第一条追踪数据发送到本地部署

   pip install fi-instrumentation-otel

使用前须知

• !自托管需要 Docker，并需下载约 800 MB 的镜像，首次启动还需要几分钟。
• !单机版（Standalone）和分布式版（Distributed）之间目前无法迁移数据，因此需要在添加数据前做出选择。
• !分布式和 Helm 部署需要更多的 CPU 和内存（4 个以上 vCPU 与 12–16 GB，或 Helm 评估约 4 个 CPU 与 8 GiB）。

收录于专题

标签

常见问题

future-agi 是什么？

开源的 LLM 与 AI Agent 应用评估、追踪、模拟、护栏与优化平台，支持自托管。 Future AGI 是一个用于构建和运维 AI Agent 与 LLM 应用的平台，覆盖 Agent 运行追踪、输出评估、多轮对话模拟、护栏检测和提示词优化等环节。其内置数十种评估指标，可对 PII、提示词注入等风险进行扫描，并提供兼容 OpenAI 接口的网关，统一对接多家模型服务商。线上追踪数据还可回流到数据集，用于后续优化。

future-agi 可以免费使用吗？用的什么许可证？

future-agi 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

future-agi 还在维护吗？

活跃维护中。future-agi 最近一次提交是在 2026年11月6日。

future-agi 适合用来做什么？

上线前用模拟对话测试客服 Agent。 监控线上 LLM 应用的延迟与 Token 成本。 在模型 API 前增加 PII 和提示词注入检测。 基于已记录的追踪数据优化 RAG 流程的提示词。

future-agi 怎么安装和运行？

克隆代码仓库: git clone https://github.com/future-agi/future-agi.git 进入目录并运行安装脚本（需要 Docker Compose v2.24 及以上版本，并为 Docker 分配 2 个 vCPU 和 4 GB 内存）: cd future-agi && ./bin/install 安装埋点包，并将第一条追踪数据发送到本地部署: pip install fi-instrumentation-otel

在哪里获取 future-agi？

源代码和安装说明在 GitHub 上：https://github.com/future-agi/future-agi