开源的 LLM 可观测与评估平台,用于 AI 智能体追踪、LLM 输出评估、提示词管理和生产监控。
langfuse/langfuse
开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。
- Star
- 36,072
- Fork
- 4,026
- 未关闭 Issue
- 1,077
- 最近提交
- 5小时前
这是什么?
Langfuse 是一个开源的 LLM 应用开发与运维平台。它会记录模型调用以及检索、Embedding、Agent 动作等应用逻辑的 trace,方便团队在出现问题时排查复杂的日志和用户会话。
除了追踪,Langfuse 还提供带版本管理和缓存的提示词管理,支持 LLM-as-a-judge、代码评估器、用户反馈和人工标注等评估方式,并提供用于测试集和实验的 Datasets。LLM Playground 允许开发者直接从异常的 trace 跳转过去,调整提示词和模型配置。
可以使用 Langfuse Cloud,也可以通过 Docker Compose、虚拟机、Helm 部署到 Kubernetes,或使用 AWS、Azure、GCP 的 Terraform 模板自托管。项目提供 Python 与 JS/TS SDK、OpenAPI 规范,并集成了 OpenAI、LangChain、LlamaIndex、LiteLLM 等多种框架。
核心功能
- 01追踪 LLM 调用以及检索、Embedding、Agent 动作等应用逻辑。
- 02提示词支持版本管理,并在客户端和服务端做缓存。
- 03支持 LLM-as-a-judge、代码评估器、用户反馈和人工标注。
- 04提供 Datasets 用于测试集、基准测试和结构化实验。
- 05内置 LLM Playground,可直接调整提示词和模型配置。
- 06提供 OpenAPI 规范、Python 与 JS/TS SDK,以及 OpenAI 的替换式接入。
适用场景
- 通过查看 trace 和用户会话,调试线上的 LLM 聊天应用。
- 在部署前用数据集对提示词做回归测试。
- 让非工程人员在不重新发布应用的情况下编辑并管理提示词版本。
- 在自有基础设施上部署 LLM 数据的可观测性平台。
快速上手
- 1
克隆 Langfuse 仓库
git clone --depth=1 https://github.com/langfuse/langfuse.git - 2
进入项目目录
cd langfuse - 3
使用 Docker Compose 启动 Langfuse
docker compose up
使用前须知
- 自托管会运行包含 ClickHouse 的较重技术栈,README 推荐生产环境使用 Kubernetes。
- 元数据中的许可证显示为 NOASSERTION,因此自动许可证识别不明确,尽管 README 链接了 MIT 徽章。
标签
常见问题
- langfuse 是什么?
- 开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。 Langfuse 是一个开源的 LLM 应用开发与运维平台。它会记录模型调用以及检索、Embedding、Agent 动作等应用逻辑的 trace,方便团队在出现问题时排查复杂的日志和用户会话。
- langfuse 可以免费使用吗?用的什么许可证?
- langfuse 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
- langfuse 还在维护吗?
- 活跃维护中。langfuse 最近一次提交是在 2026年10月20日。
- langfuse 适合用来做什么?
- 通过查看 trace 和用户会话,调试线上的 LLM 聊天应用。 在部署前用数据集对提示词做回归测试。 让非工程人员在不重新发布应用的情况下编辑并管理提示词版本。 在自有基础设施上部署 LLM 数据的可观测性平台。
- langfuse 怎么安装和运行?
- 克隆 Langfuse 仓库: git clone --depth=1 https://github.com/langfuse/langfuse.git 进入项目目录: cd langfuse 使用 Docker Compose 启动 Langfuse: docker compose up
- 在哪里获取 langfuse?
- 源代码和安装说明在 GitHub 上:https://github.com/langfuse/langfuse
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
开源 AI 工程平台,用于调试、评估、监控和优化智能体、LLM 应用与机器学习模型。
开源、可自托管的 AI 可观测性平台,用于追踪、评估和调试 LLM 应用与智能体。
开源跨平台 AI 聊天客户端,支持 Web、桌面和移动端,可接入 OpenAI、Claude、Gemini、DeepSeek 等模型。
一个轻量的 Python 多智能体工作流框架,支持工具调用、任务移交、护栏、会话与追踪,可接入 OpenAI 及 100 多种其他 LLM。
用于评估提示词和对 LLM 应用做红队测试的命令行工具与库,支持声明式配置和 CI/CD 集成。