Repolode
langfuse

langfuse/langfuse

开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。

可替代:LangSmithHeliconeWeights & Biases Weave

Star
36,072
Fork
4,026
未关闭 Issue
1,077
最近提交
5小时前

这是什么?

Langfuse 是一个开源的 LLM 应用开发与运维平台。它会记录模型调用以及检索、Embedding、Agent 动作等应用逻辑的 trace,方便团队在出现问题时排查复杂的日志和用户会话。

除了追踪,Langfuse 还提供带版本管理和缓存的提示词管理,支持 LLM-as-a-judge、代码评估器、用户反馈和人工标注等评估方式,并提供用于测试集和实验的 Datasets。LLM Playground 允许开发者直接从异常的 trace 跳转过去,调整提示词和模型配置。

可以使用 Langfuse Cloud,也可以通过 Docker Compose、虚拟机、Helm 部署到 Kubernetes,或使用 AWS、Azure、GCP 的 Terraform 模板自托管。项目提供 Python 与 JS/TS SDK、OpenAPI 规范,并集成了 OpenAI、LangChain、LlamaIndex、LiteLLM 等多种框架。

核心功能

  • 01追踪 LLM 调用以及检索、Embedding、Agent 动作等应用逻辑。
  • 02提示词支持版本管理,并在客户端和服务端做缓存。
  • 03支持 LLM-as-a-judge、代码评估器、用户反馈和人工标注。
  • 04提供 Datasets 用于测试集、基准测试和结构化实验。
  • 05内置 LLM Playground,可直接调整提示词和模型配置。
  • 06提供 OpenAPI 规范、Python 与 JS/TS SDK,以及 OpenAI 的替换式接入。

适用场景

  • 通过查看 trace 和用户会话,调试线上的 LLM 聊天应用。
  • 在部署前用数据集对提示词做回归测试。
  • 让非工程人员在不重新发布应用的情况下编辑并管理提示词版本。
  • 在自有基础设施上部署 LLM 数据的可观测性平台。

快速上手

  1. 1

    克隆 Langfuse 仓库

    git clone --depth=1 https://github.com/langfuse/langfuse.git
  2. 2

    进入项目目录

    cd langfuse
  3. 3

    使用 Docker Compose 启动 Langfuse

    docker compose up

使用前须知

  • 自托管会运行包含 ClickHouse 的较重技术栈,README 推荐生产环境使用 Kubernetes。
  • 元数据中的许可证显示为 NOASSERTION,因此自动许可证识别不明确,尽管 README 链接了 MIT 徽章。

标签

常见问题

langfuse 是什么?
开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。 Langfuse 是一个开源的 LLM 应用开发与运维平台。它会记录模型调用以及检索、Embedding、Agent 动作等应用逻辑的 trace,方便团队在出现问题时排查复杂的日志和用户会话。
langfuse 可以免费使用吗?用的什么许可证?
langfuse 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
langfuse 还在维护吗?
活跃维护中。langfuse 最近一次提交是在 2026年10月20日。
langfuse 适合用来做什么?
通过查看 trace 和用户会话,调试线上的 LLM 聊天应用。 在部署前用数据集对提示词做回归测试。 让非工程人员在不重新发布应用的情况下编辑并管理提示词版本。 在自有基础设施上部署 LLM 数据的可观测性平台。
langfuse 怎么安装和运行?
克隆 Langfuse 仓库: git clone --depth=1 https://github.com/langfuse/langfuse.git 进入项目目录: cd langfuse 使用 Docker Compose 启动 Langfuse: docker compose up
在哪里获取 langfuse?
源代码和安装说明在 GitHub 上:https://github.com/langfuse/langfuse

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目