Repolode
traceloop

traceloop/openllmetry

基于 OpenTelemetry 的开源可观测性扩展,用于追踪 Python 应用中的 LLM 调用、向量数据库和智能体框架。

可替代:LangSmithHelicone

Star
7,499
Fork
1,164
未关闭 Issue
801
最近提交
前天

这是什么?

OpenLLMetry 是基于 OpenTelemetry 构建的一组扩展,为 LLM 应用提供可观测性。它为 OpenAI、Anthropic、Bedrock、Gemini 等模型服务,以及 Chroma、Pinecone、Qdrant、Milvus、Weaviate 等向量数据库提供标准的 OpenTelemetry 埋点,并附带 Traceloop SDK 便于快速接入。

由于输出的是标准 OpenTelemetry 数据,链路追踪可以发送到已有的观测平台,包括 Datadog、Honeycomb、Grafana、New Relic、Sentry 以及 OpenTelemetry Collector。安装 traceloop-sdk 后调用 Traceloop.init() 即可开始追踪,本地调试时可设置 disable_batch 立即查看结果。

项目还覆盖 LangChain、LlamaIndex、CrewAI、LangGraph 等智能体与编排框架,以及 MCP 协议。已经使用 OpenTelemetry 的团队也可以不依赖 SDK,直接引入单个埋点模块。

核心功能

  • 01为 OpenAI、Anthropic、Bedrock 等主流 LLM 服务提供调用埋点
  • 02追踪 Chroma、Pinecone、Qdrant、Weaviate 等向量数据库的操作
  • 03输出标准 OpenTelemetry 数据,可接入多种观测后端
  • 04提供 SDK,通过一次初始化调用即可开始追踪
  • 05支持 LangChain、LlamaIndex、CrewAI 等智能体框架

适用场景

  • 监控生产环境中 OpenAI 或 Anthropic 调用的延迟与错误
  • 调试使用向量数据库的 RAG 流程中的检索环节
  • 将 LLM 链路数据发送到已有的 Datadog 或 Grafana 体系
  • 为基于 LangChain 或 CrewAI 构建的智能体添加链路追踪

快速上手

  1. 1

    用 pip 安装 Traceloop SDK

    pip install traceloop-sdk
  2. 2

    在代码中添加 Traceloop.init() 开始追踪

  3. 3

    本地运行时,可调用 Traceloop.init(disable_batch=True) 禁用批量发送,以便立即查看追踪数据

使用前须知

  • 追踪数据需发送到你配置的后端,因此需要账户或自建收集器才能查看。
  • v0.49.2 之前的版本会收集遥测数据,请升级到 v0.49.2 或更高版本。

标签

常见问题

openllmetry 是什么?
基于 OpenTelemetry 的开源可观测性扩展,用于追踪 Python 应用中的 LLM 调用、向量数据库和智能体框架。 OpenLLMetry 是基于 OpenTelemetry 构建的一组扩展,为 LLM 应用提供可观测性。它为 OpenAI、Anthropic、Bedrock、Gemini 等模型服务,以及 Chroma、Pinecone、Qdrant、Milvus、Weaviate 等向量数据库提供标准的 OpenTelemetry 埋点,并附带 Traceloop SDK 便于快速接入。
openllmetry 可以免费使用吗?用的什么许可证?
openllmetry 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
openllmetry 还在维护吗?
活跃维护中。openllmetry 最近一次提交是在 2026年10月19日。
openllmetry 适合用来做什么?
监控生产环境中 OpenAI 或 Anthropic 调用的延迟与错误 调试使用向量数据库的 RAG 流程中的检索环节 将 LLM 链路数据发送到已有的 Datadog 或 Grafana 体系 为基于 LangChain 或 CrewAI 构建的智能体添加链路追踪
openllmetry 怎么安装和运行?
用 pip 安装 Traceloop SDK: pip install traceloop-sdk 在代码中添加 Traceloop.init() 开始追踪 本地运行时,可调用 Traceloop.init(disable_batch=True) 禁用批量发送,以便立即查看追踪数据
在哪里获取 openllmetry?
源代码和安装说明在 GitHub 上:https://github.com/traceloop/openllmetry

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目