与厂商无关的服务,用于接收、处理并导出链路追踪、指标和日志数据到多种可观测性后端。
- Star
- 7,499
- Fork
- 1,164
- 未关闭 Issue
- 801
- 最近提交
- 前天
这是什么?
OpenLLMetry 是基于 OpenTelemetry 构建的一组扩展,为 LLM 应用提供可观测性。它为 OpenAI、Anthropic、Bedrock、Gemini 等模型服务,以及 Chroma、Pinecone、Qdrant、Milvus、Weaviate 等向量数据库提供标准的 OpenTelemetry 埋点,并附带 Traceloop SDK 便于快速接入。
由于输出的是标准 OpenTelemetry 数据,链路追踪可以发送到已有的观测平台,包括 Datadog、Honeycomb、Grafana、New Relic、Sentry 以及 OpenTelemetry Collector。安装 traceloop-sdk 后调用 Traceloop.init() 即可开始追踪,本地调试时可设置 disable_batch 立即查看结果。
项目还覆盖 LangChain、LlamaIndex、CrewAI、LangGraph 等智能体与编排框架,以及 MCP 协议。已经使用 OpenTelemetry 的团队也可以不依赖 SDK,直接引入单个埋点模块。
核心功能
- 01为 OpenAI、Anthropic、Bedrock 等主流 LLM 服务提供调用埋点
- 02追踪 Chroma、Pinecone、Qdrant、Weaviate 等向量数据库的操作
- 03输出标准 OpenTelemetry 数据,可接入多种观测后端
- 04提供 SDK,通过一次初始化调用即可开始追踪
- 05支持 LangChain、LlamaIndex、CrewAI 等智能体框架
适用场景
- 监控生产环境中 OpenAI 或 Anthropic 调用的延迟与错误
- 调试使用向量数据库的 RAG 流程中的检索环节
- 将 LLM 链路数据发送到已有的 Datadog 或 Grafana 体系
- 为基于 LangChain 或 CrewAI 构建的智能体添加链路追踪
快速上手
- 1
用 pip 安装 Traceloop SDK
pip install traceloop-sdk - 2
在代码中添加 Traceloop.init() 开始追踪
- 3
本地运行时,可调用 Traceloop.init(disable_batch=True) 禁用批量发送,以便立即查看追踪数据
使用前须知
- 追踪数据需发送到你配置的后端,因此需要账户或自建收集器才能查看。
- v0.49.2 之前的版本会收集遥测数据,请升级到 v0.49.2 或更高版本。
标签
常见问题
- openllmetry 是什么?
- 基于 OpenTelemetry 的开源可观测性扩展,用于追踪 Python 应用中的 LLM 调用、向量数据库和智能体框架。 OpenLLMetry 是基于 OpenTelemetry 构建的一组扩展,为 LLM 应用提供可观测性。它为 OpenAI、Anthropic、Bedrock、Gemini 等模型服务,以及 Chroma、Pinecone、Qdrant、Milvus、Weaviate 等向量数据库提供标准的 OpenTelemetry 埋点,并附带 Traceloop SDK 便于快速接入。
- openllmetry 可以免费使用吗?用的什么许可证?
- openllmetry 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- openllmetry 还在维护吗?
- 活跃维护中。openllmetry 最近一次提交是在 2026年10月19日。
- openllmetry 适合用来做什么?
- 监控生产环境中 OpenAI 或 Anthropic 调用的延迟与错误 调试使用向量数据库的 RAG 流程中的检索环节 将 LLM 链路数据发送到已有的 Datadog 或 Grafana 体系 为基于 LangChain 或 CrewAI 构建的智能体添加链路追踪
- openllmetry 怎么安装和运行?
- 用 pip 安装 Traceloop SDK: pip install traceloop-sdk 在代码中添加 Traceloop.init() 开始追踪 本地运行时,可调用 Traceloop.init(disable_batch=True) 禁用批量发送,以便立即查看追踪数据
- 在哪里获取 openllmetry?
- 源代码和安装说明在 GitHub 上:https://github.com/traceloop/openllmetry
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
Datadog 开源的监控代理,负责从主机采集指标、日志、链路追踪和性能剖析数据并发送到 Datadog 平台。
可自托管的可观测性平台,统一处理日志、指标、链路追踪、前端监控和 LLM 观测,可替代 Datadog 和 Splunk。
Pydantic Logfire 的 Python SDK,基于 OpenTelemetry 为应用和 LLM 智能体提供追踪、指标与日志。
将 eBPF 程序打包为 OCI 镜像 Gadget,用于在 Kubernetes 集群和 Linux 主机上采集与检查系统数据的工具集。
Checkmk 是一套开源 IT 监控系统,覆盖物理机、虚拟机、容器和云环境的基础设施与应用监控。