开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。
comet-ml/opik
开源的 LLM 可观测与评估平台,用于 AI 智能体追踪、LLM 输出评估、提示词管理和生产监控。
- Star
- 22,764
- Fork
- 1,880
- 未关闭 Issue
- 186
- 最近提交
- 3小时前
这是什么?
Opik 是一个用于调试、评估和监控 LLM 应用、RAG 系统以及多步骤 AI 智能体的平台。它会记录 LLM 调用、工具执行和嵌套函数调用的完整追踪链路,方便开发者查看智能体运行过程中的每一步。Python SDK 提供 track 装饰器,可以记录任意函数的调用;框架集成覆盖 LangChain、LlamaIndex、OpenAI、Anthropic、OpenTelemetry 等多种框架和模型服务。
除追踪外,Opik 还提供数据集与实验功能用于系统化评估,内置 LLM-as-a-judge 指标(如幻觉检测、答案相关性),并支持通过 PyTest 集成在 CI/CD 中运行评估。平台还包含提示词 Playground、在线评估规则,以及用于查看反馈评分、追踪数量和 token 用量的生产监控看板。
完整平台(包括服务端与 Web 应用)采用 Apache-2.0 许可证,可通过 Docker Compose 或 Kubernetes/Helm 自行部署,也可以使用 Comet.com 托管的云服务。
核心功能
- 01追踪 LLM 调用、工具执行和嵌套函数调用,适用于多步骤智能体。
- 02基于数据集和实验,使用 LLM-as-a-judge 与启发式指标进行评估。
- 03通过 PyTest 集成将评估纳入 CI/CD 流程。
- 04在内置 Playground 中管理和迭代提示词。
- 05利用在线评估规则监控反馈评分、追踪量和 token 用量。
- 06支持使用 Docker Compose 或 Kubernetes 自托管完整平台。
适用场景
- 通过查看追踪树,排查多步骤 AI 智能体给出错误答案的原因。
- 在每次发布前对 RAG 流程运行回归评估。
- 为生产环境中的聊天机器人监控幻觉或内容审核评分。
- 将 LLM 可观测数据保留在企业自有基础设施内。
快速上手
- 1
安装 Python SDK
pip install opik - 2
配置 SDK
opik configure - 3
使用 @track 装饰器包装函数以开始记录追踪
使用前须知
- 自托管完整平台需要自行运行服务器基础设施。
- README 推荐最简单的部署方式是 Opik Cloud,部分 MCP 和徽章链接也指向 Opik Cloud。
标签
常见问题
- opik 是什么?
- 开源的 LLM 可观测与评估平台,用于 AI 智能体追踪、LLM 输出评估、提示词管理和生产监控。 Opik 是一个用于调试、评估和监控 LLM 应用、RAG 系统以及多步骤 AI 智能体的平台。它会记录 LLM 调用、工具执行和嵌套函数调用的完整追踪链路,方便开发者查看智能体运行过程中的每一步。Python SDK 提供 track 装饰器,可以记录任意函数的调用;框架集成覆盖 LangChain、LlamaIndex、OpenAI、Anthropic、OpenTelemetry 等多种框架和模型服务。
- opik 可以免费使用吗?用的什么许可证?
- opik 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- opik 还在维护吗?
- 活跃维护中。opik 最近一次提交是在 2026年10月20日。
- opik 适合用来做什么?
- 通过查看追踪树,排查多步骤 AI 智能体给出错误答案的原因。 在每次发布前对 RAG 流程运行回归评估。 为生产环境中的聊天机器人监控幻觉或内容审核评分。 将 LLM 可观测数据保留在企业自有基础设施内。
- opik 怎么安装和运行?
- 安装 Python SDK: pip install opik 配置 SDK: opik configure 使用 @track 装饰器包装函数以开始记录追踪
- 在哪里获取 opik?
- 源代码和安装说明在 GitHub 上:https://github.com/comet-ml/opik
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个可自托管的 AI 学习工作台,提供个性化辅导、问答、测验、研究与可视化等功能。
开源 Python LLM 评测框架,可像 Pytest 一样对 LLM 应用做单元测试,内置 RAG、Agent、多轮对话等指标。
微软出品的 21 节课程,用 Python 和 TypeScript 教开发者构建生成式 AI 应用。
用于构建、测试和部署 AI 智能体与工作流的可视化平台,可通过 API 或 MCP 服务器对外调用。
用于构建 LLM 应用和智能体的 Python 框架,提供模型、嵌入、向量库等统一接口与第三方集成。