开源的 LLM 工程平台,用于追踪、评估、管理提示词并调试 LLM 应用,支持自托管。
- Star
- 6,228
- Fork
- 685
- 未关闭 Issue
- 169
- 最近提交
- 23小时前
这是什么?
Helicone 是一个开源的大模型应用监控平台,位于你的代码与模型服务商之间。接入时只需修改一行 baseURL,或使用异步日志集成,就能记录 OpenAI、Anthropic、Gemini 等模型的请求。
平台可以按会话和链路追踪智能体、聊天机器人、文档处理流程等应用的执行过程,并在仪表盘中查看成本、延迟等指标。它还提供提示词 Playground、提示词版本管理,以及 AI Gateway:通过统一的 OpenAI 兼容 API 访问 100 多个模型,并支持智能路由和自动降级。
项目支持通过 Docker 自部署,企业场景可使用 Helm Chart。技术栈包括 Next.js 前端、Cloudflare Workers 代理日志、Express 日志服务,以及 Supabase、ClickHouse 和 MinIO。
核心功能
- 01通过一行代码接入,记录 OpenAI、Anthropic、Gemini 等服务商的请求。
- 02追踪成本、延迟等指标,并可导出到 PostHog。
- 03按会话和链路检查智能体与聊天机器人的执行过程。
- 04提供提示词 Playground 与版本化管理。
- 05通过一个 API Key 访问 100 多个模型,支持自动降级。
- 06可使用 Docker Compose 自行部署。
适用场景
- 调试和监控生产环境中的大模型应用与智能体。
- 跨多个模型服务商统计 Token 花费和响应延迟。
- 基于线上数据迭代和版本化管理提示词。
- 数据敏感的团队自建大模型可观测性服务。
快速上手
- 1
注册获取 API 密钥并充值
- 2
在代码中更新 baseURL 并填入 API 密钥
- 3
克隆代码仓库
git clone https://github.com/Helicone/helicone.git - 4
使用 Docker Compose 启动自托管服务
./helicone-compose.sh helicone up
使用前须知
- 自托管需要运行五个服务,包括 ClickHouse、Supabase 和 Minio。
- 不推荐手动部署,官方支持的方式是 Docker 或 Helm。
- 使用 AI 网关需要 Helicone 账号和 API 密钥,托管免费版每月限 1 万次请求。
标签
常见问题
- helicone 是什么?
- 开源的 LLM 可观测性平台与 AI 网关,用于记录、追踪和监控大模型请求。 Helicone 是一个开源的大模型应用监控平台,位于你的代码与模型服务商之间。接入时只需修改一行 baseURL,或使用异步日志集成,就能记录 OpenAI、Anthropic、Gemini 等模型的请求。
- helicone 可以免费使用吗?用的什么许可证?
- helicone 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- helicone 还在维护吗?
- 活跃维护中。helicone 最近一次提交是在 2026年10月20日。
- helicone 适合用来做什么?
- 调试和监控生产环境中的大模型应用与智能体。 跨多个模型服务商统计 Token 花费和响应延迟。 基于线上数据迭代和版本化管理提示词。 数据敏感的团队自建大模型可观测性服务。
- helicone 怎么安装和运行?
- 注册获取 API 密钥并充值 在代码中更新 baseURL 并填入 API 密钥 克隆代码仓库: git clone https://github.com/Helicone/helicone.git 使用 Docker Compose 启动自托管服务: ./helicone-compose.sh helicone up
- 在哪里获取 helicone?
- 源代码和安装说明在 GitHub 上:https://github.com/Helicone/helicone
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
开源跨平台 AI 聊天客户端,支持 Web、桌面和移动端,可接入 OpenAI、Claude、Gemini、DeepSeek 等模型。
一款 TypeScript 编程 Agent 命令行工具,在提示词中加入 ulw 或 mass ulw 关键词即可自动规划、调度多模型并校验结果。
一个与模型提供商无关的 TypeScript 工具包,用于构建 AI 应用和智能体,支持 React、Next.js、Svelte、Vue 等。
基于 TypeScript 的 AI Agent 框架,集成记忆、工具、MCP、RAG、语音与工作流,并配套 VoltOps 可观测控制台。
自托管 AI 网关,将多家服务商的 API 密钥与订阅账号统一接入一个入口,支持调度、容错和用量日志。