基于 OpenTelemetry 的开源平台,用于追踪、评估和防护 AI 智能体与编程智能体,并监控 LLM 成本和 GPU。
- Star
- 3,278
- Fork
- 280
- 未关闭 Issue
- 56
- 最近提交
- 3个月前
这是什么?
Pezzo 是一个开源的 LLMOps 平台,面向在生产环境中调用大语言模型的团队。它把提示词设计、版本管理和团队协作放在同一个控制台中,提示词变更可以直接下发到应用,无需重新部署代码。
平台同时覆盖运维环节:记录 LLM 调用的可观测数据便于排查问题,并提供缓存以降低成本和延迟。后端依赖 PostgreSQL、ClickHouse、Redis 和 SuperTokens 等开源组件,可通过 Docker Compose 在本地一键启动。
项目提供 Node.js 和 Python 客户端,并列出了 LangChain 支持,每个客户端都包含提示词管理、可观测性和缓存功能。
核心功能
- 01在同一控制台中完成提示词设计、版本管理和团队协作
- 02提示词变更可即时下发到应用
- 03监控 LLM 调用并支持问题排查
- 04通过缓存降低 LLM 调用成本和延迟
- 05提供 Node.js 和 Python 客户端,并支持 LangChain
适用场景
- 产品团队统一管理和版本化多个 AI 功能的提示词
- 监控生产环境中的 LLM 调用,定位失败和高成本请求
- 无需发布代码即可更新线上应用的提示词
快速上手
- 1
安装 npm 依赖
npm install - 2
通过 Docker Compose 启动基础设施依赖
docker-compose -f docker-compose.infra.yaml up - 3
部署 Prisma 数据库迁移
npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma - 4
运行服务端和 Pezzo 控制台
npx nx serve server
使用前须知
- 开发环境需要 Node.js 18+、Docker,以及 PostgreSQL、ClickHouse、Redis 和 Supertokens 等多个基础设施服务。
- README 中最简单的完整部署方式是 Docker Compose 指南,该指南位于外部文档中。
收录于专题
标签
常见问题
- pezzo 是什么?
- 开源、云原生的 LLMOps 平台,用于管理提示词、监控 AI 调用、缓存并发布变更。 Pezzo 是一个开源的 LLMOps 平台,面向在生产环境中调用大语言模型的团队。它把提示词设计、版本管理和团队协作放在同一个控制台中,提示词变更可以直接下发到应用,无需重新部署代码。
- pezzo 可以免费使用吗?用的什么许可证?
- pezzo 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- pezzo 还在维护吗?
- 半年内有更新。pezzo 最近一次提交是在 2026年8月21日。
- pezzo 适合用来做什么?
- 产品团队统一管理和版本化多个 AI 功能的提示词 监控生产环境中的 LLM 调用,定位失败和高成本请求 无需发布代码即可更新线上应用的提示词
- pezzo 怎么安装和运行?
- 安装 npm 依赖: npm install 通过 Docker Compose 启动基础设施依赖: docker-compose -f docker-compose.infra.yaml up 部署 Prisma 数据库迁移: npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma 运行服务端和 Pezzo 控制台: npx nx serve server
- 在哪里获取 pezzo?
- 源代码和安装说明在 GitHub 上:https://github.com/pezzolabs/pezzo
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
2954+58 本周466TypeScriptApache-2.0更新于 昨天
开源的 LLM 可观测性平台与 AI 网关,用于记录、追踪和监控大模型请求。
6271+23 本周702TypeScriptApache-2.0更新于 10天前
面向 LLM 提示词的 Markdown 文件格式,配套多语言运行时与 VS Code 扩展,用于运行和追踪提示词。
1286135RustMIT维护活跃更新于 5天前
开源 AI 工程平台,用于调试、评估、监控和优化智能体、LLM 应用与机器学习模型。
2.9万+97 本周6589PythonApache-2.0更新于 17小时前
一个 Clojure 工具库,用于构建基于大语言模型的应用,涵盖提示词模板、提示链、Agent 与工具及记忆管理。
37928ClojureEPL-1.0更新于 上个月