Repolode
pezzolabs

pezzolabs/pezzo

开源、云原生的 LLMOps 平台,用于管理提示词、监控 AI 调用、缓存并发布变更。

可替代:Langfuse

Star
3,278
Fork
280
未关闭 Issue
56
最近提交
3个月前

这是什么?

Pezzo 是一个开源的 LLMOps 平台,面向在生产环境中调用大语言模型的团队。它把提示词设计、版本管理和团队协作放在同一个控制台中,提示词变更可以直接下发到应用,无需重新部署代码。

平台同时覆盖运维环节:记录 LLM 调用的可观测数据便于排查问题,并提供缓存以降低成本和延迟。后端依赖 PostgreSQL、ClickHouse、Redis 和 SuperTokens 等开源组件,可通过 Docker Compose 在本地一键启动。

项目提供 Node.js 和 Python 客户端,并列出了 LangChain 支持,每个客户端都包含提示词管理、可观测性和缓存功能。

核心功能

  • 01在同一控制台中完成提示词设计、版本管理和团队协作
  • 02提示词变更可即时下发到应用
  • 03监控 LLM 调用并支持问题排查
  • 04通过缓存降低 LLM 调用成本和延迟
  • 05提供 Node.js 和 Python 客户端,并支持 LangChain

适用场景

  • 产品团队统一管理和版本化多个 AI 功能的提示词
  • 监控生产环境中的 LLM 调用,定位失败和高成本请求
  • 无需发布代码即可更新线上应用的提示词

快速上手

  1. 1

    安装 npm 依赖

    npm install
  2. 2

    通过 Docker Compose 启动基础设施依赖

    docker-compose -f docker-compose.infra.yaml up
  3. 3

    部署 Prisma 数据库迁移

    npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma
  4. 4

    运行服务端和 Pezzo 控制台

    npx nx serve server

使用前须知

  • 开发环境需要 Node.js 18+、Docker,以及 PostgreSQL、ClickHouse、Redis 和 Supertokens 等多个基础设施服务。
  • README 中最简单的完整部署方式是 Docker Compose 指南,该指南位于外部文档中。

收录于专题

标签

常见问题

pezzo 是什么?
开源、云原生的 LLMOps 平台,用于管理提示词、监控 AI 调用、缓存并发布变更。 Pezzo 是一个开源的 LLMOps 平台,面向在生产环境中调用大语言模型的团队。它把提示词设计、版本管理和团队协作放在同一个控制台中,提示词变更可以直接下发到应用,无需重新部署代码。
pezzo 可以免费使用吗?用的什么许可证?
pezzo 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
pezzo 还在维护吗?
半年内有更新。pezzo 最近一次提交是在 2026年8月21日。
pezzo 适合用来做什么?
产品团队统一管理和版本化多个 AI 功能的提示词 监控生产环境中的 LLM 调用,定位失败和高成本请求 无需发布代码即可更新线上应用的提示词
pezzo 怎么安装和运行?
安装 npm 依赖: npm install 通过 Docker Compose 启动基础设施依赖: docker-compose -f docker-compose.infra.yaml up 部署 Prisma 数据库迁移: npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma 运行服务端和 Pezzo 控制台: npx nx serve server
在哪里获取 pezzo?
源代码和安装说明在 GitHub 上:https://github.com/pezzolabs/pezzo

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目