Repolode
pezzolabs

pezzolabs/pezzo

Открытая cloud-native платформа LLMOps для управления промптами, наблюдения за вызовами LLM, кеширования и доставки изменений промптов.

Open source альтернатива:Langfuse

Звёзды
3,278
Форки
280
Открытые issues
56
Последний коммит
3 месяца назад

Что это?

Pezzo — открытая платформа LLMOps для команд, которые используют промпты с большими языковыми моделями в production. Она объединяет проектирование промптов, управление версиями и совместную работу в одной консоли, поэтому изменения промптов можно доставлять в приложения без повторного деплоя кода.

Платформа также помогает управлять эксплуатацией. Она собирает данные наблюдаемости о вызовах LLM, чтобы упростить поиск и устранение проблем, и поддерживает кеширование для снижения затрат и задержек. В основе стека — PostgreSQL, ClickHouse, Redis и SuperTokens; запускать его локально можно с помощью Docker Compose.

Доступны официальные клиентские библиотеки для Node.js и Python, также заявлена поддержка LangChain. Каждый клиент предоставляет функции управления промптами, наблюдаемости и кеширования.

Ключевые возможности

  • 01Централизованное проектирование промптов, управление версиями и совместная работа в одной консоли
  • 02Мгновенная доставка изменений промптов в приложения
  • 03Наблюдаемость и мониторинг операций LLM для поиска и устранения проблем
  • 04Кеширование для снижения затрат на LLM и задержек
  • 05Клиенты для Node.js и Python с поддержкой LangChain

Сценарии использования

  • Управление промптами и их версиями для нескольких AI-функций в команде продукта
  • Мониторинг вызовов LLM в production для выявления сбоев и затратных запросов
  • Обновление промптов в работающем приложении без деплоя кода

Быстрый старт

  1. 1

    Установите зависимости npm

    npm install
  2. 2

    Запустите необходимые инфраструктурные сервисы с помощью Docker Compose

    docker-compose -f docker-compose.infra.yaml up
  3. 3

    Примените миграции Prisma

    npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma
  4. 4

    Запустите сервер и Pezzo Console

    npx nx serve server

Что важно знать

  • Для настройки среды разработки требуются Node.js 18 или более поздней версии, Docker и несколько инфраструктурных сервисов, таких как PostgreSQL, ClickHouse, Redis и Supertokens.
  • В README в качестве самого простого способа настройки предлагается руководство по запуску всего стека с помощью Docker Compose. Оно находится во внешней документации, а не в README.

В подборках

Темы

Частые вопросы

Что такое pezzo?
Открытая cloud-native платформа LLMOps для управления промптами, наблюдения за вызовами LLM, кеширования и доставки изменений промптов. Pezzo — открытая платформа LLMOps для команд, которые используют промпты с большими языковыми моделями в production. Она объединяет проектирование промптов, управление версиями и совместную работу в одной консоли, поэтому изменения промптов можно доставлять в приложения без повторного деплоя кода.
pezzo можно использовать бесплатно? Какая у него лицензия?
pezzo распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
pezzo всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в pezzo — 21 авг. 2026 г..
Для чего можно использовать pezzo?
Управление промптами и их версиями для нескольких AI-функций в команде продукта Мониторинг вызовов LLM в production для выявления сбоев и затратных запросов Обновление промптов в работающем приложении без деплоя кода
Как установить pezzo?
Установите зависимости npm: npm install Запустите необходимые инфраструктурные сервисы с помощью Docker Compose: docker-compose -f docker-compose.infra.yaml up Примените миграции Prisma: npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma Запустите сервер и Pezzo Console: npx nx serve server
Где скачать pezzo?
Исходный код и инструкции по установке — на GitHub: https://github.com/pezzolabs/pezzo

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Платформа с открытым исходным кодом для наблюдаемости LLM и AI Gateway: логирование, трассировка, мониторинг и маршрутизация запросов к более чем 100 моделям.

6,3 тыс.+23 за неделю702TypeScriptApache-2.0Обновлён 9 дней назад