AIエージェントやコーディングエージェント、LLMのコスト、GPUをトレース・評価・保護・監視する、OpenTelemetryベースのオープンソースプラットフォーム。
pezzolabs/pezzo
プロンプト管理、LLM呼び出しの可観測性、キャッシュ、プロンプト変更の配信を一元化する、オープンソースのクラウドネイティブなLLMOpsプラットフォーム。
代替できる製品:Langfuse
- スター
- 3,278
- フォーク
- 280
- 未解決の Issue
- 56
- 最終コミット
- 3 か月前
これは何?
Pezzoは、大規模言語モデルにプロンプトを送るアプリケーションを本番運用するチーム向けの、オープンソースのLLMOpsプラットフォームです。プロンプトの設計、バージョン管理、共同作業を1つのコンソールに集約し、コードを再デプロイせずにアプリケーションへプロンプトの変更を反映できます。
運用面の機能も備えています。LLM呼び出しの可観測性データを記録して問題のトラブルシューティングを支援するほか、コストとレイテンシを抑えるキャッシュ機能も提供します。PostgreSQL、ClickHouse、Redis、SuperTokensを基盤としており、Docker Composeを使ってローカル環境で実行できます。
Node.jsとPython向けの公式クライアントライブラリがあり、LangChainにも対応しています。各クライアントは、プロンプト管理、可観測性、キャッシュを提供します。
主な機能
- 01プロンプトの設計、バージョン管理、共同作業を1つのコンソールに集約
- 02プロンプトの変更をアプリケーションへ即時反映
- 03トラブルシューティングに役立つ、LLM運用の可観測性とモニタリング
- 04LLMのコストとレイテンシを抑えるキャッシュ
- 05Node.jsおよびPython向けクライアントとLangChain対応
ユースケース
- プロダクトチームで複数のAI機能に使うプロンプトを管理・バージョン管理する
- 本番環境のLLM呼び出しを監視し、失敗やコストの高いリクエストを見つける
- コードをデプロイせずに、稼働中のアプリケーションのプロンプトを更新する
クイックスタート
- 1
npm の依存関係をインストールする
npm install - 2
Docker Compose でインフラの依存サービスを起動する
docker-compose -f docker-compose.infra.yaml up - 3
Prisma のマイグレーションを適用する
npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma - 4
サーバーと Pezzo Console を起動する
npx nx serve server
使う前に知っておきたいこと
- 開発環境のセットアップには Node.js 18 以降、Docker、および PostgreSQL、ClickHouse、Redis、Supertokens などの複数のインフラサービスが必要です。
- README で最も簡単な手順として案内されているのは、Docker Compose を使ったフルスタックガイドです。このガイドは README ではなく、外部ドキュメントにあります。
収録されている特集
トピック
よくある質問
- pezzo とは?
- プロンプト管理、LLM呼び出しの可観測性、キャッシュ、プロンプト変更の配信を一元化する、オープンソースのクラウドネイティブなLLMOpsプラットフォーム。 Pezzoは、大規模言語モデルにプロンプトを送るアプリケーションを本番運用するチーム向けの、オープンソースのLLMOpsプラットフォームです。プロンプトの設計、バージョン管理、共同作業を1つのコンソールに集約し、コードを再デプロイせずにアプリケーションへプロンプトの変更を反映できます。
- pezzo は無料で使えますか?ライセンスは?
- pezzo は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- pezzo は今もメンテナンスされていますか?
- 半年以内に更新あり。pezzo の最終コミットは 2026年8月21日 です。
- pezzo は何に使えますか?
- プロダクトチームで複数のAI機能に使うプロンプトを管理・バージョン管理する 本番環境のLLM呼び出しを監視し、失敗やコストの高いリクエストを見つける コードをデプロイせずに、稼働中のアプリケーションのプロンプトを更新する
- pezzo のインストール方法は?
- npm の依存関係をインストールする: npm install Docker Compose でインフラの依存サービスを起動する: docker-compose -f docker-compose.infra.yaml up Prisma のマイグレーションを適用する: npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma サーバーと Pezzo Console を起動する: npx nx serve server
- pezzo はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/pezzolabs/pezzo
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
100以上のモデルへのリクエストをログ記録、トレース、監視、ルーティングできる、オープンソースのLLM可観測性プラットフォーム兼AI Gateway。
LLMプロンプト向けのMarkdownファイル形式。Python、TypeScript、Rust、C#などのランタイムと、実行・トレース用のVS Code拡張を提供します。
エージェント、LLMアプリ、MLモデルのデバッグ、評価、監視、最適化を支援するオープンソースのAIエンジニアリングプラットフォーム。
プロンプトテンプレート、連鎖処理、エージェントとツール、LLMのメモリ管理に対応した、LLMアプリケーション構築向けのClojureツールキットです。