AI 에이전트, 코딩 에이전트, LLM 비용과 GPU를 추적·평가·보호·모니터링하는 OpenTelemetry 기반 오픈소스 플랫폼입니다.
pezzolabs/pezzo
프롬프트 관리, LLM 호출 관측, 캐싱, 프롬프트 변경 배포를 지원하는 오픈소스 클라우드 네이티브 LLMOps 플랫폼입니다.
대체할 수 있는 제품:Langfuse
- 스타
- 3,278
- 포크
- 280
- 열린 이슈
- 56
- 마지막 커밋
- 3개월 전
어떤 프로젝트인가요?
Pezzo는 프로덕션에서 대규모 언어 모델에 프롬프트를 실행하는 팀을 위한 오픈소스 LLMOps 플랫폼입니다. 프롬프트 설계, 버전 관리, 협업을 하나의 콘솔에서 처리하므로 코드를 재배포하지 않고도 애플리케이션에 프롬프트 변경 사항을 적용할 수 있습니다.
운영 기능도 제공합니다. LLM 호출의 관측 데이터를 기록해 문제 해결을 돕고, 비용과 지연 시간을 줄이는 캐싱 기능도 지원합니다. PostgreSQL, ClickHouse, Redis, SuperTokens를 기반으로 하며 Docker Compose로 로컬에서 실행할 수 있습니다.
Node.js와 Python용 공식 클라이언트 라이브러리를 제공하며, LangChain 지원도 명시되어 있습니다. 각 클라이언트는 프롬프트 관리, 관측, 캐싱 기능을 제공합니다.
핵심 기능
- 01프롬프트 설계, 버전 관리, 협업을 하나의 콘솔에서 중앙 관리
- 02프롬프트 변경 사항을 애플리케이션에 즉시 적용
- 03문제 해결을 위한 LLM 운영 관측 및 모니터링
- 04LLM 비용과 지연 시간을 줄이는 캐싱
- 05LangChain 지원을 포함한 Node.js 및 Python 클라이언트
활용 사례
- 제품 팀에서 여러 AI 기능의 프롬프트를 관리하고 버전 관리
- 프로덕션의 LLM 호출을 모니터링해 실패와 비용이 큰 요청 파악
- 코드를 배포하지 않고 실행 중인 애플리케이션의 프롬프트 업데이트
빠른 시작
- 1
npm 종속성 설치
npm install - 2
Docker Compose로 인프라 종속 서비스 시작
docker-compose -f docker-compose.infra.yaml up - 3
Prisma 마이그레이션 적용
npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma - 4
서버와 Pezzo Console 실행
npx nx serve server
사용 전 알아둘 점
- 개발 환경을 설정하려면 Node.js 18 이상, Docker, PostgreSQL, ClickHouse, Redis, Supertokens 등의 여러 인프라 서비스가 필요합니다.
- README에서 가장 간단한 방법으로 안내하는 것은 Docker Compose 전체 스택 가이드입니다. 이 가이드는 README가 아니라 외부 문서에 있습니다.
포함된 컬렉션
토픽
자주 묻는 질문
- pezzo은(는) 무엇인가요?
- 프롬프트 관리, LLM 호출 관측, 캐싱, 프롬프트 변경 배포를 지원하는 오픈소스 클라우드 네이티브 LLMOps 플랫폼입니다. Pezzo는 프로덕션에서 대규모 언어 모델에 프롬프트를 실행하는 팀을 위한 오픈소스 LLMOps 플랫폼입니다. 프롬프트 설계, 버전 관리, 협업을 하나의 콘솔에서 처리하므로 코드를 재배포하지 않고도 애플리케이션에 프롬프트 변경 사항을 적용할 수 있습니다.
- pezzo은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- pezzo은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- pezzo은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. pezzo의 마지막 커밋은 2026년 8월 21일입니다.
- pezzo은(는) 어디에 사용할 수 있나요?
- 제품 팀에서 여러 AI 기능의 프롬프트를 관리하고 버전 관리 프로덕션의 LLM 호출을 모니터링해 실패와 비용이 큰 요청 파악 코드를 배포하지 않고 실행 중인 애플리케이션의 프롬프트 업데이트
- pezzo는 어떻게 설치하나요?
- npm 종속성 설치: npm install Docker Compose로 인프라 종속 서비스 시작: docker-compose -f docker-compose.infra.yaml up Prisma 마이그레이션 적용: npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma 서버와 Pezzo Console 실행: npx nx serve server
- pezzo은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/pezzolabs/pezzo
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
요청을 로깅·추적·모니터링하고 100개 이상의 모델로 라우팅하는 오픈소스 LLM 옵저버빌리티 플랫폼이자 AI 게이트웨이입니다.
LLM 프롬프트용 Markdown 파일 형식으로, Python, TypeScript, Rust, C# 등 여러 런타임과 실행 및 추적을 위한 VS Code 확장을 제공합니다.
에이전트, LLM 앱, ML 모델의 디버깅·평가·모니터링·최적화를 지원하는 오픈소스 AI 엔지니어링 플랫폼입니다.
ChatGPT 스타일 LLM을 사용해 자막 파일(SRT, VTT, ASS, SSA)을 다른 언어로 번역하는 데스크톱 앱입니다.