Weights & Biases가 만든 Python 툴킷으로, AI 에이전트와 LLM 애플리케이션을 추적하고 평가합니다.
MagnivOrg/prompt-layer-library
OpenAI, Anthropic 및 기타 제공업체의 프롬프트와 LLM 요청을 로깅하고 버전 관리·추적·평가하는 PromptLayer Python SDK입니다.
대체할 수 있는 제품:LangSmith
- 스타
- 786
- 포크
- 99
- 열린 이슈
- 26
- 마지막 커밋
- 9일 전
어떤 프로젝트인가요?
PromptLayer는 프롬프트와 LLM 트래픽을 관리하는 Python SDK입니다. 버전이 지정된 프롬프트 템플릿을 PromptLayer에서 가져와 입력 변수로 렌더링하며, OpenAI 및 Anthropic 클라이언트의 드롭인 프록시로 동작해 모든 요청을 로깅할 수도 있습니다.
추적을 활성화하면 SDK가 OpenTelemetry span을 PromptLayer로 내보내고, 설치된 OpenAI, Anthropic, Google GenAI 및 AWS Bedrock 클라이언트를 자동 계측합니다. 수동 요청 로깅, 프롬프트와 워크플로 실행을 위한 헬퍼, 자체 함수의 추적을 위한 데코레이터도 제공합니다. 비동기 클라이언트는 동기 API와 동일한 기능을 지원합니다.
SDK에는 평가 기준 설정, 결과 재계산, 행별 상세 내역 조회를 위한 테이블 스코어카드 API와 openai-agents 및 claude-agent-sdk 패키지를 위한 선택적 통합 기능이 포함되어 있습니다. 오래된 캐시 항목을 사용할 수 있는 메모리 내 템플릿 캐시는 선택 설정으로 제공됩니다.
핵심 기능
- 01버전이 지정된 프롬프트 템플릿을 가져와 입력 변수로 렌더링합니다.
- 02OpenAI 및 Anthropic 클라이언트를 프록시해 요청을 PromptLayer에 로깅합니다.
- 03여러 제공업체 SDK의 자동 계측을 통해 OpenTelemetry 추적 데이터를 내보냅니다.
- 04평가 결과 설정, 재계산 및 확인을 위한 스코어카드 API를 제공합니다.
- 05서로 대응하는 메서드를 갖춘 동기 및 비동기 클라이언트를 제공합니다.
활용 사례
- 프롬프트 템플릿의 버전을 관리하고 하드코딩하는 대신 런타임에 가져옵니다.
- 기존 Python 애플리케이션에서 OpenAI 또는 Anthropic 요청을 로깅하고 디버깅합니다.
- LLM 호출과 사용자 지정 함수를 추적해 프로덕션 동작을 모니터링합니다.
- PromptLayer 테이블에 저장된 프롬프트 출력에 회귀 테스트 방식의 평가를 실행합니다.
빠른 시작
- 1
pip으로 SDK를 설치합니다
pip install promptlayer - 2
API 키로 클라이언트를 생성하고 프롬프트 템플릿을 가져옵니다
- 3
선택적으로 provider SDK와 함께 OpenTelemetry tracing 추가 패키지를 설치합니다
pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3
사용 전 알아둘 점
- 대부분의 기능을 사용하려면 PromptLayer 계정과 API 키가 필요합니다.
- provider SDK를 완전히 자동 계측하려면 Python 3.10 이상이 필요합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- prompt-layer-library은(는) 무엇인가요?
- OpenAI, Anthropic 및 기타 제공업체의 프롬프트와 LLM 요청을 로깅하고 버전 관리·추적·평가하는 PromptLayer Python SDK입니다. PromptLayer는 프롬프트와 LLM 트래픽을 관리하는 Python SDK입니다. 버전이 지정된 프롬프트 템플릿을 PromptLayer에서 가져와 입력 변수로 렌더링하며, OpenAI 및 Anthropic 클라이언트의 드롭인 프록시로 동작해 모든 요청을 로깅할 수도 있습니다.
- prompt-layer-library은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- prompt-layer-library은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- prompt-layer-library은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. prompt-layer-library의 마지막 커밋은 2026년 10월 29일입니다.
- prompt-layer-library은(는) 어디에 사용할 수 있나요?
- 프롬프트 템플릿의 버전을 관리하고 하드코딩하는 대신 런타임에 가져옵니다. 기존 Python 애플리케이션에서 OpenAI 또는 Anthropic 요청을 로깅하고 디버깅합니다. LLM 호출과 사용자 지정 함수를 추적해 프로덕션 동작을 모니터링합니다. PromptLayer 테이블에 저장된 프롬프트 출력에 회귀 테스트 방식의 평가를 실행합니다.
- prompt-layer-library는 어떻게 설치하나요?
- pip으로 SDK를 설치합니다: pip install promptlayer API 키로 클라이언트를 생성하고 프롬프트 템플릿을 가져옵니다 선택적으로 provider SDK와 함께 OpenTelemetry tracing 추가 패키지를 설치합니다: pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3
- prompt-layer-library은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/MagnivOrg/prompt-layer-library
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
LLM 기반 애플리케이션의 구축, 테스트, 평가, 배포를 위한 개발자 도구 모음으로, VS Code 플로 디자이너와 pf CLI를 제공합니다.
LLM 기반 함수를 만들기 위한 타입 지정 빌딩 블록(프롬프트, LLM 제공자, 파서, 실행기)을 제공하는 TypeScript 라이브러리입니다.
회사 전반의 LLM 호출, 에이전트, 코딩 어시스턴트를 추적·테스트·라우팅·관리하는 오픈소스 플랫폼입니다.
LLM 애플리케이션을 추적·평가·프롬프트 관리·디버깅하는 오픈소스 엔지니어링 플랫폼으로, 자체 호스팅할 수 있습니다.
AI 에이전트 추적, LLM 출력 평가, 프롬프트 관리, 프로덕션 모니터링을 위한 오픈소스 LLM 옵저버빌리티 및 평가 플랫폼입니다.