Repolode
MagnivOrg

MagnivOrg/prompt-layer-library

SDK Python do PromptLayer para registrar, versionar, rastrear e avaliar prompts e solicitações a LLMs em provedores como OpenAI e Anthropic.

Alternativa open source a:LangSmith

Estrelas
786
Forks
99
Issues abertas
26
Último commit
há 8 dias

O que é?

PromptLayer é um SDK Python para gerenciar prompts e o tráfego de LLMs. Ele busca modelos de prompt versionados do PromptLayer e os renderiza com variáveis de entrada. Também pode atuar como um proxy substituto para os clientes OpenAI e Anthropic, registrando todas as solicitações.

Com o rastreamento ativado, o SDK exporta spans do OpenTelemetry para o PromptLayer e instrumenta automaticamente clientes instalados de OpenAI, Anthropic, Google GenAI e AWS Bedrock. Também oferece helpers para registrar solicitações manualmente, executar prompts e workflows e usar um decorator para rastrear suas próprias funções. Os clientes assíncronos espelham a API síncrona.

O SDK inclui APIs de scorecard de tabelas para configurar critérios de avaliação, recalcular resultados e buscar detalhamentos por linha, além de integrações opcionais com os pacotes openai-agents e claude-agent-sdk. Há também um cache de templates em memória com fallback para dados desatualizados, disponível como configuração opcional.

Recursos principais

  • 01Busca modelos de prompt versionados e os renderiza com variáveis de entrada.
  • 02Atua como proxy para os clientes OpenAI e Anthropic, registrando as solicitações no PromptLayer.
  • 03Exporta traces do OpenTelemetry com instrumentação automática para vários SDKs de provedores.
  • 04Oferece APIs de scorecard para configurar, recalcular e consultar resultados de avaliações.
  • 05Disponibiliza clientes síncronos e assíncronos com métodos correspondentes.

Casos de uso

  • Manter modelos de prompt versionados e buscá-los em tempo de execução, em vez de deixá-los fixos no código.
  • Registrar e depurar solicitações a OpenAI ou Anthropic em uma aplicação Python existente.
  • Rastrear chamadas a LLMs e funções personalizadas para monitorar o comportamento em produção.
  • Executar avaliações de regressão sobre resultados de prompts armazenados em tabelas do PromptLayer.

Início rápido

  1. 1

    Instale o SDK com pip

    pip install promptlayer
  2. 2

    Crie um cliente com sua chave de API e obtenha um modelo de prompt

  3. 3

    Opcionalmente, instale o extra de tracing do OpenTelemetry com os SDKs dos provedores

    pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3

Antes de usar

  • Você precisa de uma conta da PromptLayer e de uma chave de API para usar a maioria dos recursos.
  • A instrumentação automática completa dos SDKs dos provedores requer Python 3.10 ou superior.

Em coleções

Tópicos

Perguntas frequentes

O que é prompt-layer-library?
SDK Python do PromptLayer para registrar, versionar, rastrear e avaliar prompts e solicitações a LLMs em provedores como OpenAI e Anthropic. PromptLayer é um SDK Python para gerenciar prompts e o tráfego de LLMs. Ele busca modelos de prompt versionados do PromptLayer e os renderiza com variáveis de entrada. Também pode atuar como um proxy substituto para os clientes OpenAI e Anthropic, registrando todas as solicitações.
prompt-layer-library é gratuito? Qual é a licença?
prompt-layer-library é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
prompt-layer-library ainda é mantido?
Manutenção ativa. O último commit de prompt-layer-library foi em 29 de out. de 2026.
Para que posso usar prompt-layer-library?
Manter modelos de prompt versionados e buscá-los em tempo de execução, em vez de deixá-los fixos no código. Registrar e depurar solicitações a OpenAI ou Anthropic em uma aplicação Python existente. Rastrear chamadas a LLMs e funções personalizadas para monitorar o comportamento em produção. Executar avaliações de regressão sobre resultados de prompts armazenados em tabelas do PromptLayer.
Como instalar prompt-layer-library?
Instale o SDK com pip: pip install promptlayer Crie um cliente com sua chave de API e obtenha um modelo de prompt Opcionalmente, instale o extra de tracing do OpenTelemetry com os SDKs dos provedores: pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3
Onde consigo prompt-layer-library?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/MagnivOrg/prompt-layer-library

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados