Repolode
MagnivOrg

MagnivOrg/prompt-layer-library

PromptLayer 的 Python SDK,用于记录、版本化、追踪和评估提示词与 OpenAI、Anthropic 等模型调用。

可替代:LangSmith

Star
786
Fork
99
未关闭 Issue
26
最近提交
9天前

这是什么?

PromptLayer 是一个用于管理提示词和大模型调用的 Python SDK。它可以从 PromptLayer 获取带版本的提示词模板,并用输入变量渲染;也可以作为 OpenAI、Anthropic 等客户端的代理使用,自动记录每次请求。

开启 tracing 后,SDK 会通过 OpenTelemetry 把 span 导出到 PromptLayer,并自动为已安装的 OpenAI、Anthropic、Google GenAI 和 AWS Bedrock 客户端埋点。此外还提供手动记录请求、运行提示词和工作流的方法,以及追踪自定义函数的装饰器。异步客户端与同步接口一一对应。

SDK 还提供表格评分卡(scorecard)接口,用于配置评估标准、重新计算结果并查看逐行明细;同时支持 openai-agents 和 claude-agent-sdk 的可选集成。内存模板缓存默认关闭,可按需开启,并在临时故障时回退到旧缓存。

核心功能

  • 01获取带版本的提示词模板,并用输入变量渲染。
  • 02代理 OpenAI 和 Anthropic 客户端,自动把请求记录到 PromptLayer。
  • 03通过 OpenTelemetry 导出 trace,并自动为多个模型 SDK 埋点。
  • 04提供评分卡接口,用于配置、重算和查看评估结果。
  • 05同时提供同步和异步客户端,方法一一对应。

适用场景

  • 将提示词模板集中版本化管理,并在运行时拉取,而不是硬编码在代码里。
  • 在现有 Python 应用中记录和调试 OpenAI 或 Anthropic 请求。
  • 追踪大模型调用和自定义函数,监控线上行为。
  • 对存放在 PromptLayer 表格中的提示词输出做回归式评估。

快速上手

  1. 1

    用 pip 安装 SDK

    pip install promptlayer
  2. 2

    使用 API 密钥创建客户端并获取提示模板

  3. 3

    可选:安装 OpenTelemetry 追踪扩展及提供商 SDK

    pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3

使用前须知

  • 大多数功能需要 PromptLayer 账户和 API 密钥。
  • 完整的提供商 SDK 自动埋点需要 Python 3.10 或更高版本。

收录于专题

标签

常见问题

prompt-layer-library 是什么?
PromptLayer 的 Python SDK,用于记录、版本化、追踪和评估提示词与 OpenAI、Anthropic 等模型调用。 PromptLayer 是一个用于管理提示词和大模型调用的 Python SDK。它可以从 PromptLayer 获取带版本的提示词模板,并用输入变量渲染;也可以作为 OpenAI、Anthropic 等客户端的代理使用,自动记录每次请求。
prompt-layer-library 可以免费使用吗?用的什么许可证?
prompt-layer-library 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
prompt-layer-library 还在维护吗?
活跃维护中。prompt-layer-library 最近一次提交是在 2026年10月29日。
prompt-layer-library 适合用来做什么?
将提示词模板集中版本化管理,并在运行时拉取,而不是硬编码在代码里。 在现有 Python 应用中记录和调试 OpenAI 或 Anthropic 请求。 追踪大模型调用和自定义函数,监控线上行为。 对存放在 PromptLayer 表格中的提示词输出做回归式评估。
prompt-layer-library 怎么安装和运行?
用 pip 安装 SDK: pip install promptlayer 使用 API 密钥创建客户端并获取提示模板 可选:安装 OpenTelemetry 追踪扩展及提供商 SDK: pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3
在哪里获取 prompt-layer-library?
源代码和安装说明在 GitHub 上:https://github.com/MagnivOrg/prompt-layer-library

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目