Repolode
Предложить
MagnivOrg

MagnivOrg/prompt-layer-library

Python SDK для PromptLayer: логирование, версионирование, трассировка и оценка промптов и запросов к LLM через OpenAI, Anthropic и другие провайдеры.

Open source альтернатива:LangSmith

Открыть на GitHubСайт
Звёзды
786
Форки
99
Открытые issues
26
Последний коммит
9 дней назад

Что это?

PromptLayer — это Python SDK для управления промптами и трафиком LLM. Он получает из PromptLayer шаблоны промптов с версиями и подставляет в них входные переменные. Кроме того, SDK может работать как прокси-замена клиентов OpenAI и Anthropic, чтобы логировать каждый запрос.

При включённой трассировке SDK отправляет в PromptLayer спаны OpenTelemetry и автоматически инструментирует установленные клиенты OpenAI, Anthropic, Google GenAI и AWS Bedrock. Также в нём есть помощники для ручного логирования запросов, запуска промптов и рабочих процессов, а также декоратор для трассировки собственных функций. Асинхронные клиенты повторяют API синхронных.

SDK включает API для табличных скоркардов: настройки критериев оценки, пересчёта результатов и получения разбивки по строкам. Также доступны необязательные интеграции с пакетами openai-agents и claude-agent-sdk. В качестве дополнительной настройки можно включить кэш шаблонов в памяти с использованием устаревших данных при сбое.

Ключевые возможности

  • 01Получает шаблоны промптов с версиями и подставляет в них входные переменные.
  • 02Проксирует клиенты OpenAI и Anthropic, чтобы логировать запросы в PromptLayer.
  • 03Отправляет трассировки OpenTelemetry и автоматически инструментирует SDK нескольких провайдеров.
  • 04Предоставляет API скоркардов для настройки, пересчёта и просмотра результатов оценки.
  • 05Предоставляет синхронные и асинхронные клиенты с одинаковыми методами.

Сценарии использования

  • Хранить шаблоны промптов с версиями и получать их во время выполнения вместо того, чтобы жёстко прописывать в коде.
  • Логировать запросы к OpenAI или Anthropic и отлаживать их в существующем Python-приложении.
  • Трассировать вызовы LLM и собственные функции, чтобы отслеживать поведение в production.
  • Запускать регрессионные оценки результатов промптов, сохранённых в таблицах PromptLayer.

Быстрый старт

  1. 1

    Установите SDK с помощью pip

    pip install promptlayer
  2. 2

    Создайте клиент с помощью API-ключа и получите шаблон промпта

  3. 3

    При необходимости установите дополнительный пакет для трассировки OpenTelemetry вместе с SDK провайдеров

    pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3

Что важно знать

  • Для использования большинства функций необходимы аккаунт PromptLayer и API-ключ.
  • Для полной автоматической инструментации SDK провайдеров требуется Python 3.10 или новее.

В подборках

Инструменты, навыки и плагины для Claude CodeOpenTelemetry и платформы наблюдаемости

Темы

#llm#prompt-engineering#observability#openai#anthropic#tracing#evaluation#gpt#machine-learning#prompt

Частые вопросы

Что такое prompt-layer-library?
Python SDK для PromptLayer: логирование, версионирование, трассировка и оценка промптов и запросов к LLM через OpenAI, Anthropic и другие провайдеры. PromptLayer — это Python SDK для управления промптами и трафиком LLM. Он получает из PromptLayer шаблоны промптов с версиями и подставляет в них входные переменные. Кроме того, SDK может работать как прокси-замена клиентов OpenAI и Anthropic, чтобы логировать каждый запрос.
prompt-layer-library можно использовать бесплатно? Какая у него лицензия?
prompt-layer-library распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
prompt-layer-library всё ещё поддерживается?
Активно поддерживается. Последний коммит в prompt-layer-library — 29 окт. 2026 г..
Для чего можно использовать prompt-layer-library?
Хранить шаблоны промптов с версиями и получать их во время выполнения вместо того, чтобы жёстко прописывать в коде. Логировать запросы к OpenAI или Anthropic и отлаживать их в существующем Python-приложении. Трассировать вызовы LLM и собственные функции, чтобы отслеживать поведение в production. Запускать регрессионные оценки результатов промптов, сохранённых в таблицах PromptLayer.
Как установить prompt-layer-library?
Установите SDK с помощью pip: pip install promptlayer Создайте клиент с помощью API-ключа и получите шаблон промпта При необходимости установите дополнительный пакет для трассировки OpenTelemetry вместе с SDK провайдеров: pip install "promptlayer[otel-genai-instrumentation]" openai anthropic google-genai boto3
Где скачать prompt-layer-library?
Исходный код и инструкции по установке — на GitHub: https://github.com/MagnivOrg/prompt-layer-library

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты