Repolode
traceloop

traceloop/openllmetry

Расширения на базе OpenTelemetry для наблюдаемости в Python-приложениях: трассировка вызовов LLM, запросов к векторным БД и работы агентских фреймворков.

Open source альтернатива:LangSmithHelicone

Звёзды
7,499
Форки
1,164
Открытые issues
801
Последний коммит
позавчера

Что это?

OpenLLMetry — набор расширений на базе OpenTelemetry, которые добавляют наблюдаемость в приложения с LLM. В проект входят стандартные инструментации OpenTelemetry для таких провайдеров LLM, как OpenAI, Anthropic, Bedrock и Gemini, а также для векторных баз данных, включая Chroma, Pinecone, Qdrant, Milvus и Weaviate. Для быстрой настройки предлагается SDK Traceloop.

Поскольку данные представлены в стандартном формате OpenTelemetry, трассировки можно отправлять в уже используемые системы: Datadog, Honeycomb, Grafana, New Relic, Sentry или OpenTelemetry Collector. Чтобы начать трассировку, достаточно установить пакет traceloop-sdk и вызвать Traceloop.init(); для немедленного вывода данных локально можно задать disable_batch.

Проект также поддерживает агентские фреймворки и средства оркестрации, такие как LangChain, LlamaIndex, CrewAI и LangGraph, а также MCP. Пользователи, которые уже работают с OpenTelemetry, могут подключать отдельные инструментации напрямую, без SDK.

Ключевые возможности

  • 01Инструментирует вызовы основных провайдеров LLM, таких как OpenAI, Anthropic и Bedrock
  • 02Трассирует запросы к векторным базам данных, включая Chroma, Pinecone, Qdrant и Weaviate
  • 03Выдаёт данные в стандартном формате OpenTelemetry, совместимом со многими системами наблюдаемости
  • 04Предлагает SDK, который запускает трассировку одним вызовом init
  • 05Включает интеграции с агентскими фреймворками, такими как LangChain, LlamaIndex и CrewAI

Сценарии использования

  • Мониторинг задержек и ошибок вызовов OpenAI или Anthropic в работающем LLM-сервисе
  • Отладка этапов поиска в RAG-пайплайне, использующем векторную базу данных
  • Отправка трассировок LLM в уже настроенный стек Datadog или Grafana
  • Добавление трассировки к агенту на LangChain или CrewAI

Быстрый старт

  1. 1

    Установите Traceloop SDK с помощью pip

    pip install traceloop-sdk
  2. 2

    Добавьте Traceloop.init() в код, чтобы начать трассировку

  3. 3

    Для локального использования отключите пакетную отправку, вызвав Traceloop.init(disable_batch=True), чтобы сразу видеть трассы

Что важно знать

  • Трассы отправляются в настроенный вами бэкенд, поэтому для их просмотра нужна учетная запись или самостоятельно развернутый коллектор.
  • Версии ниже v0.49.2 собирали телеметрию, поэтому обновитесь до v0.49.2 или более поздней версии.

Темы

Частые вопросы

Что такое openllmetry?
Расширения на базе OpenTelemetry для наблюдаемости в Python-приложениях: трассировка вызовов LLM, запросов к векторным БД и работы агентских фреймворков. OpenLLMetry — набор расширений на базе OpenTelemetry, которые добавляют наблюдаемость в приложения с LLM. В проект входят стандартные инструментации OpenTelemetry для таких провайдеров LLM, как OpenAI, Anthropic, Bedrock и Gemini, а также для векторных баз данных, включая Chroma, Pinecone, Qdrant, Milvus и Weaviate. Для быстрой настройки предлагается SDK Traceloop.
openllmetry можно использовать бесплатно? Какая у него лицензия?
openllmetry распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
openllmetry всё ещё поддерживается?
Активно поддерживается. Последний коммит в openllmetry — 19 окт. 2026 г..
Для чего можно использовать openllmetry?
Мониторинг задержек и ошибок вызовов OpenAI или Anthropic в работающем LLM-сервисе Отладка этапов поиска в RAG-пайплайне, использующем векторную базу данных Отправка трассировок LLM в уже настроенный стек Datadog или Grafana Добавление трассировки к агенту на LangChain или CrewAI
Как установить openllmetry?
Установите Traceloop SDK с помощью pip: pip install traceloop-sdk Добавьте Traceloop.init() в код, чтобы начать трассировку Для локального использования отключите пакетную отправку, вызвав Traceloop.init(disable_batch=True), чтобы сразу видеть трассы
Где скачать openllmetry?
Исходный код и инструкции по установке — на GitHub: https://github.com/traceloop/openllmetry

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты