Независимый от поставщиков сервис для приёма, обработки и экспорта трассировок, метрик и логов в разные системы мониторинга.
- Звёзды
- 7,499
- Форки
- 1,164
- Открытые issues
- 801
- Последний коммит
- позавчера
Что это?
OpenLLMetry — набор расширений на базе OpenTelemetry, которые добавляют наблюдаемость в приложения с LLM. В проект входят стандартные инструментации OpenTelemetry для таких провайдеров LLM, как OpenAI, Anthropic, Bedrock и Gemini, а также для векторных баз данных, включая Chroma, Pinecone, Qdrant, Milvus и Weaviate. Для быстрой настройки предлагается SDK Traceloop.
Поскольку данные представлены в стандартном формате OpenTelemetry, трассировки можно отправлять в уже используемые системы: Datadog, Honeycomb, Grafana, New Relic, Sentry или OpenTelemetry Collector. Чтобы начать трассировку, достаточно установить пакет traceloop-sdk и вызвать Traceloop.init(); для немедленного вывода данных локально можно задать disable_batch.
Проект также поддерживает агентские фреймворки и средства оркестрации, такие как LangChain, LlamaIndex, CrewAI и LangGraph, а также MCP. Пользователи, которые уже работают с OpenTelemetry, могут подключать отдельные инструментации напрямую, без SDK.
Ключевые возможности
- 01Инструментирует вызовы основных провайдеров LLM, таких как OpenAI, Anthropic и Bedrock
- 02Трассирует запросы к векторным базам данных, включая Chroma, Pinecone, Qdrant и Weaviate
- 03Выдаёт данные в стандартном формате OpenTelemetry, совместимом со многими системами наблюдаемости
- 04Предлагает SDK, который запускает трассировку одним вызовом init
- 05Включает интеграции с агентскими фреймворками, такими как LangChain, LlamaIndex и CrewAI
Сценарии использования
- Мониторинг задержек и ошибок вызовов OpenAI или Anthropic в работающем LLM-сервисе
- Отладка этапов поиска в RAG-пайплайне, использующем векторную базу данных
- Отправка трассировок LLM в уже настроенный стек Datadog или Grafana
- Добавление трассировки к агенту на LangChain или CrewAI
Быстрый старт
- 1
Установите Traceloop SDK с помощью pip
pip install traceloop-sdk - 2
Добавьте Traceloop.init() в код, чтобы начать трассировку
- 3
Для локального использования отключите пакетную отправку, вызвав Traceloop.init(disable_batch=True), чтобы сразу видеть трассы
Что важно знать
- Трассы отправляются в настроенный вами бэкенд, поэтому для их просмотра нужна учетная запись или самостоятельно развернутый коллектор.
- Версии ниже v0.49.2 собирали телеметрию, поэтому обновитесь до v0.49.2 или более поздней версии.
Темы
Частые вопросы
- Что такое openllmetry?
- Расширения на базе OpenTelemetry для наблюдаемости в Python-приложениях: трассировка вызовов LLM, запросов к векторным БД и работы агентских фреймворков. OpenLLMetry — набор расширений на базе OpenTelemetry, которые добавляют наблюдаемость в приложения с LLM. В проект входят стандартные инструментации OpenTelemetry для таких провайдеров LLM, как OpenAI, Anthropic, Bedrock и Gemini, а также для векторных баз данных, включая Chroma, Pinecone, Qdrant, Milvus и Weaviate. Для быстрой настройки предлагается SDK Traceloop.
- openllmetry можно использовать бесплатно? Какая у него лицензия?
- openllmetry распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- openllmetry всё ещё поддерживается?
- Активно поддерживается. Последний коммит в openllmetry — 19 окт. 2026 г..
- Для чего можно использовать openllmetry?
- Мониторинг задержек и ошибок вызовов OpenAI или Anthropic в работающем LLM-сервисе Отладка этапов поиска в RAG-пайплайне, использующем векторную базу данных Отправка трассировок LLM в уже настроенный стек Datadog или Grafana Добавление трассировки к агенту на LangChain или CrewAI
- Как установить openllmetry?
- Установите Traceloop SDK с помощью pip: pip install traceloop-sdk Добавьте Traceloop.init() в код, чтобы начать трассировку Для локального использования отключите пакетную отправку, вызвав Traceloop.init(disable_batch=True), чтобы сразу видеть трассы
- Где скачать openllmetry?
- Исходный код и инструкции по установке — на GitHub: https://github.com/traceloop/openllmetry
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Open-source агент Datadog собирает с хостов метрики, логи, трассировки и профили и отправляет их на платформу Datadog.
Самостоятельно размещаемая платформа наблюдаемости для логов, метрик, трейсов, RUM и мониторинга LLM на Rust — альтернатива Datadog и Splunk.
Python SDK для Pydantic Logfire — инструмента наблюдаемости, который добавляет в приложения на Python и LLM-агентов трассировки, метрики и логи OpenTelemetry.
Набор инструментов для упаковки eBPF-программ в Gadgets в формате OCI-образов, чтобы собирать и анализировать данные в кластерах Kubernetes и на хостах Linux.
Checkmk — система мониторинга ИТ-инфраструктуры и приложений в физических, виртуальных, контейнерных и облачных средах с открытым исходным кодом.