Repolode
Enviar
traceloop

traceloop/openllmetry

Extensões open source baseadas em OpenTelemetry que rastreiam chamadas a LLMs, consultas a bancos de dados vetoriais e frameworks de agentes em apps Python.

Alternativa open source a:LangSmithHelicone

Ver no GitHubSite
Estrelas
7,499
Forks
1,164
Issues abertas
801
Último commit
anteontem

O que é?

OpenLLMetry é um conjunto de extensões baseado em OpenTelemetry que adiciona observabilidade a aplicações com LLMs. Ele oferece instrumentações padrão do OpenTelemetry para provedores de LLM, como OpenAI, Anthropic, Bedrock e Gemini, e para bancos de dados vetoriais, como Chroma, Pinecone, Qdrant, Milvus e Weaviate, além de um SDK da Traceloop para configurar tudo rapidamente.

Como os dados gerados seguem o padrão OpenTelemetry, os traces podem ser enviados a backends existentes, incluindo Datadog, Honeycomb, Grafana, New Relic, Sentry e um OpenTelemetry Collector. Basta instalar o pacote traceloop-sdk e chamar Traceloop.init() para começar a rastrear; também é possível definir disable_batch para gerar saída local imediatamente.

O projeto também oferece suporte a frameworks de agentes e orquestração, como LangChain, LlamaIndex, CrewAI e LangGraph, além de MCP. Quem já usa OpenTelemetry pode adicionar instrumentações individuais diretamente, sem precisar usar o SDK.

Recursos principais

  • 01Instrumenta chamadas a grandes provedores de LLM, como OpenAI, Anthropic e Bedrock
  • 02Rastreia consultas a bancos de dados vetoriais, incluindo Chroma, Pinecone, Qdrant e Weaviate
  • 03Gera dados no padrão OpenTelemetry, compatíveis com vários backends de observabilidade
  • 04Oferece um SDK que começa a rastrear com uma única chamada de inicialização
  • 05Inclui integrações com frameworks de agentes, como LangChain, LlamaIndex e CrewAI

Casos de uso

  • Monitorar a latência e os erros de chamadas à OpenAI ou à Anthropic em um serviço de LLM em produção
  • Depurar etapas de recuperação em um pipeline RAG que usa um banco de dados vetorial
  • Enviar traces de LLM para uma stack existente de Datadog ou Grafana
  • Adicionar tracing a um agente criado com LangChain ou CrewAI

Início rápido

  1. 1

    Instale o Traceloop SDK com pip

    pip install traceloop-sdk
  2. 2

    Adicione Traceloop.init() ao seu código para começar a rastrear

  3. 3

    Para uso local, desative o envio em lote chamando Traceloop.init(disable_batch=True) para ver os traces imediatamente

Antes de usar

  • Os traces são enviados para um backend configurado por você, então é necessária uma conta ou um coletor auto-hospedado para visualizá-los.
  • As versões anteriores à v0.49.2 coletavam telemetria, portanto atualize para a v0.49.2 ou posterior.

Tópicos

#llm#observability#opentelemetry#tracing#monitoring#generative-ai#vector-database#artifical-intelligence#datascience#good-first-issue

Perguntas frequentes

O que é openllmetry?
Extensões open source baseadas em OpenTelemetry que rastreiam chamadas a LLMs, consultas a bancos de dados vetoriais e frameworks de agentes em apps Python. OpenLLMetry é um conjunto de extensões baseado em OpenTelemetry que adiciona observabilidade a aplicações com LLMs. Ele oferece instrumentações padrão do OpenTelemetry para provedores de LLM, como OpenAI, Anthropic, Bedrock e Gemini, e para bancos de dados vetoriais, como Chroma, Pinecone, Qdrant, Milvus e Weaviate, além de um SDK da Traceloop para configurar tudo rapidamente.
openllmetry é gratuito? Qual é a licença?
openllmetry é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
openllmetry ainda é mantido?
Manutenção ativa. O último commit de openllmetry foi em 19 de out. de 2026.
Para que posso usar openllmetry?
Monitorar a latência e os erros de chamadas à OpenAI ou à Anthropic em um serviço de LLM em produção Depurar etapas de recuperação em um pipeline RAG que usa um banco de dados vetorial Enviar traces de LLM para uma stack existente de Datadog ou Grafana Adicionar tracing a um agente criado com LangChain ou CrewAI
Como instalar openllmetry?
Instale o Traceloop SDK com pip: pip install traceloop-sdk Adicione Traceloop.init() ao seu código para começar a rastrear Para uso local, desative o envio em lote chamando Traceloop.init(disable_batch=True) para ver os traces imediatamente
Onde consigo openllmetry?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/traceloop/openllmetry

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados