Repolode
traceloop

traceloop/openllmetry

Python 앱에서 LLM 호출, 벡터 DB 쿼리, 에이전트 프레임워크를 추적하는 OpenTelemetry 기반 오픈소스 관측성 확장 기능입니다.

대체할 수 있는 제품:LangSmithHelicone

스타
7,499
포크
1,164
열린 이슈
801
마지막 커밋
그저께

어떤 프로젝트인가요?

OpenLLMetry는 LLM 애플리케이션에 관측성을 추가하는 OpenTelemetry 기반 확장 기능 모음입니다. OpenAI, Anthropic, Bedrock, Gemini 같은 LLM 제공업체와 Chroma, Pinecone, Qdrant, Milvus, Weaviate 같은 벡터 데이터베이스를 위한 표준 OpenTelemetry 계측 기능을 제공하며, 빠른 설정을 위한 Traceloop SDK도 포함합니다.

출력되는 데이터는 표준 OpenTelemetry 형식이므로 Datadog, Honeycomb, Grafana, New Relic, Sentry, OpenTelemetry Collector 등 기존 백엔드로 트레이스를 전송할 수 있습니다. traceloop-sdk 패키지를 설치하고 Traceloop.init()을 호출하면 추적을 시작할 수 있으며, 로컬에서 결과를 즉시 확인하려면 disable_batch를 설정하면 됩니다.

이 프로젝트는 LangChain, LlamaIndex, CrewAI, LangGraph 같은 에이전트 및 오케스트레이션 프레임워크와 MCP도 지원합니다. 기존에 OpenTelemetry를 사용하는 경우 SDK 없이 개별 계측 기능을 직접 추가할 수 있습니다.

핵심 기능

  • 01OpenAI, Anthropic, Bedrock 등 주요 LLM 제공업체 호출을 계측합니다
  • 02Chroma, Pinecone, Qdrant, Weaviate 등의 벡터 데이터베이스 쿼리를 추적합니다
  • 03다양한 관측성 백엔드와 호환되는 표준 OpenTelemetry 데이터를 출력합니다
  • 04init 호출 한 번으로 추적을 시작할 수 있는 SDK를 제공합니다
  • 05LangChain, LlamaIndex, CrewAI 같은 에이전트 프레임워크와 통합됩니다

활용 사례

  • 프로덕션 LLM 서비스에서 OpenAI 또는 Anthropic 호출의 지연 시간과 오류를 모니터링합니다
  • 벡터 데이터베이스를 사용하는 RAG 파이프라인의 검색 단계를 디버깅합니다
  • LLM 트레이스를 기존 Datadog 또는 Grafana 스택으로 전송합니다
  • LangChain 또는 CrewAI로 만든 에이전트에 추적 기능을 추가합니다

빠른 시작

  1. 1

    pip으로 Traceloop SDK를 설치합니다

    pip install traceloop-sdk
  2. 2

    코드에 Traceloop.init()을 추가해 트레이싱을 시작합니다

  3. 3

    로컬에서 사용할 때는 Traceloop.init(disable_batch=True)를 호출해 배치 전송을 비활성화하면 트레이스를 바로 확인할 수 있습니다

사용 전 알아둘 점

  • 트레이스는 사용자가 설정한 백엔드로 전송되므로, 이를 확인하려면 계정이나 자체 호스팅 수집기가 필요합니다.
  • v0.49.2 미만 버전은 텔레메트리를 수집했으므로 v0.49.2 이상으로 업그레이드하세요.

토픽

자주 묻는 질문

openllmetry은(는) 무엇인가요?
Python 앱에서 LLM 호출, 벡터 DB 쿼리, 에이전트 프레임워크를 추적하는 OpenTelemetry 기반 오픈소스 관측성 확장 기능입니다. OpenLLMetry는 LLM 애플리케이션에 관측성을 추가하는 OpenTelemetry 기반 확장 기능 모음입니다. OpenAI, Anthropic, Bedrock, Gemini 같은 LLM 제공업체와 Chroma, Pinecone, Qdrant, Milvus, Weaviate 같은 벡터 데이터베이스를 위한 표준 OpenTelemetry 계측 기능을 제공하며, 빠른 설정을 위한 Traceloop SDK도 포함합니다.
openllmetry은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
openllmetry은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
openllmetry은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. openllmetry의 마지막 커밋은 2026년 10월 19일입니다.
openllmetry은(는) 어디에 사용할 수 있나요?
프로덕션 LLM 서비스에서 OpenAI 또는 Anthropic 호출의 지연 시간과 오류를 모니터링합니다 벡터 데이터베이스를 사용하는 RAG 파이프라인의 검색 단계를 디버깅합니다 LLM 트레이스를 기존 Datadog 또는 Grafana 스택으로 전송합니다 LangChain 또는 CrewAI로 만든 에이전트에 추적 기능을 추가합니다
openllmetry는 어떻게 설치하나요?
pip으로 Traceloop SDK를 설치합니다: pip install traceloop-sdk 코드에 Traceloop.init()을 추가해 트레이싱을 시작합니다 로컬에서 사용할 때는 Traceloop.init(disable_batch=True)를 호출해 배치 전송을 비활성화하면 트레이스를 바로 확인할 수 있습니다
openllmetry은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/traceloop/openllmetry

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트