여러 관측 백엔드로 트레이스, 메트릭, 로그를 수집·처리·내보내는 벤더 중립 서비스입니다.
- 스타
- 7,499
- 포크
- 1,164
- 열린 이슈
- 801
- 마지막 커밋
- 그저께
어떤 프로젝트인가요?
OpenLLMetry는 LLM 애플리케이션에 관측성을 추가하는 OpenTelemetry 기반 확장 기능 모음입니다. OpenAI, Anthropic, Bedrock, Gemini 같은 LLM 제공업체와 Chroma, Pinecone, Qdrant, Milvus, Weaviate 같은 벡터 데이터베이스를 위한 표준 OpenTelemetry 계측 기능을 제공하며, 빠른 설정을 위한 Traceloop SDK도 포함합니다.
출력되는 데이터는 표준 OpenTelemetry 형식이므로 Datadog, Honeycomb, Grafana, New Relic, Sentry, OpenTelemetry Collector 등 기존 백엔드로 트레이스를 전송할 수 있습니다. traceloop-sdk 패키지를 설치하고 Traceloop.init()을 호출하면 추적을 시작할 수 있으며, 로컬에서 결과를 즉시 확인하려면 disable_batch를 설정하면 됩니다.
이 프로젝트는 LangChain, LlamaIndex, CrewAI, LangGraph 같은 에이전트 및 오케스트레이션 프레임워크와 MCP도 지원합니다. 기존에 OpenTelemetry를 사용하는 경우 SDK 없이 개별 계측 기능을 직접 추가할 수 있습니다.
핵심 기능
- 01OpenAI, Anthropic, Bedrock 등 주요 LLM 제공업체 호출을 계측합니다
- 02Chroma, Pinecone, Qdrant, Weaviate 등의 벡터 데이터베이스 쿼리를 추적합니다
- 03다양한 관측성 백엔드와 호환되는 표준 OpenTelemetry 데이터를 출력합니다
- 04init 호출 한 번으로 추적을 시작할 수 있는 SDK를 제공합니다
- 05LangChain, LlamaIndex, CrewAI 같은 에이전트 프레임워크와 통합됩니다
활용 사례
- 프로덕션 LLM 서비스에서 OpenAI 또는 Anthropic 호출의 지연 시간과 오류를 모니터링합니다
- 벡터 데이터베이스를 사용하는 RAG 파이프라인의 검색 단계를 디버깅합니다
- LLM 트레이스를 기존 Datadog 또는 Grafana 스택으로 전송합니다
- LangChain 또는 CrewAI로 만든 에이전트에 추적 기능을 추가합니다
빠른 시작
- 1
pip으로 Traceloop SDK를 설치합니다
pip install traceloop-sdk - 2
코드에 Traceloop.init()을 추가해 트레이싱을 시작합니다
- 3
로컬에서 사용할 때는 Traceloop.init(disable_batch=True)를 호출해 배치 전송을 비활성화하면 트레이스를 바로 확인할 수 있습니다
사용 전 알아둘 점
- 트레이스는 사용자가 설정한 백엔드로 전송되므로, 이를 확인하려면 계정이나 자체 호스팅 수집기가 필요합니다.
- v0.49.2 미만 버전은 텔레메트리를 수집했으므로 v0.49.2 이상으로 업그레이드하세요.
토픽
자주 묻는 질문
- openllmetry은(는) 무엇인가요?
- Python 앱에서 LLM 호출, 벡터 DB 쿼리, 에이전트 프레임워크를 추적하는 OpenTelemetry 기반 오픈소스 관측성 확장 기능입니다. OpenLLMetry는 LLM 애플리케이션에 관측성을 추가하는 OpenTelemetry 기반 확장 기능 모음입니다. OpenAI, Anthropic, Bedrock, Gemini 같은 LLM 제공업체와 Chroma, Pinecone, Qdrant, Milvus, Weaviate 같은 벡터 데이터베이스를 위한 표준 OpenTelemetry 계측 기능을 제공하며, 빠른 설정을 위한 Traceloop SDK도 포함합니다.
- openllmetry은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- openllmetry은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- openllmetry은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. openllmetry의 마지막 커밋은 2026년 10월 19일입니다.
- openllmetry은(는) 어디에 사용할 수 있나요?
- 프로덕션 LLM 서비스에서 OpenAI 또는 Anthropic 호출의 지연 시간과 오류를 모니터링합니다 벡터 데이터베이스를 사용하는 RAG 파이프라인의 검색 단계를 디버깅합니다 LLM 트레이스를 기존 Datadog 또는 Grafana 스택으로 전송합니다 LangChain 또는 CrewAI로 만든 에이전트에 추적 기능을 추가합니다
- openllmetry는 어떻게 설치하나요?
- pip으로 Traceloop SDK를 설치합니다: pip install traceloop-sdk 코드에 Traceloop.init()을 추가해 트레이싱을 시작합니다 로컬에서 사용할 때는 Traceloop.init(disable_batch=True)를 호출해 배치 전송을 비활성화하면 트레이스를 바로 확인할 수 있습니다
- openllmetry은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/traceloop/openllmetry
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
호스트에서 메트릭, 로그, 트레이스, 프로파일을 수집해 Datadog 플랫폼으로 전송하는 Datadog의 오픈소스 에이전트입니다.
Rust로 구축한 셀프 호스팅 가능한 관측성 플랫폼으로, 로그·메트릭·트레이스·RUM·LLM 모니터링을 지원하며 Datadog과 Splunk의 대안으로 소개됩니다.
Python 앱과 LLM 에이전트에 OpenTelemetry 트레이스, 메트릭, 로그를 계측하는 관측성 도구 Pydantic Logfire용 Python SDK입니다.
Kubernetes 클러스터와 Linux 호스트의 시스템 데이터를 수집하고 살펴보는 eBPF 도구 키트
Checkmk는 물리, 가상, 컨테이너 및 클라우드 환경 전반의 인프라와 애플리케이션을 모니터링하는 오픈소스 IT 모니터링 시스템입니다.