LLM 애플리케이션을 추적·평가·프롬프트 관리·디버깅하는 오픈소스 엔지니어링 플랫폼으로, 자체 호스팅할 수 있습니다.
comet-ml/opik
AI 에이전트 추적, LLM 출력 평가, 프롬프트 관리, 프로덕션 모니터링을 위한 오픈소스 LLM 옵저버빌리티 및 평가 플랫폼입니다.
대체할 수 있는 제품:LangSmith
Braintrust
Weights & Biases
- 스타
- 22,764
- 포크
- 1,880
- 열린 이슈
- 186
- 마지막 커밋
- 15시간 전
어떤 프로젝트인가요?
Opik은 LLM 애플리케이션, RAG 시스템, 다단계 AI 에이전트를 디버깅하고 평가하며 모니터링하는 플랫폼입니다. LLM 호출, 도구 실행, 중첩 함수 호출의 trace를 기록해 개발자가 에이전트 실행 중에 어떤 일이 있었는지 확인할 수 있습니다. Python SDK에는 모든 함수를 로깅하는 track 데코레이터가 포함되어 있으며, LangChain, LlamaIndex, OpenAI, Anthropic, OpenTelemetry 등 다양한 프레임워크 및 모델 제공업체와 연동됩니다.
Opik은 trace 기능 외에도 체계적인 평가를 위한 데이터셋과 실험, 환각 감지 및 답변 관련성 같은 LLM-as-a-judge 지표, CI/CD에서 평가를 실행하는 PyTest 통합을 제공합니다. 또한 프롬프트 플레이그라운드, 온라인 평가 규칙, 프로덕션 환경의 피드백 점수, trace 수, 토큰 사용량을 보여 주는 대시보드도 포함합니다.
서버 백엔드와 웹 애플리케이션을 포함한 전체 플랫폼은 Apache-2.0 라이선스로 제공되며 Docker Compose 또는 Kubernetes/Helm으로 자체 호스팅할 수 있습니다. 팀은 호스팅형 Comet.com 클라우드 서비스도 이용할 수 있습니다.
핵심 기능
- 01다단계 에이전트의 LLM 호출, 도구 사용, 중첩 함수 호출을 추적합니다.
- 02LLM-as-a-judge 및 휴리스틱 지표를 사용해 데이터셋과 실험을 실행합니다.
- 03PyTest 통합을 통해 평가를 CI/CD에 연동합니다.
- 04내장 플레이그라운드에서 프롬프트를 관리하고 개선합니다.
- 05온라인 평가 규칙을 활용해 피드백 점수, trace 양, 토큰 사용량을 모니터링합니다.
- 06Docker Compose 또는 Kubernetes로 전체 플랫폼을 자체 호스팅합니다.
활용 사례
- trace 트리를 살펴 다단계 AI 에이전트가 잘못된 답변을 생성한 이유를 디버깅합니다.
- 릴리스 전에 RAG 파이프라인의 회귀 평가를 실행합니다.
- 프로덕션 챗봇의 환각 또는 모더레이션 점수를 모니터링합니다.
- LLM 옵저버빌리티 데이터를 회사 자체 인프라 안에 보관합니다.
빠른 시작
- 1
Python SDK를 설치합니다
pip install opik - 2
SDK를 구성합니다
opik configure - 3
@track 데코레이터로 함수를 감싸 트레이스 기록을 시작합니다
사용 전 알아둘 점
- 플랫폼 전체를 셀프 호스팅하려면 서버 인프라를 직접 운영해야 합니다.
- README는 가장 간편한 설정 방법으로 Opik Cloud를 안내하며, 일부 MCP 링크와 배지 링크도 Opik Cloud를 가리킵니다.
토픽
자주 묻는 질문
- opik은(는) 무엇인가요?
- AI 에이전트 추적, LLM 출력 평가, 프롬프트 관리, 프로덕션 모니터링을 위한 오픈소스 LLM 옵저버빌리티 및 평가 플랫폼입니다. Opik은 LLM 애플리케이션, RAG 시스템, 다단계 AI 에이전트를 디버깅하고 평가하며 모니터링하는 플랫폼입니다. LLM 호출, 도구 실행, 중첩 함수 호출의 trace를 기록해 개발자가 에이전트 실행 중에 어떤 일이 있었는지 확인할 수 있습니다. Python SDK에는 모든 함수를 로깅하는 track 데코레이터가 포함되어 있으며, LangChain, LlamaIndex, OpenAI, Anthropic, OpenTelemetry 등 다양한 프레임워크 및 모델 제공업체와 연동됩니다.
- opik은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- opik은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- opik은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. opik의 마지막 커밋은 2026년 10월 20일입니다.
- opik은(는) 어디에 사용할 수 있나요?
- trace 트리를 살펴 다단계 AI 에이전트가 잘못된 답변을 생성한 이유를 디버깅합니다. 릴리스 전에 RAG 파이프라인의 회귀 평가를 실행합니다. 프로덕션 챗봇의 환각 또는 모더레이션 점수를 모니터링합니다. LLM 옵저버빌리티 데이터를 회사 자체 인프라 안에 보관합니다.
- opik는 어떻게 설치하나요?
- Python SDK를 설치합니다: pip install opik SDK를 구성합니다: opik configure @track 데코레이터로 함수를 감싸 트레이스 기록을 시작합니다
- opik은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/comet-ml/opik
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Python과 Next.js 기반의 에이전트 네이티브 자체 호스팅 AI 학습 워크스페이스로, 맞춤형 튜터링, Q&A, 퀴즈, 리서치, 시각화를 지원합니다.
Pytest와 비슷한 방식으로 RAG, 에이전트, 챗봇, 음성 에이전트 등을 평가하는 메트릭을 제공하는 오픈소스 Python 프레임워크입니다.
Python과 TypeScript로 생성형 AI 애플리케이션을 만드는 기초를 가르치는 Microsoft의 21개 강의 과정입니다.
에이전트, LLM 앱, ML 모델의 디버깅·평가·모니터링·최적화를 지원하는 오픈소스 AI 엔지니어링 플랫폼입니다.
LLM 에이전트가 자연어, CLI 또는 Python API로 Android와 iOS 기기를 제어할 수 있도록 하는 오픈소스 Python 프레임워크입니다.