LLM 애플리케이션을 추적·평가·프롬프트 관리·디버깅하는 오픈소스 엔지니어링 플랫폼으로, 자체 호스팅할 수 있습니다.
- 스타
- 6,228
- 포크
- 685
- 열린 이슈
- 169
- 마지막 커밋
- 어제
어떤 프로젝트인가요?
Helicone은 대규모 언어 모델을 기반으로 한 애플리케이션을 모니터링하는 오픈소스 플랫폼입니다. 코드와 모델 제공자 사이에 위치하므로, base URL을 한 줄만 바꾸거나 비동기 로깅을 연동하면 OpenAI, Anthropic, Gemini 등의 요청을 기록할 수 있습니다.
이 플랫폼은 에이전트, 챗봇, 문서 파이프라인의 트레이스와 세션을 기록하고, 대시보드에서 비용, 지연 시간 등의 지표를 추적합니다. 프롬프트 플레이그라운드와 프롬프트 버전 관리 기능도 제공하며, 라우팅과 자동 폴백을 지원하는 AI Gateway를 통해 OpenAI 호환 API 하나로 100개 이상의 모델을 사용할 수 있습니다.
Docker를 통한 셀프 호스팅을 지원하며, 엔터프라이즈 배포에는 Helm을 사용할 수 있습니다. 스택은 웹 앱에 Next.js, 프록시 로깅에 Cloudflare Workers, 로그 서버에 Express를 사용하며, Supabase, ClickHouse, MinIO도 포함합니다.
핵심 기능
- 01한 줄로 연동해 OpenAI, Anthropic, Gemini 및 기타 제공자로 보내는 요청을 기록합니다.
- 02비용, 지연 시간 등의 지표를 추적하며 PostHog로 내보낼 수 있습니다.
- 03에이전트와 챗봇의 트레이스 및 세션을 확인할 수 있습니다.
- 04프롬프트 플레이그라운드와 버전 관리 기능을 갖춘 프롬프트 관리를 제공합니다.
- 05폴백을 지원하며 API 키 하나로 100개 이상의 모델을 사용할 수 있는 AI Gateway를 제공합니다.
- 06Docker Compose로 셀프 호스팅할 수 있습니다.
활용 사례
- 프로덕션 LLM 애플리케이션과 에이전트의 디버깅 및 모니터링.
- 여러 모델 제공자에 걸친 토큰 사용 비용과 지연 시간 추적.
- 프롬프트를 개선하고 프로덕션 데이터에 맞춰 버전 관리.
- 데이터 민감도가 높은 팀을 위한 셀프 호스팅 LLM 옵저버빌리티 스택 운영.
빠른 시작
- 1
API 키를 신청하고 크레딧을 추가합니다
- 2
OpenAI 클라이언트 코드에서 baseURL과 API 키를 업데이트합니다
- 3
저장소를 클론합니다
git clone https://github.com/Helicone/helicone.git - 4
Docker Compose로 셀프 호스팅 서비스를 시작합니다
./helicone-compose.sh helicone up
사용 전 알아둘 점
- 셀프 호스팅하려면 ClickHouse, Supabase, Minio를 포함해 5개의 서비스를 실행해야 합니다.
- 수동 배포는 권장하지 않습니다. 지원되는 배포 방식은 Docker 또는 Helm입니다.
- AI Gateway를 완전히 사용하려면 Helicone 계정과 API 키가 필요하며, 호스팅 무료 플랜은 월 10,000회 요청으로 제한됩니다.
토픽
자주 묻는 질문
- helicone은(는) 무엇인가요?
- 요청을 로깅·추적·모니터링하고 100개 이상의 모델로 라우팅하는 오픈소스 LLM 옵저버빌리티 플랫폼이자 AI 게이트웨이입니다. Helicone은 대규모 언어 모델을 기반으로 한 애플리케이션을 모니터링하는 오픈소스 플랫폼입니다. 코드와 모델 제공자 사이에 위치하므로, base URL을 한 줄만 바꾸거나 비동기 로깅을 연동하면 OpenAI, Anthropic, Gemini 등의 요청을 기록할 수 있습니다.
- helicone은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- helicone은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- helicone은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. helicone의 마지막 커밋은 2026년 10월 20일입니다.
- helicone은(는) 어디에 사용할 수 있나요?
- 프로덕션 LLM 애플리케이션과 에이전트의 디버깅 및 모니터링. 여러 모델 제공자에 걸친 토큰 사용 비용과 지연 시간 추적. 프롬프트를 개선하고 프로덕션 데이터에 맞춰 버전 관리. 데이터 민감도가 높은 팀을 위한 셀프 호스팅 LLM 옵저버빌리티 스택 운영.
- helicone는 어떻게 설치하나요?
- API 키를 신청하고 크레딧을 추가합니다 OpenAI 클라이언트 코드에서 baseURL과 API 키를 업데이트합니다 저장소를 클론합니다: git clone https://github.com/Helicone/helicone.git Docker Compose로 셀프 호스팅 서비스를 시작합니다: ./helicone-compose.sh helicone up
- helicone은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Helicone/helicone
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
OpenAI, Claude, Gemini, DeepSeek 및 자체 호스팅 모델에 연결할 수 있는 오픈소스 크로스 플랫폼 AI 채팅 클라이언트로, 웹·데스크톱·모바일을 지원합니다.
프롬프트에 `ulw` 또는 `mass ulw`라는 키워드 하나를 넣으면 계획을 세우고 여러 모델에 작업을 분담한 뒤 결과를 검증하는 TypeScript 코딩 에이전트 CLI입니다.
React, Next.js, Svelte, Vue와 Node.js로 AI 기반 애플리케이션과 에이전트를 만들 수 있는 특정 제공업체에 종속되지 않는 TypeScript 툴킷입니다.
메모리, 도구, MCP, RAG, 음성, 워크플로를 지원하는 AI 에이전트 구축용 TypeScript 프레임워크와 관측성을 위한 VoltOps 콘솔입니다.
여러 공급자의 API 키와 구독 계정을 하나의 엔드포인트로 통합하고, 스케줄링·장애 조치·사용량 로그를 제공하는 셀프 호스팅 AI 게이트웨이입니다.