OpenAI, Anthropic 및 호환 API를 라우팅, 장애 조치, 요청 로깅, 웹 대시보드와 함께 중계하는 셀프 호스팅 LLM 게이트웨이입니다.
bestruirui/octopus
여러 제공업체 채널을 하나의 엔드포인트로 통합하고 장애 조치와 비용 추적을 지원하는 개인용 셀프 호스팅 LLM API 게이트웨이입니다.
대체할 수 있는 제품:OpenRouter
- 스타
- 2,742
- 포크
- 450
- 열린 이슈
- 16
- 마지막 커밋
- 16일 전
어떤 프로젝트인가요?
Octopus는 클라이언트와 여러 LLM 제공업체 사이에서 동작하는 셀프 호스팅 게이트웨이입니다. OpenAI, Anthropic, Gemini 같은 제공업체의 업스트림 채널을 설정한 다음, 채널을 단일 모델 이름 아래 그룹화하면 요청을 처리하는 제공업체와 관계없이 클라이언트가 하나의 엔드포인트를 호출할 수 있습니다.
OpenAI Chat, OpenAI Responses, Anthropic API 형식 간 변환을 지원하므로 Claude Code나 Codex 같은 도구는 base URL만 바꿔 연결할 수 있습니다. 업스트림 채널에 장애가 발생하면 요청이 사용 가능한 다른 채널로 자동 전환됩니다. 모델 가격은 models.dev에서 동기화하고 수동으로 재정의할 수도 있으며, 요청 통계와 토큰 사용량 및 비용을 추적해 웹 관리 패널에 표시합니다.
이 프로젝트는 웹 UI가 내장된 단일 Go 바이너리로 제공되며, SQLite, MySQL 또는 PostgreSQL에 데이터를 저장합니다. Docker로도 실행할 수 있습니다.
핵심 기능
- 01여러 LLM 제공업체 채널을 통합된 그룹 모델 이름으로 묶습니다
- 02OpenAI Chat, OpenAI Responses, Anthropic API 형식 간 변환을 지원합니다
- 03업스트림 채널에 오류가 발생하면 다른 채널로 자동 장애 조치합니다
- 04업스트림 소스에서 모델 가격과 사용 가능한 모델 목록을 동기화합니다
- 05웹 대시보드에서 요청 수와 토큰 사용량 및 비용을 추적합니다
- 06SQLite, MySQL 또는 PostgreSQL을 저장소로 사용하는 단일 바이너리로 실행됩니다
활용 사례
- Claude Code나 Codex를 하나의 로컬 엔드포인트를 통해 여러 제공업체에 연결하기
- 여러 LLM 계정을 사용하는 개인 환경에서 단일 API 키와 모델 이름 제공하기
- 업스트림 제공업체 하나에 장애가 발생해도 에이전트 작업을 계속 실행하기
- 여러 LLM 제공업체의 토큰 사용 비용을 한곳에서 추적하기
빠른 시작
- 1
Docker 컨테이너를 실행합니다
docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus - 2
또는 릴리스 페이지에서 바이너리를 다운로드한 후 실행합니다
./octopus start
사용 전 알아둘 점
- 기본 관리자 인증 정보는 admin/admin이므로, 처음 로그인한 직후 비밀번호를 변경해야 합니다.
- 통계는 메모리에 버퍼링되므로 kill -9와 같이 강제 종료하면 데이터가 손실될 수 있습니다.
- MySQL 및 PostgreSQL 데이터베이스는 사용 전에 수동으로 생성해야 합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- octopus은(는) 무엇인가요?
- 여러 제공업체 채널을 하나의 엔드포인트로 통합하고 장애 조치와 비용 추적을 지원하는 개인용 셀프 호스팅 LLM API 게이트웨이입니다. Octopus는 클라이언트와 여러 LLM 제공업체 사이에서 동작하는 셀프 호스팅 게이트웨이입니다. OpenAI, Anthropic, Gemini 같은 제공업체의 업스트림 채널을 설정한 다음, 채널을 단일 모델 이름 아래 그룹화하면 요청을 처리하는 제공업체와 관계없이 클라이언트가 하나의 엔드포인트를 호출할 수 있습니다.
- octopus은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- octopus은(는) AGPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- octopus은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. octopus의 마지막 커밋은 2026년 10월 23일입니다.
- octopus은(는) 어디에 사용할 수 있나요?
- Claude Code나 Codex를 하나의 로컬 엔드포인트를 통해 여러 제공업체에 연결하기 여러 LLM 계정을 사용하는 개인 환경에서 단일 API 키와 모델 이름 제공하기 업스트림 제공업체 하나에 장애가 발생해도 에이전트 작업을 계속 실행하기 여러 LLM 제공업체의 토큰 사용 비용을 한곳에서 추적하기
- octopus는 어떻게 설치하나요?
- Docker 컨테이너를 실행합니다: docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus 또는 릴리스 페이지에서 바이너리를 다운로드한 후 실행합니다: ./octopus start
- octopus은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/bestruirui/octopus
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
여러 제공업체에 걸쳐 LLM 요청을 라우팅하는 오픈소스 API 게이트웨이로, OpenAI 호환 인터페이스와 키 관리, 사용량 분석 기능을 제공합니다.
여러 LLM 제공업체(OpenAI, Anthropic, Gemini, Vertex, Azure, AWS 등)를 로드 밸런싱과 함께 하나의 OpenAI 호환 API로 제공하는 셀프 호스팅 게이트웨이입니다.
여러 업스트림 모델 제공업체를 대상으로 라우팅, 키, 할당량, 비용 추적을 제공하며 OpenAI, Claude, Gemini 호환 API를 노출하는 셀프 호스팅 AI 게이트웨이입니다.
40개 이상의 제공업체를 하나의 엔드포인트로 연결하는 셀프 호스팅 OpenAI 호환 LLM 게이트웨이
여러 공급자의 API 키와 구독 계정을 하나의 엔드포인트로 통합하고, 스케줄링·장애 조치·사용량 로그를 제공하는 셀프 호스팅 AI 게이트웨이입니다.