여러 공급자의 API 키와 구독 계정을 하나의 엔드포인트로 통합하고, 스케줄링·장애 조치·사용량 로그를 제공하는 셀프 호스팅 AI 게이트웨이입니다.
TokenFlux/TokenRouter
Anthropic, OpenAI, Gemini 등 여러 업체의 모델을 단일 엔드포인트와 API 키로 제공하는 오픈소스 통합 LLM 게이트웨이입니다.
대체할 수 있는 제품:OpenRouter
- 스타
- 385
- 포크
- 53
- 열린 이슈
- 8
- 마지막 커밋
- 그저께
어떤 프로젝트인가요?
TokenRouter는 Go로 작성되고 Vue 3 프런트엔드를 사용하는 오픈소스 LLM 게이트웨이입니다. Anthropic, OpenAI, Gemini 등 여러 업체의 모델 서비스를 단일 엔드포인트 뒤에 연결해, 클라이언트가 API 키 하나로 여러 제공업체의 모델을 호출할 수 있습니다.
Anthropic Messages, OpenAI Responses와 Chat Completions, Gemini 요청을 지원하며, 그룹에서 허용한 프로토콜 간 변환도 할 수 있습니다. OAuth 계정, API 키, AWS Bedrock 또는 Vertex AI를 통해 업스트림을 연결할 수 있습니다. 모델, 프로토콜 지원 여부, rate limit 상태, sticky session을 기준으로 요청을 라우팅하며, 업스트림에 장애가 발생하면 다른 업스트림으로 페일오버합니다.
사용자, 팀, API 키 관리와 할당량, 동시성 및 RPM 제한 기능도 제공합니다. 또한 구독 및 결제 연동을 지원하는 사용량 기반 과금, 키워드 기반 콘텐츠 조정, 로그·통계·알림을 위한 관리자 대시보드를 포함합니다. Docker Compose로 배포할 수 있습니다.
핵심 기능
- 01Anthropic, OpenAI, Gemini 요청 형식을 단일 엔드포인트로 제공합니다.
- 02OAuth 계정, API 키, AWS Bedrock 또는 Vertex AI를 통해 업스트림을 연결합니다.
- 03모델, 프로토콜 지원 여부, rate limit, sticky session을 기준으로 요청을 라우팅하고 페일오버를 지원합니다.
- 04사용자, 팀, API 키의 할당량과 동시성 및 RPM 제한을 관리합니다.
- 05사용량 기반 과금, 구독, Stripe와 Alipay 같은 결제 제공업체를 지원합니다.
- 06사용량 로그와 통계, 중국어/영어 UI를 갖춘 관리자 대시보드를 제공합니다.
활용 사례
- 여러 LLM 업체의 모델을 팀에서 API 키 하나와 엔드포인트 하나로 사용하기
- 사용자별 할당량과 사용량 추적 기능을 갖춘 내부 공용 LLM 게이트웨이 운영하기
- 과금 및 결제 기능이 내장된 상용 API 리셀링 서비스 운영하기
- 동일한 모델을 제공하는 여러 업스트림 계정 간 페일오버 구성하기
빠른 시작
- 1
배포 폴더를 만듭니다
mkdir -p tokenrouter-deploy && cd tokenrouter-deploy - 2
README의 공식 설치 스크립트를 실행해 Compose 파일과 .env를 다운로드하고 시크릿을 생성합니다
- 3
Docker Compose로 서비스를 시작합니다
docker compose up -d - 4
로그에서 생성된 관리자 비밀번호를 확인한 다음 http://localhost:8080 을 엽니다
docker compose logs tokenrouter | grep "admin password"
사용 전 알아둘 점
- 배포는 셀프 호스팅 방식이며 Docker와 Compose 설정이 필요합니다.
- 업스트림 공급업체 계정이나 API 키는 직접 준비해야 합니다.
- LGPL-3.0 라이선스에는 카피레프트 조항이 있으며, 공식 TokenFlux 서비스인 것처럼 가장하는 행위는 금지됩니다.
토픽
자주 묻는 질문
- TokenRouter은(는) 무엇인가요?
- Anthropic, OpenAI, Gemini 등 여러 업체의 모델을 단일 엔드포인트와 API 키로 제공하는 오픈소스 통합 LLM 게이트웨이입니다. TokenRouter는 Go로 작성되고 Vue 3 프런트엔드를 사용하는 오픈소스 LLM 게이트웨이입니다. Anthropic, OpenAI, Gemini 등 여러 업체의 모델 서비스를 단일 엔드포인트 뒤에 연결해, 클라이언트가 API 키 하나로 여러 제공업체의 모델을 호출할 수 있습니다.
- TokenRouter은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- TokenRouter은(는) LGPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- TokenRouter은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. TokenRouter의 마지막 커밋은 2026년 10월 19일입니다.
- TokenRouter은(는) 어디에 사용할 수 있나요?
- 여러 LLM 업체의 모델을 팀에서 API 키 하나와 엔드포인트 하나로 사용하기 사용자별 할당량과 사용량 추적 기능을 갖춘 내부 공용 LLM 게이트웨이 운영하기 과금 및 결제 기능이 내장된 상용 API 리셀링 서비스 운영하기 동일한 모델을 제공하는 여러 업스트림 계정 간 페일오버 구성하기
- TokenRouter는 어떻게 설치하나요?
- 배포 폴더를 만듭니다: mkdir -p tokenrouter-deploy && cd tokenrouter-deploy README의 공식 설치 스크립트를 실행해 Compose 파일과 .env를 다운로드하고 시크릿을 생성합니다 Docker Compose로 서비스를 시작합니다: docker compose up -d 로그에서 생성된 관리자 비밀번호를 확인한 다음 http://localhost:8080 을 엽니다: docker compose logs tokenrouter | grep "admin password"
- TokenRouter은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/TokenFlux/TokenRouter
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
OpenAI, Claude, Gemini, DeepSeek 및 자체 호스팅 모델에 연결할 수 있는 오픈소스 크로스 플랫폼 AI 채팅 클라이언트로, 웹·데스크톱·모바일을 지원합니다.
여러 업스트림 모델 제공업체를 대상으로 라우팅, 키, 할당량, 비용 추적을 제공하며 OpenAI, Claude, Gemini 호환 API를 노출하는 셀프 호스팅 AI 게이트웨이입니다.
여러 AI 제공자를 통합하고 Agents, MCP, Artifacts, 다중 사용자 인증을 지원하는 셀프 호스팅 채팅 플랫폼
React, Next.js, Svelte, Vue와 Node.js로 AI 기반 애플리케이션과 에이전트를 만들 수 있는 특정 제공업체에 종속되지 않는 TypeScript 툴킷입니다.
모델, 임베딩, 벡터 저장소와 서드파티 통합을 위한 표준 인터페이스를 제공하는 LLM 기반 애플리케이션 및 에이전트 구축용 Python 프레임워크입니다.