Repolode
TokenFlux

TokenFlux/TokenRouter

Anthropic, OpenAI, Gemini 등 여러 업체의 모델을 단일 엔드포인트와 API 키로 제공하는 오픈소스 통합 LLM 게이트웨이입니다.

대체할 수 있는 제품:OpenRouter

스타
385
포크
53
열린 이슈
8
마지막 커밋
그저께

어떤 프로젝트인가요?

TokenRouter는 Go로 작성되고 Vue 3 프런트엔드를 사용하는 오픈소스 LLM 게이트웨이입니다. Anthropic, OpenAI, Gemini 등 여러 업체의 모델 서비스를 단일 엔드포인트 뒤에 연결해, 클라이언트가 API 키 하나로 여러 제공업체의 모델을 호출할 수 있습니다.

Anthropic Messages, OpenAI Responses와 Chat Completions, Gemini 요청을 지원하며, 그룹에서 허용한 프로토콜 간 변환도 할 수 있습니다. OAuth 계정, API 키, AWS Bedrock 또는 Vertex AI를 통해 업스트림을 연결할 수 있습니다. 모델, 프로토콜 지원 여부, rate limit 상태, sticky session을 기준으로 요청을 라우팅하며, 업스트림에 장애가 발생하면 다른 업스트림으로 페일오버합니다.

사용자, 팀, API 키 관리와 할당량, 동시성 및 RPM 제한 기능도 제공합니다. 또한 구독 및 결제 연동을 지원하는 사용량 기반 과금, 키워드 기반 콘텐츠 조정, 로그·통계·알림을 위한 관리자 대시보드를 포함합니다. Docker Compose로 배포할 수 있습니다.

핵심 기능

  • 01Anthropic, OpenAI, Gemini 요청 형식을 단일 엔드포인트로 제공합니다.
  • 02OAuth 계정, API 키, AWS Bedrock 또는 Vertex AI를 통해 업스트림을 연결합니다.
  • 03모델, 프로토콜 지원 여부, rate limit, sticky session을 기준으로 요청을 라우팅하고 페일오버를 지원합니다.
  • 04사용자, 팀, API 키의 할당량과 동시성 및 RPM 제한을 관리합니다.
  • 05사용량 기반 과금, 구독, Stripe와 Alipay 같은 결제 제공업체를 지원합니다.
  • 06사용량 로그와 통계, 중국어/영어 UI를 갖춘 관리자 대시보드를 제공합니다.

활용 사례

  • 여러 LLM 업체의 모델을 팀에서 API 키 하나와 엔드포인트 하나로 사용하기
  • 사용자별 할당량과 사용량 추적 기능을 갖춘 내부 공용 LLM 게이트웨이 운영하기
  • 과금 및 결제 기능이 내장된 상용 API 리셀링 서비스 운영하기
  • 동일한 모델을 제공하는 여러 업스트림 계정 간 페일오버 구성하기

빠른 시작

  1. 1

    배포 폴더를 만듭니다

    mkdir -p tokenrouter-deploy && cd tokenrouter-deploy
  2. 2

    README의 공식 설치 스크립트를 실행해 Compose 파일과 .env를 다운로드하고 시크릿을 생성합니다

  3. 3

    Docker Compose로 서비스를 시작합니다

    docker compose up -d
  4. 4

    로그에서 생성된 관리자 비밀번호를 확인한 다음 http://localhost:8080 을 엽니다

    docker compose logs tokenrouter | grep "admin password"

사용 전 알아둘 점

  • 배포는 셀프 호스팅 방식이며 Docker와 Compose 설정이 필요합니다.
  • 업스트림 공급업체 계정이나 API 키는 직접 준비해야 합니다.
  • LGPL-3.0 라이선스에는 카피레프트 조항이 있으며, 공식 TokenFlux 서비스인 것처럼 가장하는 행위는 금지됩니다.

토픽

자주 묻는 질문

TokenRouter은(는) 무엇인가요?
Anthropic, OpenAI, Gemini 등 여러 업체의 모델을 단일 엔드포인트와 API 키로 제공하는 오픈소스 통합 LLM 게이트웨이입니다. TokenRouter는 Go로 작성되고 Vue 3 프런트엔드를 사용하는 오픈소스 LLM 게이트웨이입니다. Anthropic, OpenAI, Gemini 등 여러 업체의 모델 서비스를 단일 엔드포인트 뒤에 연결해, 클라이언트가 API 키 하나로 여러 제공업체의 모델을 호출할 수 있습니다.
TokenRouter은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
TokenRouter은(는) LGPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
TokenRouter은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. TokenRouter의 마지막 커밋은 2026년 10월 19일입니다.
TokenRouter은(는) 어디에 사용할 수 있나요?
여러 LLM 업체의 모델을 팀에서 API 키 하나와 엔드포인트 하나로 사용하기 사용자별 할당량과 사용량 추적 기능을 갖춘 내부 공용 LLM 게이트웨이 운영하기 과금 및 결제 기능이 내장된 상용 API 리셀링 서비스 운영하기 동일한 모델을 제공하는 여러 업스트림 계정 간 페일오버 구성하기
TokenRouter는 어떻게 설치하나요?
배포 폴더를 만듭니다: mkdir -p tokenrouter-deploy && cd tokenrouter-deploy README의 공식 설치 스크립트를 실행해 Compose 파일과 .env를 다운로드하고 시크릿을 생성합니다 Docker Compose로 서비스를 시작합니다: docker compose up -d 로그에서 생성된 관리자 비밀번호를 확인한 다음 http://localhost:8080 을 엽니다: docker compose logs tokenrouter | grep "admin password"
TokenRouter은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/TokenFlux/TokenRouter

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트