Repolode
TokenFlux

TokenFlux/TokenRouter

开源的统一 LLM 网关,通过一个端点和一个 API Key 调用 Anthropic、OpenAI、Gemini 等多家厂商的模型。

可替代:OpenRouter

Star
385
Fork
53
未关闭 Issue
8
最近提交
前天

这是什么?

TokenRouter 是一个用 Go 编写后端、Vue 3 编写前端的开源 LLM 网关。它把 Anthropic、OpenAI、Gemini 等厂商的模型统一放在一个端点之后,客户端只需一个 API Key 就能调用不同厂商的模型。

服务端兼容 Anthropic Messages、OpenAI Responses、Chat Completions 和 Gemini 等请求格式,并可在分组允许的协议之间互相转换。上游可通过 OAuth 账号、API Key、AWS Bedrock 或 Vertex AI 接入。请求会按模型、协议支持情况、限流状态和会话粘性进行路由,上游失败时自动切换到下一个。

项目还提供用户、团队和 API Key 管理,支持配额、并发与 RPM 限制,按量计费并集成订阅与多种支付方式,并包含基于关键词的内容审核和用于查看日志、统计与告警的管理后台。可使用 Docker Compose 部署。

核心功能

  • 01通过一个端点兼容 Anthropic、OpenAI 和 Gemini 的请求格式。
  • 02支持通过 OAuth 账号、API Key、AWS Bedrock 或 Vertex AI 接入上游。
  • 03按模型、协议支持、限流状态和会话粘性路由请求,并支持故障切换。
  • 04管理用户、团队及 API Key 的配额、并发和 RPM 限制。
  • 05支持按量计费、订阅和 Stripe、支付宝等支付方式。
  • 06提供包含使用日志、统计信息的管理后台,界面支持中英文。

适用场景

  • 让团队用一个 API Key 和一个端点调用多家 LLM 厂商的模型。
  • 搭建内部共享的 LLM 网关,并按用户设置配额与统计用量。
  • 运营带计费和支付功能的商业 API 中转服务。
  • 为同一模型配置多个上游账号,实现故障切换。

快速上手

  1. 1

    创建部署文件夹

    mkdir -p tokenrouter-deploy && cd tokenrouter-deploy
  2. 2

    运行 README 中的官方安装脚本,下载 Compose 文件和 .env 并生成密钥

  3. 3

    使用 Docker Compose 启动服务

    docker compose up -d
  4. 4

    在日志中查找自动生成的管理员密码,然后打开 http://localhost:8080

    docker compose logs tokenrouter | grep "admin password"

使用前须知

  • 部署为自托管方式,需要自行配置 Docker 和 Compose。
  • 需要自行提供上游厂商的账号或 API 密钥。
  • 项目采用 LGPL-3.0 许可证(Copyleft),并禁止冒充官方 TokenFlux 服务。

标签

常见问题

TokenRouter 是什么?
开源的统一 LLM 网关,通过一个端点和一个 API Key 调用 Anthropic、OpenAI、Gemini 等多家厂商的模型。 TokenRouter 是一个用 Go 编写后端、Vue 3 编写前端的开源 LLM 网关。它把 Anthropic、OpenAI、Gemini 等厂商的模型统一放在一个端点之后,客户端只需一个 API Key 就能调用不同厂商的模型。
TokenRouter 可以免费使用吗?用的什么许可证?
TokenRouter 以 LGPL-3.0 许可证开源。用于商业产品前,请先确认许可证条款。
TokenRouter 还在维护吗?
活跃维护中。TokenRouter 最近一次提交是在 2026年10月19日。
TokenRouter 适合用来做什么?
让团队用一个 API Key 和一个端点调用多家 LLM 厂商的模型。 搭建内部共享的 LLM 网关,并按用户设置配额与统计用量。 运营带计费和支付功能的商业 API 中转服务。 为同一模型配置多个上游账号,实现故障切换。
TokenRouter 怎么安装和运行?
创建部署文件夹: mkdir -p tokenrouter-deploy && cd tokenrouter-deploy 运行 README 中的官方安装脚本,下载 Compose 文件和 .env 并生成密钥 使用 Docker Compose 启动服务: docker compose up -d 在日志中查找自动生成的管理员密码,然后打开 http://localhost:8080: docker compose logs tokenrouter | grep "admin password"
在哪里获取 TokenRouter?
源代码和安装说明在 GitHub 上:https://github.com/TokenFlux/TokenRouter

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目