自托管 AI 网关,将多家服务商的 API 密钥与订阅账号统一接入一个入口,支持调度、容错和用量日志。
TokenFlux/TokenRouter
开源的统一 LLM 网关,通过一个端点和一个 API Key 调用 Anthropic、OpenAI、Gemini 等多家厂商的模型。
可替代:OpenRouter
- Star
- 385
- Fork
- 53
- 未关闭 Issue
- 8
- 最近提交
- 前天
这是什么?
TokenRouter 是一个用 Go 编写后端、Vue 3 编写前端的开源 LLM 网关。它把 Anthropic、OpenAI、Gemini 等厂商的模型统一放在一个端点之后,客户端只需一个 API Key 就能调用不同厂商的模型。
服务端兼容 Anthropic Messages、OpenAI Responses、Chat Completions 和 Gemini 等请求格式,并可在分组允许的协议之间互相转换。上游可通过 OAuth 账号、API Key、AWS Bedrock 或 Vertex AI 接入。请求会按模型、协议支持情况、限流状态和会话粘性进行路由,上游失败时自动切换到下一个。
项目还提供用户、团队和 API Key 管理,支持配额、并发与 RPM 限制,按量计费并集成订阅与多种支付方式,并包含基于关键词的内容审核和用于查看日志、统计与告警的管理后台。可使用 Docker Compose 部署。
核心功能
- 01通过一个端点兼容 Anthropic、OpenAI 和 Gemini 的请求格式。
- 02支持通过 OAuth 账号、API Key、AWS Bedrock 或 Vertex AI 接入上游。
- 03按模型、协议支持、限流状态和会话粘性路由请求,并支持故障切换。
- 04管理用户、团队及 API Key 的配额、并发和 RPM 限制。
- 05支持按量计费、订阅和 Stripe、支付宝等支付方式。
- 06提供包含使用日志、统计信息的管理后台,界面支持中英文。
适用场景
- 让团队用一个 API Key 和一个端点调用多家 LLM 厂商的模型。
- 搭建内部共享的 LLM 网关,并按用户设置配额与统计用量。
- 运营带计费和支付功能的商业 API 中转服务。
- 为同一模型配置多个上游账号,实现故障切换。
快速上手
- 1
创建部署文件夹
mkdir -p tokenrouter-deploy && cd tokenrouter-deploy - 2
运行 README 中的官方安装脚本,下载 Compose 文件和 .env 并生成密钥
- 3
使用 Docker Compose 启动服务
docker compose up -d - 4
在日志中查找自动生成的管理员密码,然后打开 http://localhost:8080
docker compose logs tokenrouter | grep "admin password"
使用前须知
- 部署为自托管方式,需要自行配置 Docker 和 Compose。
- 需要自行提供上游厂商的账号或 API 密钥。
- 项目采用 LGPL-3.0 许可证(Copyleft),并禁止冒充官方 TokenFlux 服务。
标签
常见问题
- TokenRouter 是什么?
- 开源的统一 LLM 网关,通过一个端点和一个 API Key 调用 Anthropic、OpenAI、Gemini 等多家厂商的模型。 TokenRouter 是一个用 Go 编写后端、Vue 3 编写前端的开源 LLM 网关。它把 Anthropic、OpenAI、Gemini 等厂商的模型统一放在一个端点之后,客户端只需一个 API Key 就能调用不同厂商的模型。
- TokenRouter 可以免费使用吗?用的什么许可证?
- TokenRouter 以 LGPL-3.0 许可证开源。用于商业产品前,请先确认许可证条款。
- TokenRouter 还在维护吗?
- 活跃维护中。TokenRouter 最近一次提交是在 2026年10月19日。
- TokenRouter 适合用来做什么?
- 让团队用一个 API Key 和一个端点调用多家 LLM 厂商的模型。 搭建内部共享的 LLM 网关,并按用户设置配额与统计用量。 运营带计费和支付功能的商业 API 中转服务。 为同一模型配置多个上游账号,实现故障切换。
- TokenRouter 怎么安装和运行?
- 创建部署文件夹: mkdir -p tokenrouter-deploy && cd tokenrouter-deploy 运行 README 中的官方安装脚本,下载 Compose 文件和 .env 并生成密钥 使用 Docker Compose 启动服务: docker compose up -d 在日志中查找自动生成的管理员密码,然后打开 http://localhost:8080: docker compose logs tokenrouter | grep "admin password"
- 在哪里获取 TokenRouter?
- 源代码和安装说明在 GitHub 上:https://github.com/TokenFlux/TokenRouter
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
开源跨平台 AI 聊天客户端,支持 Web、桌面和移动端,可接入 OpenAI、Claude、Gemini、DeepSeek 等模型。
自托管的 AI 网关,将多家上游模型服务统一为 OpenAI、Claude、Gemini 兼容接口,并提供路由、密钥、配额与用量统计。
可自托管的类 ChatGPT 聊天平台,统一接入多家 AI 模型服务,支持 Agent、MCP 与多用户登录。
一个与模型提供商无关的 TypeScript 工具包,用于构建 AI 应用和智能体,支持 React、Next.js、Svelte、Vue 等。
用于构建 LLM 应用和智能体的 Python 框架,提供模型、嵌入、向量库等统一接口与第三方集成。