自托管的 AI 网关,将多家上游模型服务统一为 OpenAI、Claude、Gemini 兼容接口,并提供路由、密钥、配额与用量统计。
- Star
- 7,150
- Fork
- 812
- 未关闭 Issue
- 10
- 最近提交
- 14小时前
这是什么?
GPT-Load 是一个自托管的 AI 网关,位于应用与上游 AI 服务之间。应用只需配置一个 Base URL 和一个 AccessKey,服务商、账号、凭据、模型与路由策略都在内置管理界面中设置。
它接受 OpenAI、Anthropic、Gemini 原生协议的请求,并转发到官方 API、云平台、模型服务和兼容中转。API 密钥渠道与 Codex、Claude、Antigravity、Grok 等订阅渠道共用同一套凭据管理、调度和健康处理机制,调度支持权重、重试、冷却、拉黑和会话亲和。
服务会记录请求日志、健康状态、Token 用量和费用估算。默认使用 SQLite,也可接入 MySQL 或 PostgreSQL,本地凭据以加密方式存储。
核心功能
- 01提供统一入口,兼容 OpenAI、Anthropic、Gemini 原生接口。
- 02API 密钥与订阅账号共用同一套凭据管理与调度机制。
- 03支持按权重调度多凭据,并提供重试、冷却和拉黑。
- 04内置界面可查看请求日志、健康状态以及用量和费用统计。
- 05默认使用 SQLite,也支持 MySQL 和 PostgreSQL。
适用场景
- 将同一服务商的多个 API 密钥汇总,分摊负载并应对限流。
- 为团队中的每个应用分配 AccessKey,并限定可用分组与协议。
- 通过自托管网关转发 Claude Code 或 Codex 流量并追踪用量。
- 在官方 API 与兼容中转之间切换,无需修改应用代码。
快速上手
- 1
克隆仓库
git clone --depth 1 https://github.com/tbphp/gpt-load.git - 2
进入项目目录并复制环境变量模板
cd gpt-load && cp .env.example .env - 3
使用 Docker Compose 启动服务
docker compose up -d - 4
打开 http://127.0.0.1:3001,从容器中读取生成的管理密钥并登录控制台
使用前须知
- 最快的部署方式需要安装 Docker 和 Docker Compose。
- 从 1.x 升级不能原地进行,2.0 无法直接打开或迁移 1.x 数据。
- 丢失 encryption.key 后,已保存的渠道凭证将无法恢复,且当前版本不支持主密钥轮换。
标签
常见问题
- gpt-load 是什么?
- 自托管 AI 网关,将多家服务商的 API 密钥与订阅账号统一接入一个入口,支持调度、容错和用量日志。 GPT-Load 是一个自托管的 AI 网关,位于应用与上游 AI 服务之间。应用只需配置一个 Base URL 和一个 AccessKey,服务商、账号、凭据、模型与路由策略都在内置管理界面中设置。
- gpt-load 可以免费使用吗?用的什么许可证?
- gpt-load 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- gpt-load 还在维护吗?
- 活跃维护中。gpt-load 最近一次提交是在 2026年10月20日。
- gpt-load 适合用来做什么?
- 将同一服务商的多个 API 密钥汇总,分摊负载并应对限流。 为团队中的每个应用分配 AccessKey,并限定可用分组与协议。 通过自托管网关转发 Claude Code 或 Codex 流量并追踪用量。 在官方 API 与兼容中转之间切换,无需修改应用代码。
- gpt-load 怎么安装和运行?
- 克隆仓库: git clone --depth 1 https://github.com/tbphp/gpt-load.git 进入项目目录并复制环境变量模板: cd gpt-load && cp .env.example .env 使用 Docker Compose 启动服务: docker compose up -d 打开 http://127.0.0.1:3001,从容器中读取生成的管理密钥并登录控制台
- 在哪里获取 gpt-load?
- 源代码和安装说明在 GitHub 上:https://github.com/tbphp/gpt-load
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
5万1.2万GoAGPL-3.0更新于 昨天
开源跨平台 AI 聊天客户端,支持 Web、桌面和移动端,可接入 OpenAI、Claude、Gemini、DeepSeek 等模型。
8.9万5.9万TypeScriptMIT更新于 10小时前
本地代理,让 Codex、Claude Code 等客户端接入任意 LLM 提供商。
1.8万1355TypeScriptMIT更新于 昨天
一款 TypeScript 编程 Agent 命令行工具,在提示词中加入 ulw 或 mass ulw 关键词即可自动规划、调度多模型并校验结果。
7万5773TypeScriptOther更新于 11小时前
可自托管的类 ChatGPT 聊天平台,统一接入多家 AI 模型服务,支持 Agent、MCP 与多用户登录。
4.6万9465TypeScriptMIT更新于 3小时前
面向 ChatGPT、Claude 等大模型的跨平台桌面客户端,数据保存在本地。
4.2万4281TypeScriptGPL-3.0更新于 26天前