可自托管的 OpenAI 兼容 LLM 网关,通过单一端点接入 40 多家模型服务商,并提供虚拟密钥、预算与用量统计。
- Star
- 78,298
- Fork
- 11,374
- 未关闭 Issue
- 236
- 最近提交
- 22小时前
这是什么?
OmniRoute 是一个可自托管的 AI 网关,位于编程工具和模型服务商之间。Claude Code、Codex、Cursor、Cline、GitHub Copilot 等工具只需把请求发到本地端点 localhost:20128/v1,OmniRoute 会将其转发给已配置的服务商。它支持 Claude、GPT、Gemini、Kimi、GLM、DeepSeek、MiniMax 等多种模型。
当某个服务商触发速率限制、配额耗尽或请求失败时,OmniRoute 可以把请求切换到下一个可用目标。路由通过组合(combo)配置,提供 20 种策略,并有 auto 模式根据已连接的服务商实时打分。内置熔断器、连接冷却和模型级锁定用于隔离故障;可选的 RTK 与 Caveman 压缩会在发送前减少工具输出和提示词的体积。
项目还提供控制面板、MCP 服务、A2A 支持以及桌面版和 PWA。用户需自行接入服务商账号或 API Key,免费额度的可用性取决于各服务商的条款。
核心功能
- 01为众多模型服务商提供统一的 OpenAI 兼容端点
- 02配额耗尽、速率限制或报错时在服务商之间自动降级
- 03提供 20 种可按组合配置的路由策略及 auto 模式
- 04可选的 RTK 与 Caveman 压缩,减少 Token 消耗
- 05内置 MCP 服务与 A2A 协议支持
- 06提供 Web 控制面板、桌面应用和 PWA
适用场景
- 让 Claude Code、Cursor 或 Cline 统一指向本地端点,并在多个服务商之间切换
- 当某个服务商触发速率限制时,保持编程会话不中断
- 在小团队内共享一组服务商密钥并进行用量控制
- 通过同一个 API 在多个模型之间对比或路由请求
快速上手
- 1
按照 README 说明,从 npm 包 omniroute 安装,或使用 Docker Hub 镜像
使用前须知
- 你需要自备各服务商的账户和凭证,每家服务商的免费额度和条款由其自行决定。
- README 中的免费令牌总量是跨第三方免费套餐的估算值,可能随时变化或结束。
标签
常见问题
- OmniRoute 是什么?
- 一个 MIT 开源的 AI 网关,通过统一端点接入数百家模型服务商,支持配额感知的自动降级与 Token 压缩。 OmniRoute 是一个可自托管的 AI 网关,位于编程工具和模型服务商之间。Claude Code、Codex、Cursor、Cline、GitHub Copilot 等工具只需把请求发到本地端点 localhost:20128/v1,OmniRoute 会将其转发给已配置的服务商。它支持 Claude、GPT、Gemini、Kimi、GLM、DeepSeek、MiniMax 等多种模型。
- OmniRoute 可以免费使用吗?用的什么许可证?
- OmniRoute 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- OmniRoute 还在维护吗?
- 活跃维护中。OmniRoute 最近一次提交是在 2026年10月19日。
- OmniRoute 适合用来做什么?
- 让 Claude Code、Cursor 或 Cline 统一指向本地端点,并在多个服务商之间切换 当某个服务商触发速率限制时,保持编程会话不中断 在小团队内共享一组服务商密钥并进行用量控制 通过同一个 API 在多个模型之间对比或路由请求
- OmniRoute 怎么安装和运行?
- 按照 README 说明,从 npm 包 omniroute 安装,或使用 Docker Hub 镜像
- 在哪里获取 OmniRoute?
- 源代码和安装说明在 GitHub 上:https://github.com/diegosouzapw/OmniRoute
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
开源 AI 网关,通过统一的 OpenAI 兼容 API 接入 23 家以上大模型服务,支持故障转移、负载均衡与语义缓存。
一个能从经验中创建并改进技能的自我进化 AI 智能体,支持多种模型服务商,可通过命令行和即时通讯工具使用。
可自托管的公平代码工作流自动化平台,用于构建 AI 智能体与工作流,支持 1500 多种集成。
本地网关与菜单栏应用,让 Claude Code、Codex、Gemini CLI 等编程智能体可以使用任意服务商或订阅的模型。
可自托管的 AI 同事平台,每个智能体拥有独立的浏览器、文件和工具,所有操作先经策略校验再记录。