Repolode
diegosouzapw

diegosouzapw/OmniRoute

一个 MIT 开源的 AI 网关,通过统一端点接入数百家模型服务商,支持配额感知的自动降级与 Token 压缩。

可替代:OpenRouter

Star
78,298
Fork
11,374
未关闭 Issue
236
最近提交
22小时前

这是什么?

OmniRoute 是一个可自托管的 AI 网关,位于编程工具和模型服务商之间。Claude Code、Codex、Cursor、Cline、GitHub Copilot 等工具只需把请求发到本地端点 localhost:20128/v1,OmniRoute 会将其转发给已配置的服务商。它支持 Claude、GPT、Gemini、Kimi、GLM、DeepSeek、MiniMax 等多种模型。

当某个服务商触发速率限制、配额耗尽或请求失败时,OmniRoute 可以把请求切换到下一个可用目标。路由通过组合(combo)配置,提供 20 种策略,并有 auto 模式根据已连接的服务商实时打分。内置熔断器、连接冷却和模型级锁定用于隔离故障;可选的 RTK 与 Caveman 压缩会在发送前减少工具输出和提示词的体积。

项目还提供控制面板、MCP 服务、A2A 支持以及桌面版和 PWA。用户需自行接入服务商账号或 API Key,免费额度的可用性取决于各服务商的条款。

核心功能

  • 01为众多模型服务商提供统一的 OpenAI 兼容端点
  • 02配额耗尽、速率限制或报错时在服务商之间自动降级
  • 03提供 20 种可按组合配置的路由策略及 auto 模式
  • 04可选的 RTK 与 Caveman 压缩,减少 Token 消耗
  • 05内置 MCP 服务与 A2A 协议支持
  • 06提供 Web 控制面板、桌面应用和 PWA

适用场景

  • 让 Claude Code、Cursor 或 Cline 统一指向本地端点,并在多个服务商之间切换
  • 当某个服务商触发速率限制时,保持编程会话不中断
  • 在小团队内共享一组服务商密钥并进行用量控制
  • 通过同一个 API 在多个模型之间对比或路由请求

快速上手

  1. 1

    按照 README 说明,从 npm 包 omniroute 安装,或使用 Docker Hub 镜像

使用前须知

  • 你需要自备各服务商的账户和凭证,每家服务商的免费额度和条款由其自行决定。
  • README 中的免费令牌总量是跨第三方免费套餐的估算值,可能随时变化或结束。

标签

常见问题

OmniRoute 是什么?
一个 MIT 开源的 AI 网关,通过统一端点接入数百家模型服务商,支持配额感知的自动降级与 Token 压缩。 OmniRoute 是一个可自托管的 AI 网关,位于编程工具和模型服务商之间。Claude Code、Codex、Cursor、Cline、GitHub Copilot 等工具只需把请求发到本地端点 localhost:20128/v1,OmniRoute 会将其转发给已配置的服务商。它支持 Claude、GPT、Gemini、Kimi、GLM、DeepSeek、MiniMax 等多种模型。
OmniRoute 可以免费使用吗?用的什么许可证?
OmniRoute 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
OmniRoute 还在维护吗?
活跃维护中。OmniRoute 最近一次提交是在 2026年10月19日。
OmniRoute 适合用来做什么?
让 Claude Code、Cursor 或 Cline 统一指向本地端点,并在多个服务商之间切换 当某个服务商触发速率限制时,保持编程会话不中断 在小团队内共享一组服务商密钥并进行用量控制 通过同一个 API 在多个模型之间对比或路由请求
OmniRoute 怎么安装和运行?
按照 README 说明,从 npm 包 omniroute 安装,或使用 Docker Hub 镜像
在哪里获取 OmniRoute?
源代码和安装说明在 GitHub 上:https://github.com/diegosouzapw/OmniRoute

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目