用 Rust 编写的引擎无关 LLM 网关,将兼容 OpenAI 和 Anthropic 的请求分发到自部署推理引擎与云端模型服务。
- Star
- 5,379
- Fork
- 738
- 未关闭 Issue
- 97
- 最近提交
- 13小时前
这是什么?
AxonHub 是一个位于应用与模型供应商之间的 AI 网关。应用继续使用现有的 OpenAI、Anthropic 等 SDK,AxonHub 会把每个请求转换为目标供应商所需的格式。切换 GPT-4、Claude 或 Gemini 只需修改配置,无需重写客户端代码。
除协议转换外,项目还提供渠道间的自动故障转移和负载均衡、带完整时间线的请求追踪,以及输入、输出和缓存 Token 的用量与成本统计。团队场景下还支持基于角色的访问控制、用量配额和数据隔离。
网关支持文本生成、图片生成、Embedding 和 Rerank 接口,已接入 OpenAI、Anthropic、Gemini、DeepSeek、智谱、月之暗面、豆包和 OpenRouter 等供应商,并可通过 Docker 部署。项目使用 Go 编写,主体采用 Apache-2.0 许可证,部分组件为 LGPL-3.0。
核心功能
- 01通过统一端点,用现有的 OpenAI、Anthropic、Gemini 风格 SDK 调用多家模型。
- 02在已配置的渠道之间自动故障转移和负载均衡。
- 03提供请求级追踪与时间线,便于排查问题。
- 04按输入、输出和缓存 Token 统计每次请求的成本。
- 05支持基于角色的访问控制、配额与数据隔离。
- 06支持对话、图片生成、Embedding 和 Rerank 接口。
适用场景
- 希望在不同大模型供应商之间切换、又不想修改应用代码的团队。
- 需要为多个用户做配额、成本统计和权限控制的平台。
- 要求某个模型服务不可用时自动切换备用渠道的应用。
- 通过统一网关接入 Claude Code、Codex 等 AI 编程工具的开发者。
快速上手
- 1
让你的 Agent 按照 deploy-axonhub 技能部署 AxonHub
- 2
打开 AxonHub 地址,创建管理员账号,然后用各提供商的 API Key 添加渠道
- 3
在 API Keys 页面创建供客户端使用的 AxonHub API Key
- 4
将 OpenAI SDK 的 base_url 指向 http://localhost:8090/v1 并发送第一个聊天请求
使用前须知
- README 没有直接的安装命令,部署方式是通过 Agent 技能描述的。
- 你需要为每个上游模型提供商提供自己的 API Key。
- AWS Bedrock 和 Google Cloud 的支持仍标注为测试中。
标签
常见问题
- axonhub 是什么?
- 开源 AI 网关,无需改代码即可用任意 SDK 调用 100 多个大模型,支持故障转移、负载均衡与成本追踪。 AxonHub 是一个位于应用与模型供应商之间的 AI 网关。应用继续使用现有的 OpenAI、Anthropic 等 SDK,AxonHub 会把每个请求转换为目标供应商所需的格式。切换 GPT-4、Claude 或 Gemini 只需修改配置,无需重写客户端代码。
- axonhub 可以免费使用吗?用的什么许可证?
- axonhub 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- axonhub 还在维护吗?
- 活跃维护中。axonhub 最近一次提交是在 2026年10月21日。
- axonhub 适合用来做什么?
- 希望在不同大模型供应商之间切换、又不想修改应用代码的团队。 需要为多个用户做配额、成本统计和权限控制的平台。 要求某个模型服务不可用时自动切换备用渠道的应用。 通过统一网关接入 Claude Code、Codex 等 AI 编程工具的开发者。
- axonhub 怎么安装和运行?
- 让你的 Agent 按照 deploy-axonhub 技能部署 AxonHub 打开 AxonHub 地址,创建管理员账号,然后用各提供商的 API Key 添加渠道 在 API Keys 页面创建供客户端使用的 AxonHub API Key 将 OpenAI SDK 的 base_url 指向 http://localhost:8090/v1 并发送第一个聊天请求
- 在哪里获取 axonhub?
- 源代码和安装说明在 GitHub 上:https://github.com/looplj/axonhub
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个基于 Go 的 AI 网关,提供 OpenAI、Claude、Gemini 兼容接口,并将请求路由到多个上游模型渠道。
开源的统一 LLM 网关,通过一个端点和一个 API Key 调用 Anthropic、OpenAI、Gemini 等多家厂商的模型。
自托管的 LLM 网关,统一代理 OpenAI、Anthropic 及兼容接口,提供路由、故障转移、请求日志和管理面板。
自托管的 AI 网关,将多家上游模型服务统一为 OpenAI、Claude、Gemini 兼容接口,并提供路由、密钥、配额与用量统计。
自托管 AI 网关,将多家服务商的 API 密钥与订阅账号统一接入一个入口,支持调度、容错和用量日志。