maximhq/bifrost

这是什么？

核心功能

• 01通过单一 OpenAI 兼容接口调用多家服务商的模型
• 02在服务商和 API Key 之间自动故障转移与负载均衡
• 03对相似请求进行语义缓存，降低成本与延迟
• 04提供虚拟密钥、速率限制和分级预算等治理能力
• 05支持 Prometheus 指标、分布式追踪和请求日志
• 06支持 MCP 网关，让模型调用外部工具

适用场景

• 在某家大模型服务商故障时保持应用可用
• 按团队、客户或 API Key 统计并限制大模型开销
• 将现有 OpenAI 或 Anthropic SDK 应用改为仅修改 base URL 即可接入其他模型
• 为编程智能体和内部 AI 服务集中管理模型访问与工具连接

快速上手

1. 1

   使用 npx 在本地启动 Bifrost 网关

   npx -y @maximhq/bifrost
2. 2

   或使用 Docker 运行

   docker run -p 8080:8080 maximhq/bifrost
3. 3

   打开内置 Web 界面进行配置

   open http://localhost:8080
4. 4

   通过网关发起第一次 API 调用

   curl -X POST http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "openai/gpt-4o-mini", "messages": [{"role": "user", "content": "Hello, Bifrost!"}]}'

使用前须知

• !要真正调用上游大模型服务商，需要提供相应的 API 密钥。
• !集群、护栏和自适应负载均衡等部分企业功能属于单独的企业版。

标签

常见问题

bifrost 是什么？

开源 AI 网关，通过统一的 OpenAI 兼容 API 接入 23 家以上大模型服务，支持故障转移、负载均衡与语义缓存。 Bifrost 是一个位于应用与大模型服务商之间的 AI 网关，支持 OpenAI、Anthropic、AWS Bedrock、Google Vertex、Azure 等 20 多家服务商。应用只需调用一个 OpenAI 兼容的接口，Bifrost 即可按配置把请求路由到对应的服务商和模型。

bifrost 可以免费使用吗？用的什么许可证？

bifrost 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

bifrost 还在维护吗？

活跃维护中。bifrost 最近一次提交是在 2026年10月19日。

bifrost 适合用来做什么？

在某家大模型服务商故障时保持应用可用 按团队、客户或 API Key 统计并限制大模型开销 将现有 OpenAI 或 Anthropic SDK 应用改为仅修改 base URL 即可接入其他模型 为编程智能体和内部 AI 服务集中管理模型访问与工具连接

bifrost 怎么安装和运行？

使用 npx 在本地启动 Bifrost 网关: npx -y @maximhq/bifrost 或使用 Docker 运行: docker run -p 8080:8080 maximhq/bifrost 打开内置 Web 界面进行配置: open http://localhost:8080 通过网关发起第一次 API 调用: curl -X POST http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "openai/gpt-4o-mini", "messages": [{"role": "user", "content": "Hello, Bifrost!"}]}'

在哪里获取 bifrost？

源代码和安装说明在 GitHub 上：https://github.com/maximhq/bifrost