Repolode
iimeta

iimeta/fastapi

自托管的大模型 API 网关,用统一的 OpenAI 格式接口对接多家大模型厂商。

Star
304
Fork
44
未关闭 Issue
0
最近提交
昨天

这是什么?

Fast API 是一个用 Go 编写的企业级大模型 API 集成系统。业务系统只需对接一次统一的 OpenAI 兼容接口,即可调用 OpenAI、Azure、Claude、Gemini、DeepSeek、通义千问、文心一言、讯飞星火、智谱 GLM、豆包、Grok 等多家厂商的模型,无需为每家单独适配。

项目提供管理端、用户端和代理商端页面,便于在浏览器中管理渠道与账号。支持 Docker 一键部署,也支持集群部署和多地部署。主仓库为 API 服务,前端、管理后台和 SDK 分布在同一组织下的其他仓库中。

核心功能

  • 01提供统一的 OpenAI 兼容接口,对接多家大模型厂商
  • 02支持 OpenAI 格式的流式请求
  • 03提供管理端、用户端与代理商端页面
  • 04支持 Docker 一键部署、集群部署和多地部署

适用场景

  • 让应用通过一个接口调用多家大模型
  • 在不修改客户端代码的情况下切换或新增模型后端
  • 搭建带账号与额度管理的内部或转售大模型 API 服务

快速上手

  1. 1

    按照 README 中的链接,使用 Docker 部署

  2. 2

    按照项目网站上的快速开始指南操作

使用前须知

  • README 中没有提供安装命令,部署需要依赖外部的 Docker 指南。
  • 大部分文档和 README 内容为中文。

收录于专题

标签

常见问题

fastapi 是什么?
自托管的大模型 API 网关,用统一的 OpenAI 格式接口对接多家大模型厂商。 Fast API 是一个用 Go 编写的企业级大模型 API 集成系统。业务系统只需对接一次统一的 OpenAI 兼容接口,即可调用 OpenAI、Azure、Claude、Gemini、DeepSeek、通义千问、文心一言、讯飞星火、智谱 GLM、豆包、Grok 等多家厂商的模型,无需为每家单独适配。
fastapi 可以免费使用吗?用的什么许可证?
fastapi 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
fastapi 还在维护吗?
活跃维护中。fastapi 最近一次提交是在 2026年11月6日。
fastapi 适合用来做什么?
让应用通过一个接口调用多家大模型 在不修改客户端代码的情况下切换或新增模型后端 搭建带账号与额度管理的内部或转售大模型 API 服务
fastapi 怎么安装和运行?
按照 README 中的链接,使用 Docker 部署 按照项目网站上的快速开始指南操作
在哪里获取 fastapi?
源代码和安装说明在 GitHub 上:https://github.com/iimeta/fastapi

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目