Самостоятельно разворачиваемая административная система для подключения множества провайдеров LLM через единый API.
256+1 за неделю32GoApache-2.0Обновлён вчера
iimeta/fastapi
Самостоятельно размещаемый шлюз, который объединяет множество LLM-провайдеров (OpenAI, Claude, Gemini, DeepSeek, Qwen и другие) за одним API, совместимым с OpenAI.
- Звёзды
- 304
- Форки
- 44
- Открытые issues
- 0
- Последний коммит
- вчера
Что это?
Fast API — система интеграции с LLM API для корпоративного использования, написанная на Go. Она позволяет бизнес-системам обращаться к моделям множества провайдеров, включая OpenAI, Azure, Anthropic Claude, Gemini, DeepSeek, Qwen, Baidu ERNIE, iFlytek Spark, Zhipu GLM, Doubao и Grok, через единую конечную точку, совместимую с OpenAI. Достаточно один раз настроить интеграцию, после чего можно переключать или добавлять бэкенды, не меняя код клиентских приложений.
В проект входят веб-консоль администратора, пользовательский портал и портал реселлера — операторы могут управлять каналами и учётными записями через браузер. Сервис можно развернуть с помощью Docker; в README также упоминаются кластерное и мультирегиональное развёртывание. Для community- и professional-версий предусмотрены демонстрационные учётные данные.
Основной репозиторий содержит API-сервис; веб-фронтенд, интерфейс администратора и SDK находятся в отдельных репозиториях той же организации.
Ключевые возможности
- 01Единая конечная точка для chat completions, совместимая с OpenAI и поддерживающая множество LLM-провайдеров
- 02Поддержка потоковых запросов в формате запросов OpenAI
- 03Веб-консоли администратора, пользователя и реселлера
- 04Развёртывание в Docker одной командой, а также кластерное и мультирегиональное развёртывание
Сценарии использования
- Предоставление приложению доступа к нескольким LLM-провайдерам через единый API
- Переключение или добавление бэкендов моделей без изменения кода клиента
- Запуск внутреннего сервиса LLM API или сервиса для перепродажи с управлением учётными записями и квотами
Быстрый старт
- 1
Разверните проект с помощью Docker, следуя руководству по ссылке в README
- 2
Следуйте руководству по быстрому запуску на сайте проекта
Что важно знать
- В README нет команды установки, поэтому для настройки нужно воспользоваться внешним руководством по Docker.
- Большая часть документации и README написана на китайском языке.
В подборках
Темы
Частые вопросы
- Что такое fastapi?
- Самостоятельно размещаемый шлюз, который объединяет множество LLM-провайдеров (OpenAI, Claude, Gemini, DeepSeek, Qwen и другие) за одним API, совместимым с OpenAI. Fast API — система интеграции с LLM API для корпоративного использования, написанная на Go. Она позволяет бизнес-системам обращаться к моделям множества провайдеров, включая OpenAI, Azure, Anthropic Claude, Gemini, DeepSeek, Qwen, Baidu ERNIE, iFlytek Spark, Zhipu GLM, Doubao и Grok, через единую конечную точку, совместимую с OpenAI. Достаточно один раз настроить интеграцию, после чего можно переключать или добавлять бэкенды, не меняя код клиентских приложений.
- fastapi можно использовать бесплатно? Какая у него лицензия?
- fastapi распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- fastapi всё ещё поддерживается?
- Активно поддерживается. Последний коммит в fastapi — 6 нояб. 2026 г..
- Для чего можно использовать fastapi?
- Предоставление приложению доступа к нескольким LLM-провайдерам через единый API Переключение или добавление бэкендов моделей без изменения кода клиента Запуск внутреннего сервиса LLM API или сервиса для перепродажи с управлением учётными записями и квотами
- Как установить fastapi?
- Разверните проект с помощью Docker, следуя руководству по ссылке в README Следуйте руководству по быстрому запуску на сайте проекта
- Где скачать fastapi?
- Исходный код и инструкции по установке — на GitHub: https://github.com/iimeta/fastapi
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Самостоятельно разворачиваемый AI-шлюз с API, совместимыми с OpenAI, Claude и Gemini, который маршрутизирует запросы к разным провайдерам моделей и отслеживает ключи, квоты и расходы.
51,5 тыс.+449 за неделю12,5 тыс.GoAGPL-3.0Обновлён вчера
Самостоятельно размещаемый веб-чат для команд на Go с поддержкой OpenAI, Azure, Claude, Gemini и Ollama, управлением пользователями и ограничением частоты запросов.
57493GoMITАктивно поддерживаетсяОбновлён 28 дней назад
Десктопное приложение для Windows, которое одновременно отправляет один запрос в ChatGPT, Gemini, Claude, Grok, DeepSeek и Copilot.
28557TypeScriptMITАктивно поддерживаетсяОбновлён 11 дней назад
Самостоятельно размещаемый LLM API-шлюз для личного использования: объединяет каналы нескольких провайдеров за одной конечной точкой, поддерживает переключение при сбоях и учёт расходов.
2,7 тыс.+8 за неделю450TypeScriptAGPL-3.0Активно поддерживаетсяОбновлён 16 дней назад
Самостоятельно размещаемый шлюз, объединяющий несколько AI-ретрансляторов (New API, One API, Sub2API и другие) за одним API-ключом и эндпоинтом с интеллектуальной маршрутизацией.
3,3 тыс.527TypeScriptMITОбновлён 2 месяца назад