Самостоятельно разворачиваемый AI-шлюз с API, совместимыми с OpenAI, Claude и Gemini, который маршрутизирует запросы к разным провайдерам моделей и отслеживает ключи, квоты и расходы.
tbphp/gpt-load
Самостоятельно размещаемый AI-шлюз, объединяющий API-ключи и подписки разных провайдеров за одной точкой доступа, с балансировкой, переключением при сбоях и журналами использования.
Open source альтернатива:OpenRouter
- Звёзды
- 7,150
- Форки
- 812
- Открытые issues
- 10
- Последний коммит
- 9 часов назад
Что это?
GPT-Load — самостоятельно размещаемый шлюз между приложениями и внешними AI-сервисами. Приложениям достаточно одного базового URL и одного AccessKey, а провайдеры, аккаунты, учётные данные, модели и правила маршрутизации настраиваются во встроенном интерфейсе управления.
Шлюз принимает запросы в нативных протоколах OpenAI, Anthropic и Gemini и перенаправляет их в официальные API, облачные платформы, сервисы моделей и совместимые ретрансляторы. Каналы с API-ключами и каналы по подписке, например Codex, Claude, Antigravity и Grok, используют единый механизм управления учётными данными, планирования и обработки состояния здоровья. Планирование поддерживает веса, повторные попытки, период ожидания, внесение в чёрный список и привязку к сессии.
Сервис записывает журналы запросов, состояние здоровья, использование токенов и расчётную стоимость. По умолчанию он работает на SQLite, также поддерживаются MySQL и PostgreSQL. Локальные учётные данные шифруются при хранении.
Ключевые возможности
- 01Единая точка входа с нативными интерфейсами OpenAI, Anthropic и Gemini.
- 02Управление учётными данными для API-ключей и подписок с помощью единого механизма планирования.
- 03Планирование с учётом весов для нескольких учётных данных, с повторными попытками, периодом ожидания и внесением в чёрный список.
- 04Журналы запросов, сведения о состоянии здоровья, статистика использования и стоимости во встроенном интерфейсе.
- 05По умолчанию работает на SQLite; поддерживаются также MySQL и PostgreSQL.
Сценарии использования
- Объединение нескольких API-ключей одного провайдера для распределения нагрузки и работы при достижении лимитов запросов.
- Выдача команде отдельного AccessKey для каждого приложения с ограничениями по группам и протоколам.
- Маршрутизация трафика Claude Code или Codex через самостоятельно размещаемый шлюз с отслеживанием использования.
- Переключение между официальными API и совместимыми ретрансляторами без изменения кода приложения.
Быстрый старт
- 1
Клонируйте репозиторий
git clone --depth 1 https://github.com/tbphp/gpt-load.git - 2
Перейдите в каталог проекта и скопируйте шаблон окружения
cd gpt-load && cp .env.example .env - 3
Запустите сервис с помощью Docker Compose
docker compose up -d - 4
Откройте http://127.0.0.1:3001, найдите в контейнере сгенерированный ключ управления и войдите в консоль
Что важно знать
- Для быстрой установки необходимы Docker и Docker Compose.
- Обновление с версии 1.x без переустановки не поддерживается: версия 2.0 не может открыть или перенести данные из 1.x.
- При потере encryption.key сохранённые учётные данные каналов невозможно восстановить; смена главного ключа не поддерживается.
Темы
Частые вопросы
- Что такое gpt-load?
- Самостоятельно размещаемый AI-шлюз, объединяющий API-ключи и подписки разных провайдеров за одной точкой доступа, с балансировкой, переключением при сбоях и журналами использования. GPT-Load — самостоятельно размещаемый шлюз между приложениями и внешними AI-сервисами. Приложениям достаточно одного базового URL и одного AccessKey, а провайдеры, аккаунты, учётные данные, модели и правила маршрутизации настраиваются во встроенном интерфейсе управления.
- gpt-load можно использовать бесплатно? Какая у него лицензия?
- gpt-load распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- gpt-load всё ещё поддерживается?
- Активно поддерживается. Последний коммит в gpt-load — 20 окт. 2026 г..
- Для чего можно использовать gpt-load?
- Объединение нескольких API-ключей одного провайдера для распределения нагрузки и работы при достижении лимитов запросов. Выдача команде отдельного AccessKey для каждого приложения с ограничениями по группам и протоколам. Маршрутизация трафика Claude Code или Codex через самостоятельно размещаемый шлюз с отслеживанием использования. Переключение между официальными API и совместимыми ретрансляторами без изменения кода приложения.
- Как установить gpt-load?
- Клонируйте репозиторий: git clone --depth 1 https://github.com/tbphp/gpt-load.git Перейдите в каталог проекта и скопируйте шаблон окружения: cd gpt-load && cp .env.example .env Запустите сервис с помощью Docker Compose: docker compose up -d Откройте http://127.0.0.1:3001, найдите в контейнере сгенерированный ключ управления и войдите в консоль
- Где скачать gpt-load?
- Исходный код и инструкции по установке — на GitHub: https://github.com/tbphp/gpt-load
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Кроссплатформенный open-source клиент для общения с AI в браузере, на компьютере и мобильных устройствах, поддерживающий OpenAI, Claude, Gemini, DeepSeek и локальные модели.
Локальный прокси, который позволяет Codex, Claude Code, Claude Desktop и Grok Build работать с любыми LLM-провайдерами.
CLI-агент для разработки на TypeScript: добавьте в запрос `ulw` или `mass ulw`, чтобы он спланировал работу, распределил задачи между моделями и проверил результат.
Самостоятельно размещаемая чат-платформа в стиле ChatGPT с поддержкой разных AI-провайдеров, Agents, MCP, Artifacts и авторизацией нескольких пользователей.
Десктопный клиент для ChatGPT, Claude и других LLM с локальным хранением данных, работающий на Windows, macOS и Linux.