Самостоятельно размещаемый LLM-шлюз, совместимый с OpenAI: единая точка доступа к 40+ провайдерам, виртуальные ключи, бюджеты и учёт использования.
diegosouzapw/OmniRoute
Самостоятельно размещаемый AI-шлюз под лицензией MIT: единый OpenAI-совместимый endpoint для сотен провайдеров моделей, с автоматическим переключением с учётом квот и сжатием токенов.
Open source альтернатива:OpenRouter
- Звёзды
- 78,298
- Форки
- 11,374
- Открытые issues
- 236
- Последний коммит
- 21 час назад
Что это?
OmniRoute — самостоятельно размещаемый AI-шлюз между инструментами для написания кода и провайдерами моделей. Инструменты вроде Claude Code, Codex, Cursor, Cline и GitHub Copilot отправляют запросы на единый локальный endpoint по адресу localhost:20128/v1, а OmniRoute перенаправляет их выбранному провайдеру. Поддерживается широкий список провайдеров и моделей, включая Claude, GPT, Gemini, Kimi, GLM, DeepSeek и MiniMax.
Если у провайдера срабатывает ограничение частоты запросов, заканчивается квота или возникает ошибка, OmniRoute может перенаправить запрос к следующему подходящему варианту. Маршрутизация настраивается через комбо с 20 стратегиями, а также автоматический режим, который в реальном времени оценивает подключённых провайдеров. Встроенные автоматические выключатели, периоды ожидания для отдельных подключений и блокировки отдельных моделей изолируют сбои. Дополнительные средства сжатия RTK и Caveman сокращают объём вывода инструментов и промптов перед отправкой запросов.
В проект также входят дашборд, MCP-сервер, поддержка A2A, а также сборки для компьютеров и PWA. Пользователи подключают собственные аккаунты у провайдеров или API-ключи; доступность бесплатных тарифов зависит от условий каждого провайдера.
Ключевые возможности
- 01Единый OpenAI-совместимый endpoint для множества провайдеров моделей
- 02Автоматическое переключение между провайдерами при исчерпании квоты, достижении лимита запросов или ошибках
- 0320 стратегий маршрутизации для настройки каждого комбо и автоматический режим
- 04Дополнительное сжатие с помощью RTK и Caveman для снижения расхода токенов
- 05Встроенный MCP-сервер и поддержка протокола A2A
- 06Веб-дашборд, приложение для компьютеров и PWA
Сценарии использования
- Подключение Claude Code, Cursor или Cline к единому локальному endpoint с возможностью переключаться между провайдерами
- Продолжение сессии написания кода, когда у одного из провайдеров срабатывает ограничение частоты запросов
- Совместное использование набора ключей провайдеров небольшой командой с ограничениями на расход
- Сравнение моделей или маршрутизация запросов между несколькими моделями через единый API
Быстрый старт
- 1
Установите OmniRoute из npm-пакета с названием omniroute или используйте образ Docker Hub, как описано в README
Что важно знать
- Вы должны самостоятельно предоставить аккаунты и учетные данные провайдеров; каждый провайдер устанавливает собственные ограничения бесплатного тарифа и условия.
- Указанные крупным планом значения количества токенов — это оценки на основе бесплатных тарифов сторонних сервисов, которые могут измениться или стать недоступными в любой момент.
Темы
Частые вопросы
- Что такое OmniRoute?
- Самостоятельно размещаемый AI-шлюз под лицензией MIT: единый OpenAI-совместимый endpoint для сотен провайдеров моделей, с автоматическим переключением с учётом квот и сжатием токенов. OmniRoute — самостоятельно размещаемый AI-шлюз между инструментами для написания кода и провайдерами моделей. Инструменты вроде Claude Code, Codex, Cursor, Cline и GitHub Copilot отправляют запросы на единый локальный endpoint по адресу localhost:20128/v1, а OmniRoute перенаправляет их выбранному провайдеру. Поддерживается широкий список провайдеров и моделей, включая Claude, GPT, Gemini, Kimi, GLM, DeepSeek и MiniMax.
- OmniRoute можно использовать бесплатно? Какая у него лицензия?
- OmniRoute распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- OmniRoute всё ещё поддерживается?
- Активно поддерживается. Последний коммит в OmniRoute — 19 окт. 2026 г..
- Для чего можно использовать OmniRoute?
- Подключение Claude Code, Cursor или Cline к единому локальному endpoint с возможностью переключаться между провайдерами Продолжение сессии написания кода, когда у одного из провайдеров срабатывает ограничение частоты запросов Совместное использование набора ключей провайдеров небольшой командой с ограничениями на расход Сравнение моделей или маршрутизация запросов между несколькими моделями через единый API
- Как установить OmniRoute?
- Установите OmniRoute из npm-пакета с названием omniroute или используйте образ Docker Hub, как описано в README
- Где скачать OmniRoute?
- Исходный код и инструкции по установке — на GitHub: https://github.com/diegosouzapw/OmniRoute
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Открытый AI-шлюз с единым OpenAI-совместимым API для 23+ LLM-провайдеров, резервным переключением, балансировкой нагрузки, семантическим кэшированием и виртуальными ключами.
Самообучающийся AI-агент, который создаёт и улучшает навыки на основе опыта, работает со множеством провайдеров моделей и доступен через CLI и мессенджеры.
Платформа fair-code для автоматизации рабочих процессов и создания AI-агентов: визуальный редактор, пользовательский код и более 1500 интеграций.
Локальный шлюз и приложение в строке меню, через которые Claude Code, Codex, Gemini CLI и другие агенты для разработки могут использовать любые модели и подписки.
Платформа для запуска AI-коллег на собственной инфраструктуре: у каждого агента свой браузер, файлы и инструменты, а все действия контролируются политиками и журналируются.