Самостоятельно размещаемый AI-шлюз под лицензией MIT: единый OpenAI-совместимый endpoint для сотен провайдеров моделей, с автоматическим переключением с учётом квот и сжатием токенов.
Open source альтернатива:OpenRouter
OmniRoute — самостоятельно размещаемый AI-шлюз между инструментами для написания кода и провайдерами моделей. Инструменты вроде Claude Code, Codex, Cursor, Cline и GitHub Copilot отправляют запросы на единый локальный endpoint по адресу localhost:20128/v1, а OmniRoute перенаправляет их выбранному провайдеру. Поддерживается широкий список провайдеров и моделей, включая Claude, GPT, Gemini, Kimi, GLM, DeepSeek и MiniMax.
Если у провайдера срабатывает ограничение частоты запросов, заканчивается квота или возникает ошибка, OmniRoute может перенаправить запрос к следующему подходящему варианту. Маршрутизация настраивается через комбо с 20 стратегиями, а также автоматический режим, который в реальном времени оценивает подключённых провайдеров. Встроенные автоматические выключатели, периоды ожидания для отдельных подключений и блокировки отдельных моделей изолируют сбои. Дополнительные средства сжатия RTK и Caveman сокращают объём вывода инструментов и промптов перед отправкой запросов.
В проект также входят дашборд, MCP-сервер, поддержка A2A, а также сборки для компьютеров и PWA. Пользователи подключают собственные аккаунты у провайдеров или API-ключи; доступность бесплатных тарифов зависит от условий каждого провайдера.
Установите OmniRoute из npm-пакета с названием omniroute или используйте образ Docker Hub, как описано в README
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Единый бинарный файл на Rust, который предоставляет любому AI SDK одну точку доступа к разным LLM-провайдерам, а также инструменты MCP, управление трафиком и журналирование запросов.
Самостоятельно размещаемый LLM-шлюз, совместимый с OpenAI: единая точка доступа к 40+ провайдерам, виртуальные ключи, бюджеты и учёт использования.
Самостоятельно размещаемый LLM API-шлюз для личного использования: объединяет каналы нескольких провайдеров за одной конечной точкой, поддерживает переключение при сбоях и учёт расходов.
Открытая среда выполнения обнаруживает и учитывает работающих на компьютере разработчика кодинг-агентов, маршрутизирует их запросы и отслеживает расходы по каждому агенту.
Открытый AI-шлюз с единым OpenAI-совместимым API для 23+ LLM-провайдеров, резервным переключением, балансировкой нагрузки, семантическим кэшированием и виртуальными ключами.
Open-source Go-шлюз, который маршрутизирует запросы к LLM через 30 провайдеров по единому API, совместимому с OpenAI, и поддерживает кэширование, защитные механизмы и контроль затрат.