Repolode
Предложить
NadirRouter

NadirRouter/NadirClaw

Локально разворачиваемый LLM-маршрутизатор с доступным исходным кодом: простые запросы отправляет дешёвым или локальным моделям, сложные — премиальным через OpenAI-совместимый прокси.

Открыть на GitHubСайт
Звёзды
661
Форки
80
Открытые issues
1
Последний коммит
4 часа назад

Что это?

NadirClaw — локальный прокси между инструментами для AI-разработки и провайдерами моделей. Каждый входящий запрос классифицируется примерно за 10 мс и отправляется на самый дешёвый уровень моделей, который, вероятно, справится с задачей. Затем эвристический проверяющий модуль ищет отказы, обрезанные ответы и некорректный JSON. Если ответ не проходит проверку, запрос перенаправляется более мощной модели. Проект показывает экономию на каждом запросе по сравнению с использованием только премиальных моделей.

Сервис предоставляет OpenAI-совместимые (/v1/chat/completions) и Anthropic-совместимые (/v1/messages) эндпоинты, поэтому клиенты вроде Claude Code, Codex, Cursor, Aider, Continue и OpenClaw можно подключить, просто изменив базовый URL. Gemini вызывается напрямую через Google GenAI SDK, а для остальных провайдеров используется LiteLLM. Для локальных моделей поддерживаются Ollama и пользовательские OpenAI-совместимые серверы, например vLLM и LM Studio.

Помимо маршрутизации, проект поддерживает цепочки резервных моделей при ошибках 429 и 5xx, привязку модели к сессии, фильтрацию по размеру контекстного окна, сжатие контекста, кэширование запросов в памяти, уведомления о бюджете, терминальную и веб-панель, экспорт логов в CSV/JSONL и метрики Prometheus. Лицензия PolyForm Noncommercial разрешает доступ к исходному коду, но это не open source.

Ключевые возможности

  • 01Классифицирует каждый запрос примерно за 10 мс и направляет его на модель подходящего уровня: для простых, средних или сложных задач.
  • 02Проверяет ответы недорогих моделей с помощью эвристик и при неудаче передаёт запрос более мощной модели.
  • 03Предоставляет OpenAI- и Anthropic-совместимые эндпоинты для существующих инструментов разработки.
  • 04Вызывает Gemini напрямую, а для обращения к другим провайдерам, включая Ollama, использует LiteLLM.
  • 05При ошибках ограничения частоты запросов или сервера переключается на следующую модель в настраиваемой цепочке.
  • 06Показывает экономию на каждом запросе; включает терминальную и веб-панель, а также уведомления о бюджете.

Сценарии использования

  • Сокращение ежемесячных расходов на API для разработчиков, которые используют Claude Code, Cursor или Codex и отправляют запросы разной сложности.
  • Обработка простых запросов локальной моделью Ollama с передачей сложных задач облачной модели.
  • Единый локально развёрнутый шлюз для небольшой команды с учётом использования моделей и расходов.
  • Подключение OpenAI-совместимого инструмента к пользовательскому эндпоинту vLLM или LM Studio наряду с облачными моделями.

Темы

#llm-router#llm-gateway#cost-optimization#openai-compatible#self-hosted#model-routing#ollama#proxy#ai#ai-cost-reduction

Частые вопросы

Что такое NadirClaw?
Локально разворачиваемый LLM-маршрутизатор с доступным исходным кодом: простые запросы отправляет дешёвым или локальным моделям, сложные — премиальным через OpenAI-совместимый прокси. NadirClaw — локальный прокси между инструментами для AI-разработки и провайдерами моделей. Каждый входящий запрос классифицируется примерно за 10 мс и отправляется на самый дешёвый уровень моделей, который, вероятно, справится с задачей. Затем эвристический проверяющий модуль ищет отказы, обрезанные ответы и некорректный JSON. Если ответ не проходит проверку, запрос перенаправляется более мощной модели. Проект показывает экономию на каждом запросе по сравнению с использованием только премиальных моделей.
NadirClaw можно использовать бесплатно? Какая у него лицензия?
NadirClaw распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
NadirClaw всё ещё поддерживается?
Активно поддерживается. Последний коммит в NadirClaw — 22 окт. 2026 г..
Для чего можно использовать NadirClaw?
Сокращение ежемесячных расходов на API для разработчиков, которые используют Claude Code, Cursor или Codex и отправляют запросы разной сложности. Обработка простых запросов локальной моделью Ollama с передачей сложных задач облачной модели. Единый локально развёрнутый шлюз для небольшой команды с учётом использования моделей и расходов. Подключение OpenAI-совместимого инструмента к пользовательскому эндпоинту vLLM или LM Studio наряду с облачными моделями.
Где скачать NadirClaw?
Исходный код и инструкции по установке — на GitHub: https://github.com/NadirRouter/NadirClaw

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Fast-Editor / Lynkr

Самостоятельно размещаемый LLM-шлюз для AI-инструментов разработки, например Claude Code и Cursor: он маршрутизирует запросы между провайдерами и сжимает вывод инструментов, снижая расход токенов.

ИИ и машинное обучение#llm-gateway#llm-proxy#claude-code
63673JavaScriptApache-2.0Обновлён вчера

musistudio / claude-code-router

Локальный шлюз моделей, который объединяет Claude Code, Codex, OpenCode и другие инструменты для программирования на одной конечной точке и распределяет запросы между провайдерами.

ИИ и машинное обучение#llm-gateway#claude-code#ai-agent
37,8 тыс.3,2 тыс.TypeScriptMITОбновлён 12 дней назад