Repolode
Предложить
looplj

looplj/axonhub

Открытый AI-шлюз, через который любые OpenAI- и Anthropic-SDK могут обращаться к более чем 100 LLM-провайдерам без изменений кода, с переключением при сбоях, балансировкой нагрузки и учётом затрат.

Open source альтернатива:OpenRouter

Открыть на GitHubСайт
Звёзды
5,379
Форки
738
Открытые issues
97
Последний коммит
10 часов назад

Что это?

AxonHub — это AI-шлюз между приложением и провайдерами моделей. Приложения продолжают работать с уже используемым OpenAI, Anthropic или другим AI SDK, а AxonHub преобразует каждый запрос в формат целевого провайдера. Переключиться с GPT-4 на Claude или Gemini можно через конфигурацию, не переписывая код клиента.

Помимо преобразования протоколов, проект предоставляет инструменты для эксплуатации: автоматическое переключение при сбоях и балансировку нагрузки между каналами, трассировку каждого запроса с полной временной шкалой, а также учёт входных, выходных и кэшированных токенов, чтобы показывать стоимость каждого вызова. Кроме того, предусмотрены управление доступом на основе ролей, квоты использования и изоляция данных для команд.

Шлюз поддерживает API для генерации текста и изображений, создания эмбеддингов и rerank. В список провайдеров входят OpenAI, Anthropic, Gemini, DeepSeek, Zhipu, Moonshot, Doubao и OpenRouter; развернуть шлюз можно с помощью Docker. Проект написан на Go и распространяется по лицензии Apache-2.0, отдельные компоненты — по LGPL-3.0.

Ключевые возможности

  • 01Вызывайте API в стиле OpenAI, Anthropic и Gemini через единую точку доступа, используя существующие SDK.
  • 02Автоматическое переключение при сбоях и балансировка нагрузки между настроенными каналами.
  • 03Трассировка каждого запроса с временной шкалой для отладки.
  • 04Учёт стоимости входных, выходных и кэшированных токенов.
  • 05Управление доступом на основе ролей, квоты и изоляция данных.
  • 06Поддержка API для чата, генерации изображений, создания эмбеддингов и rerank.

Сценарии использования

  • Для команд, которым нужно переключаться между LLM-провайдерами без изменения кода приложения.
  • Для платформ, которым нужны квоты использования, прозрачный учёт затрат и контроль доступа для нескольких пользователей.
  • Для приложений, которым требуется автоматическое переключение при недоступности провайдера моделей.
  • Для разработчиков, запускающих инструменты для написания кода с AI, например Claude Code или Codex, через общий шлюз.

Быстрый старт

  1. 1

    Разверните AxonHub, попросив агента следовать skill deploy-axonhub

  2. 2

    Откройте URL AxonHub, создайте учетную запись администратора, а затем добавьте каналы с API-ключами ваших провайдеров

  3. 3

    Создайте API-ключ AxonHub для клиентов в разделе API Keys

  4. 4

    Укажите для OpenAI SDK адрес http://localhost:8090/v1 и отправьте первый запрос чата

Что важно знать

  • В README нет прямой команды для установки; развертывание описано с помощью skill для агента.
  • API-ключи для каждого вышестоящего поставщика моделей нужно предоставить самостоятельно.
  • Поддержка AWS Bedrock и Google Cloud все еще отмечена как тестируемая.

Темы

#llm#ai-gateway#openai-api#anthropic-api#load-balancing#api-gateway#cost-management#go#agent#agents

Частые вопросы

Что такое axonhub?
Открытый AI-шлюз, через который любые OpenAI- и Anthropic-SDK могут обращаться к более чем 100 LLM-провайдерам без изменений кода, с переключением при сбоях, балансировкой нагрузки и учётом затрат. AxonHub — это AI-шлюз между приложением и провайдерами моделей. Приложения продолжают работать с уже используемым OpenAI, Anthropic или другим AI SDK, а AxonHub преобразует каждый запрос в формат целевого провайдера. Переключиться с GPT-4 на Claude или Gemini можно через конфигурацию, не переписывая код клиента.
axonhub можно использовать бесплатно? Какая у него лицензия?
axonhub распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
axonhub всё ещё поддерживается?
Активно поддерживается. Последний коммит в axonhub — 21 окт. 2026 г..
Для чего можно использовать axonhub?
Для команд, которым нужно переключаться между LLM-провайдерами без изменения кода приложения. Для платформ, которым нужны квоты использования, прозрачный учёт затрат и контроль доступа для нескольких пользователей. Для приложений, которым требуется автоматическое переключение при недоступности провайдера моделей. Для разработчиков, запускающих инструменты для написания кода с AI, например Claude Code или Codex, через общий шлюз.
Как установить axonhub?
Разверните AxonHub, попросив агента следовать skill deploy-axonhub Откройте URL AxonHub, создайте учетную запись администратора, а затем добавьте каналы с API-ключами ваших провайдеров Создайте API-ключ AxonHub для клиентов в разделе API Keys Укажите для OpenAI SDK адрес http://localhost:8090/v1 и отправьте первый запрос чата
Где скачать axonhub?
Исходный код и инструкции по установке — на GitHub: https://github.com/looplj/axonhub

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

mylxsw / llm-gateway

Самостоятельно размещаемый LLM-шлюз, который проксирует OpenAI, Anthropic и совместимые API, поддерживая маршрутизацию, переключение на резервные сервисы, журналирование запросов и веб-панель.

ИИ и машинное обучение#llm#llm-gateway#proxy
7620PythonБез лицензииОбновлён 18 дней назад

QuantumNous / new-api

Самостоятельно разворачиваемый AI-шлюз с API, совместимыми с OpenAI, Claude и Gemini, который маршрутизирует запросы к разным провайдерам моделей и отслеживает ключи, квоты и расходы.

ИИ и машинное обучение#ai-gateway#llm#openai-compatible
50,3 тыс.12,1 тыс.GoAGPL-3.0Обновлён 3 дня назад