Repolode
bestruirui

bestruirui/octopus

Самостоятельно размещаемый LLM API-шлюз для личного использования: объединяет каналы нескольких провайдеров за одной конечной точкой, поддерживает переключение при сбоях и учёт расходов.

Open source альтернатива:OpenRouter

Звёзды
2,740
Форки
451
Открытые issues
16
Последний коммит
14 дней назад

Что это?

Octopus — самостоятельно размещаемый шлюз между вашими клиентами и несколькими LLM-провайдерами. Вы настраиваете каналы для таких провайдеров, как OpenAI, Anthropic и Gemini, а затем объединяете каналы под одним именем модели. Благодаря этому клиенты обращаются к одной конечной точке независимо от того, какой провайдер обрабатывает запрос.

Шлюз преобразует форматы OpenAI Chat, OpenAI Responses и Anthropic API, поэтому такие инструменты, как Claude Code и Codex, можно подключить, просто изменив базовый URL. Если канал провайдера недоступен, запросы автоматически перенаправляются на другой работающий канал. Цены моделей синхронизируются с models.dev и могут переопределяться вручную; статистика запросов, расход токенов и стоимость отслеживаются и отображаются в веб-панели управления.

Проект поставляется в виде единого бинарного файла Go со встроенным веб-интерфейсом и хранит данные в SQLite, MySQL или PostgreSQL. Его также можно запускать через Docker.

Ключевые возможности

  • 01Объединяет каналы нескольких LLM-провайдеров под общими именами групп моделей
  • 02Преобразует форматы OpenAI Chat, OpenAI Responses и Anthropic API
  • 03Автоматически переключается на другой канал, если в текущем возникает ошибка
  • 04Синхронизирует цены моделей и списки доступных моделей из внешних источников
  • 05Отслеживает количество запросов, расход токенов и стоимость в веб-панели
  • 06Работает как единый бинарный файл с хранилищем на SQLite, MySQL или PostgreSQL

Сценарии использования

  • Подключение Claude Code или Codex к нескольким провайдерам через одну локальную конечную точку
  • Использование одного API-ключа и имени модели для личной конфигурации с несколькими LLM-аккаунтами
  • Продолжение работы агентских задач при сбое одного из провайдеров
  • Учёт расходов на токены у разных LLM-провайдеров в одном месте

Быстрый старт

  1. 1

    Запустите контейнер Docker

    docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus
  2. 2

    Или скачайте бинарный файл со страницы релизов и запустите его

    ./octopus start

Что важно знать

  • Учетные данные администратора по умолчанию — admin/admin, поэтому сразу после первого входа необходимо сменить пароль.
  • Статистика буферизуется в памяти, поэтому принудительное завершение, например с помощью kill -9, может привести к потере данных.
  • Базы данных MySQL и PostgreSQL необходимо создать вручную до начала использования.

В подборках

Темы

Частые вопросы

Что такое octopus?
Самостоятельно размещаемый LLM API-шлюз для личного использования: объединяет каналы нескольких провайдеров за одной конечной точкой, поддерживает переключение при сбоях и учёт расходов. Octopus — самостоятельно размещаемый шлюз между вашими клиентами и несколькими LLM-провайдерами. Вы настраиваете каналы для таких провайдеров, как OpenAI, Anthropic и Gemini, а затем объединяете каналы под одним именем модели. Благодаря этому клиенты обращаются к одной конечной точке независимо от того, какой провайдер обрабатывает запрос.
octopus можно использовать бесплатно? Какая у него лицензия?
octopus распространяется с открытым исходным кодом под лицензией AGPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
octopus всё ещё поддерживается?
Активно поддерживается. Последний коммит в octopus — 23 окт. 2026 г..
Для чего можно использовать octopus?
Подключение Claude Code или Codex к нескольким провайдерам через одну локальную конечную точку Использование одного API-ключа и имени модели для личной конфигурации с несколькими LLM-аккаунтами Продолжение работы агентских задач при сбое одного из провайдеров Учёт расходов на токены у разных LLM-провайдеров в одном месте
Как установить octopus?
Запустите контейнер Docker: docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus Или скачайте бинарный файл со страницы релизов и запустите его: ./octopus start
Где скачать octopus?
Исходный код и инструкции по установке — на GitHub: https://github.com/bestruirui/octopus

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Самостоятельно размещаемый LLM-шлюз, который проксирует OpenAI, Anthropic и совместимые API, поддерживая маршрутизацию, переключение на резервные сервисы, журналирование запросов и веб-панель.

7520PythonБез лицензииАктивно поддерживаетсяОбновлён 5 дней назад

API-шлюз с открытым исходным кодом, который направляет запросы к LLM через совместимый с OpenAI интерфейс, поддерживает управление ключами и аналитику использования.

1,7 тыс.+8 за неделю201TypeScriptOtherОбновлён 10 часов назад

Самостоятельно разворачиваемый AI-шлюз с API, совместимыми с OpenAI, Claude и Gemini, который маршрутизирует запросы к разным провайдерам моделей и отслеживает ключи, квоты и расходы.

51,4 тыс.+467 за неделю12,5 тыс.GoAGPL-3.0Обновлён 13 часов назад

Самостоятельно размещаемый AI-шлюз, объединяющий API-ключи и подписки разных провайдеров за одной точкой доступа, с балансировкой, переключением при сбоях и журналами использования.

7,2 тыс.+22 за неделю798GoMITАктивно поддерживаетсяОбновлён вчера