av/harbor

Что это?

Ключевые возможности

• 01Запускает уже связанные бэкенды для инференса и фронтенды одной командой `harbor up`.
• 02Автоматически подключает к Open WebUI вспомогательные сервисы, например веб-поиск SearXNG и голосовой чат Speaches.
• 03Запускает инференс на хосте в macOS с аппаратным ускорением Metal для Docker Model Runner, MLX и oMLX.
• 04Запускает CLI для программирования и работы агентов с бэкендом Harbor без ручной настройки провайдера.
• 05Сохраняет профили конфигурации и историю команд и позволяет переключаться между ними.
• 06Экспортирует текущую конфигурацию в отдельный файл Docker Compose.

Сценарии использования

• Настроить на личном компьютере локальную среду с Open WebUI и llama.cpp или Ollama за один шаг.
• Добавить к локальной модели RAG с веб-поиском или голосовой чат, не связывая сервисы вручную.
• Сравнить несколько бэкендов для инференса с одним и тем же фронтендом.
• Перенести проверенную локальную конфигурацию в отдельное развертывание Docker Compose.

Быстрый старт

1. 1

   Установите Harbor CLI и App, следуя руководству по установке

2. 2

   Запустите полностью настроенный стек Open WebUI и llama.cpp

   harbor up
3. 3

   Добавьте веб-поиск SearXNG и голосовой чат Speaches в Open WebUI

   harbor up searxng speaches

Что важно знать

• !Требуется Docker, поскольку стек запускается с помощью Docker Compose.
• !Для эффективной работы локальных моделей требуется подходящее оборудование, например GPU, а полный стек из множества сервисов может быть ресурсоёмким.

В подборках

Темы

Частые вопросы

Что такое harbor?

CLI на базе Docker Compose и приложение-компаньон, которые одной командой запускают готовый локальный стек LLM — от бэкендов вроде Ollama и llama.cpp до фронтендов вроде Open WebUI. Harbor — это CLI и настольное приложение-компаньон для запуска полноценного локального стека LLM. Вы выбираете нужные сервисы: например, бэкенды для инференса Ollama, llama.cpp или vLLM, фронтенды вроде Open WebUI либо вспомогательные сервисы, такие как SearXNG для веб-поиска и Speaches для голосового чата. Harbor берет на себя оркестрацию Docker Compose, настройку и подключение сервисов друг к другу.

harbor можно использовать бесплатно? Какая у него лицензия?

harbor распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

harbor всё ещё поддерживается?

Активно поддерживается. Последний коммит в harbor — 31 окт. 2026 г..

Для чего можно использовать harbor?

Настроить на личном компьютере локальную среду с Open WebUI и llama.cpp или Ollama за один шаг. Добавить к локальной модели RAG с веб-поиском или голосовой чат, не связывая сервисы вручную. Сравнить несколько бэкендов для инференса с одним и тем же фронтендом. Перенести проверенную локальную конфигурацию в отдельное развертывание Docker Compose.

Как установить harbor?

Установите Harbor CLI и App, следуя руководству по установке Запустите полностью настроенный стек Open WebUI и llama.cpp: harbor up Добавьте веб-поиск SearXNG и голосовой чат Speaches в Open WebUI: harbor up searxng speaches

Где скачать harbor?

Исходный код и инструкции по установке — на GitHub: https://github.com/av/harbor