av/harbor

O que é?

Recursos principais

• 01Inicia backends de inferência e frontends já conectados com um único comando `harbor up`.
• 02Conecta automaticamente ao Open WebUI serviços de apoio, como a busca na web do SearXNG e o chat por voz do Speaches.
• 03Executa inferência nativa no host no macOS, com aceleração Metal, para Docker Model Runner, MLX e oMLX.
• 04Inicia CLIs de programação e agentes usando um backend do Harbor, sem precisar configurar provedores manualmente.
• 05Salva e alterna entre perfis de configuração e o histórico de comandos.
• 06Exporta a configuração atual para um arquivo Docker Compose independente.

Casos de uso

• Configurar de uma só vez um ambiente local com Open WebUI e llama.cpp ou Ollama em um computador pessoal.
• Adicionar RAG com busca na web ou chat por voz a um modelo local sem conectar os serviços manualmente.
• Comparar vários backends de inferência lado a lado usando o mesmo frontend.
• Transformar uma configuração local testada em uma implantação independente com Docker Compose.

Início rápido

1. 1

   Instale o Harbor CLI e o App seguindo o guia de instalação

2. 2

   Inicie uma stack totalmente configurada do Open WebUI e do llama.cpp

   harbor up
3. 3

   Adicione a pesquisa na web do SearXNG e o chat por voz do Speaches ao Open WebUI

   harbor up searxng speaches

Antes de usar

• !O Docker é necessário, pois a stack é executada com Docker Compose.
• !Para executar bem modelos locais, é preciso ter hardware adequado, como uma GPU, e a stack completa, com muitos serviços, pode consumir bastante recursos.

Em coleções

Tópicos

Perguntas frequentes

O que é harbor?

CLI baseado em Docker Compose e aplicativo complementar que inicia uma stack local de LLM já integrada, de backends como Ollama e llama.cpp a frontends como Open WebUI, com um único comando. Harbor é uma CLI e um aplicativo desktop complementar para executar uma stack local completa de LLM. Você escolhe os serviços que quer usar, como backends de inferência, por exemplo Ollama, llama.cpp ou vLLM; frontends, como Open WebUI; ou serviços de apoio, como SearXNG para buscas na web e Speaches para conversas por voz. O Harbor cuida da orquestração com Docker Compose, da configuração e da comunicação entre eles.

harbor é gratuito? Qual é a licença?

harbor é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.

harbor ainda é mantido?

Manutenção ativa. O último commit de harbor foi em 31 de out. de 2026.

Para que posso usar harbor?

Configurar de uma só vez um ambiente local com Open WebUI e llama.cpp ou Ollama em um computador pessoal. Adicionar RAG com busca na web ou chat por voz a um modelo local sem conectar os serviços manualmente. Comparar vários backends de inferência lado a lado usando o mesmo frontend. Transformar uma configuração local testada em uma implantação independente com Docker Compose.

Como instalar harbor?

Instale o Harbor CLI e o App seguindo o guia de instalação Inicie uma stack totalmente configurada do Open WebUI e do llama.cpp: harbor up Adicione a pesquisa na web do SearXNG e o chat por voz do Speaches ao Open WebUI: harbor up searxng speaches

Onde consigo harbor?

O código-fonte e as instruções de instalação estão no GitHub: https://github.com/av/harbor