Agente de programación con IA de código abierto para VS Code, compatible con tus propios modelos, incluidas API alojadas, cuentas y modelos locales de Ollama o llama.cpp.
av/harbor
CLI basado en Docker Compose y app complementaria que despliegan con un comando una pila local de LLM preconfigurada, desde backends como Ollama y llama.cpp hasta frontends como Open WebUI.
- Estrellas
- 3,262
- Forks
- 233
- Issues abiertos
- 52
- Último commit
- hace 6 días
¿Qué es?
Harbor es un CLI y una app de escritorio complementaria para ejecutar una pila local completa de LLM. Eliges los servicios que quieres, como backends de inferencia como Ollama, llama.cpp o vLLM, frontends como Open WebUI o servicios de apoyo como SearXNG para búsquedas web y Speaches para chat de voz, y Harbor se encarga de orquestarlos con Docker Compose, configurarlos y conectarlos entre sí.
El proyecto abarca una amplia variedad de servicios, agrupados en UIs, backends y herramientas auxiliares. Incluye ComfyUI para generar imágenes, n8n y Dify para flujos de trabajo, y herramientas relacionadas con MCP como MetaMCP y mcpo. En macOS, algunos backends, como Docker Model Runner, MLX y oMLX, ejecutan la inferencia en el host con aceleración Metal, en lugar de hacerlo dentro de contenedores.
Harbor también incluye el comando `harbor launch`, que conecta CLI de programación y de agentes como Codex, Claude y OpenCode con un backend de Harbor, además de flujos de trabajo Boost, perfiles de configuración, un túnel integrado para el acceso remoto y un comando de exportación que guarda la configuración como un archivo Docker Compose independiente.
Funciones clave
- 01Inicia backends de inferencia y frontends ya conectados con un solo comando `harbor up`.
- 02Conecta automáticamente servicios de apoyo, como las búsquedas web de SearXNG y el chat de voz de Speaches, con Open WebUI.
- 03Ejecuta inferencias de forma nativa en el host en macOS, con aceleración Metal para Docker Model Runner, MLX y oMLX.
- 04Ejecuta CLI de programación y de agentes con un backend de Harbor, sin tener que configurar proveedores manualmente.
- 05Guarda y cambia perfiles de configuración e historial de comandos.
- 06Exporta la configuración actual a un archivo Docker Compose independiente.
Casos de uso
- Configurar en un solo paso un entorno local con Open WebUI y llama.cpp u Ollama en una computadora personal.
- Añadir a un modelo local RAG basado en búsquedas web o chat de voz, sin conectar los servicios manualmente.
- Comparar varios backends de inferencia en paralelo con el mismo frontend.
- Convertir una configuración local probada en un despliegue independiente de Docker Compose.
Inicio rápido
- 1
Instala Harbor CLI y App siguiendo la guía de instalación
- 2
Inicia una pila de Open WebUI y llama.cpp completamente configurada
harbor up - 3
Añade la búsqueda web de SearXNG y el chat de voz de Speaches a Open WebUI
harbor up searxng speaches
Antes de usarlo
- Se necesita Docker, ya que la pila se ejecuta con Docker Compose.
- Para ejecutar bien modelos locales se necesita hardware adecuado, como una GPU, y la pila completa, compuesta por muchos servicios, puede consumir muchos recursos.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es harbor?
- CLI basado en Docker Compose y app complementaria que despliegan con un comando una pila local de LLM preconfigurada, desde backends como Ollama y llama.cpp hasta frontends como Open WebUI. Harbor es un CLI y una app de escritorio complementaria para ejecutar una pila local completa de LLM. Eliges los servicios que quieres, como backends de inferencia como Ollama, llama.cpp o vLLM, frontends como Open WebUI o servicios de apoyo como SearXNG para búsquedas web y Speaches para chat de voz, y Harbor se encarga de orquestarlos con Docker Compose, configurarlos y conectarlos entre sí.
- ¿harbor es gratuito? ¿Qué licencia tiene?
- harbor es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿harbor sigue mantenido?
- Mantenimiento activo. El último commit de harbor fue el 31 oct 2026.
- ¿Para qué puedo usar harbor?
- Configurar en un solo paso un entorno local con Open WebUI y llama.cpp u Ollama en una computadora personal. Añadir a un modelo local RAG basado en búsquedas web o chat de voz, sin conectar los servicios manualmente. Comparar varios backends de inferencia en paralelo con el mismo frontend. Convertir una configuración local probada en un despliegue independiente de Docker Compose.
- ¿Cómo se instala harbor?
- Instala Harbor CLI y App siguiendo la guía de instalación Inicia una pila de Open WebUI y llama.cpp completamente configurada: harbor up Añade la búsqueda web de SearXNG y el chat de voz de Speaches a Open WebUI: harbor up searxng speaches
- ¿Dónde consigo harbor?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/av/harbor
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Agente de IA autohospedado en Go que funciona 24/7 en tu propio equipo, crea automáticamente las herramientas que faltan y las comparte con Claude Code y otros agentes mediante MCP.
Guía y aplicación web de chatbot para ejecutar un LLM local pequeño en hardware de consumo mediante una API compatible con OpenAI, usando Ollama, vLLM o llama-cpp-python.
Interfaz web autoalojada para ejecutar y usar LLM locales y en la nube, con varios backends, generación de imágenes y música, y enrutamiento de prompts.
App de macOS en la barra de menús para ejecutar LLM locales con llama.cpp, un servidor API local y una WebUI integrada.
Una app de chat con IA local, desarrollada en Rust con el toolkit gráfico iced, que ejecuta modelos mediante llama.cpp y Hugging Face.