av/harbor

这是什么？

核心功能

• 01通过一条 `harbor up` 命令启动已预先互联的推理后端和前端。
• 02自动把 SearXNG 网页搜索、Speaches 语音对话等配套服务接入 Open WebUI。
• 03在 macOS 上通过 Metal 加速，直接在宿主机运行 Docker Model Runner、MLX 和 oMLX。
• 04无需手动修改服务商配置，即可让 Codex、Claude、OpenCode 等工具连接 Harbor 后端。
• 05支持保存和切换配置档案，并保留本地命令历史。
• 06可将当前配置导出为独立的 Docker Compose 文件，方便迁移。

适用场景

• 在个人电脑上一步搭建 Open WebUI 配合 llama.cpp 或 Ollama 的本地环境。
• 无需手动连接服务，就为本地模型加上网页搜索增强问答或语音对话。
• 用同一个前端对比多种推理后端的效果。
• 把调试好的本地环境导出为独立的 Docker Compose 部署。

快速上手

1. 1

   按照安装指南安装 Harbor CLI 和应用

2. 2

   启动预配置好的 Open WebUI 和 llama.cpp 环境

   harbor up
3. 3

   为 Open WebUI 添加 SearXNG 网页搜索和 Speaches 语音聊天

   harbor up searxng speaches

使用前须知

• !需要 Docker，因为整个环境基于 Docker Compose 运行。
• !要流畅运行本地模型需要合适的硬件（如 GPU），且众多服务组成的完整环境占用资源较多。

收录于专题

标签

常见问题

harbor 是什么？

基于 Docker Compose 的命令行工具和配套应用，一条命令即可启动预先配置好的本地大模型全套环境。 Harbor 是一个命令行工具加配套桌面应用，用来在本地搭建完整的大模型环境。你可以挑选需要的服务，比如 Ollama、llama.cpp、vLLM 等推理后端，Open WebUI 等前端，以及用于网页搜索的 SearXNG、语音对话的 Speaches 等配套服务。Harbor 负责 Docker Compose 编排、配置以及各服务之间的互联。

harbor 可以免费使用吗？用的什么许可证？

harbor 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

harbor 还在维护吗？

活跃维护中。harbor 最近一次提交是在 2026年10月31日。

harbor 适合用来做什么？

在个人电脑上一步搭建 Open WebUI 配合 llama.cpp 或 Ollama 的本地环境。 无需手动连接服务，就为本地模型加上网页搜索增强问答或语音对话。 用同一个前端对比多种推理后端的效果。 把调试好的本地环境导出为独立的 Docker Compose 部署。

harbor 怎么安装和运行？

按照安装指南安装 Harbor CLI 和应用 启动预配置好的 Open WebUI 和 llama.cpp 环境: harbor up 为 Open WebUI 添加 SearXNG 网页搜索和 Speaches 语音聊天: harbor up searxng speaches

在哪里获取 harbor？

源代码和安装说明在 GitHub 上：https://github.com/av/harbor