av/harbor

어떤 프로젝트인가요?

핵심 기능

• 01`harbor up` 명령 하나로 미리 연결된 추론 백엔드와 프런트엔드를 실행합니다.
• 02SearXNG 웹 검색이나 Speaches 음성 채팅 같은 보조 서비스를 Open WebUI에 자동으로 연결합니다.
• 03macOS에서 Docker Model Runner, MLX, oMLX의 추론을 Metal 가속을 사용해 호스트에서 직접 실행합니다.
• 04수동으로 provider 설정을 하지 않고도 코딩 및 에이전트 CLI를 Harbor 백엔드에 연결해 실행합니다.
• 05config 프로필과 명령 기록을 저장하고 전환합니다.
• 06현재 설정을 독립형 Docker Compose 파일로 내보냅니다.

활용 사례

• 개인 컴퓨터에 Open WebUI와 llama.cpp 또는 Ollama 환경을 한 번에 구성하기.
• 서비스를 직접 연결하지 않고도 웹 검색 기반 RAG나 음성 채팅을 로컬 모델에 추가하기.
• 같은 프런트엔드에서 여러 추론 백엔드를 나란히 비교하기.
• 테스트를 마친 로컬 설정을 독립형 Docker Compose 배포 환경으로 옮기기.

빠른 시작

1. 1

   설치 가이드에 따라 Harbor CLI와 App을 설치합니다

2. 2

   구성이 완료된 Open WebUI 및 llama.cpp 스택을 시작합니다

   harbor up
3. 3

   Open WebUI에 SearXNG 웹 검색과 Speaches 음성 채팅을 추가합니다

   harbor up searxng speaches

사용 전 알아둘 점

• !스택이 Docker Compose에서 실행되므로 Docker가 필요합니다.
• !로컬 모델을 원활하게 실행하려면 GPU와 같은 적절한 하드웨어가 필요하며, 여러 서비스로 구성된 전체 스택은 리소스를 많이 사용할 수 있습니다.

포함된 컬렉션

토픽

자주 묻는 질문

harbor은(는) 무엇인가요?

Docker Compose 기반 CLI와 데스크톱 앱으로, Ollama나 llama.cpp 같은 백엔드부터 Open WebUI 같은 프런트엔드까지 미리 연결된 로컬 LLM 스택을 명령 하나로 실행합니다. Harbor는 로컬 LLM 스택 전체를 실행할 수 있는 CLI이자 데스크톱 앱입니다. Ollama, llama.cpp, vLLM 같은 추론 백엔드, Open WebUI 같은 프런트엔드, 웹 검색용 SearXNG와 음성 채팅용 Speaches 같은 보조 서비스 중 원하는 서비스를 선택하면 Harbor가 Docker Compose 오케스트레이션과 설정, 서비스 간 연결을 처리합니다.

harbor은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

harbor은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

harbor은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. harbor의 마지막 커밋은 2026년 10월 31일입니다.

harbor은(는) 어디에 사용할 수 있나요?

개인 컴퓨터에 Open WebUI와 llama.cpp 또는 Ollama 환경을 한 번에 구성하기. 서비스를 직접 연결하지 않고도 웹 검색 기반 RAG나 음성 채팅을 로컬 모델에 추가하기. 같은 프런트엔드에서 여러 추론 백엔드를 나란히 비교하기. 테스트를 마친 로컬 설정을 독립형 Docker Compose 배포 환경으로 옮기기.

harbor는 어떻게 설치하나요?

설치 가이드에 따라 Harbor CLI와 App을 설치합니다 구성이 완료된 Open WebUI 및 llama.cpp 스택을 시작합니다: harbor up Open WebUI에 SearXNG 웹 검색과 Speaches 음성 채팅을 추가합니다: harbor up searxng speaches

harbor은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/av/harbor