ggml-org/Llama-macOS

어떤 프로젝트인가요?

핵심 기능

• 01데이터를 기기 밖으로 보내지 않고 Mac에서 모델을 실행합니다.
• 02localhost:9931/v1에서 로컬 OpenAI 호환 API를 제공합니다.
• 03모델과 대화할 수 있는 내장 WebUI를 제공합니다.
• 04모델 설정을 자동으로 구성하고 하드웨어에 적합한 모델을 추천합니다.
• 05요청이 있을 때 모델을 로드하고 유휴 상태가 되면 언로드합니다.
• 06llama.cpp와 Hugging Face 모델 캐시를 공유합니다.

활용 사례

• 프롬프트를 클라우드 서비스에 보내지 않고 비공개 채팅 또는 코딩 어시스턴트를 실행합니다.
• 로컬 코딩 에이전트나 편집기를 Mac에서 호스팅하는 모델에 연결합니다.
• 별도 설정 없이 Apple 하드웨어에서 Hugging Face의 GGUF 모델을 테스트합니다.
• Tailscale을 통해 다른 기기에서 Mac에서 실행 중인 모델에 접속합니다.

빠른 시작

1. 1

   Homebrew로 설치

   brew install --cask llama-app
2. 2

   또는 Releases 페이지에서 앱 다운로드

3. 3

   Llama를 시작하면 http://localhost:9931/v1에서 로컬 서버가 실행됩니다

사용 전 알아둘 점

• !macOS만 지원합니다.
• !네트워크 액세스가 활성화된 경우 서버에는 기본적으로 비밀번호가 설정되어 있지 않으므로 신뢰할 수 있는 네트워크에서만 공개해야 합니다.

토픽

자주 묻는 질문

Llama-macOS은(는) 무엇인가요?

llama.cpp 기반으로 로컬 LLM을 실행하고, 로컬 API 서버와 내장 WebUI를 제공하는 macOS 메뉴 막대 앱 Llama는 대규모 언어 모델을 Mac에서만 실행하는 macOS 메뉴 막대 앱입니다. 앱을 실행하면 localhost:9931에서 OpenAI 호환 /v1 엔드포인트를 제공하는 로컬 서버가 시작되어 다른 앱, 코딩 에이전트, 편집기에서 연결할 수 있습니다. llama.cpp가 이미 설치되어 있으면 이를 사용하고, 그렇지 않으면 Mac에 맞는 사전 빌드 바이너리를 설치합니다.

Llama-macOS은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

Llama-macOS은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

Llama-macOS은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. Llama-macOS의 마지막 커밋은 2026년 10월 18일입니다.

Llama-macOS은(는) 어디에 사용할 수 있나요?

프롬프트를 클라우드 서비스에 보내지 않고 비공개 채팅 또는 코딩 어시스턴트를 실행합니다. 로컬 코딩 에이전트나 편집기를 Mac에서 호스팅하는 모델에 연결합니다. 별도 설정 없이 Apple 하드웨어에서 Hugging Face의 GGUF 모델을 테스트합니다. Tailscale을 통해 다른 기기에서 Mac에서 실행 중인 모델에 접속합니다.

Llama-macOS는 어떻게 설치하나요?

Homebrew로 설치: brew install --cask llama-app 또는 Releases 페이지에서 앱 다운로드 Llama를 시작하면 http://localhost:9931/v1에서 로컬 서버가 실행됩니다

Llama-macOS은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ggml-org/Llama-macOS