Repolode
Enviar
ggml-org

ggml-org/Llama-macOS

App de barra de menus para macOS que executa LLMs localmente com llama.cpp e oferece um servidor de API local e uma WebUI integrada.

Alternativa open source a:LM StudioOllama

Ver no GitHubSite
Estrelas
1,652
Forks
130
Issues abertas
10
Último commit
anteontem

O que é?

Llama é um app de barra de menus para macOS que executa modelos de linguagem grandes inteiramente no seu Mac. Ao ser iniciado, ele sobe um servidor local em localhost:9931 com um endpoint /v1 compatível com OpenAI, para que outros apps, agentes de programação e editores possam se conectar. Se o llama.cpp já estiver instalado, o app o utiliza; caso contrário, instala um binário pré-compilado para o seu Mac.

O app pode baixar qualquer modelo GGUF do Hugging Face e recomenda modelos compatíveis com o hardware do seu Mac. Os modelos compartilham o cache do Hugging Face com o llama.cpp e outras ferramentas, são carregados quando solicitados e descarregados quando ficam ociosos para liberar memória. As configurações de cada modelo são geradas automaticamente e podem ser substituídas por meio de um arquivo INI do usuário.

Por padrão, o servidor só pode ser acessado pela máquina local. As configurações permitem expô-lo via Tailscale ou pela rede local, mas, nesse modo, o servidor não tem senha.

Recursos principais

  • 01Executa modelos inteiramente no Mac, sem que os dados saiam do dispositivo.
  • 02Oferece uma API local compatível com OpenAI em localhost:9931/v1.
  • 03Inclui uma WebUI integrada para conversar com modelos.
  • 04Configura automaticamente as opções dos modelos e recomenda modelos compatíveis com o seu hardware.
  • 05Carrega modelos sob demanda e os descarrega quando ficam ociosos.
  • 06Compartilha o cache de modelos do Hugging Face com o llama.cpp.

Casos de uso

  • Executar assistentes privados de conversa ou programação sem enviar prompts para um serviço na nuvem.
  • Conectar agentes de programação ou editores locais a um modelo hospedado no próprio Mac.
  • Testar modelos GGUF do Hugging Face em hardware Apple sem configuração manual.
  • Acessar de outros dispositivos, via Tailscale, um modelo em execução no Mac.

Início rápido

  1. 1

    Instale via Homebrew

    brew install --cask llama-app
  2. 2

    Ou baixe o aplicativo na página Releases

  3. 3

    Inicie o Llama; ele executa um servidor local em http://localhost:9931/v1

Antes de usar

  • Disponível apenas para macOS.
  • Quando o acesso à rede está ativado, o servidor não tem senha por padrão; portanto, só deve ser exposto em redes confiáveis.

Tópicos

#llm#local-llm#llama-cpp#macos#gguf#openai-compatible-api#menu-bar-app#ai#llms#swift

Perguntas frequentes

O que é Llama-macOS?
App de barra de menus para macOS que executa LLMs localmente com llama.cpp e oferece um servidor de API local e uma WebUI integrada. Llama é um app de barra de menus para macOS que executa modelos de linguagem grandes inteiramente no seu Mac. Ao ser iniciado, ele sobe um servidor local em localhost:9931 com um endpoint /v1 compatível com OpenAI, para que outros apps, agentes de programação e editores possam se conectar. Se o llama.cpp já estiver instalado, o app o utiliza; caso contrário, instala um binário pré-compilado para o seu Mac.
Llama-macOS é gratuito? Qual é a licença?
Llama-macOS é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
Llama-macOS ainda é mantido?
Manutenção ativa. O último commit de Llama-macOS foi em 18 de out. de 2026.
Para que posso usar Llama-macOS?
Executar assistentes privados de conversa ou programação sem enviar prompts para um serviço na nuvem. Conectar agentes de programação ou editores locais a um modelo hospedado no próprio Mac. Testar modelos GGUF do Hugging Face em hardware Apple sem configuração manual. Acessar de outros dispositivos, via Tailscale, um modelo em execução no Mac.
Como instalar Llama-macOS?
Instale via Homebrew: brew install --cask llama-app Ou baixe o aplicativo na página Releases Inicie o Llama; ele executa um servidor local em http://localhost:9931/v1
Onde consigo Llama-macOS?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/ggml-org/Llama-macOS

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados