Repolode
Enviar
ggml-org

ggml-org/Llama-macOS

App de macOS en la barra de menús para ejecutar LLM locales con llama.cpp, un servidor API local y una WebUI integrada.

Alternativa open source a:LM StudioOllama

Ver en GitHubSitio web
Estrellas
1,652
Forks
130
Issues abiertos
10
Último commit
anteayer

¿Qué es?

Llama es una app de macOS en la barra de menús que ejecuta modelos de lenguaje grandes íntegramente en tu Mac. Al abrirla, inicia un servidor local en localhost:9931 con un endpoint /v1 compatible con OpenAI, al que pueden conectarse otras apps, agentes de programación y editores. Si llama.cpp ya está instalado, la app lo usa; de lo contrario, instala un binario precompilado para tu Mac.

La app puede descargar cualquier modelo GGUF de Hugging Face y recomienda modelos compatibles con el hardware de tu Mac. Los modelos comparten la caché de Hugging Face con llama.cpp y otras herramientas, se cargan cuando se solicitan y se descargan al quedar inactivos para liberar memoria. Los ajustes de cada modelo se generan automáticamente y se pueden sobrescribir mediante un archivo INI de usuario.

De forma predeterminada, solo se puede acceder al servidor desde la máquina local. Los ajustes permiten exponerlo a través de Tailscale o en la red local, aunque en ese modo el servidor no tiene contraseña.

Funciones clave

  • 01Ejecuta los modelos íntegramente en el Mac, sin que los datos salgan del dispositivo.
  • 02Ofrece una API local compatible con OpenAI en localhost:9931/v1.
  • 03Incluye una WebUI integrada para conversar con los modelos.
  • 04Configura automáticamente los ajustes de los modelos y recomienda opciones para tu hardware.
  • 05Carga los modelos cuando se necesitan y los descarga cuando quedan inactivos.
  • 06Comparte la caché de modelos de Hugging Face con llama.cpp.

Casos de uso

  • Usar asistentes privados de chat o programación sin enviar prompts a un servicio en la nube.
  • Conectar agentes de programación o editores locales a un modelo alojado en un Mac.
  • Probar modelos GGUF de Hugging Face en hardware de Apple sin configurarlos manualmente.
  • Acceder desde otros dispositivos, mediante Tailscale, a un modelo que se ejecuta en un Mac.

Inicio rápido

  1. 1

    Instálala con Homebrew

    brew install --cask llama-app
  2. 2

    O descarga la aplicación desde la página Releases

  3. 3

    Inicia Llama; se ejecuta un servidor local en http://localhost:9931/v1

Antes de usarlo

  • Solo para macOS.
  • Si se habilita el acceso a la red, el servidor no tiene contraseña de forma predeterminada, por lo que solo debe exponerse en redes de confianza.

Temas

#llm#local-llm#llama-cpp#macos#gguf#openai-compatible-api#menu-bar-app#ai#llms#swift

Preguntas frecuentes

¿Qué es Llama-macOS?
App de macOS en la barra de menús para ejecutar LLM locales con llama.cpp, un servidor API local y una WebUI integrada. Llama es una app de macOS en la barra de menús que ejecuta modelos de lenguaje grandes íntegramente en tu Mac. Al abrirla, inicia un servidor local en localhost:9931 con un endpoint /v1 compatible con OpenAI, al que pueden conectarse otras apps, agentes de programación y editores. Si llama.cpp ya está instalado, la app lo usa; de lo contrario, instala un binario precompilado para tu Mac.
¿Llama-macOS es gratuito? ¿Qué licencia tiene?
Llama-macOS es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿Llama-macOS sigue mantenido?
Mantenimiento activo. El último commit de Llama-macOS fue el 18 oct 2026.
¿Para qué puedo usar Llama-macOS?
Usar asistentes privados de chat o programación sin enviar prompts a un servicio en la nube. Conectar agentes de programación o editores locales a un modelo alojado en un Mac. Probar modelos GGUF de Hugging Face en hardware de Apple sin configurarlos manualmente. Acceder desde otros dispositivos, mediante Tailscale, a un modelo que se ejecuta en un Mac.
¿Cómo se instala Llama-macOS?
Instálala con Homebrew: brew install --cask llama-app O descarga la aplicación desde la página Releases Inicia Llama; se ejecuta un servidor local en http://localhost:9931/v1
¿Dónde consigo Llama-macOS?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/ggml-org/Llama-macOS

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados