Aplicación de escritorio gratuita y de código abierto para ejecutar LLM localmente, con una interfaz de chat y una API compatible con OpenAI y Anthropic.
47,7 mil6 milPythonAGPL-3.0Actualizado hace 2 meses
mozilla-ai/llamafile
Distribuye y ejecuta LLM abiertos en un único archivo ejecutable, compatible con la mayoría de los sistemas operativos y arquitecturas de CPU, sin necesidad de instalación.
Alternativa open source a:Ollama
- Estrellas
- 26,447
- Forks
- 1,847
- Issues abiertos
- 216
- Último commit
- hace 9 días
¿Qué es?
llamafile empaqueta un modelo de lenguaje grande y su entorno de inferencia en un único ejecutable autónomo. Combina llama.cpp con Cosmopolitan Libc, por lo que el mismo archivo puede ejecutarse localmente en la mayoría de los sistemas operativos y arquitecturas de CPU sin necesidad de instalar nada. Solo hay que descargar un llamafile, marcarlo como ejecutable y ejecutarlo.
El proyecto también incluye whisperfile, una herramienta de conversión de voz a texto en un solo archivo, basada en whisper.cpp, que permite transcribir y traducir archivos de audio en esas mismas plataformas. A partir de la versión 0.10.0, llamafile usa un nuevo sistema de compilación que sigue las versiones recientes de llama.cpp. Esto permite usar modelos y funciones más nuevos, pero algunas opciones de versiones anteriores podrían no estar disponibles; esas versiones siguen disponibles en la página de releases.
En Windows, los ejecutables de más de 4 GB no se pueden ejecutar, por lo que los modelos más grandes deben cargarse como pesos GGUF externos junto al binario de llamafile.
Funciones clave
- 01Empaqueta los pesos del modelo y el entorno de ejecución en un solo ejecutable, sin necesidad de instalación.
- 02Se ejecuta en la mayoría de los sistemas operativos y arquitecturas de CPU.
- 03Se basa en llama.cpp para ejecutar LLM localmente.
- 04Incluye whisperfile para transcribir y traducir audio.
- 05Admite pesos GGUF externos para modelos demasiado grandes para caber en un solo archivo.
Casos de uso
- Compartir un LLM local funcional con colegas o usuarios finales, sin pasos de configuración.
- Ejecutar sin conexión un modelo abierto pequeño en una laptop o computadora de escritorio.
- Transcribir o traducir archivos de audio localmente con whisperfile.
Inicio rápido
- 1
Descarga un modelo de ejemplo de llamafile (Qwen3.5 0.8B)
curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile - 2
Haz que el archivo sea ejecutable (macOS/Linux/BSD)
chmod +x Qwen3.5-0.8B-Q8_0.llamafile - 3
Ejecuta llamafile
./Qwen3.5-0.8B-Q8_0.llamafile
Antes de usarlo
- Los archivos de más de 4 GB no se pueden ejecutar en Windows, por lo que los llamafiles más grandes necesitan pesos GGUF externos.
- Las versiones 0.10 y posteriores usan un nuevo sistema de compilación y pueden carecer de algunas funciones de las versiones clásicas.
Temas
Preguntas frecuentes
- ¿Qué es llamafile?
- Distribuye y ejecuta LLM abiertos en un único archivo ejecutable, compatible con la mayoría de los sistemas operativos y arquitecturas de CPU, sin necesidad de instalación. llamafile empaqueta un modelo de lenguaje grande y su entorno de inferencia en un único ejecutable autónomo. Combina llama.cpp con Cosmopolitan Libc, por lo que el mismo archivo puede ejecutarse localmente en la mayoría de los sistemas operativos y arquitecturas de CPU sin necesidad de instalar nada. Solo hay que descargar un llamafile, marcarlo como ejecutable y ejecutarlo.
- ¿llamafile es gratuito? ¿Qué licencia tiene?
- llamafile es open source bajo la licencia Other. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿llamafile sigue mantenido?
- Mantenimiento activo. El último commit de llamafile fue el 12 oct 2026.
- ¿Para qué puedo usar llamafile?
- Compartir un LLM local funcional con colegas o usuarios finales, sin pasos de configuración. Ejecutar sin conexión un modelo abierto pequeño en una laptop o computadora de escritorio. Transcribir o traducir archivos de audio localmente con whisperfile.
- ¿Cómo se instala llamafile?
- Descarga un modelo de ejemplo de llamafile (Qwen3.5 0.8B): curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile Haz que el archivo sea ejecutable (macOS/Linux/BSD): chmod +x Qwen3.5-0.8B-Q8_0.llamafile Ejecuta llamafile: ./Qwen3.5-0.8B-Q8_0.llamafile
- ¿Dónde consigo llamafile?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/mozilla-ai/llamafile
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
App de macOS en la barra de menús para ejecutar LLM locales con llama.cpp, un servidor API local y una WebUI integrada.
1,7 mil130SwiftMITActualizado anteayer
Configuración para servir Mirai S 27B (un Qwen3.8-27B GGUF) en una RTX 4070 de 12 GB, con una ventana completa de 262k tokens y caché K/V q8_0.
10110PythonOtherActualizado hace 14 horas
Motor de inferencia de LLM en C/C++ puro para ejecutar modelos de lenguaje y de visión y lenguaje localmente o en la nube, en numerosos tipos de hardware.
131,8 mil24,6 milC++MITActualizado hace 8 horas
Aplicación de escritorio de código abierto e interfaz web para ejecutar, ajustar y exportar LLMs y modelos de difusión localmente, además de una biblioteca de entrenamiento basada en código.
78,3 mil7,2 milPythonApache-2.0Actualizado hace 8 horas
CLI y TUI en Rust que detecta tu CPU, RAM y GPU y clasifica los LLM de código abierto según qué tan bien funcionarán en tu equipo.
38,1 mil2,5 milRustMITActualizado ayer