Repolode
Enviar
mozilla-ai

mozilla-ai/llamafile

Distribui e executa LLMs abertos em um único arquivo executável, compatível com a maioria dos sistemas operacionais e arquiteturas de CPU, sem instalação.

Alternativa open source a:Ollama

Ver no GitHubSite
Estrelas
26,447
Forks
1,847
Issues abertas
216
Último commit
há 9 dias

O que é?

llamafile empacota um modelo de linguagem grande e seu runtime de inferência em um único executável independente. Ele combina llama.cpp com Cosmopolitan Libc, permitindo que o mesmo arquivo seja executado localmente na maioria dos sistemas operacionais e arquiteturas de CPU, sem necessidade de instalação. Basta baixar um llamafile, torná-lo executável e executá-lo.

O projeto também inclui o whisperfile, uma ferramenta de transcrição de áudio em um único arquivo, baseada em whisper.cpp, que transcreve e traduz arquivos de áudio nessas mesmas plataformas. A partir da versão 0.10.0, o llamafile usa um novo sistema de build que acompanha os lançamentos recentes do llama.cpp. Assim, oferece suporte a modelos e recursos mais novos, mas pode não incluir algumas opções das versões anteriores, que continuam disponíveis na página de releases.

No Windows, executáveis com mais de 4 GB não podem ser executados. Por isso, modelos maiores precisam ser carregados como pesos GGUF externos junto ao binário do llamafile.

Recursos principais

  • 01Empacota os pesos do modelo e o runtime em um único executável, sem instalação.
  • 02É executado na maioria dos sistemas operacionais e arquiteturas de CPU.
  • 03É baseado em llama.cpp para inferência local de LLMs.
  • 04Inclui o whisperfile para transcrever e traduzir áudio.
  • 05Oferece suporte a pesos GGUF externos para modelos grandes demais para caber em um único arquivo.

Casos de uso

  • Compartilhar um LLM local funcional com colegas ou usuários finais, sem etapas de configuração.
  • Executar offline um modelo aberto pequeno em um laptop ou desktop.
  • Transcrever ou traduzir arquivos de áudio localmente com o whisperfile.

Início rápido

  1. 1

    Baixe um modelo llamafile de exemplo (Qwen3.5 0.8B)

    curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile
  2. 2

    Torne o arquivo executável (macOS/Linux/BSD)

    chmod +x Qwen3.5-0.8B-Q8_0.llamafile
  3. 3

    Execute o llamafile

    ./Qwen3.5-0.8B-Q8_0.llamafile

Antes de usar

  • Arquivos com mais de 4 GB não podem ser executados no Windows, então llamafiles maiores precisam de pesos GGUF externos.
  • As versões 0.10 e posteriores usam um novo sistema de build e podem não incluir alguns recursos das versões clássicas.

Tópicos

#llm#local-inference#gguf#llama-cpp#single-binary#speech-to-text#cross-platform#local-ai#local-llm#open-source-ai

Perguntas frequentes

O que é llamafile?
Distribui e executa LLMs abertos em um único arquivo executável, compatível com a maioria dos sistemas operacionais e arquiteturas de CPU, sem instalação. llamafile empacota um modelo de linguagem grande e seu runtime de inferência em um único executável independente. Ele combina llama.cpp com Cosmopolitan Libc, permitindo que o mesmo arquivo seja executado localmente na maioria dos sistemas operacionais e arquiteturas de CPU, sem necessidade de instalação. Basta baixar um llamafile, torná-lo executável e executá-lo.
llamafile é gratuito? Qual é a licença?
llamafile é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
llamafile ainda é mantido?
Manutenção ativa. O último commit de llamafile foi em 12 de out. de 2026.
Para que posso usar llamafile?
Compartilhar um LLM local funcional com colegas ou usuários finais, sem etapas de configuração. Executar offline um modelo aberto pequeno em um laptop ou desktop. Transcrever ou traduzir arquivos de áudio localmente com o whisperfile.
Como instalar llamafile?
Baixe um modelo llamafile de exemplo (Qwen3.5 0.8B): curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile Torne o arquivo executável (macOS/Linux/BSD): chmod +x Qwen3.5-0.8B-Q8_0.llamafile Execute o llamafile: ./Qwen3.5-0.8B-Q8_0.llamafile
Onde consigo llamafile?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/mozilla-ai/llamafile

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados