mozilla-ai/llamafile

これは何？

主な機能

• 01モデルのウェイトとランタイムをインストール不要の単一実行ファイルにまとめます。
• 02さまざまなOSやCPUアーキテクチャ上で動作します。
• 03ローカルLLM推論向けにllama.cppをベースにしています。
• 04音声の文字起こしと翻訳に対応するwhisperfileを含みます。
• 05単一ファイルに収まらない大きさのモデル向けに、外部のGGUFウェイトをサポートします。

ユースケース

• セットアップ不要で、動作するローカルLLMを同僚やエンドユーザーと共有する。
• 小型のオープンモデルをノートPCやデスクトップでオフライン実行する。
• whisperfileを使って音声ファイルをローカルで文字起こしまたは翻訳する。

クイックスタート

1. 1

   サンプルの llamafile モデル（Qwen3.5 0.8B）をダウンロードする

   curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile
2. 2

   ファイルを実行可能にする（macOS/Linux/BSD）

   chmod +x Qwen3.5-0.8B-Q8_0.llamafile
3. 3

   llamafile を実行する

   ./Qwen3.5-0.8B-Q8_0.llamafile

使う前に知っておきたいこと

• !4GB を超えるファイルは Windows で実行できないため、大きな llamafile では外部の GGUF ウェイトが必要です。
• !バージョン 0.10 以降では新しいビルドシステムが使われており、従来版にあった一部の機能がない場合があります。

トピック

よくある質問

llamafile とは？

オープンなLLMを、インストール不要でさまざまなOSやCPUアーキテクチャ上で動作する単一の実行ファイルとして配布・実行します。 llamafileは、大規模言語モデルと推論ランタイムを自己完結型の単一実行ファイルにまとめます。llama.cppとCosmopolitan Libcを組み合わせることで、同じファイルをインストールせずに、さまざまなOSやCPUアーキテクチャ上でローカル実行できます。llamafileをダウンロードして実行権限を付与し、起動するだけです。

llamafile は無料で使えますか？ライセンスは？

llamafile は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

llamafile は今もメンテナンスされていますか？

活発にメンテナンス中。llamafile の最終コミットは 2026年10月12日 です。

llamafile は何に使えますか？

セットアップ不要で、動作するローカルLLMを同僚やエンドユーザーと共有する。 小型のオープンモデルをノートPCやデスクトップでオフライン実行する。 whisperfileを使って音声ファイルをローカルで文字起こしまたは翻訳する。

llamafile のインストール方法は？

サンプルの llamafile モデル（Qwen3.5 0.8B）をダウンロードする: curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile ファイルを実行可能にする（macOS/Linux/BSD）: chmod +x Qwen3.5-0.8B-Q8_0.llamafile llamafile を実行する: ./Qwen3.5-0.8B-Q8_0.llamafile

llamafile はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/mozilla-ai/llamafile