ggml-org/Llama-macOS

これは何？

主な機能

• 01データをデバイス外に送信せず、モデルをMac上で完全に実行します。
• 02localhost:9931/v1でローカルのOpenAI互換APIを提供します。
• 03モデルとチャットできるWebUIを内蔵しています。
• 04モデル設定を自動構成し、ハードウェアに合ったモデルを提案します。
• 05モデルを必要に応じて読み込み、アイドル状態になるとアンロードします。
• 06Hugging Faceのモデルキャッシュをllama.cppと共有します。

ユースケース

• プロンプトをクラウドサービスに送信せず、プライベートなチャットアシスタントやコーディングアシスタントを実行する。
• Mac上でホストしたモデルに、ローカルのコーディングエージェントやエディターを接続する。
• 手動でセットアップせずに、Apple製ハードウェアでHugging FaceのGGUFモデルを試す。
• Tailscale経由で、Mac上で実行中のモデルに他のデバイスからアクセスする。

クイックスタート

1. 1

   Homebrew でインストール

   brew install --cask llama-app
2. 2

   または Releases ページからアプリをダウンロード

3. 3

   Llama を起動すると、http://localhost:9931/v1 でローカルサーバーが起動します

使う前に知っておきたいこと

• !macOS のみ対応しています。
• !ネットワークアクセスを有効にした場合、サーバーにはデフォルトでパスワードが設定されていないため、信頼できるネットワークでのみ公開してください。

トピック

よくある質問

Llama-macOS とは？

llama.cppベースの、ローカルLLMを実行するmacOSメニューバーアプリ。ローカルAPIサーバーとWebUIを搭載。 Llamaは、Mac上で大規模言語モデルを完全にローカル実行するmacOSメニューバーアプリです。起動するとlocalhost:9931でローカルサーバーを立ち上げ、OpenAI互換の/v1エンドポイントを提供するため、他のアプリやコーディングエージェント、エディターから接続できます。llama.cppがすでにインストールされていればそれを使用し、なければMac向けのビルド済みバイナリをインストールします。

Llama-macOS は無料で使えますか？ライセンスは？

Llama-macOS は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

Llama-macOS は今もメンテナンスされていますか？

活発にメンテナンス中。Llama-macOS の最終コミットは 2026年10月18日 です。

Llama-macOS は何に使えますか？

プロンプトをクラウドサービスに送信せず、プライベートなチャットアシスタントやコーディングアシスタントを実行する。 Mac上でホストしたモデルに、ローカルのコーディングエージェントやエディターを接続する。 手動でセットアップせずに、Apple製ハードウェアでHugging FaceのGGUFモデルを試す。 Tailscale経由で、Mac上で実行中のモデルに他のデバイスからアクセスする。

Llama-macOS のインストール方法は？

Homebrew でインストール: brew install --cask llama-app または Releases ページからアプリをダウンロード Llama を起動すると、http://localhost:9931/v1 でローカルサーバーが起動します

Llama-macOS はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/ggml-org/Llama-macOS