ddalcu/mlx-serve

これは何？

主な機能

• 01ストリーミングとツール呼び出しに対応し、OpenAI、Anthropic、Ollama APIを単一のローカルポートで提供します。
• 02MLXを介して、チャット、画像、動画、音楽、音声、3DモデルをApple Silicon上でネイティブに実行します。
• 03Webコンソールを内蔵し、メモリ容量に応じてモデルを自動提案するmacOSアプリを提供します。
• 04モデルのダウンロード、実行、サーバーでの提供に対応したCLIを備え、中断したダウンロードも再開できます。
• 05Gemma、Qwen、GLM、DeepSeekの各モデルファミリーに加え、対応アーキテクチャのMLXまたはGGUFモデルを利用できます。
• 06Claude Codeなどのコーディングエージェントをローカルモデルに接続するための連携機能を提供します。

ユースケース

• データをクラウドAPIに送信せず、Mac上でプライベートかつオフラインのチャットアシスタントを動かす。
• 開発中に既存のOpenAIまたはAnthropic SDKのコードをローカルモデルに接続する。
• Claude Codeなどのコーディングエージェントを、ローカルでホストしたモデルに接続して使う。
• クラウドサービスを使わずに、MacやiPhoneで画像、音声、音楽を生成する。

クイックスタート

1. 1

   Homebrewリポジトリをタップする

   brew tap ddalcu/mlx-serve https://github.com/ddalcu/mlx-serve
2. 2

   tapを信頼する

   brew trust ddalcu/mlx-serve
3. 3

   コマンドラインサーバーをインストールする

   brew install mlx-serve
4. 4

   Gemma 4をダウンロードして、ターミナルでチャットする

   mlx-serve run gemma4

使う前に知っておきたいこと

• !Apple Silicon搭載のMacでのみ動作します。Macアプリの利用にはmacOS 26.2以降が必要です。
• !128 GBや256 GBのモデルなど、大容量モデルは多くのメモリを必要とし、SSDから重みをストリーミングします。

収録されている特集

トピック

よくある質問

mlx-serve とは？

Apple Silicon搭載Mac向けのネイティブなローカルLLM・メディアサーバー。Python不要で、OpenAI、Anthropic、Ollama互換APIを利用できます。 MLX-Serveは、ネイティブmacOSアプリとローカルサーバーを通じて、Mac上でオープンモデルを実行します。サーバーはOpenAIのChat、Completions、Responsesエンドポイント、Anthropic Messages、Ollama APIをlocalhost:11234の単一ポートで公開するため、既存のクライアントやClaude Codeなどのコーディングエージェントを変更なしで接続できます。コア部分はZigで書かれ、AppleのMLXフレームワーク上で動作します。実行時もビルド時もPythonは不要です。

mlx-serve は無料で使えますか？ライセンスは？

mlx-serve は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

mlx-serve は今もメンテナンスされていますか？

活発にメンテナンス中。mlx-serve の最終コミットは 2026年11月6日 です。

mlx-serve は何に使えますか？

データをクラウドAPIに送信せず、Mac上でプライベートかつオフラインのチャットアシスタントを動かす。 開発中に既存のOpenAIまたはAnthropic SDKのコードをローカルモデルに接続する。 Claude Codeなどのコーディングエージェントを、ローカルでホストしたモデルに接続して使う。 クラウドサービスを使わずに、MacやiPhoneで画像、音声、音楽を生成する。

mlx-serve のインストール方法は？

Homebrewリポジトリをタップする: brew tap ddalcu/mlx-serve https://github.com/ddalcu/mlx-serve tapを信頼する: brew trust ddalcu/mlx-serve コマンドラインサーバーをインストールする: brew install mlx-serve Gemma 4をダウンロードして、ターミナルでチャットする: mlx-serve run gemma4

mlx-serve はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/ddalcu/mlx-serve