antirez/ds4

これは何？

主な機能

• 01Metal、CUDA、ROCmバックエンドに対応したネイティブC推論エンジン。
• 02SSDストリーミングにより、RAM容量を超えるモデルを小型のマシンでも実行できます。
• 03Ada LovelaceやL40Sカードを含む、CUDAのマルチGPU構成に対応。
• 04ネイティブのコーディングエージェントと、複数セッション対応のOpenAI形式HTTPサーバーを内蔵。
• 05投機的デコード（MTP）と、セッションのKVキャッシュの保存・復元に対応。

ユースケース

• メモリ容量の大きいMacで、DeepSeekやGLM系モデルをローカル実行する。
• マルチGPU搭載CUDAサーバーで、複数ユーザー向けのローカルLLMエンドポイントを提供する。
• Pi、OpenCode、Claude Codeなどのクライアントからローカルのコーディングエージェントを利用する。
• 一部の大規模モデルを対象に、推論処理の内部を試す。

クイックスタート

1. 1

   リポジトリをクローンする

   git clone https://github.com/antirez/ds4.git
2. 2

   プロジェクトディレクトリに移動する

   cd ds4
3. 3

   お使いのプラットフォーム向けにビルドする（Apple SiliconではMetal）

   make
4. 4

   DeepSeek V4 Flash Q2モデルをダウンロードする（96 GBまたは128 GBのマシン向け）

   ./download_model.sh ds4f-q2

使う前に知っておきたいこと

• !ベータ品質で頻繁に変更されるため、不安定な動作やリグレッションが発生する可能性があります。
• !DeepSeekとGLMのMetalサポートには96 GB以上が必要です。容量の少ないMacではSSDストリーミングが必要です。
• !意図的に対象を限定しており、サポート対象の特定モデルとプロジェクトが生成したGGUFファイルのみを実行します。一般的なGGUFファイルには対応していません。
• !このソフトウェアの開発には、AIコーディングエージェントが大きく貢献しました。

トピック

よくある質問

ds4 とは？

コンシューマー向けのMetal、CUDA、ROCm対応ハードウェアでDeepSeek V4 Flashなど一部の大規模モデルを動かす、軽量なネイティブ推論エンジン。 DwarfStarは、個人でも所有できるハードウェアで、いくつかの大規模なオープンウェイトモデルを動かすために開発された、小型で自己完結型のC製推論エンジンです。DeepSeek V4 Flash（実験的なビジョンモデルを含む）、DeepSeek V4.1 Flash、DeepSeek V4 PRO、GLM 5.xの各種モデル、Qwen3.8 Flash Nextを対象としています。汎用のGGUFランナーではなく、プロジェクト自体が生成したGGUFファイルを使用します。

ds4 は無料で使えますか？ライセンスは？

ds4 は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

ds4 は今もメンテナンスされていますか？

活発にメンテナンス中。ds4 の最終コミットは 2026年10月19日 です。

ds4 は何に使えますか？

メモリ容量の大きいMacで、DeepSeekやGLM系モデルをローカル実行する。 マルチGPU搭載CUDAサーバーで、複数ユーザー向けのローカルLLMエンドポイントを提供する。 Pi、OpenCode、Claude Codeなどのクライアントからローカルのコーディングエージェントを利用する。 一部の大規模モデルを対象に、推論処理の内部を試す。

ds4 のインストール方法は？

リポジトリをクローンする: git clone https://github.com/antirez/ds4.git プロジェクトディレクトリに移動する: cd ds4 お使いのプラットフォーム向けにビルドする（Apple SiliconではMetal）: make DeepSeek V4 Flash Q2モデルをダウンロードする（96 GBまたは128 GBのマシン向け）: ./download_model.sh ds4f-q2

ds4 はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/antirez/ds4