cache-dit は無料で使えますか？ライセンスは？

cache-dit は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

cache-dit は今もメンテナンスされていますか？

活発にメンテナンス中。cache-dit の最終コミットは 2026年10月21日です。

cache-dit は何に使えますか？

サービング環境でFLUXやQwen-Imageによるテキストから画像への生成を高速化する。限られたGPUメモリで、WanやHunyuanVideoなどの大規模な動画DiTモデルを実行する。既存のDiffusersパイプラインにマルチGPU並列化を追加する。 ComfyUIやSGLangベースのサービスに、高速なDiT推論を組み込む。

cache-dit はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/vipshop/cache-dit

vipshop/cache-dit

Q: cache-dit は今もメンテナンスされていますか？

活発にメンテナンス中。cache-dit の最終コミットは 2026年10月21日 です。

Diffusersを基盤に、キャッシュ、並列化、量子化、CPUオフロードを追加するDiffusion Transformer（DiT）向けPyTorch推論エンジン。

GitHub で見る公式サイト

スター: 1,290
フォーク: 92
未解決の Issue: 88
最終コミット: 7 時間前

これは何？

Cache-DiTは、Hugging Face Diffusersライブラリを基盤とする、PyTorchネイティブのDiffusion Transformer（DiT）向け推論エンジンです。画像、動画、音声の拡散パイプラインで時間のかかるノイズ除去処理を対象に、ハイブリッドキャッシュ（DBCache、TaylorSeer、SCMなど）で中間計算を再利用し、Context Parallelism、Tensor Parallelism、ハイブリッド2D／3D並列化で複数GPUに処理を分散します。

FLUX、Qwen-Image、Wan、HunyuanVideo、LTX各ファミリーを含む幅広いDiffusersパイプラインに対応しています。また、torch.compile、W8A8やW4A4などの量子化、レイヤー単位のCPUオフロードも利用できます。NVIDIA GPU、Ascend NPU、AMD GPUで動作し、SGLang Diffusion、vLLM-Omni、ComfyUIなどのプロジェクトとも連携します。

DiTベースの生成モデルを提供したり、実験したりする開発者は、既存のDiffusersパイプラインを数行のラッパーコードで囲むだけで、レイテンシを下げたり、限られたハードウェアにより大規模なモデルを収めたりできます。

主な機能

01DBCache、TaylorSeer、SCM方式によるハイブリッドキャッシュで推論を高速化。
02複数GPUにまたがるContext、Tensor、ハイブリッド2D／3D並列化。
03W8A8やW4A4などの量子化に対応。
04オーバーヘッドを抑えたレイヤー単位のCPUオフロード。
05torch.compileと連携し、DiffusersのほぼすべてのDiTパイプラインに対応。

ユースケース

サービング環境でFLUXやQwen-Imageによるテキストから画像への生成を高速化する。
限られたGPUメモリで、WanやHunyuanVideoなどの大規模な動画DiTモデルを実行する。
既存のDiffusersパイプラインにマルチGPU並列化を追加する。
ComfyUIやSGLangベースのサービスに、高速なDiT推論を組み込む。

トピック

#pytorch #diffusion-models #dit #inference #model-optimization #quantization #parallelism #diffusers #flux2-klein #flux3

よくある質問

cache-dit とは？: Diffusersを基盤に、キャッシュ、並列化、量子化、CPUオフロードを追加するDiffusion Transformer（DiT）向けPyTorch推論エンジン。 Cache-DiTは、Hugging Face Diffusersライブラリを基盤とする、PyTorchネイティブのDiffusion Transformer（DiT）向け推論エンジンです。画像、動画、音声の拡散パイプラインで時間のかかるノイズ除去処理を対象に、ハイブリッドキャッシュ（DBCache、TaylorSeer、SCMなど）で中間計算を再利用し、Context Parallelism、Tensor Parallelism、ハイブリッド2D／3D並列化で複数GPUに処理を分散します。
cache-dit は無料で使えますか？ライセンスは？: cache-dit は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
cache-dit は今もメンテナンスされていますか？: 活発にメンテナンス中。cache-dit の最終コミットは 2026年10月21日です。
cache-dit は何に使えますか？: サービング環境でFLUXやQwen-Imageによるテキストから画像への生成を高速化する。限られたGPUメモリで、WanやHunyuanVideoなどの大規模な動画DiTモデルを実行する。既存のDiffusersパイプラインにマルチGPU並列化を追加する。 ComfyUIやSGLangベースのサービスに、高速なDiT推論を組み込む。
cache-dit はどこで入手できますか？: ソースコードとインストール手順は GitHub にあります：https://github.com/vipshop/cache-dit

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。