shanselman/gputaskman

これは何？

主な機能

• 01プロセスごとのローカルGPUメモリ、システムRAMの使用量、エンジンの稼働状況を表示します。
• 02マップされたファイル、起動引数、GGUFヘッダーから読み込み済みモデルを特定します。
• 03llama.cppの重みとKV-cacheのサイズを推定し、利用可能な場合はバッファーログを使用します。
• 04OllamaやLM Studioが起動中の場合、ローカルAPIからモデルの状態を取得します。
• 05ライブTUIに加え、単発実行でテキストやJSONを出力できます。

ユースケース

• WindowsマシンでローカルLLMやその他のAIワークロードがGPUメモリの大半を使用している原因を調べる。
• 低速なフォールバック推論につながる可能性のある、GPUからアクセス可能なシステムRAMの使用を見つける。
• llama-serverやOllamaのプロセスが保持しているローカルモデルとコンテキストサイズを確認する。
• スクリプトやバグ報告向けに、GPU使用状況のスナップショットをJSONで取得する。

クイックスタート

1. 1

   Git for Windows と uv をインストールします（例：WinGet を使用）

   winget install --id Git.Git --exact
2. 2

   uv をインストールします

   winget install --id astral-sh.uv --exact
3. 3

   リポジトリをクローンします

   git clone https://github.com/shanselman/gputaskman.git
4. 4

   uv を使ってプロジェクトフォルダーから TUI を起動します

   cd gputaskman uv run --locked gputaskman

使う前に知っておきたいこと

• !対象は Windows と NVIDIA のみです。CPU のみ、NPU のみ、クラウドでのワークロードは対象外です。
• !最新の Windows WDDM ドライバーを搭載した NVIDIA GPU が必要です。
• !初期段階の実験的なソフトウェアです。分類と GGUF ベースの内訳は推定値です。
• !複数 GPU の割り当てはまだ信頼性が十分ではありません。検証済みの構成は NVIDIA GPU 1 基のみです。

収録されている特集

トピック

よくある質問

gputaskman とは？

WindowsとNVIDIA GPU向けのターミナルUI。プロセスごとのGPUメモリやエンジンの稼働状況に加え、各GPUワークロード内のLLMの重みとKV-cacheを表示します。 gputaskmanは、Windows上のNVIDIA GPU向けのhtop風モニターです。タスク マネージャーではGPUメモリの使用量は分かりますが、何が使っているかまでは分かりません。このツールはWindowsのGPUカウンターとNVMLのデバイス情報を組み合わせ、プロセスごとの使用状況を表示します。ローカルGPUメモリ、GPUからアクセス可能なシステムRAM、エンジンの稼働状況に加え、CUDA、Vulkan、Direct3D、ggml、ONNX Runtimeなどの検出されたランタイムも確認できます。

gputaskman は無料で使えますか？ライセンスは？

gputaskman は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

gputaskman は今もメンテナンスされていますか？

活発にメンテナンス中。gputaskman の最終コミットは 2026年11月6日 です。

gputaskman は何に使えますか？

WindowsマシンでローカルLLMやその他のAIワークロードがGPUメモリの大半を使用している原因を調べる。 低速なフォールバック推論につながる可能性のある、GPUからアクセス可能なシステムRAMの使用を見つける。 llama-serverやOllamaのプロセスが保持しているローカルモデルとコンテキストサイズを確認する。 スクリプトやバグ報告向けに、GPU使用状況のスナップショットをJSONで取得する。

gputaskman のインストール方法は？

Git for Windows と uv をインストールします（例：WinGet を使用）: winget install --id Git.Git --exact uv をインストールします: winget install --id astral-sh.uv --exact リポジトリをクローンします: git clone https://github.com/shanselman/gputaskman.git uv を使ってプロジェクトフォルダーから TUI を起動します: cd gputaskman uv run --locked gputaskman

gputaskman はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/shanselman/gputaskman