MiaAI-Lab/sparkDash

これは何？

主な機能

• 01GPU、CPU、メモリ、ストレージ、ネットワークのメトリクスをWebSocket経由でブラウザーにリアルタイム配信。
• 02再起動せずにUIから監視対象を追加、編集、並べ替え、削除。
• 03一般的なLLMサーバーを自動検出し、公開されている場合はdecodeとprefillのtok/sを表示。
• 04decode、prefill、品質を測定するベンチマークページと履歴。
• 05GPUの過熱、XidやOOMエラーなどのヘルスチェック結果をアクティビティフィードに記録。
• 06外部監視向けに、オプトイン方式でPrometheus `/metrics` にエクスポート。

ユースケース

• 1つのブラウザータブから、小規模なDGX Sparkマシンクラスターを監視する。
• NVIDIA GPU搭載の自宅やラボのワークステーションで、GPU温度とLLMのスループットを追跡する。
• キオスクページを使って、壁面ディスプレイにマシン群の稼働状況を表示する。
• GPUとLLMのメトリクスを、既存のPrometheusまたはGrafana環境に取り込む。

使う前に知っておきたいこと

• !主にNVIDIA DGX Spark向けです。他の機器ではSSHアクセスが必要で、GPUデータを取得するにはnvidia-smiまたはWindows OpenSSHが必要です。
• !LLMメトリクスやdecodeベンチマークなど、一部の機能は特定の推論サーバーに接続できることが前提です。

収録されている特集

トピック

よくある質問

sparkDash とは？

NVIDIA DGX SparkなどのGPUマシンを1つ以上、GPU・メモリ・CPU・ネットワーク・ローカルLLMサーバーの情報とともに1つのブラウザー画面で監視できる、セルフホスト型のリアルタイムWebダッシュボード。 sparkDashは、複数のNVIDIA DGX Spark（GB10）マシンを同時に監視できるWebダッシュボードです。GPU、CPU、ユニファイドメモリ、ストレージ、ネットワーク、ローカルLLMのメトリクスをWebSocket経由でストリーミングし、サーバーを再起動せずにUIから監視対象の追加、編集、並べ替え、削除ができます。ディスクリートNVIDIA GPUを搭載したLinuxマシンは、専用GPUホストとしてSSH経由で追加でき、システムRAMとVRAMを個別に表示します。NVIDIAまたはAMDのiGPUを搭載したWindows PCとmacOSマシンも監視対象としてサポートされています。

sparkDash は無料で使えますか？ライセンスは？

sparkDash は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

sparkDash は今もメンテナンスされていますか？

活発にメンテナンス中。sparkDash の最終コミットは 2026年11月4日 です。

sparkDash は何に使えますか？

1つのブラウザータブから、小規模なDGX Sparkマシンクラスターを監視する。 NVIDIA GPU搭載の自宅やラボのワークステーションで、GPU温度とLLMのスループットを追跡する。 キオスクページを使って、壁面ディスプレイにマシン群の稼働状況を表示する。 GPUとLLMのメトリクスを、既存のPrometheusまたはGrafana環境に取り込む。

sparkDash はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/MiaAI-Lab/sparkDash