Веб-панель для мониторинга NVIDIA GPU в реальном времени с самостоятельным хостингом и режимом хаба для нескольких машин.
MiaAI-Lab/sparkDash
Самостоятельно размещаемая веб-панель для мониторинга в реальном времени NVIDIA DGX Spark и других GPU-машин: GPU, память, CPU, сеть и локальные LLM-серверы — в одном окне браузера.
- Звёзды
- 838
- Форки
- 201
- Открытые issues
- 16
- Последний коммит
- 21 час назад
Что это?
sparkDash — веб-панель для одновременного мониторинга нескольких машин NVIDIA DGX Spark (GB10). Она передаёт метрики GPU, CPU, унифицированной памяти, хранилища, сети и локальных LLM-серверов через WebSocket. Устройства можно добавлять, редактировать, менять местами и удалять через интерфейс без перезапуска сервера. Компьютеры с Linux и дискретной NVIDIA GPU можно добавлять как отдельные GPU-хосты через SSH; системная RAM и VRAM отображаются раздельно. Также поддерживаются ПК с Windows и встроенной графикой NVIDIA или AMD, а также компьютеры с macOS.
Для работы с LLM sparkDash автоматически обнаруживает распространённые серверы инференса, такие как llama.cpp, vLLM, SGLang, LM Studio и Ollama, и показывает скорость декодирования и prefill в токенах в секунду, если движок предоставляет эти данные. В проект также входят страницы бенчмарков для декодирования, prefill и качества, история токенов и энергопотребления, результаты проверки состояния в ленте активности и настраиваемый endpoint Prometheus `/metrics`. Дополнительные проверки охватывают задания ComfyUI, обновления Hermes Agent и подключение Tailscale.
Проект изначально рассчитан на Docker, запускается в одном контейнере и хранит пароли SSH в зашифрованном виде с помощью AES-256-GCM. Он распространяется как устанавливаемое PWA, поддерживает режим отображения на настенном экране `/kiosk` и написан на JavaScript с использованием React и Express.
Ключевые возможности
- 01Метрики GPU, CPU, памяти, хранилища и сети передаются в браузер в реальном времени через WebSocket.
- 02Добавление, редактирование, перемещение и удаление устройств через интерфейс без перезапуска.
- 03Автоматическое обнаружение распространённых LLM-серверов и отображение скорости декодирования и prefill в токенах в секунду, если сервер публикует эти данные.
- 04Страницы бенчмарков декодирования, prefill и качества с историей результатов.
- 05Результаты проверок состояния, например перегрев GPU и ошибки Xid или OOM, записываются в ленту активности.
- 06Экспорт метрик в Prometheus через `/metrics` для внешнего мониторинга — по желанию.
Сценарии использования
- Мониторинг небольшого кластера машин DGX Spark в одной вкладке браузера.
- Отслеживание температуры GPU и производительности LLM на домашней или лабораторной рабочей станции с NVIDIA GPU.
- Отображение состояния парка машин на настенном экране с помощью страницы kiosk.
- Передача метрик GPU и LLM в существующую систему Prometheus или Grafana.
Что важно знать
- В первую очередь предназначено для NVIDIA DGX Spark. Для других устройств требуется доступ по SSH, а для получения данных GPU — nvidia-smi или Windows OpenSSH.
- Некоторые функции, например метрики LLM и бенчмарк decode, требуют доступа к определённым серверам инференса.
В подборках
Темы
Частые вопросы
- Что такое sparkDash?
- Самостоятельно размещаемая веб-панель для мониторинга в реальном времени NVIDIA DGX Spark и других GPU-машин: GPU, память, CPU, сеть и локальные LLM-серверы — в одном окне браузера. sparkDash — веб-панель для одновременного мониторинга нескольких машин NVIDIA DGX Spark (GB10). Она передаёт метрики GPU, CPU, унифицированной памяти, хранилища, сети и локальных LLM-серверов через WebSocket. Устройства можно добавлять, редактировать, менять местами и удалять через интерфейс без перезапуска сервера. Компьютеры с Linux и дискретной NVIDIA GPU можно добавлять как отдельные GPU-хосты через SSH; системная RAM и VRAM отображаются раздельно. Также поддерживаются ПК с Windows и встроенной графикой NVIDIA или AMD, а также компьютеры с macOS.
- sparkDash можно использовать бесплатно? Какая у него лицензия?
- sparkDash распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- sparkDash всё ещё поддерживается?
- Активно поддерживается. Последний коммит в sparkDash — 6 нояб. 2026 г..
- Для чего можно использовать sparkDash?
- Мониторинг небольшого кластера машин DGX Spark в одной вкладке браузера. Отслеживание температуры GPU и производительности LLM на домашней или лабораторной рабочей станции с NVIDIA GPU. Отображение состояния парка машин на настенном экране с помощью страницы kiosk. Передача метрик GPU и LLM в существующую систему Prometheus или Grafana.
- Где скачать sparkDash?
- Исходный код и инструкции по установке — на GitHub: https://github.com/MiaAI-Lab/sparkDash
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Терминальный монитор для Windows и NVIDIA: показывает память GPU и активность движков по процессам, а также веса LLM и KV-кэш каждой GPU-задачи.
Самостоятельно размещаемая панель управления homelab с учетными записями для нескольких пользователей, проверкой доступности сервисов в реальном времени, темами и метриками Prometheus.
Универсальная платформа для управления операциями на Go и Vue 3 для небольших и средних команд: активы, Kubernetes, задачи, мониторинг, оповещения и CI/CD.
Платформа с открытым исходным кодом для запросов, визуализации, оповещений и изучения метрик, логов и трейсов из множества источников данных.
Лёгкая панель управления Kubernetes с открытым исходным кодом для работы с несколькими кластерами, мониторингом, контролем доступа RBAC и AI-ассистентом для устранения неполадок.