MiaAI-Lab/sparkDash

어떤 프로젝트인가요?

핵심 기능

• 01GPU, CPU, 메모리, 스토리지, 네트워크 지표를 WebSocket으로 브라우저에 실시간 스트리밍합니다.
• 02재시작하지 않고 UI에서 모니터링 대상을 추가하거나 수정하고, 순서를 변경하거나 제거할 수 있습니다.
• 03일반적인 LLM 서버를 자동으로 감지하고, 서버가 제공하는 경우 decode 및 prefill 처리량을 초당 토큰 수로 표시합니다.
• 04decode, prefill, 품질 벤치마크 페이지와 기록을 제공합니다.
• 05GPU 과열, Xid 또는 OOM 오류 등의 상태 진단을 활동 피드에 기록합니다.
• 06외부 모니터링을 위해 Prometheus `/metrics` 내보내기를 선택적으로 활성화할 수 있습니다.

활용 사례

• 브라우저 탭 하나에서 소규모 DGX Spark 머신 클러스터를 모니터링합니다.
• NVIDIA GPU가 장착된 가정용 또는 연구실 워크스테이션에서 GPU 온도와 LLM 처리량을 추적합니다.
• 키오스크 페이지를 사용해 벽면 디스플레이에 장비 현황을 표시합니다.
• GPU 및 LLM 지표를 기존 Prometheus 또는 Grafana 환경으로 전달합니다.

사용 전 알아둘 점

• !주로 NVIDIA DGX Spark용으로 제작되었습니다. 다른 장비에서는 SSH 액세스가 필요하며, GPU 데이터를 확인하려면 nvidia-smi 또는 Windows OpenSSH가 필요합니다.
• !LLM 메트릭과 decode 벤치마크 등 일부 기능은 특정 추론 서버에 연결할 수 있어야 합니다.

포함된 컬렉션

토픽

자주 묻는 질문

sparkDash은(는) 무엇인가요?

NVIDIA DGX Spark와 기타 GPU 머신 한 대 이상에서 GPU, 메모리, CPU, 네트워크, 로컬 LLM 서버를 모니터링하는 셀프 호스팅 실시간 웹 대시보드입니다. sparkDash는 여러 NVIDIA DGX Spark(GB10) 머신을 한 번에 모니터링하는 웹 대시보드입니다. GPU, CPU, 통합 메모리, 스토리지, 네트워크, 로컬 LLM 지표를 WebSocket으로 스트리밍하며, 서버를 재시작하지 않고도 UI에서 모니터링 대상을 추가하거나 수정하고, 순서를 변경하거나 제거할 수 있습니다. 개별 NVIDIA GPU가 장착된 Linux 머신은 SSH를 통해 전용 GPU 호스트로 추가할 수 있으며, 시스템 RAM과 VRAM을 별도로 표시합니다. NVIDIA 또는 AMD 내장 GPU가 있는 Windows PC와 macOS 머신도 모니터링 대상으로 지원합니다.

sparkDash은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

sparkDash은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

sparkDash은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. sparkDash의 마지막 커밋은 2026년 11월 4일입니다.

sparkDash은(는) 어디에 사용할 수 있나요?

브라우저 탭 하나에서 소규모 DGX Spark 머신 클러스터를 모니터링합니다. NVIDIA GPU가 장착된 가정용 또는 연구실 워크스테이션에서 GPU 온도와 LLM 처리량을 추적합니다. 키오스크 페이지를 사용해 벽면 디스플레이에 장비 현황을 표시합니다. GPU 및 LLM 지표를 기존 Prometheus 또는 Grafana 환경으로 전달합니다.

sparkDash은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/MiaAI-Lab/sparkDash