shanselman/gputaskman

Что это?

Ключевые возможности

• 01Показывает локальную память GPU, использование системной RAM и активность движков для каждого процесса.
• 02Определяет загруженные модели по отображённым в память файлам, аргументам запуска и заголовкам GGUF.
• 03Оценивает размеры весов и KV-кэша llama.cpp, используя логи буферов, если они доступны.
• 04Получает состояние модели через локальные API Ollama и LM Studio, если они запущены.
• 05Предлагает обновляемый в реальном времени TUI, а также разовый текстовый и JSON-вывод.

Сценарии использования

• Выяснить, почему локальная LLM или другая AI-задача использует большую часть памяти GPU на компьютере с Windows.
• Обнаружить использование доступной GPU системной RAM, которое может указывать на более медленный fallback-инференс.
• Проверить, какую локальную модель и размер контекста использует процесс llama-server или Ollama.
• Сохранять снимки использования GPU в JSON для скриптов или отчётов об ошибках.

Быстрый старт

1. 1

   Установите Git for Windows и uv (например, с помощью WinGet)

   winget install --id Git.Git --exact
2. 2

   Установите uv

   winget install --id astral-sh.uv --exact
3. 3

   Клонируйте репозиторий

   git clone https://github.com/shanselman/gputaskman.git
4. 4

   Запустите TUI из папки проекта с помощью uv

   cd gputaskman uv run --locked gputaskman

Что важно знать

• !Поддерживаются только Windows и NVIDIA; сценарии только с CPU, только с NPU и облачные нагрузки не входят в область поддержки.
• !Требуется GPU NVIDIA с актуальным драйвером Windows WDDM.
• !Это экспериментальное ПО на ранней стадии; классификации и разбивка на основе GGUF являются оценочными.
• !Распределение нагрузки между несколькими GPU пока ненадёжно; проверена конфигурация только с одним GPU NVIDIA.

В подборках

Темы

Частые вопросы

Что такое gputaskman?

Терминальный монитор для Windows и NVIDIA: показывает память GPU и активность движков по процессам, а также веса LLM и KV-кэш каждой GPU-задачи. gputaskman — монитор для NVIDIA GPU в Windows в стиле htop. Диспетчер задач показывает, сколько памяти GPU занято, но не сообщает, какие процессы её используют. Этот инструмент объединяет счётчики GPU в Windows с данными устройств из NVML и распределяет использование по процессам: показывает локальную память GPU, доступную GPU системную RAM, активность движков и обнаруженные среды выполнения, например CUDA, Vulkan, Direct3D, ggml и ONNX Runtime.

gputaskman можно использовать бесплатно? Какая у него лицензия?

gputaskman распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.

gputaskman всё ещё поддерживается?

Активно поддерживается. Последний коммит в gputaskman — 6 нояб. 2026 г..

Для чего можно использовать gputaskman?

Выяснить, почему локальная LLM или другая AI-задача использует большую часть памяти GPU на компьютере с Windows. Обнаружить использование доступной GPU системной RAM, которое может указывать на более медленный fallback-инференс. Проверить, какую локальную модель и размер контекста использует процесс llama-server или Ollama. Сохранять снимки использования GPU в JSON для скриптов или отчётов об ошибках.

Как установить gputaskman?

Установите Git for Windows и uv (например, с помощью WinGet): winget install --id Git.Git --exact Установите uv: winget install --id astral-sh.uv --exact Клонируйте репозиторий: git clone https://github.com/shanselman/gputaskman.git Запустите TUI из папки проекта с помощью uv: cd gputaskman uv run --locked gputaskman

Где скачать gputaskman?

Исходный код и инструкции по установке — на GitHub: https://github.com/shanselman/gputaskman