Платформа на базе Kubernetes для масштабируемого развертывания и обслуживания предиктивных и генеративных ИИ-моделей на разных ML-фреймворках.
dstackai/dstack
Открытая control plane для подготовки и оркестрации GPU-вычислений при обучении и инференсе в GPU-облаках, Kubernetes, на виртуальных машинах и локальных кластерах.
- Звёзды
- 2,284
- Форки
- 270
- Открытые issues
- 63
- Последний коммит
- 9 часов назад
Что это?
dstack — единая control plane для подготовки GPU-ресурсов и оркестрации. С её помощью команды запускают среды разработки, задачи обучения и сервисы инференса в GPU-облаках, кластерах Kubernetes, на виртуальных машинах или физических серверах, используя единый набор конфигураций вместо раздельной работы с каждой платформой.
Рабочие нагрузки описываются в YAML-файлах репозитория и применяются через dstack CLI или программный API. Система берет на себя подготовку ресурсов, постановку задач в очередь, автоматическое масштабирование, настройку сети и томов, проброс портов, а также восстановление после сбоев запусков и нехватки ресурсов. Поддерживаются ускорители NVIDIA, AMD, Google TPU и Tenstorrent; локальные машины можно добавить через SSH fleet без настройки облачного backend.
В проект также входят agent skills, с помощью которых AI coding agents могут создавать fleet и отправлять рабочие нагрузки через CLI; кроме того, dstack интегрируется с такими инструментами, как NVIDIA Dynamo и Slurm.
Ключевые возможности
- 01Подготавливает GPU fleet и управляет ими в облаках, Kubernetes и на локальных машинах.
- 02Запускает среды разработки, задачи обучения и сервисы инференса на основе YAML-конфигураций.
- 03Поддерживает ускорители NVIDIA, AMD, Google TPU и Tenstorrent.
- 04Автоматически управляет очередями задач, масштабированием, томами и пробросом портов.
- 05Предоставляет agent skills, позволяющие AI coding agents отправлять рабочие нагрузки через CLI.
Сценарии использования
- Совместное использование пула GPU исследовательской командой на разнородном облачном и локальном оборудовании.
- Развертывание инференса LLM в виде масштабируемых endpoint в Kubernetes.
- Запуск многоузловых задач дообучения или обучения без написания скриптов под конкретные платформы.
- Предоставление AI-агентам возможности подготавливать вычислительные ресурсы и запускать эксперименты от имени команды.
Быстрый старт
- 1
Установите и запустите сервер
uv tool install "dstack[all]" -U - 2
Запустите сервер
dstack server - 3
Установите CLI (только если она не была установлена вместе с сервером)
uv tool install dstack -U - 4
Добавьте проект, чтобы указать CLI сервер
dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
Что важно знать
- Для оркестрации облачных вычислительных ресурсов или ресурсов Kubernetes сначала нужно настроить бэкенды.
- Для работы сервера нужны Git и OpenSSH. Он работает в Linux, macOS или Windows через WSL 2.
Темы
Частые вопросы
- Что такое dstack?
- Открытая control plane для подготовки и оркестрации GPU-вычислений при обучении и инференсе в GPU-облаках, Kubernetes, на виртуальных машинах и локальных кластерах. dstack — единая control plane для подготовки GPU-ресурсов и оркестрации. С её помощью команды запускают среды разработки, задачи обучения и сервисы инференса в GPU-облаках, кластерах Kubernetes, на виртуальных машинах или физических серверах, используя единый набор конфигураций вместо раздельной работы с каждой платформой.
- dstack можно использовать бесплатно? Какая у него лицензия?
- dstack распространяется с открытым исходным кодом под лицензией MPL-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- dstack всё ещё поддерживается?
- Активно поддерживается. Последний коммит в dstack — 20 окт. 2026 г..
- Для чего можно использовать dstack?
- Совместное использование пула GPU исследовательской командой на разнородном облачном и локальном оборудовании. Развертывание инференса LLM в виде масштабируемых endpoint в Kubernetes. Запуск многоузловых задач дообучения или обучения без написания скриптов под конкретные платформы. Предоставление AI-агентам возможности подготавливать вычислительные ресурсы и запускать эксперименты от имени команды.
- Как установить dstack?
- Установите и запустите сервер: uv tool install "dstack[all]" -U Запустите сервер: dstack server Установите CLI (только если она не была установлена вместе с сервером): uv tool install dstack -U Добавьте проект, чтобы указать CLI сервер: dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
- Где скачать dstack?
- Исходный код и инструкции по установке — на GitHub: https://github.com/dstackai/dstack
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
AX — это open-source декларативный оркестратор для запуска большого числа изолированных задач автономных агентов в Kubernetes-кластере.
Бесплатная платформа с открытым исходным кодом для создания собственного облака на Kubernetes с REST API для кластеров, баз данных, виртуальных машин и балансировщиков нагрузки.
Библиотека Python, которая запускает большие языковые модели послойно и позволяет выполнять инференс моделей класса 70B на одной GPU с 4 ГБ памяти без квантования.
Нативный для edge-устройств движок для инференса MoE-моделей с открытыми весами, например DeepSeek-V4 и Qwen3.6, на потребительских GPU и CPU.
Навык для агентов, который превращает запросы на естественном языке и реальные источники вроде Terraform, Kubernetes, SQL и OpenAPI в редактируемые архитектурные диаграммы draw.io.