Plataforma nativa do Kubernetes para implantar e servir modelos de IA preditiva e generativa em escala, com suporte a vários frameworks de ML.
6,1 mil1,7 milGoApache-2.0Atualizado há 19 horas
dstackai/dstack
Um control plane open source que provisiona e orquestra recursos de GPU para treinamento e inferência em clouds, Kubernetes, VMs e clusters on-premises.
- Estrelas
- 2,284
- Forks
- 270
- Issues abertas
- 63
- Último commit
- há 7 horas
O que é?
dstack é um control plane unificado para provisionamento e orquestração de GPUs. Ele permite que equipes executem ambientes de desenvolvimento, jobs de treinamento e serviços de inferência em clouds com GPU, clusters Kubernetes, VMs ou máquinas bare metal usando um único conjunto de configurações, sem precisar lidar com cada plataforma separadamente.
As cargas de trabalho são definidas em arquivos YAML em um repositório e aplicadas com a CLI do dstack ou uma API programática. O sistema cuida do provisionamento, da fila de jobs, do auto-scaling, da rede, dos volumes, do encaminhamento de portas e da recuperação de falhas na execução e de erros por falta de capacidade. Há suporte a aceleradores da NVIDIA, AMD, Google TPU e Tenstorrent, e é possível adicionar máquinas on-premises por meio de SSH fleets sem configurar um backend de cloud.
O projeto também inclui agent skills para que agentes de programação com IA criem fleets e enviem cargas de trabalho pela CLI, além de se integrar a ferramentas como NVIDIA Dynamo e Slurm.
Recursos principais
- 01Provisiona e gerencia fleets de GPUs em clouds, Kubernetes e máquinas on-premises.
- 02Executa ambientes de desenvolvimento, tarefas de treinamento e serviços de inferência a partir de configurações YAML.
- 03Oferece suporte a aceleradores da NVIDIA, AMD, Google TPU e Tenstorrent.
- 04Gerencia automaticamente filas de jobs, auto-scaling, volumes e encaminhamento de portas.
- 05Oferece agent skills para que agentes de programação com IA enviem cargas de trabalho pela CLI.
Casos de uso
- Compartilhar um conjunto de GPUs entre uma equipe de pesquisa usando hardware misto de cloud e on-premises.
- Implantar inferência de LLM como endpoints escaláveis no Kubernetes.
- Executar jobs de fine-tuning ou treinamento em vários nós sem escrever scripts específicos para cada plataforma.
- Permitir que agentes de IA provisionem recursos computacionais e iniciem experimentos em nome da equipe.
Início rápido
- 1
Instale e inicie o servidor
uv tool install "dstack[all]" -U - 2
Execute o servidor
dstack server - 3
Instale a CLI (somente se ela não tiver sido instalada com o servidor)
uv tool install dstack -U - 4
Adicione um projeto para apontar a CLI para o servidor
dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
Antes de usar
- Para orquestrar recursos de computação em nuvem ou do Kubernetes, é preciso configurar os backends primeiro.
- O servidor precisa do Git e do OpenSSH e funciona no Linux, macOS ou Windows via WSL 2.
Tópicos
Perguntas frequentes
- O que é dstack?
- Um control plane open source que provisiona e orquestra recursos de GPU para treinamento e inferência em clouds, Kubernetes, VMs e clusters on-premises. dstack é um control plane unificado para provisionamento e orquestração de GPUs. Ele permite que equipes executem ambientes de desenvolvimento, jobs de treinamento e serviços de inferência em clouds com GPU, clusters Kubernetes, VMs ou máquinas bare metal usando um único conjunto de configurações, sem precisar lidar com cada plataforma separadamente.
- dstack é gratuito? Qual é a licença?
- dstack é open source sob a licença MPL-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- dstack ainda é mantido?
- Manutenção ativa. O último commit de dstack foi em 20 de out. de 2026.
- Para que posso usar dstack?
- Compartilhar um conjunto de GPUs entre uma equipe de pesquisa usando hardware misto de cloud e on-premises. Implantar inferência de LLM como endpoints escaláveis no Kubernetes. Executar jobs de fine-tuning ou treinamento em vários nós sem escrever scripts específicos para cada plataforma. Permitir que agentes de IA provisionem recursos computacionais e iniciem experimentos em nome da equipe.
- Como instalar dstack?
- Instale e inicie o servidor: uv tool install "dstack[all]" -U Execute o servidor: dstack server Instale a CLI (somente se ela não tiver sido instalada com o servidor): uv tool install dstack -U Adicione um projeto para apontar a CLI para o servidor: dstack project add --name main --url http://127.0.0.1:3000 --token bbae0f28-d3dd-4820-bf61-8f4bb40815da
- Onde consigo dstack?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/dstackai/dstack
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
AX é um orquestrador declarativo de código aberto para executar grandes quantidades de tarefas autônomas de agentes em sandboxes dentro de um cluster Kubernetes.
14 mil723GoApache-2.0Atualizado ontem
Plataforma gratuita e open source para criar sua própria nuvem no Kubernetes, com uma REST API para clusters, bancos de dados, VMs e balanceadores de carga.
2,4 mil215GoApache-2.0Atualizado há 14 horas
Biblioteca Python que executa LLMs grandes camada por camada, permitindo inferência com modelos da classe 70B em uma única GPU de 4 GB, sem quantização.
39,5 mil4 milJupyter NotebookApache-2.0Atualizado ontem
Um mecanismo de inferência MoE nativo de edge que executa modelos grandes de pesos abertos, como DeepSeek-V4 e Qwen3.6, em GPUs e CPUs de consumo.
14,6 mil1,5 milPythonApache-2.0Atualizado há 23 horas
Uma skill de agente que transforma linguagem natural e fontes reais do sistema, como Terraform, Kubernetes, SQL e OpenAPI, em diagramas de arquitetura editáveis no draw.io.
Ferramentas para desenvolvedores#architecture-diagram#drawio#diagrams-as-code#agent-skills#terraform
10,2 mil870PythonMITAtualizado há 9 dias