Um framework Python para criar, escalar e implantar workflows de IA e ML, de protótipos em notebooks a orquestradores de produção.
10,3 mil1,4 milPythonApache-2.0Atualizado há 6 dias
data-infra/cube-studio
Plataforma MLOps cloud-native no Kubernetes: notebooks, pipelines com arrastar e soltar, treinamento distribuído e serving de LLMs.
- Estrelas
- 2,564
- Forks
- 214
- Issues abertas
- 28
- Último commit
- há 10 dias
O que é?
O CubeStudio é uma plataforma cloud-native baseada em Kubernetes que cobre todo o ciclo de vida de machine learning em um só lugar: ingestão e rotulagem de dados, desenvolvimento pelo navegador, treinamento, gerenciamento de modelos e implantação para inferência. O objetivo declarado é evitar que engenheiros de algoritmos percam tempo solicitando máquinas, preparando ambientes, buscando dados e criando scripts de implantação manualmente.
No centro da plataforma está um editor de pipelines com arrastar e soltar. Ela oferece operadores em camadas para sincronizar dados do Hugging Face e do ModelScope, engenharia de features, ML clássico (sklearn, XGBoost, LightGBM e outros), treinamento distribuído com TF/PyTorch e fine-tuning de modelos de grande porte. Há suporte a treinamento em múltiplas máquinas e GPUs, busca de hiperparâmetros com NNI, TensorBoard, visualização de entradas e saídas no nível das tarefas e publicação de modelos como serviços de inferência sem escrever código. Os IDEs online incluem JupyterLab, VSCode e RStudio, com modos de GPU integral, virtual e compartilhada, além de desenvolvimento remoto por SSH.
Na infraestrutura, o CubeStudio isola tenants, projetos, grupos de recursos e vários clusters Kubernetes, e gerencia aceleradores NVIDIA e nacionais, como Ascend, Hygon DCU, Cambricon MLU, MetaX, Moore Threads e Kunlunxin, com RDMA via IB/RoCE e virtualização de vGPU. Pode usar Dameng, Kingbase ou OceanBase como banco de dados de metadados, é compatível com CPUs ARM64 e oferece suporte à implantação privada totalmente offline.
Recursos principais
- 01Editor de pipelines com arrastar e soltar para criar DAGs, com execuções agendadas, preenchimento retroativo, limites de concorrência, timeouts e dependências entre instâncias.
- 02IDEs online (JupyterLab, VSCode, RStudio) com kernels para várias linguagens, TensorBoard, integração com Git e acesso remoto por SSH.
- 03Rotulagem de dados de imagem, texto, áudio e dados multimodais, além de rotulagem automática com modelos de visão e LLMs.
- 04Treinamento distribuído para TensorFlow e PyTorch, com integração a DeepSpeed, Megatron, Colossal-AI, Horovod, MPI, MindSpore e PaddlePaddle.
- 05Busca de hiperparâmetros com NNI em máquinas individuais ou clusters, com visualização gráfica dos resultados de cada tentativa.
- 06Publicação de inferência sem escrever código para modelos de ML, TF, PyTorch, TensorRT, ONNX e LLM, com lançamento canário, divisão de tráfego, limitação de taxa, escalabilidade automática e reversão.
- 07Suporte a modelos de grande porte: serving com vLLM/Ollama/MindIE/Xinference, SFT com LLaMA-Factory, treinamento de modelos de recompensa e RL, além de avaliação com OpenCompass e pruning.
- 08Agendamento de computação entre clusters e grupos de recursos, com virtualização de vGPU, modos de placas compartilhadas ou exclusivas, estratégia binpack e RDMA.
- 09Mercado de modelos AIHub com mais de 400 modelos pré-treinados, oferecendo implantação, desenvolvimento de Notebook e pipelines de fine-tuning com um clique.
- 10Monitoramento e alertas por meio de dashboards Prometheus/Grafana que cobrem carga de GPU, pods e vGPU, QPS, throughput e métricas de tokens, com envio para email, WeCom, DingTalk ou Feishu.
Casos de uso
- Organizações que precisam de uma plataforma de IA on-premises com isolamento multi-tenant e pool próprio de recursos computacionais.
- Equipes que executam treinamento ou inferência em aceleradores nacionais, como Ascend, Hygon, Cambricon ou MetaX, por motivos de conformidade.
- Equipes de algoritmos que querem um fluxo padronizado do experimento à implantação do modelo, em vez de scripts improvisados.
- Equipes que criam bases de conhecimento privadas, chatbots ou aplicações AIGC com LLMs hospedados por conta própria.
- Grupos que precisam combinar anotação de imagens, textos e áudios com pré-rotulagem automatizada.
- Operadores de plataforma que oferecem aluguel de recursos computacionais, medição de uso e encaminhamento de tokens a usuários internos ou externos.
Antes de usar
- É executado no Kubernetes, então você precisa de um cluster antes de poder usá-lo.
- O README informa MIT, mas a licença listada não foi verificada. Confira o arquivo LICENSE antes de usar o projeto comercialmente.
Tópicos
Perguntas frequentes
- O que é cube-studio?
- Plataforma MLOps cloud-native no Kubernetes: notebooks, pipelines com arrastar e soltar, treinamento distribuído e serving de LLMs. O CubeStudio é uma plataforma cloud-native baseada em Kubernetes que cobre todo o ciclo de vida de machine learning em um só lugar: ingestão e rotulagem de dados, desenvolvimento pelo navegador, treinamento, gerenciamento de modelos e implantação para inferência. O objetivo declarado é evitar que engenheiros de algoritmos percam tempo solicitando máquinas, preparando ambientes, buscando dados e criando scripts de implantação manualmente.
- cube-studio é gratuito? Qual é a licença?
- cube-studio é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
- cube-studio ainda é mantido?
- Manutenção ativa. O último commit de cube-studio foi em 12 de out. de 2026.
- Para que posso usar cube-studio?
- Organizações que precisam de uma plataforma de IA on-premises com isolamento multi-tenant e pool próprio de recursos computacionais. Equipes que executam treinamento ou inferência em aceleradores nacionais, como Ascend, Hygon, Cambricon ou MetaX, por motivos de conformidade. Equipes de algoritmos que querem um fluxo padronizado do experimento à implantação do modelo, em vez de scripts improvisados. Equipes que criam bases de conhecimento privadas, chatbots ou aplicações AIGC com LLMs hospedados por conta própria. Grupos que precisam combinar anotação de imagens, textos e áudios com pré-rotulagem automatizada. Operadores de plataforma que oferecem aluguel de recursos computacionais, medição de uso e encaminhamento de tokens a usuários internos ou externos.
- Onde consigo cube-studio?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/data-infra/cube-studio
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um operador Kubernetes para implantar e gerenciar o serving de LLMs, com agendamento de GPUs e gerenciamento do ciclo de vida de modelos para SGLang, vLLM, TensorRT-LLM e Triton.
518104GoApache-2.0Atualizado há 15 horas
Biblioteca Python para criar e servir APIs de inferência de modelos de IA, pipelines com vários modelos e apps de LLM, com implantação em Docker e Kubernetes.
8,9 mil1 milPythonApache-2.0Atualizado há 3 dias
Plataforma nativa do Kubernetes para implantar e servir modelos de IA preditiva e generativa em escala, com suporte a vários frameworks de ML.
6,1 mil1,7 milGoApache-2.0Atualizado há 3 dias
Plataforma nativa do Kubernetes para treinamento distribuído de modelos de IA e fine-tuning de LLMs com PyTorch, JAX, XGBoost e outros frameworks.
2,3 mil1,1 milGoApache-2.0Atualizado há 21 horas
Sistema de código aberto para executar, gerenciar e escalar workloads de IA em Kubernetes, Slurm e mais de 20 provedores de nuvem ou GPU com uma única interface.
10,7 mil1,3 milPythonApache-2.0Atualizado anteontem