一个 Python 框架,用于构建、扩展和部署 AI/ML 工作流,从 notebook 原型到生产编排。
data-infra/cube-studio
云原生一站式 AI 平台,覆盖数据标注、在线开发、Pipeline 编排、分布式训练、推理服务与大模型微调部署。
- Star
- 2,564
- Fork
- 214
- 未关闭 Issue
- 28
- 最近提交
- 10天前
这是什么?
CubeStudio 是一个基于 Kubernetes 的云原生一站式机器学习与大模型平台,把数据接入、标注、在线开发、训练、模型管理和推理上线串成一条链路,目标是让算法工程师不必再为申请机器、配环境、拉数据和部署服务反复消耗时间。
平台以拖拽式 Pipeline 编排为核心,内置数据同步(Hugging Face / ModelScope 数据集与模型导入)、特征处理、传统机器学习(sklearn、XGBoost、LightGBM 等)、TF/PyTorch 分布式训练和大模型微调等分层算子,支持多机多卡训练、NNI 超参搜索、TensorBoard、任务输入输出可视化,以及模型零代码发布为推理服务。在线 IDE 提供 JupyterLab、VSCode、RStudio,支持整卡、虚拟卡与共享占用,并可对接本地 SSH remote 开发。
算力侧支持多租户、多项目组、多资源组与多 K8s 集群隔离,纳管 NVIDIA 以及昇腾、海光、寒武纪、沐曦、摩尔线程、昆仑芯等异构算力,支持 IB/RoCE RDMA 与 vGPU 虚拟化;元数据库可用达梦、人大金仓、OceanBase,适配 ARM64,并支持全离线私有化部署。
核心功能
- 01拖拉拽 Pipeline 编排,支持定时调度、补录、并发限制、超时和实例依赖。
- 02在线 IDE 提供 JupyterLab、VSCode、RStudio,支持多语言内核、TensorBoard、Git 与 SSH remote。
- 03支持图、文、音、多模态数据标注,并可调用视觉大模型与大模型做自动化标注。
- 04TensorFlow / PyTorch 多机多卡分布式训练,集成 DeepSpeed、Megatron、Colossal-AI、Horovod、MPI、MindSpore、飞桨等框架。
- 05基于 NNI 的单机与分布式超参搜索,图形化展示各组试验结果。
- 06ML/TF/PyTorch/TensorRT/ONNX/LLM 模型的零代码推理发布,含灰度、分流、限流、弹性伸缩与回滚。
- 07大模型能力覆盖 vLLM/Ollama/MindIE/Xinference 部署、LLaMA-Factory 的 SFT/奖励模型/强化学习微调、OpenCompass 评估与剪枝。
- 08多集群、多资源组算力调度,支持 vGPU 虚拟化、整卡/共享/独占占用、binpack 调度与 RDMA。
- 09AIHub 模型市场提供 400+ 预训练模型,支持一键部署、一键转 Notebook 开发、一键转微调 Pipeline。
- 10通过 Prometheus/Grafana 监控 GPU、Pod 与 vGPU 负载及 QPS、吞吐、Token 等指标,报警可推送邮件、企业微信、钉钉、飞书。
适用场景
- 需要私有化部署 AI 平台、做多租户隔离与自建算力池的企业。
- 出于信创要求,需要在昇腾、海光、寒武纪、沐曦等国产算力上训练和推理的团队。
- 希望把从实验到模型上线的流程标准化、而不是靠脚本拼接的算法团队。
- 基于自部署大模型构建私有知识库、对话机器人或文生图应用的团队。
- 需要图文音标注与自动化预标注能力的数据团队。
- 面向内外部用户提供算力租赁、计量计费与 Token 中转的平台运营方。
使用前须知
- 平台基于 Kubernetes 运行,使用前需要先准备集群。
- README 标注为 MIT 协议,但元数据中的许可证未明确,商用前请核对 LICENSE 文件。
标签
常见问题
- cube-studio 是什么?
- 云原生一站式 AI 平台,覆盖数据标注、在线开发、Pipeline 编排、分布式训练、推理服务与大模型微调部署。 CubeStudio 是一个基于 Kubernetes 的云原生一站式机器学习与大模型平台,把数据接入、标注、在线开发、训练、模型管理和推理上线串成一条链路,目标是让算法工程师不必再为申请机器、配环境、拉数据和部署服务反复消耗时间。
- cube-studio 可以免费使用吗?用的什么许可证?
- cube-studio 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
- cube-studio 还在维护吗?
- 活跃维护中。cube-studio 最近一次提交是在 2026年10月12日。
- cube-studio 适合用来做什么?
- 需要私有化部署 AI 平台、做多租户隔离与自建算力池的企业。 出于信创要求,需要在昇腾、海光、寒武纪、沐曦等国产算力上训练和推理的团队。 希望把从实验到模型上线的流程标准化、而不是靠脚本拼接的算法团队。 基于自部署大模型构建私有知识库、对话机器人或文生图应用的团队。 需要图文音标注与自动化预标注能力的数据团队。 面向内外部用户提供算力租赁、计量计费与 Token 中转的平台运营方。
- 在哪里获取 cube-studio?
- 源代码和安装说明在 GitHub 上:https://github.com/data-infra/cube-studio
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个 Kubernetes Operator,用于部署和管理大语言模型推理服务,支持 GPU 调度与模型全生命周期管理。
用于构建和部署 AI 模型推理 API、多模型流水线和 LLM 应用的 Python 库,支持 Docker 与 Kubernetes 部署。
基于 Kubernetes 的 AI 模型推理平台,统一部署和服务预测式与生成式模型,支持多种机器学习框架。
基于 Kubernetes 的分布式 AI 模型训练与 LLM 微调平台,支持 PyTorch、JAX、XGBoost 等框架。
一个开源的 AI 计算管理系统,用统一接口在 Kubernetes、Slurm 和多家云上运行与扩展 AI 任务。