Repolode
data-infra

data-infra/cube-studio

Облачная MLOps-платформа на Kubernetes: ноутбуки, визуальные пайплайны, распределённое обучение и обслуживание LLM.

Звёзды
2,564
Форки
214
Открытые issues
28
Последний коммит
10 дней назад

Что это?

CubeStudio — облачная платформа на базе Kubernetes, которая охватывает весь жизненный цикл машинного обучения: загрузку и разметку данных, разработку в браузере, обучение, управление моделями и развёртывание инференса. Её цель — избавить инженеров алгоритмов от необходимости тратить время на запрос вычислительных ресурсов, подготовку окружений, загрузку данных и написание скриптов развёртывания с нуля.

В основе платформы — визуальный редактор пайплайнов с поддержкой перетаскивания блоков. В неё входят операторы для синхронизации данных из Hugging Face и ModelScope, подготовки признаков, классического ML (sklearn, XGBoost, LightGBM и других инструментов), распределённого обучения на TF/PyTorch и дообучения больших моделей. Поддерживаются обучение на нескольких машинах с несколькими GPU, поиск гиперпараметров с помощью NNI, TensorBoard, визуализация входных и выходных данных на уровне задач и публикация моделей как сервисов инференса без написания кода. Среди онлайн-сред разработки — JupyterLab, VSCode и RStudio; доступны режимы с выделенной картой, виртуальными и общими GPU, а также удалённая разработка по SSH.

Для работы с инфраструктурой CubeStudio изолирует арендаторов, проекты и группы ресурсов, а также управляет несколькими кластерами Kubernetes. Платформа работает с ускорителями NVIDIA и китайскими ускорителями, такими как Ascend, Hygon DCU, Cambricon MLU, MetaX, Moore Threads и Kunlunxin, поддерживая IB/RoCE RDMA и виртуализацию vGPU. В качестве базы данных метаданных можно использовать Dameng, Kingbase или OceanBase. Платформа адаптирована для процессоров ARM64 и поддерживает полностью автономное развёртывание в закрытом контуре.

Ключевые возможности

  • 01Визуальный редактор пайплайнов для создания DAG с запуском по расписанию, обработкой пропущенных запусков, ограничением параллелизма, тайм-аутами и зависимостями между экземплярами.
  • 02Онлайн-среды разработки JupyterLab, VSCode и RStudio с ядрами для разных языков, TensorBoard, интеграцией с Git и удалённым доступом по SSH.
  • 03Разметка изображений, текста, аудио и мультимодальных данных, а также автоматическая разметка с помощью моделей компьютерного зрения и LLM.
  • 04Распределённое обучение для TensorFlow и PyTorch с интеграцией DeepSpeed, Megatron, Colossal-AI, Horovod, MPI, MindSpore и PaddlePaddle.
  • 05Поиск гиперпараметров на базе NNI на одной машине или кластере с графическим отображением результатов каждого запуска.
  • 06Публикация инференса для моделей ML, TF, PyTorch, TensorRT, ONNX и LLM без написания кода; поддерживаются канареечные релизы, разделение трафика, ограничение частоты запросов, автомасштабирование и откат.
  • 07Поддержка больших моделей: обслуживание через vLLM/Ollama/MindIE/Xinference, SFT с LLaMA-Factory, обучение reward-моделей и RL, а также оценка и pruning с помощью OpenCompass.
  • 08Планирование вычислений между кластерами и группами ресурсов с виртуализацией vGPU, режимами общих и выделенных карт, стратегией binpack и RDMA.
  • 09Маркетплейс моделей AIHub с более чем 400 предварительно обученными моделями, для которых доступны развёртывание, разработка в Notebook и пайплайны дообучения в один клик.
  • 10Мониторинг и оповещения через панели Prometheus/Grafana с данными о загрузке GPU, pod и vGPU, QPS, пропускной способности и метриках токенов; уведомления отправляются по электронной почте, в WeCom, DingTalk или Feishu.

Сценарии использования

  • Организации, которым нужна локальная AI-платформа с изоляцией арендаторов и собственным пулом вычислительных ресурсов.
  • Команды, которые по требованиям соответствия используют для обучения или инференса китайские ускорители, например Ascend, Hygon, Cambricon или MetaX.
  • Команды инженеров алгоритмов, которым нужен стандартизированный путь от эксперимента до развёртывания модели вместо разрозненных скриптов.
  • Команды, создающие частные базы знаний, чат-ботов или приложения AIGC на основе самостоятельно размещённых LLM.
  • Группы, которым нужна разметка изображений, текста и аудио с автоматической предварительной разметкой.
  • Операторы платформ, предоставляющие внутренним или внешним пользователям аренду вычислительных ресурсов, тарификацию и ретрансляцию токенов.

Что важно знать

  • Работает в Kubernetes, поэтому для его использования сначала понадобится кластер.
  • В README указана лицензия MIT, но лицензия в списке не проверена. Перед коммерческим использованием проверьте файл LICENSE.

Темы

Частые вопросы

Что такое cube-studio?
Облачная MLOps-платформа на Kubernetes: ноутбуки, визуальные пайплайны, распределённое обучение и обслуживание LLM. CubeStudio — облачная платформа на базе Kubernetes, которая охватывает весь жизненный цикл машинного обучения: загрузку и разметку данных, разработку в браузере, обучение, управление моделями и развёртывание инференса. Её цель — избавить инженеров алгоритмов от необходимости тратить время на запрос вычислительных ресурсов, подготовку окружений, загрузку данных и написание скриптов развёртывания с нуля.
cube-studio можно использовать бесплатно? Какая у него лицензия?
cube-studio распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
cube-studio всё ещё поддерживается?
Активно поддерживается. Последний коммит в cube-studio — 12 окт. 2026 г..
Для чего можно использовать cube-studio?
Организации, которым нужна локальная AI-платформа с изоляцией арендаторов и собственным пулом вычислительных ресурсов. Команды, которые по требованиям соответствия используют для обучения или инференса китайские ускорители, например Ascend, Hygon, Cambricon или MetaX. Команды инженеров алгоритмов, которым нужен стандартизированный путь от эксперимента до развёртывания модели вместо разрозненных скриптов. Команды, создающие частные базы знаний, чат-ботов или приложения AIGC на основе самостоятельно размещённых LLM. Группы, которым нужна разметка изображений, текста и аудио с автоматической предварительной разметкой. Операторы платформ, предоставляющие внутренним или внешним пользователям аренду вычислительных ресурсов, тарификацию и ретрансляцию токенов.
Где скачать cube-studio?
Исходный код и инструкции по установке — на GitHub: https://github.com/data-infra/cube-studio

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты