Repolode
제출하기
data-infra

data-infra/cube-studio

Kubernetes 기반 클라우드 네이티브 MLOps 플랫폼: 노트북, 드래그 앤 드롭 파이프라인, 분산 학습 및 LLM 서빙

GitHub에서 보기웹사이트
스타
2,564
포크
214
열린 이슈
28
마지막 커밋
10일 전

어떤 프로젝트인가요?

CubeStudio는 데이터 수집, 라벨링, 브라우저 기반 개발, 학습, 모델 관리, 추론 배포까지 머신러닝의 전체 라이프사이클을 한곳에서 지원하는 클라우드 네이티브 Kubernetes 기반 플랫폼입니다. 알고리즘 엔지니어가 머신 요청, 환경 준비, 데이터 가져오기, 배포 스크립트 직접 작성에 시간을 쓰지 않도록 하는 것이 목표입니다.

핵심은 드래그 앤 드롭 방식의 파이프라인 편집기입니다. Hugging Face와 ModelScope에서 데이터를 동기화하는 기능, 피처 엔지니어링, 전통적인 ML(sklearn, XGBoost, LightGBM 등), TF/PyTorch 분산 학습, 대규모 모델 파인튜닝을 위한 계층형 오퍼레이터를 제공합니다. 멀티머신 멀티 GPU 학습, NNI 하이퍼파라미터 탐색, TensorBoard, 태스크 단위 입출력 시각화, 코드 작성 없이 모델을 추론 서비스로 게시하는 기능을 지원합니다. 온라인 IDE로는 JupyterLab, VSCode, RStudio를 제공하며, 전체 카드·가상·공유 GPU 모드와 SSH 원격 개발도 지원합니다.

인프라 측면에서 CubeStudio는 테넌트, 프로젝트, 리소스 그룹, 여러 Kubernetes 클러스터를 격리하고, NVIDIA와 Ascend, Hygon DCU, Cambricon MLU, MetaX, Moore Threads, Kunlunxin 등의 국내 가속기를 관리하며 IB/RoCE RDMA와 vGPU 가상화를 지원합니다. 메타데이터 데이터베이스로 Dameng, Kingbase 또는 OceanBase를 사용할 수 있고 ARM64 CPU에 대응하며 완전한 오프라인 프라이빗 배포도 지원합니다.

핵심 기능

  • 01DAG를 구성하는 드래그 앤 드롭 파이프라인 편집기. 예약 실행, 백필, 동시성 제한, 타임아웃, 인스턴스 종속성을 지원합니다.
  • 02다국어 커널, TensorBoard, Git 연동, SSH 원격 접속을 지원하는 온라인 IDE(JupyterLab, VSCode, RStudio).
  • 03이미지, 텍스트, 오디오, 멀티모달 데이터 라벨링과 비전 모델 및 LLM 기반 자동 라벨링.
  • 04DeepSpeed, Megatron, Colossal-AI, Horovod, MPI, MindSpore, PaddlePaddle을 통합한 TensorFlow 및 PyTorch 분산 학습.
  • 05단일 머신이나 클러스터에서 NNI 기반 하이퍼파라미터를 탐색하고 각 실험 결과를 그래픽으로 확인할 수 있습니다.
  • 06ML, TF, PyTorch, TensorRT, ONNX, LLM 모델을 코드 작성 없이 추론 서비스로 게시하며 카나리 릴리스, 트래픽 분할, 속도 제한, 오토스케일링, 롤백을 지원합니다.
  • 07대규모 모델 지원: vLLM/Ollama/MindIE/Xinference 서빙, LLaMA-Factory SFT, 보상 모델 및 RL 학습, OpenCompass 평가와 프루닝.
  • 08vGPU 가상화, 공유/전용 카드 모드, binpack 전략, RDMA를 활용해 클러스터와 리소스 그룹 전반의 컴퓨팅을 스케줄링합니다.
  • 09400개 이상의 사전 학습 모델을 제공하는 AIHub 모델 마켓. 원클릭 배포, 원클릭 Notebook 개발, 원클릭 파인튜닝 파이프라인을 지원합니다.
  • 10Prometheus/Grafana 대시보드로 GPU, pod, vGPU 부하, QPS, 처리량, 토큰 지표를 모니터링하고 이메일, WeCom, DingTalk, Feishu로 알림을 전송합니다.

활용 사례

  • 멀티테넌트 격리와 자체 컴퓨팅 풀을 갖춘 온프레미스 AI 플랫폼이 필요한 조직.
  • 규정 준수 등의 이유로 Ascend, Hygon, Cambricon, MetaX 같은 국내 가속기에서 학습이나 추론을 실행하는 팀.
  • 임시 스크립트 대신 실험부터 모델 배포까지 표준화된 경로를 원하는 알고리즘 팀.
  • 자체 호스팅 LLM을 기반으로 프라이빗 지식 베이스, 챗봇 또는 AIGC 애플리케이션을 구축하는 팀.
  • 이미지, 텍스트, 오디오 어노테이션과 자동 사전 라벨링을 함께 수행해야 하는 조직.
  • 내부 또는 외부 사용자에게 컴퓨팅 임대, 사용량 측정, 토큰 중계를 제공하는 플랫폼 운영자.

사용 전 알아둘 점

  • Kubernetes에서 실행되므로 사용하려면 먼저 클러스터가 필요합니다.
  • README에는 MIT라고 명시되어 있지만 목록에 표시된 라이선스는 검증되지 않았습니다. 상업적으로 사용하기 전에 LICENSE 파일을 확인하세요.

토픽

#mlops#kubernetes#llmops#model-serving#distributed-training#pipeline#gpu-scheduling#vgpu#data-labeling#finetuning

자주 묻는 질문

cube-studio은(는) 무엇인가요?
Kubernetes 기반 클라우드 네이티브 MLOps 플랫폼: 노트북, 드래그 앤 드롭 파이프라인, 분산 학습 및 LLM 서빙 CubeStudio는 데이터 수집, 라벨링, 브라우저 기반 개발, 학습, 모델 관리, 추론 배포까지 머신러닝의 전체 라이프사이클을 한곳에서 지원하는 클라우드 네이티브 Kubernetes 기반 플랫폼입니다. 알고리즘 엔지니어가 머신 요청, 환경 준비, 데이터 가져오기, 배포 스크립트 직접 작성에 시간을 쓰지 않도록 하는 것이 목표입니다.
cube-studio은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
cube-studio은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
cube-studio은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. cube-studio의 마지막 커밋은 2026년 10월 12일입니다.
cube-studio은(는) 어디에 사용할 수 있나요?
멀티테넌트 격리와 자체 컴퓨팅 풀을 갖춘 온프레미스 AI 플랫폼이 필요한 조직. 규정 준수 등의 이유로 Ascend, Hygon, Cambricon, MetaX 같은 국내 가속기에서 학습이나 추론을 실행하는 팀. 임시 스크립트 대신 실험부터 모델 배포까지 표준화된 경로를 원하는 알고리즘 팀. 자체 호스팅 LLM을 기반으로 프라이빗 지식 베이스, 챗봇 또는 AIGC 애플리케이션을 구축하는 팀. 이미지, 텍스트, 오디오 어노테이션과 자동 사전 라벨링을 함께 수행해야 하는 조직. 내부 또는 외부 사용자에게 컴퓨팅 임대, 사용량 측정, 토큰 중계를 제공하는 플랫폼 운영자.
cube-studio은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/data-infra/cube-studio

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트