Repolode
投稿する
data-infra

data-infra/cube-studio

Kubernetes上で動作するクラウドネイティブなMLOpsプラットフォーム。Notebook、ドラッグ＆ドロップ式パイプライン、分散学習、LLMサービングに対応。

GitHub で見る公式サイト
スター
2,564
フォーク
214
未解決の Issue
28
最終コミット
10 日前

これは何？

CubeStudioは、データ取り込み、ラベリング、ブラウザー上での開発、学習、モデル管理、推論デプロイまで、機械学習のライフサイクル全体を一元的にカバーするKubernetesベースのクラウドネイティブプラットフォームです。アルゴリズムエンジニアがマシンの申請や環境構築、データの取得、デプロイスクリプトの手作業に時間を取られないようにすることを目指しています。

中核となるのは、ドラッグ＆ドロップ式のパイプラインエディターです。Hugging FaceやModelScopeからのデータ同期、特徴量エンジニアリング、従来型のML（sklearn、XGBoost、LightGBMなど）、TF/PyTorchの分散学習、大規模モデルのファインチューニングに対応する、レイヤー構造のオペレーターを備えています。複数マシン・複数GPUでの学習、NNIによるハイパーパラメーター探索、TensorBoard、タスク単位の入出力の可視化、コードを書かずにモデルを推論サービスとして公開する機能もサポートします。オンラインIDEとしてJupyterLab、VSCode、RStudioを利用でき、GPUの占有、仮想化、共有モードに加えて、SSHによるリモート開発にも対応しています。

インフラ面では、テナント、プロジェクト、リソースグループ、複数のKubernetesクラスターを分離して管理できます。NVIDIA製GPUに加え、Ascend、Hygon DCU、Cambricon MLU、MetaX、Moore Threads、Kunlunxinなどの国産アクセラレーターを管理し、IB/RoCE RDMAとvGPU仮想化にも対応しています。メタデータデータベースとしてDameng、Kingbase、OceanBaseを利用でき、ARM64 CPUに対応するほか、完全オフラインのプライベート環境にもデプロイできます。

主な機能

  • 01DAGを構築するドラッグ＆ドロップ式パイプラインエディター。スケジュール実行、バックフィル、同時実行数の制限、タイムアウト、インスタンス間の依存関係に対応。
  • 02JupyterLab、VSCode、RStudioを利用できるオンラインIDE。複数言語のカーネル、TensorBoard、Git連携、SSHリモートアクセスを備えています。
  • 03画像、テキスト、音声、マルチモーダルデータのラベリングに対応。画像認識モデルやLLMを使った自動ラベリングも可能です。
  • 04TensorFlowとPyTorchの分散学習に対応し、DeepSpeed、Megatron、Colossal-AI、Horovod、MPI、MindSpore、PaddlePaddleと連携します。
  • 05NNIを使った、単一マシンまたはクラスター上でのハイパーパラメーター探索。各試行の結果をグラフィカルに確認できます。
  • 06ML、TF、PyTorch、TensorRT、ONNX、LLMの推論をコードなしで公開できます。カナリアリリース、トラフィック分割、レート制限、自動スケーリング、ロールバックに対応。
  • 07大規模モデルに対応。vLLM/Ollama/MindIE/Xinferenceによるサービング、LLaMA-FactoryでのSFT、報酬モデルとRLの学習に加え、OpenCompassによる評価やプルーニングも可能です。
  • 08クラスターとリソースグループをまたぐ計算リソースのスケジューリングに対応。vGPU仮想化、GPUの共有・専有モード、binpack戦略、RDMAを利用できます。
  • 09400以上の事前学習済みモデルを提供するAIHubモデルマーケット。ワンクリックでのデプロイ、Notebook開発、ファインチューニング用パイプラインに対応します。
  • 10Prometheus/GrafanaのダッシュボードでGPU、Pod、vGPUの負荷、QPS、スループット、トークン関連のメトリクスを監視できます。メール、WeCom、DingTalk、Feishuへのアラート通知にも対応。

ユースケース

  • マルチテナント分離と独自の計算リソースプールを備えたオンプレミスAIプラットフォームを必要とする組織。
  • コンプライアンス上の理由から、Ascend、Hygon、Cambricon、MetaXなどの国産アクセラレーターで学習や推論を行うチーム。
  • 場当たり的なスクリプトに頼らず、実験からモデルのデプロイまでを標準化したいアルゴリズムチーム。
  • セルフホスト型LLMを基盤に、プライベートナレッジベース、チャットボット、AIGCアプリケーションを構築するチーム。
  • 画像、テキスト、音声のアノテーションと自動事前ラベリングを組み合わせて利用したいグループ。
  • 社内または社外ユーザー向けに、計算リソースの貸し出し、利用量計測、トークンリレーを提供するプラットフォーム運用者。

使う前に知っておきたいこと

  • Kubernetes上で動作するため、使用するには事前にクラスターが必要です。
  • READMEにはMITと記載されていますが、一覧に表示されているライセンスは未検証です。商用利用の前にLICENSEファイルを確認してください。

トピック

#mlops#kubernetes#llmops#model-serving#distributed-training#pipeline#gpu-scheduling#vgpu#data-labeling#finetuning

よくある質問

cube-studio とは？
Kubernetes上で動作するクラウドネイティブなMLOpsプラットフォーム。Notebook、ドラッグ＆ドロップ式パイプライン、分散学習、LLMサービングに対応。 CubeStudioは、データ取り込み、ラベリング、ブラウザー上での開発、学習、モデル管理、推論デプロイまで、機械学習のライフサイクル全体を一元的にカバーするKubernetesベースのクラウドネイティブプラットフォームです。アルゴリズムエンジニアがマシンの申請や環境構築、データの取得、デプロイスクリプトの手作業に時間を取られないようにすることを目指しています。
cube-studio は無料で使えますか？ライセンスは？
cube-studio は Other ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
cube-studio は今もメンテナンスされていますか？
活発にメンテナンス中。cube-studio の最終コミットは 2026年10月12日 です。
cube-studio は何に使えますか？
マルチテナント分離と独自の計算リソースプールを備えたオンプレミスAIプラットフォームを必要とする組織。 コンプライアンス上の理由から、Ascend、Hygon、Cambricon、MetaXなどの国産アクセラレーターで学習や推論を行うチーム。 場当たり的なスクリプトに頼らず、実験からモデルのデプロイまでを標準化したいアルゴリズムチーム。 セルフホスト型LLMを基盤に、プライベートナレッジベース、チャットボット、AIGCアプリケーションを構築するチーム。 画像、テキスト、音声のアノテーションと自動事前ラベリングを組み合わせて利用したいグループ。 社内または社外ユーザー向けに、計算リソースの貸し出し、利用量計測、トークンリレーを提供するプラットフォーム運用者。
cube-studio はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/data-infra/cube-studio

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト