Repolode
modelscope

modelscope/ms-swift

SFT、DPO、GRPOに対応し、600以上の大規模言語モデルと400以上のマルチモーダルモデルのファインチューニング、学習、推論、デプロイを支援するフレームワーク。

スター
15,903
フォーク
1,747
未解決の Issue
601
最終コミット
3 時間前

これは何?

ms-swiftは、ModelScopeコミュニティが提供する、大規模言語モデルやマルチモーダルモデルのファインチューニング、アライメント、評価、量子化、デプロイに対応したフレームワークです。事前学習、教師ありファインチューニング、DPO、KTO、ORPOなどの選好学習に加え、DAPO、GSPO、RLOOなどのGRPO系強化学習アルゴリズムをサポートしています。Embedding、reranker、系列分類タスクにも対応しています。

コマンドラインインターフェース(swift sft、swift rlhf、swift infer、swift deploy)、GradioベースのWeb UI、Python APIを利用できます。学習では、LoRA、QLoRA、DoRA、全パラメータチューニングに加え、DeepSpeed、FSDP、Megatronによる並列化(TP、PP、CP、EP)を利用できます。推論とデプロイはTransformers、vLLM、SGLang、LMDeployで実行でき、AWQ、GPTQ、FP8、BNBによる量子化を適用してモデルをエクスポートできます。

ハードウェアはNVIDIA CUDA GPU、AMD ROCm GPU、Ascend NPU、MetaX、Moore Threads、Apple MPS、CPUに対応しています。データセットはModelScopeやHugging Faceから取得するほか、独自データを用意して利用できます。

主な機能

  • 01教師ありファインチューニング、事前学習、DPO/KTO/ORPOによる選好アライメント、GRPO系の強化学習に対応。
  • 02LoRA、QLoRA、DoRA、全パラメータ学習に対応し、DeepSpeed、FSDP、Megatronによる並列化を利用可能。
  • 03Transformers、vLLM、SGLang、LMDeployを使った推論・デプロイに対応し、OpenAI互換インターフェースを提供。
  • 04AWQ、GPTQ、FP8、BNB形式で量子化モデルをエクスポート可能。
  • 05一連のワークフローに使えるコマンドラインツール、Gradio Web UI、Python APIを提供。

ユースケース

  • 単一GPU上で、独自の指示データセットを使ってオープンウェイトのQwenやLlamaモデルをファインチューニングする。
  • 画像、動画、音声データを使い、ビジョン部分と言語部分を個別に制御しながらマルチモーダルモデルを学習する。
  • 推論やエージェントのタスク向けに、vLLMで高速化したGRPO強化学習を実行する。
  • 検索パイプライン向けのEmbeddingモデルやrerankerモデルを学習する。

使う前に知っておきたいこと

  • 大規模モデルの学習には大量のGPUメモリが必要です。READMEでは、量子化を行っても7Bモデルで約9GB必要とされています。

トピック

よくある質問

ms-swift とは?
SFT、DPO、GRPOに対応し、600以上の大規模言語モデルと400以上のマルチモーダルモデルのファインチューニング、学習、推論、デプロイを支援するフレームワーク。 ms-swiftは、ModelScopeコミュニティが提供する、大規模言語モデルやマルチモーダルモデルのファインチューニング、アライメント、評価、量子化、デプロイに対応したフレームワークです。事前学習、教師ありファインチューニング、DPO、KTO、ORPOなどの選好学習に加え、DAPO、GSPO、RLOOなどのGRPO系強化学習アルゴリズムをサポートしています。Embedding、reranker、系列分類タスクにも対応しています。
ms-swift は無料で使えますか?ライセンスは?
ms-swift は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
ms-swift は今もメンテナンスされていますか?
活発にメンテナンス中。ms-swift の最終コミットは 2026年10月21日 です。
ms-swift は何に使えますか?
単一GPU上で、独自の指示データセットを使ってオープンウェイトのQwenやLlamaモデルをファインチューニングする。 画像、動画、音声データを使い、ビジョン部分と言語部分を個別に制御しながらマルチモーダルモデルを学習する。 推論やエージェントのタスク向けに、vLLMで高速化したGRPO強化学習を実行する。 検索パイプライン向けのEmbeddingモデルやrerankerモデルを学習する。
ms-swift はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/modelscope/ms-swift

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト