ゼロコードのCLIとWeb UIで、100種類以上のLLMやVLMを効率よくファインチューニングできる統合フレームワーク。
modelscope/ms-swift
SFT、DPO、GRPOに対応し、600以上の大規模言語モデルと400以上のマルチモーダルモデルのファインチューニング、学習、推論、デプロイを支援するフレームワーク。
- スター
- 15,903
- フォーク
- 1,747
- 未解決の Issue
- 601
- 最終コミット
- 3 時間前
これは何?
ms-swiftは、ModelScopeコミュニティが提供する、大規模言語モデルやマルチモーダルモデルのファインチューニング、アライメント、評価、量子化、デプロイに対応したフレームワークです。事前学習、教師ありファインチューニング、DPO、KTO、ORPOなどの選好学習に加え、DAPO、GSPO、RLOOなどのGRPO系強化学習アルゴリズムをサポートしています。Embedding、reranker、系列分類タスクにも対応しています。
コマンドラインインターフェース(swift sft、swift rlhf、swift infer、swift deploy)、GradioベースのWeb UI、Python APIを利用できます。学習では、LoRA、QLoRA、DoRA、全パラメータチューニングに加え、DeepSpeed、FSDP、Megatronによる並列化(TP、PP、CP、EP)を利用できます。推論とデプロイはTransformers、vLLM、SGLang、LMDeployで実行でき、AWQ、GPTQ、FP8、BNBによる量子化を適用してモデルをエクスポートできます。
ハードウェアはNVIDIA CUDA GPU、AMD ROCm GPU、Ascend NPU、MetaX、Moore Threads、Apple MPS、CPUに対応しています。データセットはModelScopeやHugging Faceから取得するほか、独自データを用意して利用できます。
主な機能
- 01教師ありファインチューニング、事前学習、DPO/KTO/ORPOによる選好アライメント、GRPO系の強化学習に対応。
- 02LoRA、QLoRA、DoRA、全パラメータ学習に対応し、DeepSpeed、FSDP、Megatronによる並列化を利用可能。
- 03Transformers、vLLM、SGLang、LMDeployを使った推論・デプロイに対応し、OpenAI互換インターフェースを提供。
- 04AWQ、GPTQ、FP8、BNB形式で量子化モデルをエクスポート可能。
- 05一連のワークフローに使えるコマンドラインツール、Gradio Web UI、Python APIを提供。
ユースケース
- 単一GPU上で、独自の指示データセットを使ってオープンウェイトのQwenやLlamaモデルをファインチューニングする。
- 画像、動画、音声データを使い、ビジョン部分と言語部分を個別に制御しながらマルチモーダルモデルを学習する。
- 推論やエージェントのタスク向けに、vLLMで高速化したGRPO強化学習を実行する。
- 検索パイプライン向けのEmbeddingモデルやrerankerモデルを学習する。
使う前に知っておきたいこと
- 大規模モデルの学習には大量のGPUメモリが必要です。READMEでは、量子化を行っても7Bモデルで約9GB必要とされています。
トピック
よくある質問
- ms-swift とは?
- SFT、DPO、GRPOに対応し、600以上の大規模言語モデルと400以上のマルチモーダルモデルのファインチューニング、学習、推論、デプロイを支援するフレームワーク。 ms-swiftは、ModelScopeコミュニティが提供する、大規模言語モデルやマルチモーダルモデルのファインチューニング、アライメント、評価、量子化、デプロイに対応したフレームワークです。事前学習、教師ありファインチューニング、DPO、KTO、ORPOなどの選好学習に加え、DAPO、GSPO、RLOOなどのGRPO系強化学習アルゴリズムをサポートしています。Embedding、reranker、系列分類タスクにも対応しています。
- ms-swift は無料で使えますか?ライセンスは?
- ms-swift は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- ms-swift は今もメンテナンスされていますか?
- 活発にメンテナンス中。ms-swift の最終コミットは 2026年10月21日 です。
- ms-swift は何に使えますか?
- 単一GPU上で、独自の指示データセットを使ってオープンウェイトのQwenやLlamaモデルをファインチューニングする。 画像、動画、音声データを使い、ビジョン部分と言語部分を個別に制御しながらマルチモーダルモデルを学習する。 推論やエージェントのタスク向けに、vLLMで高速化したGRPO強化学習を実行する。 検索パイプライン向けのEmbeddingモデルやrerankerモデルを学習する。
- ms-swift はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/modelscope/ms-swift
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
SFT、GRPO、DPO、KTO、報酬モデル学習に対応した、Transformer言語モデルのポストトレーニング用Hugging Faceライブラリ。
既存アプリに組み込めるクライアント・サーバー構成で、GRPOを使い、LLMエージェントを自身の経験から学習させるPython製RLフレームワーク。
Google CloudのTPUとGPUで大規模モデルの事前学習と事後学習を行うための、JAXベースのオープンソースLLMライブラリ兼リファレンス実装です。
ローカルやオンデバイス環境で画像、動画、文書、音声を理解するオープンソースのマルチモーダルモデル(MiniCPM-V 4.7、MiniCPM-o 4.5)。
verlは、HybridFlow論文を基盤とする、大規模言語モデルの学習後処理向けオープンソース強化学習トレーニングライブラリです。