Repolode
Предложить
modelscope

modelscope/ms-swift

Фреймворк для дообучения, обучения, инференса и деплоя более 600 больших языковых и 400 мультимодальных моделей, включая SFT, DPO и GRPO.

Открыть на GitHubСайт
Звёзды
15,903
Форки
1,747
Открытые issues
601
Последний коммит
3 часа назад

Что это?

ms-swift — фреймворк сообщества ModelScope для дообучения, выравнивания, оценки, квантования и деплоя больших языковых и мультимодальных моделей. Он поддерживает предобучение, supervised fine-tuning, обучение на предпочтениях, например DPO, KTO и ORPO, а также семейство алгоритмов обучения с подкреплением на основе GRPO, включая DAPO, GSPO и RLOO. Также поддерживаются задачи с эмбеддингами, reranker-моделями и классификацией последовательностей.

Фреймворк предоставляет интерфейс командной строки (swift sft, swift rlhf, swift infer, swift deploy), Web-UI на базе Gradio и Python API. Для обучения можно использовать LoRA, QLoRA, DoRA или полное обновление параметров с параллелизмом DeepSpeed, FSDP или Megatron (TP, PP, CP, EP). Инференс и деплой выполняются на базе Transformers, vLLM, SGLang или LMDeploy, а модели можно экспортировать с квантованием AWQ, GPTQ, FP8 или BNB.

Поддерживается оборудование NVIDIA CUDA GPU, AMD ROCm GPU, Ascend NPU, MetaX, Moore Threads, Apple MPS и CPU. Датасеты можно загружать из ModelScope или Hugging Face либо предоставлять самостоятельно.

Ключевые возможности

  • 01Supervised fine-tuning, предобучение, выравнивание на основе предпочтений DPO/KTO/ORPO и обучение с подкреплением из семейства GRPO.
  • 02Обучение с LoRA, QLoRA, DoRA и полным обновлением параметров с параллелизмом DeepSpeed, FSDP и Megatron.
  • 03Инференс и деплой на базе Transformers, vLLM, SGLang или LMDeploy с интерфейсом, совместимым с OpenAI.
  • 04Экспорт с квантованием AWQ, GPTQ, FP8 и BNB.
  • 05Инструменты командной строки, Web-UI на базе Gradio и Python API для единого рабочего процесса.

Сценарии использования

  • Дообучение модели с открытыми весами Qwen или Llama на собственном датасете инструкций с использованием одной GPU.
  • Обучение мультимодальной модели на изображениях, видео или аудио с раздельной настройкой её визуальной и языковой частей.
  • Обучение с подкреплением GRPO и ускорением через vLLM для задач рассуждения или работы агентов.
  • Обучение моделей эмбеддингов или reranker-моделей для поисковых конвейеров.

Что важно знать

  • Для обучения больших моделей требуется много памяти GPU; в README указано, что даже с квантованием для моделей 7B нужно около 9 ГБ.

Темы

#llm#fine-tuning#multimodal#lora#reinforcement-learning#grpo#model-deployment#peft#deepseek#embedding

Частые вопросы

Что такое ms-swift?
Фреймворк для дообучения, обучения, инференса и деплоя более 600 больших языковых и 400 мультимодальных моделей, включая SFT, DPO и GRPO. ms-swift — фреймворк сообщества ModelScope для дообучения, выравнивания, оценки, квантования и деплоя больших языковых и мультимодальных моделей. Он поддерживает предобучение, supervised fine-tuning, обучение на предпочтениях, например DPO, KTO и ORPO, а также семейство алгоритмов обучения с подкреплением на основе GRPO, включая DAPO, GSPO и RLOO. Также поддерживаются задачи с эмбеддингами, reranker-моделями и классификацией последовательностей.
ms-swift можно использовать бесплатно? Какая у него лицензия?
ms-swift распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ms-swift всё ещё поддерживается?
Активно поддерживается. Последний коммит в ms-swift — 21 окт. 2026 г..
Для чего можно использовать ms-swift?
Дообучение модели с открытыми весами Qwen или Llama на собственном датасете инструкций с использованием одной GPU. Обучение мультимодальной модели на изображениях, видео или аудио с раздельной настройкой её визуальной и языковой частей. Обучение с подкреплением GRPO и ускорением через vLLM для задач рассуждения или работы агентов. Обучение моделей эмбеддингов или reranker-моделей для поисковых конвейеров.
Где скачать ms-swift?
Исходный код и инструкции по установке — на GitHub: https://github.com/modelscope/ms-swift

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты