Repolode
Enviar
modelscope

modelscope/ms-swift

Framework de ajuste fino, treinamento, inferência e implantação para mais de 600 LLMs e 400 modelos multimodais, com suporte a SFT, DPO e GRPO.

Ver no GitHubSite
Estrelas
15,903
Forks
1,747
Issues abertas
601
Último commit
há 4 horas

O que é?

O ms-swift é um framework da comunidade ModelScope para ajustar, alinhar, avaliar, quantizar e implantar LLMs e modelos multimodais. Ele oferece suporte a pré-treinamento, ajuste fino supervisionado, aprendizado por preferências, como DPO, KTO e ORPO, e a uma família de algoritmos de aprendizado por reforço GRPO, incluindo DAPO, GSPO e RLOO. Também abrange tarefas de embeddings, reranking e classificação de sequências.

O framework oferece tanto uma interface de linha de comando (swift sft, swift rlhf, swift infer, swift deploy) quanto uma Web UI baseada em Gradio, além de uma API Python. O treinamento pode usar LoRA, QLoRA, DoRA ou ajuste de parâmetros completos, com paralelismo via DeepSpeed, FSDP ou Megatron (TP, PP, CP, EP). A inferência e a implantação podem ser executadas com Transformers, vLLM, SGLang ou LMDeploy, e os modelos podem ser exportados com quantização AWQ, GPTQ, FP8 ou BNB.

O suporte a hardware inclui GPUs NVIDIA CUDA e AMD ROCm, Ascend NPU, MetaX, Moore Threads, Apple MPS e CPU. Os datasets podem ser obtidos no ModelScope ou no Hugging Face, ou fornecidos como dados personalizados.

Recursos principais

  • 01Ajuste fino supervisionado, pré-treinamento, alinhamento por preferências com DPO/KTO/ORPO e aprendizado por reforço da família GRPO.
  • 02Treinamento com LoRA, QLoRA, DoRA e parâmetros completos, usando paralelismo DeepSpeed, FSDP e Megatron.
  • 03Inferência e implantação via Transformers, vLLM, SGLang ou LMDeploy, com uma interface compatível com OpenAI.
  • 04Exportação com quantização AWQ, GPTQ, FP8 e BNB.
  • 05Ferramentas de linha de comando, uma Web UI em Gradio e uma API Python para o mesmo fluxo de trabalho.

Casos de uso

  • Ajustar um modelo Qwen ou Llama de pesos abertos com um dataset personalizado de instruções, usando uma única GPU.
  • Treinar um modelo multimodal com dados de imagem, vídeo ou áudio, controlando separadamente as partes de visão e linguagem.
  • Executar aprendizado por reforço GRPO com aceleração do vLLM para tarefas de raciocínio ou de agentes.
  • Treinar modelos de embeddings ou reranking para pipelines de recuperação.

Antes de usar

  • Treinar modelos grandes exige bastante memória de GPU; o README indica que modelos de 7B precisam de cerca de 9 GB mesmo com quantização.

Tópicos

#llm#fine-tuning#multimodal#lora#reinforcement-learning#grpo#model-deployment#peft#deepseek#embedding

Perguntas frequentes

O que é ms-swift?
Framework de ajuste fino, treinamento, inferência e implantação para mais de 600 LLMs e 400 modelos multimodais, com suporte a SFT, DPO e GRPO. O ms-swift é um framework da comunidade ModelScope para ajustar, alinhar, avaliar, quantizar e implantar LLMs e modelos multimodais. Ele oferece suporte a pré-treinamento, ajuste fino supervisionado, aprendizado por preferências, como DPO, KTO e ORPO, e a uma família de algoritmos de aprendizado por reforço GRPO, incluindo DAPO, GSPO e RLOO. Também abrange tarefas de embeddings, reranking e classificação de sequências.
ms-swift é gratuito? Qual é a licença?
ms-swift é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
ms-swift ainda é mantido?
Manutenção ativa. O último commit de ms-swift foi em 21 de out. de 2026.
Para que posso usar ms-swift?
Ajustar um modelo Qwen ou Llama de pesos abertos com um dataset personalizado de instruções, usando uma única GPU. Treinar um modelo multimodal com dados de imagem, vídeo ou áudio, controlando separadamente as partes de visão e linguagem. Executar aprendizado por reforço GRPO com aceleração do vLLM para tarefas de raciocínio ou de agentes. Treinar modelos de embeddings ou reranking para pipelines de recuperação.
Onde consigo ms-swift?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/modelscope/ms-swift

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados