Repolode
Enviar
modelscope

modelscope/ms-swift

Framework de ajuste fino, entrenamiento, inferencia y despliegue para más de 600 modelos de lenguaje grandes y más de 400 modelos multimodales, compatible con SFT, DPO y GRPO.

Ver en GitHubSitio web
Estrellas
15,903
Forks
1,747
Issues abiertos
601
Último commit
hace 4 horas

¿Qué es?

ms-swift es un framework de la comunidad ModelScope para ajustar, alinear, evaluar, cuantizar y desplegar modelos de lenguaje grandes y modelos multimodales. Es compatible con preentrenamiento, ajuste fino supervisado, aprendizaje de preferencias como DPO, KTO y ORPO, y una familia de algoritmos de aprendizaje por refuerzo GRPO, incluidos DAPO, GSPO y RLOO. También incluye tareas de embeddings, reranking y clasificación de secuencias.

El framework ofrece una interfaz de línea de comandos (swift sft, swift rlhf, swift infer, swift deploy), una interfaz web basada en Gradio y una API de Python. El entrenamiento puede usar LoRA, QLoRA, DoRA o ajuste de parámetros completos con paralelismo de DeepSpeed, FSDP o Megatron (TP, PP, CP, EP). La inferencia y el despliegue pueden ejecutarse con Transformers, vLLM, SGLang o LMDeploy, y los modelos se pueden exportar con cuantización AWQ, GPTQ, FP8 o BNB.

Es compatible con hardware que incluye GPU NVIDIA CUDA, GPU AMD ROCm, Ascend NPU, MetaX, Moore Threads, Apple MPS y CPU. Los conjuntos de datos se pueden obtener de ModelScope o Hugging Face, o proporcionar como datos personalizados.

Funciones clave

  • 01Ajuste fino supervisado, preentrenamiento, alineación de preferencias con DPO/KTO/ORPO y aprendizaje por refuerzo de la familia GRPO.
  • 02Entrenamiento con LoRA, QLoRA, DoRA y parámetros completos, con paralelismo de DeepSpeed, FSDP y Megatron.
  • 03Inferencia y despliegue con Transformers, vLLM, SGLang o LMDeploy mediante una interfaz compatible con OpenAI.
  • 04Exportación con cuantización AWQ, GPTQ, FP8 y BNB.
  • 05Herramientas de línea de comandos, una interfaz web de Gradio y una API de Python para el mismo flujo de trabajo.

Casos de uso

  • Ajustar un modelo de pesos abiertos Qwen o Llama con un conjunto de datos de instrucciones personalizado en una sola GPU.
  • Entrenar un modelo multimodal con datos de imagen, video o audio, controlando por separado sus componentes de visión y lenguaje.
  • Ejecutar aprendizaje por refuerzo GRPO con aceleración de vLLM para tareas de razonamiento o de agentes.
  • Entrenar modelos de embeddings o reranking para pipelines de recuperación.

Antes de usarlo

  • Entrenar modelos grandes requiere una cantidad considerable de memoria GPU; el README indica que los modelos de 7B necesitan unos 9 GB incluso con cuantización.

Temas

#llm#fine-tuning#multimodal#lora#reinforcement-learning#grpo#model-deployment#peft#deepseek#embedding

Preguntas frecuentes

¿Qué es ms-swift?
Framework de ajuste fino, entrenamiento, inferencia y despliegue para más de 600 modelos de lenguaje grandes y más de 400 modelos multimodales, compatible con SFT, DPO y GRPO. ms-swift es un framework de la comunidad ModelScope para ajustar, alinear, evaluar, cuantizar y desplegar modelos de lenguaje grandes y modelos multimodales. Es compatible con preentrenamiento, ajuste fino supervisado, aprendizaje de preferencias como DPO, KTO y ORPO, y una familia de algoritmos de aprendizaje por refuerzo GRPO, incluidos DAPO, GSPO y RLOO. También incluye tareas de embeddings, reranking y clasificación de secuencias.
¿ms-swift es gratuito? ¿Qué licencia tiene?
ms-swift es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿ms-swift sigue mantenido?
Mantenimiento activo. El último commit de ms-swift fue el 21 oct 2026.
¿Para qué puedo usar ms-swift?
Ajustar un modelo de pesos abiertos Qwen o Llama con un conjunto de datos de instrucciones personalizado en una sola GPU. Entrenar un modelo multimodal con datos de imagen, video o audio, controlando por separado sus componentes de visión y lenguaje. Ejecutar aprendizaje por refuerzo GRPO con aceleración de vLLM para tareas de razonamiento o de agentes. Entrenar modelos de embeddings o reranking para pipelines de recuperación.
¿Dónde consigo ms-swift?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/modelscope/ms-swift

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados