Kit de herramientas para combinar los pesos de modelos de lenguaje grandes preentrenados mediante diversos algoritmos de fusión, en CPU o GPU.
7,4 mil+11 esta semana803PythonLGPL-3.0Actualizado hace 6 días
NVIDIA-NeMo/Automodel
Biblioteca de entrenamiento nativa de PyTorch DTensor para ajustar y preentrenar LLM, VLM y modelos de difusión directamente desde checkpoints de Hugging Face.
- Estrellas
- 1,078
- Forks
- 369
- Issues abiertos
- 502
- Último commit
- hace 5 horas
¿Qué es?
NeMo AutoModel es una biblioteca de entrenamiento de código abierto del framework NVIDIA NeMo, basada en primitivas distribuidas de PyTorch como DeviceMesh y DTensor. Está pensada para preentrenar y ajustar (SFT y PEFT/LoRA) modelos de lenguaje grandes, modelos de visión y lenguaje, modelos de difusión y modelos de recuperación, y carga checkpoints de Hugging Face sin convertirlos de formato.
Las ejecuciones de entrenamiento se definen con recetas YAML que se pueden modificar desde la línea de comandos. El paralelismo se configura en lugar de quedar fijado en el código: un mismo script puede ejecutarse en una sola GPU o en muchos nodos cambiando la malla de dispositivos y combinando FSDP2, HSDP, paralelismo tensorial, de contexto, de secuencia y de pipeline. También admite paralelismo de expertos para modelos MoE, e incluye opciones de lanzamiento para Kubernetes y Slurm.
El repositorio incluye recetas para una amplia variedad de familias de modelos abiertos recientes, como Qwen, Gemma, Mistral, GLM, DeepSeek y Nemotron, y añade entrenamiento de modelos borrador para decodificación especulativa, como EAGLE y DFlash.
Funciones clave
- 01Carga modelos de Hugging Face directamente para SFT, LoRA y preentrenamiento, sin conversión.
- 02Escala de una GPU a trabajos con varios nodos cambiando la configuración de la malla de dispositivos.
- 03Combina FSDP2, HSDP y paralelismo tensorial, de contexto, de secuencia y de pipeline.
- 04Admite paralelismo de expertos para modelos de mezcla de expertos.
- 05Ejecuta recetas definidas en YAML que se pueden modificar desde la CLI.
- 06Ofrece opciones de despliegue para Kubernetes y Slurm.
Casos de uso
- Ajustar un LLM o VLM de pesos abiertos en un clúster con varias GPU o varios nodos.
- Ejecutar SFT con LoRA o con todos los parámetros en modelos MoE recientes mediante paralelismo de expertos.
- Entrenar modelos borrador para decodificación especulativa, como EAGLE, y acelerar la inferencia.
- Probar cambios de entrenamiento en PyTorch puro sin reescribir el código del modelo para cada estrategia de paralelismo.
Antes de usarlo
- Muchas recetas de ejemplo están pensadas para clústeres de GPU multinodo de gran tamaño, como los de 8 a 16 nodos o las configuraciones EP64.
Temas
Preguntas frecuentes
- ¿Qué es Automodel?
- Biblioteca de entrenamiento nativa de PyTorch DTensor para ajustar y preentrenar LLM, VLM y modelos de difusión directamente desde checkpoints de Hugging Face. NeMo AutoModel es una biblioteca de entrenamiento de código abierto del framework NVIDIA NeMo, basada en primitivas distribuidas de PyTorch como DeviceMesh y DTensor. Está pensada para preentrenar y ajustar (SFT y PEFT/LoRA) modelos de lenguaje grandes, modelos de visión y lenguaje, modelos de difusión y modelos de recuperación, y carga checkpoints de Hugging Face sin convertirlos de formato.
- ¿Automodel es gratuito? ¿Qué licencia tiene?
- Automodel es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿Automodel sigue mantenido?
- Mantenimiento activo. El último commit de Automodel fue el 6 nov 2026.
- ¿Para qué puedo usar Automodel?
- Ajustar un LLM o VLM de pesos abiertos en un clúster con varias GPU o varios nodos. Ejecutar SFT con LoRA o con todos los parámetros en modelos MoE recientes mediante paralelismo de expertos. Entrenar modelos borrador para decodificación especulativa, como EAGLE, y acelerar la inferencia. Probar cambios de entrenamiento en PyTorch puro sin reescribir el código del modelo para cada estrategia de paralelismo.
- ¿Dónde consigo Automodel?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/NVIDIA-NeMo/Automodel
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
CLI basado en configuración para ejecutar y comparar experimentos de fine-tuning de LLM con distintos prompts, modelos open source y ajustes de LoRA, con pruebas integradas de resultados.
870107PythonApache-2.0Actualizado hace 15 días
Biblioteca de estilo Transformers basada en PaddlePaddle para entrenar modelos de lenguaje grandes y modelos de visión y lenguaje, con una API compatible con Hugging Face.
13 mil+1 esta semana2,2 milPythonApache-2.0Bien mantenidoActualizado hace 16 días
Una biblioteca optimizada de Microsoft para entrenar y servir modelos Mixture-of-Experts en PyTorch, con inferencia de baja precisión para modelos como DeepSeek, Qwen y GLM.
1 mil111CMITActualizado anteayer
SliceGPT es un método de compresión posterior al entrenamiento que reduce modelos transformer, como los LLM, eliminando filas y columnas de las matrices de pesos.
466+2 esta semana59PythonMITActualizado hace 2 meses
Un proyecto open source de LLM ultracompacto que enseña a entrenar desde cero un modelo de lenguaje de 64M de parámetros en unas 2 horas con una sola GPU.
64,9 mil+282 esta semana8,5 milPythonApache-2.0Actualizado hace 11 días