Framework unificado para ajustar eficientemente más de 100 LLM y VLM con una CLI y una interfaz web sin código.
axolotl-ai-cloud/axolotl
Framework gratuito y de código abierto para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes mediante archivos YAML.
- Estrellas
- 12,592
- Forks
- 1,637
- Issues abiertos
- 253
- Último commit
- hace 8 horas
¿Qué es?
Axolotl es un framework para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes. Cubre todo el flujo de trabajo, desde el preprocesamiento de conjuntos de datos y el entrenamiento hasta la evaluación, la cuantización y la inferencia; un único archivo de configuración YAML controla cada etapa.
Admite ajuste completo, LoRA, QLoRA, GPTQ, QAT y métodos de aprendizaje por preferencias o por refuerzo como DPO, KTO, ORPO y GRPO. El entrenamiento abarca numerosas familias de modelos de Hugging Face Hub, incluidos modelos de visión y lenguaje y de audio. Los conjuntos de datos se pueden cargar desde el disco local, Hugging Face o almacenamiento en S3, Azure, GCP y OCI.
Para mejorar el rendimiento, integra opciones como multipacking, Flash Attention, Liger Kernel, FSDP2 y entrenamiento multi-GPU con DeepSpeed, así como entrenamiento multinodo mediante Torchrun o Ray. Ofrece imágenes de Docker y paquetes de PyPI para entornos en la nube y locales.
Funciones clave
- 01Un único archivo de configuración YAML para el preprocesamiento, el entrenamiento, la evaluación, la cuantización y la inferencia
- 02Admite ajuste completo, LoRA, QLoRA, GPTQ y QAT
- 03Métodos de ajuste por preferencias (DPO, KTO, ORPO) y aprendizaje por refuerzo (GRPO)
- 04Ajuste multimodal para modelos de visión y lenguaje y de audio
- 05Entrenamiento multi-GPU con FSDP2 y DeepSpeed, y multinodo con Torchrun o Ray
- 06Carga conjuntos de datos desde almacenamiento local, Hugging Face y los principales almacenamientos de objetos en la nube
Casos de uso
- Ajustar con LoRA un LLM de pesos abiertos usando un conjunto de datos personalizado de instrucciones o conversaciones
- Ejecutar optimización de preferencias o GRPO en un modelo mediante una configuración YAML reproducible
- Escalar un trabajo de entrenamiento en varias GPU o nodos de infraestructura en la nube
Temas
Preguntas frecuentes
- ¿Qué es axolotl?
- Framework gratuito y de código abierto para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes mediante archivos YAML. Axolotl es un framework para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes. Cubre todo el flujo de trabajo, desde el preprocesamiento de conjuntos de datos y el entrenamiento hasta la evaluación, la cuantización y la inferencia; un único archivo de configuración YAML controla cada etapa.
- ¿axolotl es gratuito? ¿Qué licencia tiene?
- axolotl es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿axolotl sigue mantenido?
- Mantenimiento activo. El último commit de axolotl fue el 20 oct 2026.
- ¿Para qué puedo usar axolotl?
- Ajustar con LoRA un LLM de pesos abiertos usando un conjunto de datos personalizado de instrucciones o conversaciones Ejecutar optimización de preferencias o GRPO en un modelo mediante una configuración YAML reproducible Escalar un trabajo de entrenamiento en varias GPU o nodos de infraestructura en la nube
- ¿Dónde consigo axolotl?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/axolotl-ai-cloud/axolotl
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Herramienta CLI para ajustar y seguir entrenando LLM con una sola configuración YAML, con opciones para usar GPU de consumo con poca VRAM.
Biblioteca de Python que ejecuta modelos de lenguaje grandes capa por capa para que los modelos de 70B puedan inferir en una sola GPU de 4 GB, sin cuantización.
Guía y código en PyTorch para entrenar desde cero un LLM transformer, desde el preentrenamiento hasta SFT, modelado de recompensas, DPO/PPO/GRPO y generación.
Colección bilingüe de más de 100 diagramas originales que explican LLM, RL, RLHF, DPO, GRPO y algoritmos relacionados con modelos grandes.
Una biblioteca de optimización de deep learning que facilita y hace más eficiente el entrenamiento distribuido y la inferencia de modelos grandes.