Repolode
axolotl-ai-cloud

axolotl-ai-cloud/axolotl

Framework gratuito y de código abierto para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes mediante archivos YAML.

Estrellas
12,592
Forks
1,637
Issues abiertos
253
Último commit
hace 8 horas

¿Qué es?

Axolotl es un framework para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes. Cubre todo el flujo de trabajo, desde el preprocesamiento de conjuntos de datos y el entrenamiento hasta la evaluación, la cuantización y la inferencia; un único archivo de configuración YAML controla cada etapa.

Admite ajuste completo, LoRA, QLoRA, GPTQ, QAT y métodos de aprendizaje por preferencias o por refuerzo como DPO, KTO, ORPO y GRPO. El entrenamiento abarca numerosas familias de modelos de Hugging Face Hub, incluidos modelos de visión y lenguaje y de audio. Los conjuntos de datos se pueden cargar desde el disco local, Hugging Face o almacenamiento en S3, Azure, GCP y OCI.

Para mejorar el rendimiento, integra opciones como multipacking, Flash Attention, Liger Kernel, FSDP2 y entrenamiento multi-GPU con DeepSpeed, así como entrenamiento multinodo mediante Torchrun o Ray. Ofrece imágenes de Docker y paquetes de PyPI para entornos en la nube y locales.

Funciones clave

  • 01Un único archivo de configuración YAML para el preprocesamiento, el entrenamiento, la evaluación, la cuantización y la inferencia
  • 02Admite ajuste completo, LoRA, QLoRA, GPTQ y QAT
  • 03Métodos de ajuste por preferencias (DPO, KTO, ORPO) y aprendizaje por refuerzo (GRPO)
  • 04Ajuste multimodal para modelos de visión y lenguaje y de audio
  • 05Entrenamiento multi-GPU con FSDP2 y DeepSpeed, y multinodo con Torchrun o Ray
  • 06Carga conjuntos de datos desde almacenamiento local, Hugging Face y los principales almacenamientos de objetos en la nube

Casos de uso

  • Ajustar con LoRA un LLM de pesos abiertos usando un conjunto de datos personalizado de instrucciones o conversaciones
  • Ejecutar optimización de preferencias o GRPO en un modelo mediante una configuración YAML reproducible
  • Escalar un trabajo de entrenamiento en varias GPU o nodos de infraestructura en la nube

Temas

Preguntas frecuentes

¿Qué es axolotl?
Framework gratuito y de código abierto para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes mediante archivos YAML. Axolotl es un framework para ajustar y realizar el posentrenamiento de modelos de lenguaje grandes. Cubre todo el flujo de trabajo, desde el preprocesamiento de conjuntos de datos y el entrenamiento hasta la evaluación, la cuantización y la inferencia; un único archivo de configuración YAML controla cada etapa.
¿axolotl es gratuito? ¿Qué licencia tiene?
axolotl es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿axolotl sigue mantenido?
Mantenimiento activo. El último commit de axolotl fue el 20 oct 2026.
¿Para qué puedo usar axolotl?
Ajustar con LoRA un LLM de pesos abiertos usando un conjunto de datos personalizado de instrucciones o conversaciones Ejecutar optimización de preferencias o GRPO en un modelo mediante una configuración YAML reproducible Escalar un trabajo de entrenamiento en varias GPU o nodos de infraestructura en la nube
¿Dónde consigo axolotl?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/axolotl-ai-cloud/axolotl

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados