Repolode
axolotl-ai-cloud

axolotl-ai-cloud/axolotl

Бесплатный фреймворк с открытым исходным кодом для дообучения и постобучения больших языковых моделей с настройкой через YAML-файлы.

Звёзды
12,592
Форки
1,637
Открытые issues
253
Последний коммит
8 часов назад

Что это?

Axolotl — фреймворк для дообучения и постобучения больших языковых моделей. Он охватывает весь процесс: от предварительной обработки датасетов и обучения до оценки, квантования и инференса. Каждый этап настраивается через единый YAML-файл.

Поддерживаются полное дообучение, LoRA, QLoRA, GPTQ, QAT, а также методы обучения на предпочтениях и с подкреплением, например DPO, KTO, ORPO и GRPO. Обучать можно множество семейств моделей с Hugging Face Hub, в том числе vision-language и аудиомодели. Датасеты можно загружать с локального диска, из Hugging Face, а также из хранилищ S3, Azure, GCP и OCI.

Для повышения производительности доступны, среди прочего, multipacking, Flash Attention, Liger Kernel, FSDP2 и многопроцессорное обучение с DeepSpeed. Обучение на нескольких узлах поддерживается через Torchrun или Ray. Для облачных и локальных сред предоставляются Docker-образы и пакеты PyPI.

Ключевые возможности

  • 01Единая YAML-конфигурация для предварительной обработки, обучения, оценки, квантования и инференса
  • 02Поддержка полного дообучения, LoRA, QLoRA, GPTQ и QAT
  • 03Методы обучения на предпочтениях (DPO, KTO, ORPO) и с подкреплением (GRPO)
  • 04Мультимодальное дообучение vision-language и аудиомоделей
  • 05Обучение на нескольких GPU с FSDP2 и DeepSpeed, на нескольких узлах — через Torchrun или Ray
  • 06Загрузка датасетов из локального хранилища, Hugging Face и крупных облачных объектных хранилищ

Сценарии использования

  • Дообучение LLM с открытыми весами на собственном датасете инструкций или диалогов с помощью LoRA
  • Оптимизация предпочтений или запуск GRPO для модели с воспроизводимой YAML-конфигурацией
  • Масштабирование обучения на несколько GPU или узлов в облачной инфраструктуре

Темы

Частые вопросы

Что такое axolotl?
Бесплатный фреймворк с открытым исходным кодом для дообучения и постобучения больших языковых моделей с настройкой через YAML-файлы. Axolotl — фреймворк для дообучения и постобучения больших языковых моделей. Он охватывает весь процесс: от предварительной обработки датасетов и обучения до оценки, квантования и инференса. Каждый этап настраивается через единый YAML-файл.
axolotl можно использовать бесплатно? Какая у него лицензия?
axolotl распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
axolotl всё ещё поддерживается?
Активно поддерживается. Последний коммит в axolotl — 20 окт. 2026 г..
Для чего можно использовать axolotl?
Дообучение LLM с открытыми весами на собственном датасете инструкций или диалогов с помощью LoRA Оптимизация предпочтений или запуск GRPO для модели с воспроизводимой YAML-конфигурацией Масштабирование обучения на несколько GPU или узлов в облачной инфраструктуре
Где скачать axolotl?
Исходный код и инструкции по установке — на GitHub: https://github.com/axolotl-ai-cloud/axolotl

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты