Единый фреймворк для эффективной тонкой настройки более 100 LLM и VLM через CLI и веб-интерфейс без написания кода.
axolotl-ai-cloud/axolotl
Бесплатный фреймворк с открытым исходным кодом для дообучения и постобучения больших языковых моделей с настройкой через YAML-файлы.
- Звёзды
- 12,592
- Форки
- 1,637
- Открытые issues
- 253
- Последний коммит
- 8 часов назад
Что это?
Axolotl — фреймворк для дообучения и постобучения больших языковых моделей. Он охватывает весь процесс: от предварительной обработки датасетов и обучения до оценки, квантования и инференса. Каждый этап настраивается через единый YAML-файл.
Поддерживаются полное дообучение, LoRA, QLoRA, GPTQ, QAT, а также методы обучения на предпочтениях и с подкреплением, например DPO, KTO, ORPO и GRPO. Обучать можно множество семейств моделей с Hugging Face Hub, в том числе vision-language и аудиомодели. Датасеты можно загружать с локального диска, из Hugging Face, а также из хранилищ S3, Azure, GCP и OCI.
Для повышения производительности доступны, среди прочего, multipacking, Flash Attention, Liger Kernel, FSDP2 и многопроцессорное обучение с DeepSpeed. Обучение на нескольких узлах поддерживается через Torchrun или Ray. Для облачных и локальных сред предоставляются Docker-образы и пакеты PyPI.
Ключевые возможности
- 01Единая YAML-конфигурация для предварительной обработки, обучения, оценки, квантования и инференса
- 02Поддержка полного дообучения, LoRA, QLoRA, GPTQ и QAT
- 03Методы обучения на предпочтениях (DPO, KTO, ORPO) и с подкреплением (GRPO)
- 04Мультимодальное дообучение vision-language и аудиомоделей
- 05Обучение на нескольких GPU с FSDP2 и DeepSpeed, на нескольких узлах — через Torchrun или Ray
- 06Загрузка датасетов из локального хранилища, Hugging Face и крупных облачных объектных хранилищ
Сценарии использования
- Дообучение LLM с открытыми весами на собственном датасете инструкций или диалогов с помощью LoRA
- Оптимизация предпочтений или запуск GRPO для модели с воспроизводимой YAML-конфигурацией
- Масштабирование обучения на несколько GPU или узлов в облачной инфраструктуре
Темы
Частые вопросы
- Что такое axolotl?
- Бесплатный фреймворк с открытым исходным кодом для дообучения и постобучения больших языковых моделей с настройкой через YAML-файлы. Axolotl — фреймворк для дообучения и постобучения больших языковых моделей. Он охватывает весь процесс: от предварительной обработки датасетов и обучения до оценки, квантования и инференса. Каждый этап настраивается через единый YAML-файл.
- axolotl можно использовать бесплатно? Какая у него лицензия?
- axolotl распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- axolotl всё ещё поддерживается?
- Активно поддерживается. Последний коммит в axolotl — 20 окт. 2026 г..
- Для чего можно использовать axolotl?
- Дообучение LLM с открытыми весами на собственном датасете инструкций или диалогов с помощью LoRA Оптимизация предпочтений или запуск GRPO для модели с воспроизводимой YAML-конфигурацией Масштабирование обучения на несколько GPU или узлов в облачной инфраструктуре
- Где скачать axolotl?
- Исходный код и инструкции по установке — на GitHub: https://github.com/axolotl-ai-cloud/axolotl
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
CLI-инструмент для дообучения и посттренинга LLM по одному YAML-конфигу, в том числе на потребительских GPU с небольшим объёмом VRAM.
Библиотека Python, которая запускает большие языковые модели послойно и позволяет выполнять инференс моделей класса 70B на одной GPU с 4 ГБ памяти без квантования.
Практическое руководство и кодовая база на PyTorch для обучения LLM-трансформера с нуля: предобучение, SFT, reward modeling, DPO/PPO/GRPO и генерация.
Двуязычная коллекция из более чем 100 авторских схем, объясняющих LLM, RL, RLHF, DPO, GRPO и другие алгоритмы для больших моделей.
Библиотека для оптимизации глубокого обучения, упрощающая и ускоряющая распределённое обучение и инференс больших моделей.