Repolode
Предложить
hiyouga

hiyouga/LlamaFactory

Единый фреймворк для эффективной тонкой настройки более 100 LLM и VLM через CLI и веб-интерфейс без написания кода.

Открыть на GitHubСайт
Звёзды
75,601
Форки
9,275
Открытые issues
1,197
Последний коммит
20 часов назад

Что это?

LlamaFactory — фреймворк для тонкой настройки больших языковых и визуально-языковых моделей. Он поддерживает широкий спектр семейств моделей, включая LLaMA, Qwen, Gemma, DeepSeek, GLM, Mistral и множество мультимодальных вариантов. Пользователи могут запускать обучение без написания кода через CLI или браузерный интерфейс LLaMA Board.

Проект поддерживает настройку всех параметров модели, freeze-tuning, обучение с LoRA и квантованной QLoRA, а также предобучение, supervised fine-tuning, reward modeling, PPO, DPO, KTO, ORPO и SimPO. В него также входят методы экономии памяти и ускорения, например FlashAttention-2, Unsloth и Liger Kernel, а также оптимизаторы GaLore, BAdam и APOLLO.

После обучения модели можно развернуть через API в стиле OpenAI, используя vLLM или SGLang в качестве опциональных бэкендов для инференса. Для отслеживания экспериментов поддерживаются TensorBoard, Wandb, MLflow и SwanLab.

Ключевые возможности

  • 01Тонкая настройка без написания кода через CLI или веб-интерфейс LLaMA Board.
  • 02Поддержка LoRA, QLoRA и обучения со всеми параметрами для более чем 100 семейств моделей.
  • 03Поддержка SFT, reward modeling, PPO, DPO, KTO, ORPO и SimPO.
  • 04Поддержка мультимодальных моделей для понимания изображений, видео и аудио.
  • 05Развертывание обученных моделей через API в стиле OpenAI с бэкендами vLLM или SGLang.

Сценарии использования

  • Адаптация модели с открытыми весами, например Qwen или Llama, к профильному датасету без написания кода для обучения.
  • Сравнение запусков LoRA и QLoRA при ограниченном объёме видеопамяти.
  • Обучение моделей для выравнивания предпочтений с помощью DPO или ORPO.
  • Тонкая настройка визуально-языковой модели на собственных данных с изображениями и текстом.

Темы

#fine-tuning#llm#lora#qlora#peft#rlhf#multimodal#transformers#agent#ai

Частые вопросы

Что такое LlamaFactory?
Единый фреймворк для эффективной тонкой настройки более 100 LLM и VLM через CLI и веб-интерфейс без написания кода. LlamaFactory — фреймворк для тонкой настройки больших языковых и визуально-языковых моделей. Он поддерживает широкий спектр семейств моделей, включая LLaMA, Qwen, Gemma, DeepSeek, GLM, Mistral и множество мультимодальных вариантов. Пользователи могут запускать обучение без написания кода через CLI или браузерный интерфейс LLaMA Board.
LlamaFactory можно использовать бесплатно? Какая у него лицензия?
LlamaFactory распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
LlamaFactory всё ещё поддерживается?
Активно поддерживается. Последний коммит в LlamaFactory — 19 окт. 2026 г..
Для чего можно использовать LlamaFactory?
Адаптация модели с открытыми весами, например Qwen или Llama, к профильному датасету без написания кода для обучения. Сравнение запусков LoRA и QLoRA при ограниченном объёме видеопамяти. Обучение моделей для выравнивания предпочтений с помощью DPO или ORPO. Тонкая настройка визуально-языковой модели на собственных данных с изображениями и текстом.
Где скачать LlamaFactory?
Исходный код и инструкции по установке — на GitHub: https://github.com/hiyouga/LlamaFactory

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

AI4Finance-Foundation / FinGPT

Открытые большие языковые модели, дообученные для финансовых задач: анализа тональности, прогнозирования и тестов по финансовой обработке естественного языка.

ИИ и машинное обучение#llm#finance#sentiment-analysis
21,4 тыс.3 тыс.Jupyter NotebookMITОбновлён 28 дней назад