Repolode
axolotl-ai-cloud

axolotl-ai-cloud/axolotl

一个免费开源的大语言模型微调与后训练框架,通过 YAML 文件进行配置。

Star
12,592
Fork
1,637
未关闭 Issue
253
最近提交
8小时前

这是什么?

Axolotl 是一个用于大语言模型微调与后训练的框架,覆盖从数据集预处理、训练、评估、量化到推理的完整流程,每个环节都可以由同一个 YAML 配置文件控制。

它支持全量微调、LoRA、QLoRA、GPTQ、QAT,以及 DPO、KTO、ORPO、GRPO 等偏好优化和强化学习方法。模型覆盖 Hugging Face Hub 上的多个主流系列,也包括视觉语言模型和音频模型;数据集可以来自本地、Hugging Face,或 S3、Azure、GCP、OCI 等云存储。

在性能方面,它集成了 multipacking、Flash Attention、Liger Kernel、FSDP2 和 DeepSpeed 多卡训练,并支持通过 Torchrun 或 Ray 进行多机训练。项目提供 Docker 镜像和 PyPI 包,便于在云端或本地环境部署。

核心功能

  • 01用单个 YAML 配置文件覆盖预处理、训练、评估、量化和推理
  • 02支持全量微调、LoRA、QLoRA、GPTQ 和 QAT
  • 03提供 DPO、KTO、ORPO 等偏好优化与 GRPO 强化学习方法
  • 04支持视觉语言模型和音频模型的多模态微调
  • 05基于 FSDP2 和 DeepSpeed 的多卡训练,并可通过 Torchrun 或 Ray 进行多机训练
  • 06可从本地、Hugging Face 及主流云对象存储加载数据集

适用场景

  • 使用 LoRA 在自定义指令或对话数据集上微调开源大模型
  • 通过可复现的 YAML 配置对模型进行偏好优化或 GRPO 训练
  • 在云端的多张 GPU 或多台机器上扩展训练任务

标签

常见问题

axolotl 是什么?
一个免费开源的大语言模型微调与后训练框架,通过 YAML 文件进行配置。 Axolotl 是一个用于大语言模型微调与后训练的框架,覆盖从数据集预处理、训练、评估、量化到推理的完整流程,每个环节都可以由同一个 YAML 配置文件控制。
axolotl 可以免费使用吗?用的什么许可证?
axolotl 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
axolotl 还在维护吗?
活跃维护中。axolotl 最近一次提交是在 2026年10月20日。
axolotl 适合用来做什么?
使用 LoRA 在自定义指令或对话数据集上微调开源大模型 通过可复现的 YAML 配置对模型进行偏好优化或 GRPO 训练 在云端的多张 GPU 或多台机器上扩展训练任务
在哪里获取 axolotl?
源代码和安装说明在 GitHub 上:https://github.com/axolotl-ai-cloud/axolotl

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目