Repolode
Enviar
axolotl-ai-cloud

axolotl-ai-cloud/axolotl

Framework gratuito e open source para fine-tuning e pós-treinamento de LLMs, configurado por arquivos YAML.

Ver no GitHubSite
Estrelas
12,592
Forks
1,637
Issues abertas
253
Último commit
há 8 horas

O que é?

Axolotl é um framework para fine-tuning e pós-treinamento de LLMs. Ele cobre todo o pipeline, do pré-processamento dos datasets e treinamento até a avaliação, quantização e inferência, com um único arquivo de configuração YAML controlando cada etapa.

Oferece suporte a fine-tuning completo, LoRA, QLoRA, GPTQ, QAT e métodos de aprendizado por preferência ou por reforço, como DPO, KTO, ORPO e GRPO. O treinamento abrange diversas famílias de modelos do Hugging Face Hub, incluindo modelos de visão e linguagem e de áudio. Os datasets podem ser carregados do disco local, do Hugging Face ou de serviços de armazenamento como S3, Azure, GCP e OCI.

Para melhorar o desempenho, integra opções como multipacking, Flash Attention, Liger Kernel, FSDP2 e treinamento multi-GPU com DeepSpeed, além de treinamento multinó via Torchrun ou Ray. Também oferece imagens Docker e pacotes PyPI para ambientes na nuvem e locais.

Recursos principais

  • 01Um único arquivo de configuração YAML para pré-processamento, treinamento, avaliação, quantização e inferência
  • 02Oferece suporte a fine-tuning completo, LoRA, QLoRA, GPTQ e QAT
  • 03Métodos de ajuste por preferência (DPO, KTO, ORPO) e aprendizado por reforço (GRPO)
  • 04Fine-tuning multimodal para modelos de visão e linguagem e de áudio
  • 05Treinamento multi-GPU com FSDP2 e DeepSpeed e multinó com Torchrun ou Ray
  • 06Carrega datasets do armazenamento local, do Hugging Face e dos principais serviços de armazenamento de objetos na nuvem

Casos de uso

  • Fazer fine-tuning de um LLM de pesos abertos com um dataset personalizado de instruções ou conversas, usando LoRA
  • Executar otimização por preferência ou GRPO em um modelo com uma configuração YAML reproduzível
  • Distribuir um job de treinamento entre várias GPUs ou nós em uma infraestrutura na nuvem

Tópicos

#llm#fine-tuning#lora#qlora#rlhf#deep-learning#pytorch

Perguntas frequentes

O que é axolotl?
Framework gratuito e open source para fine-tuning e pós-treinamento de LLMs, configurado por arquivos YAML. Axolotl é um framework para fine-tuning e pós-treinamento de LLMs. Ele cobre todo o pipeline, do pré-processamento dos datasets e treinamento até a avaliação, quantização e inferência, com um único arquivo de configuração YAML controlando cada etapa.
axolotl é gratuito? Qual é a licença?
axolotl é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
axolotl ainda é mantido?
Manutenção ativa. O último commit de axolotl foi em 20 de out. de 2026.
Para que posso usar axolotl?
Fazer fine-tuning de um LLM de pesos abertos com um dataset personalizado de instruções ou conversas, usando LoRA Executar otimização por preferência ou GRPO em um modelo com uma configuração YAML reproduzível Distribuir um job de treinamento entre várias GPUs ou nós em uma infraestrutura na nuvem
Onde consigo axolotl?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/axolotl-ai-cloud/axolotl

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados