Repolode
Enviar
georgian-io

georgian-io/LLM-Finetuning-Toolkit

CLI orientada por configuração para executar e comparar experimentos de fine-tuning de LLMs com diferentes prompts, modelos open source e configurações de LoRA, incluindo testes integrados das saídas.

Ver no GitHub
Estrelas
870
Forks
107
Issues abertas
16
Último commit
há 15 dias

O que é?

LLM Finetuning Toolkit é uma ferramenta de CLI que executa uma série de experimentos de fine-tuning de LLMs a partir de um único arquivo YAML. A configuração controla o template do prompt, o modelo base, os parâmetros de otimização (como rank e dropout do LoRA e quantização de 4 bits via bitsandbytes) e as verificações de qualidade após o treinamento. É possível especificar qualquer modelo open source disponível no Hugging Face, e os datasets podem vir do Hugging Face ou de arquivos JSON e CSV locais.

O principal uso são estudos de ablação. É possível incluir na configuração listas de templates de prompt, checkpoints de modelos ou hiperparâmetros de LoRA, e o toolkit executa cada combinação. Cada configuração recebe um hash, então uma execução interrompida pode ser retomada usando o dataset em cache, em vez de começar do zero. As saídas são salvas em diretórios separados para o dataset, os pesos do modelo, os resultados das predições e os resultados dos testes de QA.

O projeto inclui testes integrados, como um teste de comprimento e um teste de sobreposição de palavras, que verificam se o texto gerado se comporta como esperado. Ele pode ser instalado com pipx ou pip como o pacote llm-toolkit.

Recursos principais

  • 01Define prompts, modelos, configurações de LoRA e testes de QA em um único arquivo YAML.
  • 02Executa estudos de ablação com listas de templates de prompt, checkpoints de modelos e parâmetros de LoRA.
  • 03Carrega datasets do Hugging Face ou de arquivos JSON e CSV.
  • 04Oferece suporte a quantização de 4 bits e Flash Attention 2 para modelos compatíveis.
  • 05Armazena resultados em cache com base no hash da configuração, permitindo retomar execuções interrompidas.
  • 06Inclui testes de QA integrados, como verificações de comprimento e sobreposição de palavras.

Casos de uso

  • Comparar vários modelos base open source usando o mesmo dataset de fine-tuning.
  • Testar qual template de prompt ou configuração de LoRA gera os melhores resultados para uma tarefa.
  • Verificar se as saídas de um modelo de sumarização são mais curtas que as entradas.
  • Executar experimentos reproduzíveis de fine-tuning a partir de um arquivo de configuração versionado.

Início rápido

  1. 1

    Instale o toolkit com pipx (recomendado)

    pipx install llm-toolkit
  2. 2

    Gere um arquivo de configuração inicial

    llmtune generate config
  3. 3

    Execute o experimento de fine-tuning com a configuração

    llmtune run ./config.yml

Antes de usar

  • O Flash Attention 2 precisa ser instalado manualmente em uma etapa separada e requer uma GPU compatível.
  • O fine-tuning de modelos como o Llama-2 7B exige muitos recursos e depende do acesso ao modelo no Hugging Face.

Em coleções

Frameworks de teste e ferramentas de automação de testesFerramentas e bibliotecas de processamento de linguagem natural

Tópicos

#fine-tuning#llm#lora#qlora#ablation-study#nlp#hugging-face#testing#classification#falcon

Perguntas frequentes

O que é LLM-Finetuning-Toolkit?
CLI orientada por configuração para executar e comparar experimentos de fine-tuning de LLMs com diferentes prompts, modelos open source e configurações de LoRA, incluindo testes integrados das saídas. LLM Finetuning Toolkit é uma ferramenta de CLI que executa uma série de experimentos de fine-tuning de LLMs a partir de um único arquivo YAML. A configuração controla o template do prompt, o modelo base, os parâmetros de otimização (como rank e dropout do LoRA e quantização de 4 bits via bitsandbytes) e as verificações de qualidade após o treinamento. É possível especificar qualquer modelo open source disponível no Hugging Face, e os datasets podem vir do Hugging Face ou de arquivos JSON e CSV locais.
LLM-Finetuning-Toolkit é gratuito? Qual é a licença?
LLM-Finetuning-Toolkit é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
LLM-Finetuning-Toolkit ainda é mantido?
Manutenção ativa. O último commit de LLM-Finetuning-Toolkit foi em 22 de out. de 2026.
Para que posso usar LLM-Finetuning-Toolkit?
Comparar vários modelos base open source usando o mesmo dataset de fine-tuning. Testar qual template de prompt ou configuração de LoRA gera os melhores resultados para uma tarefa. Verificar se as saídas de um modelo de sumarização são mais curtas que as entradas. Executar experimentos reproduzíveis de fine-tuning a partir de um arquivo de configuração versionado.
Como instalar LLM-Finetuning-Toolkit?
Instale o toolkit com pipx (recomendado): pipx install llm-toolkit Gere um arquivo de configuração inicial: llmtune generate config Execute o experimento de fine-tuning com a configuração: llmtune run ./config.yml
Onde consigo LLM-Finetuning-Toolkit?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/georgian-io/LLM-Finetuning-Toolkit

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados