Repolode
Enviar
h2oai

h2oai/h2o-llmstudio

Framework e GUI no-code para ajustar LLMs, com suporte a LoRA, DPO e CLI.

Ver no GitHubSite
Estrelas
5,192
Forks
555
Issues abertas
38
Último commit
ontem

O que é?

O H2O LLM Studio é um framework com interface gráfica para ajustar LLMs sem escrever código. Os usuários carregam um dataset, escolhem um modelo-base e definem hiperparâmetros pela GUI; depois, podem acompanhar e comparar os experimentos, além de conversar com os modelos resultantes.

O projeto oferece métodos eficientes em parâmetros, como Low-Rank Adaptation (LoRA), e treinamento em 8 bits para reduzir o uso de memória da GPU. Também inclui opções de otimização por preferências (DPO, IPO e KTO) e tipos de problema para classificação causal e regressão, além de suporte experimental a aprendizado por reforço. O treinamento pode ser executado pela linha de comando usando uma configuração YAML, e há suporte a DeepSpeed e DDP com várias GPUs para modelos maiores.

Os modelos treinados podem ser enviados ao Hugging Face Hub, e o Weights & Biases pode ser usado para acompanhar os experimentos. O app pode ser executado localmente no Ubuntu com GPUs NVIDIA ou por meio do Docker e de um template do runpod.io.

Recursos principais

  • 01GUI no-code para criar, acompanhar e comparar experimentos de fine-tuning.
  • 02LoRA e treinamento em 8 bits para reduzir os requisitos de memória da GPU.
  • 03Opções de otimização por preferências com DPO, IPO e KTO.
  • 04Treinamento pela linha de comando usando arquivos de configuração YAML, com suporte a DDP em várias GPUs.
  • 05Chat interativo com modelos ajustados e exportação para o Hugging Face Hub.

Casos de uso

  • Adaptar um LLM de código aberto a um dataset de perguntas e respostas específico de um domínio, sem escrever código de treinamento.
  • Comparar configurações de hiperparâmetros em várias execuções de fine-tuning pela mesma interface.
  • Executar tarefas de fine-tuning com scripts reproduzíveis em um servidor com GPU usando a CLI.

Início rápido

  1. 1

    Instale o ambiente virtual baseado em uv e as dependências

    make setup
  2. 2

    Inicie a interface gráfica do H2O LLM Studio

    make llmstudio
  3. 3

    Abra http://localhost:10101/ no navegador

Antes de usar

  • É necessário ter uma máquina Ubuntu com uma GPU NVIDIA recente e drivers NVIDIA versão 580 ou superior.
  • Para modelos maiores, recomenda-se ter pelo menos 24 GB de memória de GPU.
  • Alguns recursos, como o ajuste fino de RL, são considerados experimentais, e a compatibilidade com versões anteriores não é garantida.

Em coleções

Treine e execute IA em GPUsChatbots de IA e clientes de chat

Tópicos

#llm#fine-tuning#lora#gpu#generative-ai#no-code#deep-learning#ai#chatbot#chatgpt

Perguntas frequentes

O que é h2o-llmstudio?
Framework e GUI no-code para ajustar LLMs, com suporte a LoRA, DPO e CLI. O H2O LLM Studio é um framework com interface gráfica para ajustar LLMs sem escrever código. Os usuários carregam um dataset, escolhem um modelo-base e definem hiperparâmetros pela GUI; depois, podem acompanhar e comparar os experimentos, além de conversar com os modelos resultantes.
h2o-llmstudio é gratuito? Qual é a licença?
h2o-llmstudio é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
h2o-llmstudio ainda é mantido?
Manutenção ativa. O último commit de h2o-llmstudio foi em 5 de nov. de 2026.
Para que posso usar h2o-llmstudio?
Adaptar um LLM de código aberto a um dataset de perguntas e respostas específico de um domínio, sem escrever código de treinamento. Comparar configurações de hiperparâmetros em várias execuções de fine-tuning pela mesma interface. Executar tarefas de fine-tuning com scripts reproduzíveis em um servidor com GPU usando a CLI.
Como instalar h2o-llmstudio?
Instale o ambiente virtual baseado em uv e as dependências: make setup Inicie a interface gráfica do H2O LLM Studio: make llmstudio Abra http://localhost:10101/ no navegador
Onde consigo h2o-llmstudio?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/h2oai/h2o-llmstudio

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados