Repolode
提交项目
h2oai

h2oai/h2o-llmstudio

一个无需编码的 GUI 与框架，用于微调大语言模型。

在 GitHub 查看官网
Star
5,192
Fork
555
未关闭 Issue
38
最近提交
前天

这是什么？

H2O LLM Studio 是一个用于微调大语言模型的框架和图形界面，无需编写代码即可完成。用户在 GUI 中上传数据集、选择基座模型并设置超参数，之后可以监控、比较实验结果，并直接与训练后的模型对话。

项目支持 LoRA 等参数高效微调方法以及 8 位训练，以降低显存占用。它还提供 DPO、IPO、KTO 等偏好优化方式，以及因果分类和回归等任务类型，强化学习为实验性功能。命令行模式可通过 YAML 配置文件启动训练，较大模型还可使用 DeepSpeed 与多卡 DDP。

训练好的模型可以发布到 Hugging Face Hub，实验跟踪可接入 Weights & Biases。应用需在配有 NVIDIA GPU 的 Ubuntu 机器上运行，也可通过 Docker 部署。

核心功能

  • 01无需编码的 GUI，可创建、监控和比较微调实验。
  • 02支持 LoRA 与 8 位训练，降低 GPU 显存需求。
  • 03提供 DPO、IPO、KTO 等偏好优化方式。
  • 04支持通过 YAML 配置文件命令行训练，并可多卡 DDP。
  • 05可与微调后的模型交互式对话，并发布到 Hugging Face Hub。

适用场景

  • 不写训练代码，将开源大模型适配到特定领域的问答数据集。
  • 在同一界面中比较多次微调实验的超参数设置。
  • 在 GPU 服务器上通过命令行运行可脚本化、可复现的微调任务。

快速上手

  1. 1

    使用 uv 创建虚拟环境并安装依赖

    make setup
  2. 2

    启动 H2O LLM Studio 图形界面

    make llmstudio
  3. 3

    在浏览器中打开 http://localhost:10101/

使用前须知

  • 需要 Ubuntu 机器并配备较新的 NVIDIA GPU，且驱动版本需为 580 或更新。
  • 训练较大模型时建议至少 24GB 显存。
  • 部分功能（如强化学习微调）标注为实验性，且不保证向后兼容。

收录于专题

GPU 加速的 AI 训练与推理工具AI 聊天机器人与聊天客户端

标签

#llm#fine-tuning#lora#gpu#generative-ai#no-code#deep-learning#ai#chatbot#chatgpt

常见问题

h2o-llmstudio 是什么？
一个无需编码的 GUI 与框架，用于微调大语言模型。 H2O LLM Studio 是一个用于微调大语言模型的框架和图形界面，无需编写代码即可完成。用户在 GUI 中上传数据集、选择基座模型并设置超参数，之后可以监控、比较实验结果，并直接与训练后的模型对话。
h2o-llmstudio 可以免费使用吗？用的什么许可证？
h2o-llmstudio 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
h2o-llmstudio 还在维护吗？
活跃维护中。h2o-llmstudio 最近一次提交是在 2026年11月5日。
h2o-llmstudio 适合用来做什么？
不写训练代码，将开源大模型适配到特定领域的问答数据集。 在同一界面中比较多次微调实验的超参数设置。 在 GPU 服务器上通过命令行运行可脚本化、可复现的微调任务。
h2o-llmstudio 怎么安装和运行？
使用 uv 创建虚拟环境并安装依赖: make setup 启动 H2O LLM Studio 图形界面: make llmstudio 在浏览器中打开 http://localhost:10101/
在哪里获取 h2o-llmstudio？
源代码和安装说明在 GitHub 上：https://github.com/h2oai/h2o-llmstudio

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目