Repolode
h2oai

h2oai/h2o-llmstudio

LoRA、DPO、CLIに対応した、大規模言語モデルのファインチューニング用フレームワークとノーコードGUI。

スター
5,192
フォーク
555
未解決の Issue
38
最終コミット
一昨日

これは何?

H2O LLM Studioは、コードを書かずに大規模言語モデルをファインチューニングできるフレームワーク兼GUIです。データセットをアップロードし、ベースモデルを選んでGUIからハイパーパラメータを設定すると、実験の進捗確認や比較、生成モデルとのチャットを行えます。

GPUメモリ使用量を抑えるLoRA(Low-Rank Adaptation)や8-bit学習など、パラメータ効率の高い手法に対応しています。また、選好最適化(DPO、IPO、KTO)や、因果分類・回帰の問題タイプを備え、実験的な強化学習にも対応します。YAML設定ファイルを使ってコマンドラインから学習を実行でき、大規模モデル向けにDeepSpeedとマルチGPU DDPも利用できます。

学習済みモデルはHugging Face Hubにプッシュでき、トラッキングにはWeights & Biasesを利用できます。アプリはNVIDIA GPU搭載のUbuntu上でローカル実行するか、Dockerやrunpod.ioのテンプレートから実行できます。

主な機能

  • 01ファインチューニング実験の作成、進捗確認、比較ができるノーコードGUI。
  • 02GPUメモリの必要量を抑えるLoRAと8-bit学習。
  • 03DPO、IPO、KTOによる選好最適化。
  • 04YAML設定ファイルを使ったコマンドライン学習と、マルチGPU DDPへの対応。
  • 05ファインチューニング済みモデルとの対話と、Hugging Face Hubへのエクスポート。

ユースケース

  • 学習コードを書かずに、オープンソースLLMを特定分野の質問応答データセットに適応させる。
  • 1つのインターフェースで、複数のファインチューニング実行間のハイパーパラメータ設定を比較する。
  • CLIを使って、GPUサーバー上でスクリプト化された再現性の高いファインチューニングジョブを実行する。

クイックスタート

  1. 1

    uvベースの仮想環境と依存関係をインストールする

    make setup
  2. 2

    H2O LLM StudioのGUIを起動する

    make llmstudio
  3. 3

    ブラウザーで http://localhost:10101/ を開く

使う前に知っておきたいこと

  • 最近のNVIDIA GPUとバージョン580以降のNVIDIAドライバーを搭載したUbuntuマシンが必要です。
  • 大規模なモデルでは、GPUメモリが少なくとも24GBあることを推奨します。
  • RLファインチューニングなど一部の機能は実験的とされており、後方互換性は保証されません。

収録されている特集

トピック

よくある質問

h2o-llmstudio とは?
LoRA、DPO、CLIに対応した、大規模言語モデルのファインチューニング用フレームワークとノーコードGUI。 H2O LLM Studioは、コードを書かずに大規模言語モデルをファインチューニングできるフレームワーク兼GUIです。データセットをアップロードし、ベースモデルを選んでGUIからハイパーパラメータを設定すると、実験の進捗確認や比較、生成モデルとのチャットを行えます。
h2o-llmstudio は無料で使えますか?ライセンスは?
h2o-llmstudio は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
h2o-llmstudio は今もメンテナンスされていますか?
活発にメンテナンス中。h2o-llmstudio の最終コミットは 2026年11月5日 です。
h2o-llmstudio は何に使えますか?
学習コードを書かずに、オープンソースLLMを特定分野の質問応答データセットに適応させる。 1つのインターフェースで、複数のファインチューニング実行間のハイパーパラメータ設定を比較する。 CLIを使って、GPUサーバー上でスクリプト化された再現性の高いファインチューニングジョブを実行する。
h2o-llmstudio のインストール方法は?
uvベースの仮想環境と依存関係をインストールする: make setup H2O LLM StudioのGUIを起動する: make llmstudio ブラウザーで http://localhost:10101/ を開く
h2o-llmstudio はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/h2oai/h2o-llmstudio

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト