Repolode
Предложить
h2oai

h2oai/h2o-llmstudio

Фреймворк и no-code GUI для дообучения больших языковых моделей с поддержкой LoRA, DPO и CLI.

Открыть на GitHubСайт
Звёзды
5,192
Форки
555
Открытые issues
38
Последний коммит
позавчера

Что это?

H2O LLM Studio — это фреймворк с графическим интерфейсом для дообучения больших языковых моделей без написания кода. Пользователь загружает датасет, выбирает базовую модель и задаёт гиперпараметры в GUI, а затем может отслеживать и сравнивать эксперименты и общаться с полученными моделями.

В проекте поддерживаются методы эффективного дообучения, такие как Low-Rank Adaptation (LoRA), а также обучение в 8-битном режиме, позволяющие снизить потребление GPU-памяти. Есть и методы оптимизации на основе предпочтений (DPO, IPO и KTO), задачи классификации причинно-следственных связей и регрессии, а также экспериментальная поддержка обучения с подкреплением. Обучением можно управлять из командной строки с помощью YAML-конфигурации; для крупных моделей доступны DeepSpeed и мног GPU-обучение через DDP.

Обученные модели можно отправлять в Hugging Face Hub, а для отслеживания экспериментов использовать Weights & Biases. Приложение можно запускать локально на Ubuntu с GPU NVIDIA, в Docker или с помощью шаблона runpod.io.

Ключевые возможности

  • 01GUI без необходимости писать код для создания экспериментов по дообучению, их мониторинга и сравнения.
  • 02LoRA и обучение в 8-битном режиме для снижения требований к GPU-памяти.
  • 03Методы оптимизации на основе предпочтений: DPO, IPO и KTO.
  • 04Обучение из командной строки по YAML-конфигурациям с поддержкой мног GPU-обучения через DDP.
  • 05Интерактивное общение с дообученными моделями и экспорт в Hugging Face Hub.

Сценарии использования

  • Адаптация LLM с открытым исходным кодом к датасету вопросов и ответов для конкретной предметной области без написания кода обучения.
  • Сравнение настроек гиперпараметров для нескольких запусков дообучения в одном интерфейсе.
  • Запуск сценариев воспроизводимого дообучения на GPU-сервере через CLI.

Быстрый старт

  1. 1

    Установите виртуальное окружение на основе uv и зависимости

    make setup
  2. 2

    Запустите графический интерфейс H2O LLM Studio

    make llmstudio
  3. 3

    Откройте http://localhost:10101/ в браузере

Что важно знать

  • Требуется компьютер с Ubuntu, современной видеокартой NVIDIA и драйверами NVIDIA версии 580 или новее.
  • Для более крупных моделей рекомендуется не менее 24 ГБ видеопамяти.
  • Некоторые функции, например дообучение RL, отмечены как экспериментальные; обратная совместимость не гарантируется.

В подборках

Обучение и запуск ИИ на GPUAI-чатботы и клиенты для чата

Темы

#llm#fine-tuning#lora#gpu#generative-ai#no-code#deep-learning#ai#chatbot#chatgpt

Частые вопросы

Что такое h2o-llmstudio?
Фреймворк и no-code GUI для дообучения больших языковых моделей с поддержкой LoRA, DPO и CLI. H2O LLM Studio — это фреймворк с графическим интерфейсом для дообучения больших языковых моделей без написания кода. Пользователь загружает датасет, выбирает базовую модель и задаёт гиперпараметры в GUI, а затем может отслеживать и сравнивать эксперименты и общаться с полученными моделями.
h2o-llmstudio можно использовать бесплатно? Какая у него лицензия?
h2o-llmstudio распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
h2o-llmstudio всё ещё поддерживается?
Активно поддерживается. Последний коммит в h2o-llmstudio — 5 нояб. 2026 г..
Для чего можно использовать h2o-llmstudio?
Адаптация LLM с открытым исходным кодом к датасету вопросов и ответов для конкретной предметной области без написания кода обучения. Сравнение настроек гиперпараметров для нескольких запусков дообучения в одном интерфейсе. Запуск сценариев воспроизводимого дообучения на GPU-сервере через CLI.
Как установить h2o-llmstudio?
Установите виртуальное окружение на основе uv и зависимости: make setup Запустите графический интерфейс H2O LLM Studio: make llmstudio Откройте http://localhost:10101/ в браузере
Где скачать h2o-llmstudio?
Исходный код и инструкции по установке — на GitHub: https://github.com/h2oai/h2o-llmstudio

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

AI4Finance-Foundation / FinGPT

Открытые большие языковые модели, дообученные для финансовых задач: анализа тональности, прогнозирования и тестов по финансовой обработке естественного языка.

ИИ и машинное обучение#llm#finance#sentiment-analysis
21,5 тыс.+41 за неделю3 тыс.Jupyter NotebookMITАктивно поддерживаетсяОбновлён 13 дней назад

lyogavin / airllm

Библиотека Python, которая запускает большие языковые модели послойно и позволяет выполнять инференс моделей класса 70B на одной GPU с 4 ГБ памяти без квантования.

ИИ и машинное обучение#llm#inference#gpu
41,9 тыс.+523 за неделю4,3 тыс.Jupyter NotebookApache-2.0Активно поддерживаетсяОбновлён вчера