h2oai/h2o-llmstudio

어떤 프로젝트인가요?

핵심 기능

• 01미세 조정 실험을 생성하고 모니터링 및 비교할 수 있는 노코드 GUI입니다.
• 02GPU 메모리 요구량을 줄이는 LoRA 및 8-bit 학습을 지원합니다.
• 03DPO, IPO, KTO 선호도 최적화 옵션을 제공합니다.
• 04YAML 설정 파일을 사용한 명령줄 학습과 멀티 GPU DDP를 지원합니다.
• 05미세 조정한 모델과 대화하고 Hugging Face Hub로 내보낼 수 있습니다.

활용 사례

• 학습 코드를 작성하지 않고 오픈소스 LLM을 도메인별 질의응답 데이터셋에 맞게 조정합니다.
• 하나의 인터페이스에서 여러 미세 조정 실행의 하이퍼파라미터 설정을 비교합니다.
• CLI를 통해 GPU 서버에서 스크립트 기반의 재현 가능한 미세 조정 작업을 실행합니다.

빠른 시작

1. 1

   uv 기반 가상 환경과 종속성을 설치합니다

   make setup
2. 2

   H2O LLM Studio GUI를 시작합니다

   make llmstudio
3. 3

   브라우저에서 http://localhost:10101/을 엽니다

사용 전 알아둘 점

• !최신 NVIDIA GPU와 580 이상 버전의 NVIDIA 드라이버를 갖춘 Ubuntu 머신이 필요합니다.
• !대형 모델의 경우 GPU 메모리 24GB 이상을 권장합니다.
• !RL 파인튜닝과 같은 일부 기능은 실험 단계로 표시되어 있으며, 이전 버전과의 호환성은 보장되지 않습니다.

포함된 컬렉션

토픽

자주 묻는 질문

h2o-llmstudio은(는) 무엇인가요?

LoRA, DPO, CLI를 지원하는 대규모 언어 모델 미세 조정 프레임워크 및 노코드 GUI입니다. H2O LLM Studio는 코드 작성 없이 대규모 언어 모델을 미세 조정할 수 있는 프레임워크이자 그래픽 인터페이스입니다. 사용자는 데이터셋을 업로드하고, 베이스 모델을 선택한 뒤, GUI에서 하이퍼파라미터를 설정할 수 있습니다. 이후 실험 결과를 모니터링하고 비교하거나, 모델과 채팅할 수 있습니다.

h2o-llmstudio은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

h2o-llmstudio은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

h2o-llmstudio은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. h2o-llmstudio의 마지막 커밋은 2026년 11월 5일입니다.

h2o-llmstudio은(는) 어디에 사용할 수 있나요?

학습 코드를 작성하지 않고 오픈소스 LLM을 도메인별 질의응답 데이터셋에 맞게 조정합니다. 하나의 인터페이스에서 여러 미세 조정 실행의 하이퍼파라미터 설정을 비교합니다. CLI를 통해 GPU 서버에서 스크립트 기반의 재현 가능한 미세 조정 작업을 실행합니다.

h2o-llmstudio는 어떻게 설치하나요?

uv 기반 가상 환경과 종속성을 설치합니다: make setup H2O LLM Studio GUI를 시작합니다: make llmstudio 브라우저에서 http://localhost:10101/을 엽니다

h2o-llmstudio은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/h2oai/h2o-llmstudio