lmms-engine은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

lmms-engine에는 명시된 라이선스가 없습니다. 코드는 공개되어 있지만 라이선스가 없으면 재사용 허가가 명확하지 않으므로, 사용 전에 작성자에게 문의하는 것이 좋습니다.

lmms-engine은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. lmms-engine의 마지막 커밋은 2026년 10월 18일입니다.

lmms-engine은(는) 어디에 사용할 수 있나요?

대규모 멀티모달 데이터셋으로 Qwen-VL 계열 모델을 비전-언어 사전 학습하거나 지도 미세 조정. 여러 GPU에서 전문가 병렬화를 적용해 Mixture-of-Experts 멀티모달 모델 학습. WanVideo 또는 SiT와 같은 diffusion이나 flow matching 기반 비디오·이미지 생성 모델 실험. Muon 옵티마이저와 스트리밍 데이터셋을 사용한 언어 모델 사전 학습.

lmms-engine은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/EvolvingLMMs-Lab/lmms-engine

EvolvingLMMs-Lab/lmms-engine

FSDP2, Muon, Liger 커널을 지원하는 비전-언어, diffusion, MoE 모델용 통합 학습 엔진

GitHub에서 보기 웹사이트

스타: 830
포크: 38
열린 이슈: 11
마지막 커밋: 어제

어떤 프로젝트인가요?

LMMs Engine은 멀티모달 모델을 위한 Python 학습 프레임워크로, 하나의 코드베이스에서 비전-언어, 오디오-언어, diffusion, 언어 모델을 사전 학습하거나 미세 조정하려는 연구자와 엔지니어를 대상으로 합니다. 학습 실행은 YAML 파일로 설정하며, torchrun, Accelerate 또는 단일 GPU 명령으로 시작할 수 있습니다.

이 프로젝트는 FSDP2를 사용한 분산 학습, 텐서 및 Ulysses 시퀀스 병렬화, Mixture-of-Experts 모델을 위한 전문가 병렬화를 지원합니다. 또한 unpadding을 적용한 시퀀스 패킹, Liger Triton 커널, BAGEL용 네이티브 희소 어텐션, Muon 옵티마이저와 같은 메모리 및 속도 최적화 기능도 포함합니다. 지원 모델 제품군으로는 Qwen2.5-VL, Qwen3-VL, Qwen3-Omni MoE, BAGEL, WanVideo, SiT가 있으며, 모델 등록 데코레이터를 사용해 새로운 아키텍처를 추가할 수 있습니다.

저장소에는 지원 모델별 실행 스크립트와 설정 파일, 데이터셋 준비 및 학습 가이드가 제공됩니다. PyTorch, CUDA, FlashAttention이 포함된 Docker 이미지도 배포합니다.

핵심 기능

01FSDP2, 텐서 병렬화, Ulysses 시퀀스 병렬화, MoE 모델용 전문가 병렬화를 통한 분산 학습.
02First-fit bin packing과 unpadded Flash Attention을 적용한 시퀀스 패킹.
03퓨즈드 CrossEntropy, RMSNorm, RoPE, SwiGLU용 Liger Triton 커널.
04Newton-Schulz 직교화를 적용한 Muon 옵티마이저를 사용하고, 나머지 파라미터에는 Adam을 함께 적용.
05YAML 기반 학습 설정을 torchrun, Accelerate 또는 단일 GPU로 실행.
06모델, 데이터셋, 프로세서를 위한 확장 가능한 레지스트리.

활용 사례

대규모 멀티모달 데이터셋으로 Qwen-VL 계열 모델을 비전-언어 사전 학습하거나 지도 미세 조정.
여러 GPU에서 전문가 병렬화를 적용해 Mixture-of-Experts 멀티모달 모델 학습.
WanVideo 또는 SiT와 같은 diffusion이나 flow matching 기반 비디오·이미지 생성 모델 실험.
Muon 옵티마이저와 스트리밍 데이터셋을 사용한 언어 모델 사전 학습.

토픽

#multimodal #training-framework #pytorch #distributed-training #vision-language-model #diffusion-model #mixture-of-experts #fsdp #agi #large-language-models

자주 묻는 질문

lmms-engine은(는) 무엇인가요?: FSDP2, Muon, Liger 커널을 지원하는 비전-언어, diffusion, MoE 모델용 통합 학습 엔진 LMMs Engine은 멀티모달 모델을 위한 Python 학습 프레임워크로, 하나의 코드베이스에서 비전-언어, 오디오-언어, diffusion, 언어 모델을 사전 학습하거나 미세 조정하려는 연구자와 엔지니어를 대상으로 합니다. 학습 실행은 YAML 파일로 설정하며, torchrun, Accelerate 또는 단일 GPU 명령으로 시작할 수 있습니다.
lmms-engine은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?: lmms-engine에는 명시된 라이선스가 없습니다. 코드는 공개되어 있지만 라이선스가 없으면 재사용 허가가 명확하지 않으므로, 사용 전에 작성자에게 문의하는 것이 좋습니다.
lmms-engine은(는) 아직 유지보수되고 있나요?: 활발히 유지보수 중. lmms-engine의 마지막 커밋은 2026년 10월 18일입니다.
lmms-engine은(는) 어디에 사용할 수 있나요?: 대규모 멀티모달 데이터셋으로 Qwen-VL 계열 모델을 비전-언어 사전 학습하거나 지도 미세 조정. 여러 GPU에서 전문가 병렬화를 적용해 Mixture-of-Experts 멀티모달 모델 학습. WanVideo 또는 SiT와 같은 diffusion이나 flow matching 기반 비디오·이미지 생성 모델 실험. Muon 옵티마이저와 스트리밍 데이터셋을 사용한 언어 모델 사전 학습.
lmms-engine은(는) 어디서 받을 수 있나요?: 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/EvolvingLMMs-Lab/lmms-engine

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.