이미지·비디오·오디오·3D 콘텐츠 생성을 위해 로컬에서 diffusion 모델을 실행하는 노드 그래프 GUI, API 및 백엔드입니다.
modelscope/DiffSynth-Studio
저VRAM 추론과 학습을 지원하는 이미지·비디오·오디오 생성용 오픈소스 Diffusion 모델 엔진입니다.
- 스타
- 13,276
- 포크
- 1,318
- 열린 이슈
- 566
- 마지막 커밋
- 5시간 전
어떤 프로젝트인가요?
DiffSynth-Studio는 ModelScope Community가 개발한 Diffusion 모델 실행 및 학습용 Python 프레임워크입니다. 이미지 생성과 편집, 비디오 생성, 오디오 및 음악 생성, 이미지 품질 지표를 아우르는 다양한 주요 오픈소스 모델을 통합합니다.
주요 목표는 일반적인 하드웨어에서도 대규모 모델을 사용할 수 있게 하는 것입니다. 모델 파라미터를 디스크, 시스템 메모리, VRAM에 분산해 관리하므로 메모리가 제한적인 소비자용 GPU에서도 추론할 수 있습니다. NF4, INT8 같은 형식으로 양자화하면 추론과 LoRA 학습에 필요한 메모리를 더 줄일 수 있습니다. 추론을 지원하는 대부분의 모델은 베이스 모델, LoRA, 추가 입력을 받는 어댑터를 포함해 학습도 지원합니다.
또한 텍스트 및 VAE 인코딩과 같은 데이터 처리 단계와 그래디언트 기반 학습 단계를 분리하는 Split Training 모드, CPU 오프로딩 학습, 차등 LoRA 학습을 제공합니다. 이를 기반으로 만든 관련 프로젝트로는 ComfyUI 워크플로용 DiffSynth-ComfyUI와 LoRA 학습용 DiffSynth-WebUI가 있습니다.
핵심 기능
- 01이미지, 비디오, 오디오 및 음악 생성을 위한 주요 오픈소스 모델을 통합합니다.
- 02디스크, 메모리, VRAM에 레이어별로 모델을 분산해 저VRAM GPU에서도 대규모 모델을 실행합니다.
- 03NF4, INT8 등의 형식으로 양자화해 추론 및 LoRA 학습에 필요한 메모리를 줄입니다.
- 04베이스 모델, LoRA, 추가 입력을 받는 어댑터 모델의 학습을 지원합니다.
- 05Split Training으로 그래디언트가 필요 없는 연산과 학습 단계를 분리해 학습 속도를 높입니다.
- 06CPU 오프로딩을 통해 소비자용 GPU에서 LoRA를 학습할 수 있습니다.
활용 사례
- VRAM이 제한적인 소비자용 GPU에서 대규모 이미지 또는 비디오 생성 모델을 실행합니다.
- 단일 워크스테이션에서 Diffusion 모델용 LoRA 어댑터를 학습합니다.
- 하나의 통합 Python 프레임워크에서 ControlNet, 편집 또는 비디오 생성 모델을 실험합니다.
- 새로 공개된 오픈소스 Diffusion 모델을 위한 맞춤형 추론 또는 학습 파이프라인을 구축합니다.
사용 전 알아둘 점
- README에 따르면 개발을 담당하는 메인테이너가 소수여서 새 기능 추가와 이슈 대응이 늦어질 수 있습니다.
- 메이저 버전 업데이트 이후 일부 오래된 기능은 더 이상 유지 관리되지 않습니다.
토픽
자주 묻는 질문
- DiffSynth-Studio은(는) 무엇인가요?
- 저VRAM 추론과 학습을 지원하는 이미지·비디오·오디오 생성용 오픈소스 Diffusion 모델 엔진입니다. DiffSynth-Studio는 ModelScope Community가 개발한 Diffusion 모델 실행 및 학습용 Python 프레임워크입니다. 이미지 생성과 편집, 비디오 생성, 오디오 및 음악 생성, 이미지 품질 지표를 아우르는 다양한 주요 오픈소스 모델을 통합합니다.
- DiffSynth-Studio은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- DiffSynth-Studio은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- DiffSynth-Studio은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. DiffSynth-Studio의 마지막 커밋은 2026년 10월 20일입니다.
- DiffSynth-Studio은(는) 어디에 사용할 수 있나요?
- VRAM이 제한적인 소비자용 GPU에서 대규모 이미지 또는 비디오 생성 모델을 실행합니다. 단일 워크스테이션에서 Diffusion 모델용 LoRA 어댑터를 학습합니다. 하나의 통합 Python 프레임워크에서 ControlNet, 편집 또는 비디오 생성 모델을 실험합니다. 새로 공개된 오픈소스 Diffusion 모델을 위한 맞춤형 추론 또는 학습 파이프라인을 구축합니다.
- DiffSynth-Studio은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/modelscope/DiffSynth-Studio
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
대형 언어 모델을 레이어별로 실행해 양자화 없이도 70B급 모델을 단일 4GB GPU에서 추론할 수 있는 Python 라이브러리입니다.
웹 UI나 CLI를 통해 소비자용 GPU에서 이미지, 비디오, 오디오 diffusion 모델을 파인튜닝하는 올인원 학습 도구 모음입니다.
선형 확산 트랜스포머를 사용해 고해상도 이미지와 동영상을 효율적으로 생성하고, 학습 및 추론 파이프라인을 제공하는 오픈소스 코드베이스입니다.
캐릭터 일관성을 유지하는 만화 이미지와 장거리 이미지-비디오 시퀀스 생성 도구
Stable Diffusion과 최신 이미지·비디오 모델을 실행하는 Gradio 기반 웹 UI로, Forge 포크를 이어받아 모델 지원과 최적화를 추가합니다.