Repolode
OpenSenseNova

OpenSenseNova/SenseNova-U1

이미지 이해, 텍스트-이미지 생성, 이미지 편집을 하나의 아키텍처로 처리하는 SenseNova의 오픈소스 네이티브 통합 멀티모달 모델

대체할 수 있는 제품:MidjourneyAdobe Firefly

스타
6,911
포크
532
열린 이슈
41
마지막 커밋
19일 전

어떤 프로젝트인가요?

SenseNova-U1과 U1.5는 NEO-unify 아키텍처를 기반으로 한 멀티모달 모델 시리즈입니다. 많은 시스템에서 사용하는 별도의 비주얼 인코더와 VAE를 없애고, 언어와 비전을 엔드투엔드로 모델링합니다. 시각적 질의응답, 텍스트-이미지 생성, 텍스트와 이미지를 교차해 출력하는 생성, 이미지 편집을 지원하며, 인포그래픽에 맞게 튜닝된 체크포인트와 8단계 고속 추론용 체크포인트도 제공합니다.

저장소에는 텍스트-이미지 생성, 이미지 편집, 교차 생성, 시각적 이해를 위한 Transformers 추론 스크립트와 GGUF 양자화 추론 옵션, 단일 GPU 환경을 위한 레이어 오프로딩 VRAM 모드가 포함되어 있습니다. 가중치는 Hugging Face와 ModelScope에 공개되어 있으며, 전체 파라미터 파인튜닝을 위한 학습 코드도 제공됩니다.

핵심 기능

  • 01이미지 이해, 텍스트-이미지 생성, 이미지 편집을 지원하는 통합 모델
  • 02하나의 흐름에서 네이티브 텍스트-이미지 교차 생성 지원
  • 03텍스트 및 레이아웃 편집을 지원하는 인포그래픽 전용 모델 버전
  • 04저VRAM 추론을 위한 GGUF 양자화 체크포인트와 레이어 오프로딩 모드
  • 05전체 파라미터 파인튜닝 학습 코드

활용 사례

  • 읽기 쉬운 중국어 및 영어 텍스트가 포함된 포스터, 인포그래픽, 디자인 생성
  • 편집하지 않는 영역은 유지하면서 자연어 지시로 기존 이미지 편집
  • 텍스트와 이미지를 섞은 그림이 포함된 단계별 튜토리얼 제작
  • 양자화된 가중치를 사용해 일반 소비자용 단일 GPU에서 멀티모달 추론 실행

빠른 시작

  1. 1

    Python 종속성을 설치합니다

  2. 2

    Transformers 빠른 시작을 사용해 텍스트-이미지 예제를 실행합니다

    python examples/t2i/inference.py --model_path sensenova/SenseNova-U1.5-8B-MoT --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." --output output.png

사용 전 알아둘 점

  • 모델이 대규모(매개변수 8B)이므로 로컬에서 실행하려면 성능이 충분한 GPU 또는 양자화된 GGUF 체크포인트가 필요합니다.
  • README에는 글자가 빽빽할 때 발생하는 오류, 사람의 세부 묘사 불안정, 지나치게 채도가 높은 색상 등의 알려진 문제가 나와 있습니다.

토픽

자주 묻는 질문

SenseNova-U1은(는) 무엇인가요?
이미지 이해, 텍스트-이미지 생성, 이미지 편집을 하나의 아키텍처로 처리하는 SenseNova의 오픈소스 네이티브 통합 멀티모달 모델 SenseNova-U1과 U1.5는 NEO-unify 아키텍처를 기반으로 한 멀티모달 모델 시리즈입니다. 많은 시스템에서 사용하는 별도의 비주얼 인코더와 VAE를 없애고, 언어와 비전을 엔드투엔드로 모델링합니다. 시각적 질의응답, 텍스트-이미지 생성, 텍스트와 이미지를 교차해 출력하는 생성, 이미지 편집을 지원하며, 인포그래픽에 맞게 튜닝된 체크포인트와 8단계 고속 추론용 체크포인트도 제공합니다.
SenseNova-U1은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
SenseNova-U1은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
SenseNova-U1은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. SenseNova-U1의 마지막 커밋은 2026년 10월 1일입니다.
SenseNova-U1은(는) 어디에 사용할 수 있나요?
읽기 쉬운 중국어 및 영어 텍스트가 포함된 포스터, 인포그래픽, 디자인 생성 편집하지 않는 영역은 유지하면서 자연어 지시로 기존 이미지 편집 텍스트와 이미지를 섞은 그림이 포함된 단계별 튜토리얼 제작 양자화된 가중치를 사용해 일반 소비자용 단일 GPU에서 멀티모달 추론 실행
SenseNova-U1는 어떻게 설치하나요?
Python 종속성을 설치합니다 Transformers 빠른 시작을 사용해 텍스트-이미지 예제를 실행합니다: python examples/t2i/inference.py --model_path sensenova/SenseNova-U1.5-8B-MoT --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." --output output.png
SenseNova-U1은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/OpenSenseNova/SenseNova-U1

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트