Repolode
OpenSenseNova

OpenSenseNova/SenseNova-U1

Открытые нативные унифицированные мультимодальные модели SenseNova для понимания изображений, генерации изображений по тексту и редактирования изображений в рамках одной архитектуры.

Open source альтернатива:MidjourneyAdobe Firefly

Звёзды
6,911
Форки
532
Открытые issues
41
Последний коммит
19 дней назад

Что это?

SenseNova-U1 и U1.5 — серии мультимодальных моделей на архитектуре NEO-unify. В отличие от многих систем, в которых используются отдельные визуальный энкодер и VAE, здесь язык и зрение моделируются сквозным образом. Модели поддерживают визуальные вопросы и ответы, генерацию изображений по тексту, чередование текста и изображений в выводе, а также редактирование изображений. Кроме того, доступны дополнительные чекпойнты, настроенные для инфографики и быстрого инференса за 8 шагов.

В репозитории есть скрипты инференса для Transformers: генерация изображений по тексту, редактирование, чередующаяся генерация и визуальное понимание. Также доступны варианты инференса с квантованием GGUF и режимы выгрузки слоёв для экономии VRAM в конфигурациях с одной GPU. Веса опубликованы на Hugging Face и ModelScope, а в репозиторий включён код для полнопараметрического дообучения.

Ключевые возможности

  • 01Унифицированная модель для понимания изображений, генерации изображений по тексту и редактирования изображений
  • 02Нативная генерация чередующегося вывода из текста и изображений в рамках одного процесса
  • 03Специализированные варианты моделей для инфографики с редактированием текста и макета
  • 04Квантованные чекпойнты GGUF и режимы выгрузки слоёв для инференса с ограниченным объёмом VRAM
  • 05Код для полнопараметрического дообучения

Сценарии использования

  • Создание плакатов, инфографики и дизайнов с разборчивым текстом на китайском и английском
  • Редактирование изображений по инструкциям на естественном языке с сохранением неизменённых областей
  • Создание иллюстрированных пошаговых инструкций, сочетающих текст и изображения
  • Запуск мультимодального инференса на одной потребительской GPU с квантованными весами

Быстрый старт

  1. 1

    Установите зависимости Python

  2. 2

    Запустите пример преобразования текста в изображение с помощью краткого руководства Transformers

    python examples/t2i/inference.py --model_path sensenova/SenseNova-U1.5-8B-MoT --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." --output output.png

Что важно знать

  • Модель большая (8B параметров), поэтому для локального запуска потребуется мощный GPU или квантованный чекпойнт GGUF.
  • В README перечислены известные проблемы, например ошибки при генерации плотного текста, нестабильная проработка деталей людей и чрезмерно насыщенные цвета.

Темы

Частые вопросы

Что такое SenseNova-U1?
Открытые нативные унифицированные мультимодальные модели SenseNova для понимания изображений, генерации изображений по тексту и редактирования изображений в рамках одной архитектуры. SenseNova-U1 и U1.5 — серии мультимодальных моделей на архитектуре NEO-unify. В отличие от многих систем, в которых используются отдельные визуальный энкодер и VAE, здесь язык и зрение моделируются сквозным образом. Модели поддерживают визуальные вопросы и ответы, генерацию изображений по тексту, чередование текста и изображений в выводе, а также редактирование изображений. Кроме того, доступны дополнительные чекпойнты, настроенные для инфографики и быстрого инференса за 8 шагов.
SenseNova-U1 можно использовать бесплатно? Какая у него лицензия?
SenseNova-U1 распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
SenseNova-U1 всё ещё поддерживается?
Активно поддерживается. Последний коммит в SenseNova-U1 — 1 окт. 2026 г..
Для чего можно использовать SenseNova-U1?
Создание плакатов, инфографики и дизайнов с разборчивым текстом на китайском и английском Редактирование изображений по инструкциям на естественном языке с сохранением неизменённых областей Создание иллюстрированных пошаговых инструкций, сочетающих текст и изображения Запуск мультимодального инференса на одной потребительской GPU с квантованными весами
Как установить SenseNova-U1?
Установите зависимости Python Запустите пример преобразования текста в изображение с помощью краткого руководства Transformers: python examples/t2i/inference.py --model_path sensenova/SenseNova-U1.5-8B-MoT --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." --output output.png
Где скачать SenseNova-U1?
Исходный код и инструкции по установке — на GitHub: https://github.com/OpenSenseNova/SenseNova-U1

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты