Repolode
OpenSenseNova

OpenSenseNova/SenseNova-U1

Modelos multimodais unificados e nativos de código aberto da SenseNova para entender imagens, gerar imagens a partir de texto e editar imagens em uma única arquitetura.

Alternativa open source a:MidjourneyAdobe Firefly

Estrelas
6,911
Forks
532
Issues abertas
41
Último commit
há 19 dias

O que é?

SenseNova-U1 e U1.5 são séries de modelos multimodais baseadas na arquitetura NEO-unify, que elimina o encoder visual e o VAE separados usados por muitos sistemas e modela linguagem e visão de ponta a ponta. Os modelos abrangem perguntas e respostas visuais, geração de imagens a partir de texto, geração intercalada de imagens e texto e edição de imagens, além de checkpoints adicionais ajustados para infográficos e inferência rápida em 8 etapas.

O repositório oferece scripts de inferência para Transformers que abrangem geração de imagens a partir de texto, edição, geração intercalada e compreensão visual, além de opções de inferência quantizada com GGUF e modos de offload de camadas para VRAM em configurações com uma única GPU. Os pesos estão disponíveis no Hugging Face e no ModelScope, e o repositório inclui código de treinamento para fine-tuning de todos os parâmetros.

Recursos principais

  • 01Modelo unificado para compreensão de imagens, geração de imagens a partir de texto e edição de imagens
  • 02Geração nativa de imagens e texto intercalados em um único fluxo
  • 03Variantes de modelo dedicadas a infográficos, com edição de texto e layout
  • 04Checkpoints quantizados com GGUF e modos de offload de camadas para inferência com pouca VRAM
  • 05Código de treinamento para fine-tuning de todos os parâmetros

Casos de uso

  • Gerar pôsteres, infográficos ou designs com texto legível em chinês e inglês
  • Editar imagens existentes com instruções em linguagem natural, preservando as áreas não editadas
  • Criar tutoriais ilustrados passo a passo que combinam texto e imagens
  • Executar inferência multimodal em uma única GPU de consumo usando pesos quantizados

Início rápido

  1. 1

    Instale as dependências do Python

  2. 2

    Execute o exemplo de texto para imagem com o início rápido do Transformers

    python examples/t2i/inference.py --model_path sensenova/SenseNova-U1.5-8B-MoT --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." --output output.png

Antes de usar

  • O modelo é grande (8B parâmetros), então executá-lo localmente exige uma GPU potente ou um checkpoint GGUF quantizado.
  • O README lista problemas conhecidos, como erros com texto denso, detalhes humanos instáveis e cores supersaturadas.

Tópicos

Perguntas frequentes

O que é SenseNova-U1?
Modelos multimodais unificados e nativos de código aberto da SenseNova para entender imagens, gerar imagens a partir de texto e editar imagens em uma única arquitetura. SenseNova-U1 e U1.5 são séries de modelos multimodais baseadas na arquitetura NEO-unify, que elimina o encoder visual e o VAE separados usados por muitos sistemas e modela linguagem e visão de ponta a ponta. Os modelos abrangem perguntas e respostas visuais, geração de imagens a partir de texto, geração intercalada de imagens e texto e edição de imagens, além de checkpoints adicionais ajustados para infográficos e inferência rápida em 8 etapas.
SenseNova-U1 é gratuito? Qual é a licença?
SenseNova-U1 é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
SenseNova-U1 ainda é mantido?
Manutenção ativa. O último commit de SenseNova-U1 foi em 1 de out. de 2026.
Para que posso usar SenseNova-U1?
Gerar pôsteres, infográficos ou designs com texto legível em chinês e inglês Editar imagens existentes com instruções em linguagem natural, preservando as áreas não editadas Criar tutoriais ilustrados passo a passo que combinam texto e imagens Executar inferência multimodal em uma única GPU de consumo usando pesos quantizados
Como instalar SenseNova-U1?
Instale as dependências do Python Execute o exemplo de texto para imagem com o início rápido do Transformers: python examples/t2i/inference.py --model_path sensenova/SenseNova-U1.5-8B-MoT --prompt "A formal portrait depicts a man in 18th-century attire seated with a scroll, wearing a red cloak and ornate medals, against a classical landscape with ancient ruins and inscriptions." --output output.png
Onde consigo SenseNova-U1?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/OpenSenseNova/SenseNova-U1

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados