Repolode
kyutai-labs

kyutai-labs/moshi

Modelo fundacional de fala e texto e framework de diálogo falado full-duplex que fala e escuta ao mesmo tempo, com o codec neural de áudio em streaming Mimi.

Estrelas
11,263
Forks
1,044
Issues abertas
97
Último commit
mês passado

O que é?

Moshi é um modelo fundacional de fala e texto e um framework de diálogo falado full-duplex criado pela Kyutai. Ele modela dois fluxos de áudio simultaneamente, um para o usuário e outro para o próprio Moshi, permitindo falar e escutar ao mesmo tempo, em vez de esperar a vez de cada um. Moshi também prevê tokens de texto para a própria fala como um monólogo interno, algo que o projeto aponta como responsável por uma melhor qualidade de geração.

O projeto inclui o Mimi, um codec neural de áudio em streaming que codifica áudio de 24 kHz em uma representação de 12,5 Hz a 1,1 kbps, com quadros de 80 ms. O repositório oferece três stacks de inferência: PyTorch para pesquisa, MLX para uso no dispositivo em Mac e iPhone e Rust para produção. Esta última também inclui bindings do Mimi disponibilizados em Python como rustymimi. O projeto inclui um cliente com interface web, um cliente de linha de comando e uma demo do Gradio, e os pesos pré-treinados estão publicados no Hugging Face.

Para executar a versão PyTorch, é necessária uma GPU com cerca de 24 GB de memória, já que a quantização ainda não é compatível. O Windows não tem suporte oficial.

Recursos principais

  • 01Diálogo full-duplex que modela simultaneamente os fluxos de áudio do usuário e do modelo.
  • 02Codec de áudio em streaming Mimi a 12,5 Hz e 1,1 kbps, com quadros de cerca de 80 ms.
  • 03Backends de inferência para PyTorch, MLX e Rust.
  • 04A versão MLX roda localmente no macOS com pesos quantizados de 4 ou 8 bits.
  • 05Clientes com interface web, de linha de comando e Gradio, além do Docker Compose para CUDA.

Casos de uso

  • Criar assistentes de voz em tempo real que podem ser interrompidos e responder sem atrasos entre turnos.
  • Executar localmente um modelo de diálogo por voz em um Mac ou iPhone com MLX.
  • Pesquisar codecs neurais de áudio em streaming e modelos de fala e texto.
  • Usar o Mimi como tokenizer de áudio em streaming com baixa taxa de bits em Python ou Rust.

Início rápido

  1. 1

    Instale o cliente PyTorch pelo PyPI

    pip install -U moshi
  2. 2

    Inicie o servidor (o modelo padrão será baixado)

    python -m moshi.server
  3. 3

    Abra a interface web no navegador em localhost:8998

Antes de usar

  • A versão PyTorch não oferece suporte à quantização e precisa de uma GPU com cerca de 24 GB de memória.
  • O Windows não tem suporte oficial.
  • Os pesos do modelo são distribuídos sob a licença CC-BY 4.0, não sob uma licença de software livre.

Tópicos

Perguntas frequentes

O que é moshi?
Modelo fundacional de fala e texto e framework de diálogo falado full-duplex que fala e escuta ao mesmo tempo, com o codec neural de áudio em streaming Mimi. Moshi é um modelo fundacional de fala e texto e um framework de diálogo falado full-duplex criado pela Kyutai. Ele modela dois fluxos de áudio simultaneamente, um para o usuário e outro para o próprio Moshi, permitindo falar e escutar ao mesmo tempo, em vez de esperar a vez de cada um. Moshi também prevê tokens de texto para a própria fala como um monólogo interno, algo que o projeto aponta como responsável por uma melhor qualidade de geração.
moshi é gratuito? Qual é a licença?
moshi é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
moshi ainda é mantido?
Atualizado nos últimos 6 meses. O último commit de moshi foi em 9 de set. de 2026.
Para que posso usar moshi?
Criar assistentes de voz em tempo real que podem ser interrompidos e responder sem atrasos entre turnos. Executar localmente um modelo de diálogo por voz em um Mac ou iPhone com MLX. Pesquisar codecs neurais de áudio em streaming e modelos de fala e texto. Usar o Mimi como tokenizer de áudio em streaming com baixa taxa de bits em Python ou Rust.
Como instalar moshi?
Instale o cliente PyTorch pelo PyPI: pip install -U moshi Inicie o servidor (o modelo padrão será baixado): python -m moshi.server Abra a interface web no navegador em localhost:8998
Onde consigo moshi?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/kyutai-labs/moshi

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados