Framework para definir modelos de ponta em machine learning para texto, visão, áudio e tarefas multimodais, voltado a inferência e treinamento.
kyutai-labs/moshi
Modelo fundacional de fala e texto e framework de diálogo falado full-duplex que fala e escuta ao mesmo tempo, com o codec neural de áudio em streaming Mimi.
- Estrelas
- 11,263
- Forks
- 1,044
- Issues abertas
- 97
- Último commit
- mês passado
O que é?
Moshi é um modelo fundacional de fala e texto e um framework de diálogo falado full-duplex criado pela Kyutai. Ele modela dois fluxos de áudio simultaneamente, um para o usuário e outro para o próprio Moshi, permitindo falar e escutar ao mesmo tempo, em vez de esperar a vez de cada um. Moshi também prevê tokens de texto para a própria fala como um monólogo interno, algo que o projeto aponta como responsável por uma melhor qualidade de geração.
O projeto inclui o Mimi, um codec neural de áudio em streaming que codifica áudio de 24 kHz em uma representação de 12,5 Hz a 1,1 kbps, com quadros de 80 ms. O repositório oferece três stacks de inferência: PyTorch para pesquisa, MLX para uso no dispositivo em Mac e iPhone e Rust para produção. Esta última também inclui bindings do Mimi disponibilizados em Python como rustymimi. O projeto inclui um cliente com interface web, um cliente de linha de comando e uma demo do Gradio, e os pesos pré-treinados estão publicados no Hugging Face.
Para executar a versão PyTorch, é necessária uma GPU com cerca de 24 GB de memória, já que a quantização ainda não é compatível. O Windows não tem suporte oficial.
Recursos principais
- 01Diálogo full-duplex que modela simultaneamente os fluxos de áudio do usuário e do modelo.
- 02Codec de áudio em streaming Mimi a 12,5 Hz e 1,1 kbps, com quadros de cerca de 80 ms.
- 03Backends de inferência para PyTorch, MLX e Rust.
- 04A versão MLX roda localmente no macOS com pesos quantizados de 4 ou 8 bits.
- 05Clientes com interface web, de linha de comando e Gradio, além do Docker Compose para CUDA.
Casos de uso
- Criar assistentes de voz em tempo real que podem ser interrompidos e responder sem atrasos entre turnos.
- Executar localmente um modelo de diálogo por voz em um Mac ou iPhone com MLX.
- Pesquisar codecs neurais de áudio em streaming e modelos de fala e texto.
- Usar o Mimi como tokenizer de áudio em streaming com baixa taxa de bits em Python ou Rust.
Início rápido
- 1
Instale o cliente PyTorch pelo PyPI
pip install -U moshi - 2
Inicie o servidor (o modelo padrão será baixado)
python -m moshi.server - 3
Abra a interface web no navegador em localhost:8998
Antes de usar
- A versão PyTorch não oferece suporte à quantização e precisa de uma GPU com cerca de 24 GB de memória.
- O Windows não tem suporte oficial.
- Os pesos do modelo são distribuídos sob a licença CC-BY 4.0, não sob uma licença de software livre.
Tópicos
Perguntas frequentes
- O que é moshi?
- Modelo fundacional de fala e texto e framework de diálogo falado full-duplex que fala e escuta ao mesmo tempo, com o codec neural de áudio em streaming Mimi. Moshi é um modelo fundacional de fala e texto e um framework de diálogo falado full-duplex criado pela Kyutai. Ele modela dois fluxos de áudio simultaneamente, um para o usuário e outro para o próprio Moshi, permitindo falar e escutar ao mesmo tempo, em vez de esperar a vez de cada um. Moshi também prevê tokens de texto para a própria fala como um monólogo interno, algo que o projeto aponta como responsável por uma melhor qualidade de geração.
- moshi é gratuito? Qual é a licença?
- moshi é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- moshi ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de moshi foi em 9 de set. de 2026.
- Para que posso usar moshi?
- Criar assistentes de voz em tempo real que podem ser interrompidos e responder sem atrasos entre turnos. Executar localmente um modelo de diálogo por voz em um Mac ou iPhone com MLX. Pesquisar codecs neurais de áudio em streaming e modelos de fala e texto. Usar o Mimi como tokenizer de áudio em streaming com baixa taxa de bits em Python ou Rust.
- Como instalar moshi?
- Instale o cliente PyTorch pelo PyPI: pip install -U moshi Inicie o servidor (o modelo padrão será baixado): python -m moshi.server Abra a interface web no navegador em localhost:8998
- Onde consigo moshi?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/kyutai-labs/moshi
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Família de modelos open source de text-to-speech da Resemble AI, com clonagem de voz a partir de um trecho curto de referência em inglês e vários outros idiomas.
Toolkit open source de reconhecimento de fala para ASR offline e em streaming, com VAD, pontuação, identificação de falantes e serviço compatível com OpenAI.
Biblioteca Python de inferência para o Kokoro-82M, um modelo de conversão de texto em fala com pesos abertos e 82 milhões de parâmetros.
Modelo de TTS leve baseado no ZipVoice para clonagem de voz e geração de fala a 48 kHz, com velocidade superior a 150x em tempo real na GPU.
Detecção open source de atividade de voz e eventos de áudio (fala, canto e música) em mais de 100 idiomas, com modos de streaming e não streaming.