Repolode
microsoft

microsoft/VibeVoice

Семейство open-source голосовых AI-моделей Microsoft: распознавание длинной речи (ASR), многоязычная по говорящим генерация речи (TTS) и потоковый TTS в реальном времени.

Звёзды
54,889
Форки
6,175
Открытые issues
201
Последний коммит
13 дней назад

Что это?

VibeVoice — семейство open-source голосовых AI-моделей Microsoft для преобразования речи в текст и текста в речь. ASR-модель VibeVoice-ASR распознаёт до 60 минут аудио за один проход и определяет, кто, когда и что сказал. Также поддерживаются пользовательские ключевые слова и потоковое распознавание.

Для генерации VibeVoice-TTS синтезирует разговорную речь длительностью до 90 минут с участием до четырёх разных голосов, а облегчённая модель VibeVoice-Realtime-0.5B принимает текст потоком и генерирует речь с низкой задержкой. В моделях используются непрерывные токенизаторы речи с частотой 7,5 Гц в сочетании с языковой моделью и диффузионным модулем.

В репозитории также есть процесс дообучения ASR-модели, поддержка сервинга на базе vLLM и вариант ASR на базе BitNet, ориентированный на CPU. Веса опубликованы на Hugging Face; авторы отмечают, что проект предназначен для исследований и разработок.

Ключевые возможности

  • 01Распознаёт до 60 минут аудио за один проход, указывая говорящих и временные метки.
  • 02Поддерживает пользовательские ключевые слова, чтобы точнее распознавать специализированную лексику.
  • 03Поддерживает потоковое распознавание речи с выдачей текста для каждого аудиофрагмента.
  • 04Генерирует разговорную речь с участием до четырёх голосов длительностью до 90 минут.
  • 05Предлагает модель TTS размером 0,5B для работы в реальном времени, принимающую текст потоком.
  • 06Включает код для дообучения ASR и поддержку инференса через vLLM.

Сценарии использования

  • Расшифровка длинных совещаний, интервью и подкастов с указанием говорящих.
  • Создание подкастов с несколькими голосами по текстовому сценарию.
  • Разработка голосовых помощников с низкой задержкой, преобразующих поступающий потоком текст в речь.
  • Эксперименты с распознаванием речи и дообучением на собственных данных.

Быстрый старт

  1. 1

    Откройте блокнот Colab для модели потокового TTS в реальном времени

  2. 2

    Попробуйте модель ASR в онлайн-версии Playground

Что важно знать

  • В README указано, что модели предназначены только для исследований и разработок, а их коммерческое использование без дополнительных испытаний не рекомендуется.
  • Код VibeVoice-TTS удалили из этого репозитория после обнаружения случаев неправомерного использования.
  • В README предупреждают, что результаты могут быть неточными или предвзятыми, а модели могут использоваться не по назначению для создания дипфейков.

Темы

Частые вопросы

Что такое VibeVoice?
Семейство open-source голосовых AI-моделей Microsoft: распознавание длинной речи (ASR), многоязычная по говорящим генерация речи (TTS) и потоковый TTS в реальном времени. VibeVoice — семейство open-source голосовых AI-моделей Microsoft для преобразования речи в текст и текста в речь. ASR-модель VibeVoice-ASR распознаёт до 60 минут аудио за один проход и определяет, кто, когда и что сказал. Также поддерживаются пользовательские ключевые слова и потоковое распознавание.
VibeVoice можно использовать бесплатно? Какая у него лицензия?
VibeVoice распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
VibeVoice всё ещё поддерживается?
Активно поддерживается. Последний коммит в VibeVoice — 8 окт. 2026 г..
Для чего можно использовать VibeVoice?
Расшифровка длинных совещаний, интервью и подкастов с указанием говорящих. Создание подкастов с несколькими голосами по текстовому сценарию. Разработка голосовых помощников с низкой задержкой, преобразующих поступающий потоком текст в речь. Эксперименты с распознаванием речи и дообучением на собственных данных.
Как установить VibeVoice?
Откройте блокнот Colab для модели потокового TTS в реальном времени Попробуйте модель ASR в онлайн-версии Playground
Где скачать VibeVoice?
Исходный код и инструкции по установке — на GitHub: https://github.com/microsoft/VibeVoice

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

VoxCPM2 — open-source модель преобразования текста в речь без токенизатора: поддерживает 30 языков, создание голоса по текстовому описанию и клонирование по короткому аудиофрагменту.

39,6 тыс.4,5 тыс.PythonApache-2.0Обновлён 13 дней назад

Открытая система синтеза речи на основе flow matching и Diffusion Transformer с клонированием голоса по короткому аудиофрагменту без предварительного обучения на диктора.

15,4 тыс.2,3 тыс.PythonMITОбновлён 7 дней назад