Семейство open-source голосовых AI-моделей Microsoft: распознавание длинной речи (ASR), многоязычная по говорящим генерация речи (TTS) и потоковый TTS в реальном времени.
NVIDIA-NeMo/Speech
Открытый инструментарий NVIDIA для создания, дообучения и развёртывания моделей речевого ИИ: распознавания речи (ASR), синтеза речи (TTS) и речевых LLM.
- Звёзды
- 18,607
- Форки
- 3,654
- Открытые issues
- 368
- Последний коммит
- вчера
Что это?
NeMo Speech — фреймворк NVIDIA на базе PyTorch для исследователей и разработчиков, работающих с речевыми моделями. Он охватывает автоматическое распознавание речи, синтез речи и речевые LLM и помогает создавать, настраивать и развёртывать модели, используя существующий код и предобученные чекпойнты.
В проект входят предобученные модели: потоковые и работающие в офлайн-режиме модели ASR, мультиязычные модели TTS и модель голосового чата с полнодуплексной связью. Они опубликованы на Hugging Face. Проект был выделен из более крупного набора инструментов NeMo и теперь сосредоточен на аудио, речи и мультимодальных LLM.
Установить проект можно из исходного кода с помощью uv, через Docker с готовым контейнером NGC или через pip в существующей среде PyTorch. Для обучения нужны Python 3.12 или новее, PyTorch 2.7 или новее и GPU NVIDIA с CUDA.
Ключевые возможности
- 01Модели автоматического распознавания речи, в том числе для потоковой обработки и офлайн-режима
- 02Модели синтеза речи с поддержкой нескольких языков
- 03Речевые LLM и модели голосового общения с полнодуплексной связью
- 04Предобученные чекпойнты, опубликованные на Hugging Face
- 05Установка через uv, Docker или pip в существующей среде PyTorch
Сценарии использования
- Создание или дообучение системы распознавания речи для конкретного языка или предметной области
- Развёртывание потоковой транскрибации с низкой задержкой на GPU NVIDIA
- Создание мультиязычных голосов для синтеза речи в приложениях
- Исследование речевых LLM и разговорных голосовых агентов
Быстрый старт
- 1
Клонируйте репозиторий
git clone https://github.com/NVIDIA-NeMo/Speech.git - 2
Перейдите в каталог проекта
cd Speech - 3
Установите поддерживаемый стек с помощью uv (CUDA 13.x)
uv sync --extra all --extra cu13 - 4
Или установите пакет с помощью pip в существующую среду PyTorch
uv pip install 'nemo-toolkit[asr,tts]'
Что важно знать
- Для обучения требуется GPU NVIDIA с поддержкой CUDA.
- Требуются Python 3.12 или новее и PyTorch 2.7 или новее.
Темы
Частые вопросы
- Что такое Speech?
- Открытый инструментарий NVIDIA для создания, дообучения и развёртывания моделей речевого ИИ: распознавания речи (ASR), синтеза речи (TTS) и речевых LLM. NeMo Speech — фреймворк NVIDIA на базе PyTorch для исследователей и разработчиков, работающих с речевыми моделями. Он охватывает автоматическое распознавание речи, синтез речи и речевые LLM и помогает создавать, настраивать и развёртывать модели, используя существующий код и предобученные чекпойнты.
- Speech можно использовать бесплатно? Какая у него лицензия?
- Speech распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- Speech всё ещё поддерживается?
- Активно поддерживается. Последний коммит в Speech — 20 окт. 2026 г..
- Для чего можно использовать Speech?
- Создание или дообучение системы распознавания речи для конкретного языка или предметной области Развёртывание потоковой транскрибации с низкой задержкой на GPU NVIDIA Создание мультиязычных голосов для синтеза речи в приложениях Исследование речевых LLM и разговорных голосовых агентов
- Как установить Speech?
- Клонируйте репозиторий: git clone https://github.com/NVIDIA-NeMo/Speech.git Перейдите в каталог проекта: cd Speech Установите поддерживаемый стек с помощью uv (CUDA 13.x): uv sync --extra all --extra cu13 Или установите пакет с помощью pip в существующую среду PyTorch: uv pip install 'nemo-toolkit[asr,tts]'
- Где скачать Speech?
- Исходный код и инструкции по установке — на GitHub: https://github.com/NVIDIA-NeMo/Speech
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Приложение для Linux и Sailfish OS: заметки, чтение и перевод с офлайн-распознаванием и синтезом речи, а также машинным переводом.
VoxCPM2 — open-source модель преобразования текста в речь без токенизатора: поддерживает 30 языков, создание голоса по текстовому описанию и клонирование по короткому аудиофрагменту.
Система синтеза речи zero-shot, которая клонирует голос по одной аудиозаписи и позволяет управлять эмоциями, скоростью и произношением.
Открытый набор инструментов для офлайн-распознавания речи и ASR в потоковом режиме, с VAD, расстановкой знаков препинания, метками говорящих и совместимым с OpenAI сервером.
Open source-набор инструментов для распознавания речи, определения намерений и синтеза речи на устройстве — для голосовых агентов и приложений реального времени.