微软开源的语音 AI 模型系列,包含长音频语音识别、多人对话语音合成和实时流式语音合成。
NVIDIA-NeMo/Speech
英伟达开源的语音AI工具包,用于构建、微调和部署语音识别、语音合成及语音大模型。
- Star
- 18,607
- Fork
- 3,654
- 未关闭 Issue
- 368
- 最近提交
- 8小时前
这是什么?
NeMo Speech 是英伟达基于 PyTorch 打造的语音模型框架,面向从事语音研究和开发的工程师。它覆盖自动语音识别(ASR)、语音合成(TTS)以及语音大模型,支持通过复用已有代码和预训练模型快速创建、定制和部署模型。
项目提供多种预训练模型,包括流式与离线语音识别模型、多语言语音合成模型,以及全双工语音对话模型,并已发布到 Hugging Face。该项目从 NeMo 通用工具包中拆分而来,当前聚焦于音频、语音和多模态大模型。
安装方式包括通过 uv 从源码安装、使用预构建的 NGC 容器(Docker),或通过 pip 安装到已有的 PyTorch 环境中。运行环境要求 Python 3.12 及以上、PyTorch 2.7 及以上;训练需要 NVIDIA GPU 和 CUDA。
核心功能
- 01支持流式和离线模式的自动语音识别模型
- 02支持多语言的语音合成模型
- 03提供语音大模型及全双工语音对话模型
- 04预训练模型权重发布在 Hugging Face 上
- 05可通过 uv、Docker 或 pip 安装,并兼容已有的 PyTorch 环境
适用场景
- 为特定语言或领域构建或微调语音识别系统
- 在英伟达 GPU 上部署低延迟的流式转写服务
- 为应用生成多语言语音合成音色
- 研究语音大模型和语音对话智能体
快速上手
- 1
克隆代码仓库
git clone https://github.com/NVIDIA-NeMo/Speech.git - 2
进入项目目录
cd Speech - 3
使用 uv 安装受支持的环境(CUDA 13.x)
uv sync --extra all --extra cu13 - 4
或通过 pip 安装到现有 PyTorch 环境中
uv pip install 'nemo-toolkit[asr,tts]'
使用前须知
- 训练需要支持 CUDA 的 NVIDIA GPU。
- 需要 Python 3.12 或更高版本以及 PyTorch 2.7 或更高版本。
标签
常见问题
- Speech 是什么?
- 英伟达开源的语音AI工具包,用于构建、微调和部署语音识别、语音合成及语音大模型。 NeMo Speech 是英伟达基于 PyTorch 打造的语音模型框架,面向从事语音研究和开发的工程师。它覆盖自动语音识别(ASR)、语音合成(TTS)以及语音大模型,支持通过复用已有代码和预训练模型快速创建、定制和部署模型。
- Speech 可以免费使用吗?用的什么许可证?
- Speech 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- Speech 还在维护吗?
- 活跃维护中。Speech 最近一次提交是在 2026年10月20日。
- Speech 适合用来做什么?
- 为特定语言或领域构建或微调语音识别系统 在英伟达 GPU 上部署低延迟的流式转写服务 为应用生成多语言语音合成音色 研究语音大模型和语音对话智能体
- Speech 怎么安装和运行?
- 克隆代码仓库: git clone https://github.com/NVIDIA-NeMo/Speech.git 进入项目目录: cd Speech 使用 uv 安装受支持的环境(CUDA 13.x): uv sync --extra all --extra cu13 或通过 pip 安装到现有 PyTorch 环境中: uv pip install 'nemo-toolkit[asr,tts]'
- 在哪里获取 Speech?
- 源代码和安装说明在 GitHub 上:https://github.com/NVIDIA-NeMo/Speech
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
5.5万6175PythonMIT更新于 12天前
Linux 桌面与 Sailfish OS 应用,离线完成语音转文字、文字转语音和机器翻译。
169476C++MPL-2.0更新于 8天前
零样本语音合成系统,仅凭一段参考音频即可克隆音色,并支持情感、语速和发音控制。
2.5万2908PythonOther更新于 21天前
开源语音识别工具包,支持离线与流式 ASR,并提供 VAD、标点、说话人区分及 OpenAI 兼容服务。
2.1万2088PythonMIT更新于 前天
开源的端侧语音工具包,提供语音转文字、意图识别和文字转语音,适合构建实时语音应用与智能体。
1.1万620C++Other更新于 18天前
Kokoro-82M 文字转语音模型的 Python 推理库,模型参数量为 8200 万。
94741054JavaScriptApache-2.0更新于 去年