Repolode
NVIDIA-NeMo

NVIDIA-NeMo/Speech

英伟达开源的语音AI工具包,用于构建、微调和部署语音识别、语音合成及语音大模型。

Star
18,607
Fork
3,654
未关闭 Issue
368
最近提交
8小时前

这是什么?

NeMo Speech 是英伟达基于 PyTorch 打造的语音模型框架,面向从事语音研究和开发的工程师。它覆盖自动语音识别(ASR)、语音合成(TTS)以及语音大模型,支持通过复用已有代码和预训练模型快速创建、定制和部署模型。

项目提供多种预训练模型,包括流式与离线语音识别模型、多语言语音合成模型,以及全双工语音对话模型,并已发布到 Hugging Face。该项目从 NeMo 通用工具包中拆分而来,当前聚焦于音频、语音和多模态大模型。

安装方式包括通过 uv 从源码安装、使用预构建的 NGC 容器(Docker),或通过 pip 安装到已有的 PyTorch 环境中。运行环境要求 Python 3.12 及以上、PyTorch 2.7 及以上;训练需要 NVIDIA GPU 和 CUDA。

核心功能

  • 01支持流式和离线模式的自动语音识别模型
  • 02支持多语言的语音合成模型
  • 03提供语音大模型及全双工语音对话模型
  • 04预训练模型权重发布在 Hugging Face 上
  • 05可通过 uv、Docker 或 pip 安装,并兼容已有的 PyTorch 环境

适用场景

  • 为特定语言或领域构建或微调语音识别系统
  • 在英伟达 GPU 上部署低延迟的流式转写服务
  • 为应用生成多语言语音合成音色
  • 研究语音大模型和语音对话智能体

快速上手

  1. 1

    克隆代码仓库

    git clone https://github.com/NVIDIA-NeMo/Speech.git
  2. 2

    进入项目目录

    cd Speech
  3. 3

    使用 uv 安装受支持的环境(CUDA 13.x)

    uv sync --extra all --extra cu13
  4. 4

    或通过 pip 安装到现有 PyTorch 环境中

    uv pip install 'nemo-toolkit[asr,tts]'

使用前须知

  • 训练需要支持 CUDA 的 NVIDIA GPU。
  • 需要 Python 3.12 或更高版本以及 PyTorch 2.7 或更高版本。

标签

常见问题

Speech 是什么?
英伟达开源的语音AI工具包,用于构建、微调和部署语音识别、语音合成及语音大模型。 NeMo Speech 是英伟达基于 PyTorch 打造的语音模型框架,面向从事语音研究和开发的工程师。它覆盖自动语音识别(ASR)、语音合成(TTS)以及语音大模型,支持通过复用已有代码和预训练模型快速创建、定制和部署模型。
Speech 可以免费使用吗?用的什么许可证?
Speech 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
Speech 还在维护吗?
活跃维护中。Speech 最近一次提交是在 2026年10月20日。
Speech 适合用来做什么?
为特定语言或领域构建或微调语音识别系统 在英伟达 GPU 上部署低延迟的流式转写服务 为应用生成多语言语音合成音色 研究语音大模型和语音对话智能体
Speech 怎么安装和运行?
克隆代码仓库: git clone https://github.com/NVIDIA-NeMo/Speech.git 进入项目目录: cd Speech 使用 uv 安装受支持的环境(CUDA 13.x): uv sync --extra all --extra cu13 或通过 pip 安装到现有 PyTorch 环境中: uv pip install 'nemo-toolkit[asr,tts]'
在哪里获取 Speech?
源代码和安装说明在 GitHub 上:https://github.com/NVIDIA-NeMo/Speech

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目