Resemble AI 开源的文本转语音模型系列,支持基于参考音频的声音克隆,覆盖英语及多种其他语言。
- Star
- 14,781
- Fork
- 2,206
- 未关闭 Issue
- 67
- 最近提交
- 8天前
这是什么?
OmniVoice 是一个语音合成(TTS)模型,支持 600 多种语言的零样本生成,无需为每种语言单独训练。模型采用类扩散语言模型的架构,既能基于一段短参考音频克隆音色,也能通过性别、年龄、音调、口音、中文方言等属性描述来设计声音。
除基础合成外,它支持 [laughter]、[sigh] 等行内非语言标签,可用拼音声调标注纠正中文发音,英文则可用 CMU 词典音素指定读音。输出为 24 kHz 音频,支持 NVIDIA GPU、Apple Silicon(MPS)和 Intel Arc(XPU)。使用方式包括 Python API、Gradio 网页界面以及命令行工具,其中批量推理工具可跨多块 GPU 运行。
在 NVIDIA GPU 上,可选接入 FlashInfer 以获得更快的推理速度。
核心功能
- 01基于短参考音频的零样本音色克隆。
- 02通过性别、年龄、音调、风格、口音或中文方言描述来设计声音。
- 03文本中可插入 [laughter]、[sigh] 等非语言标签。
- 04支持拼音和 CMU 音素输入,用于纠正发音。
- 05可在 NVIDIA、Apple Silicon 和 Intel Arc GPU 上运行。
- 06提供 Python API、Gradio 网页界面及支持多 GPU 批量推理的命令行工具。
适用场景
- 为多种语言制作配音或旁白。
- 在获得授权的前提下,克隆特定说话人的音色用于个性化语音输出。
- 利用多块 GPU 批量生成大量语音音频。
- 在本地 Gradio 界面中快速验证 TTS 功能,再集成到应用中。
快速上手
- 1
为你的硬件安装 PyTorch(以 NVIDIA GPU 为例)
pip install torch==2.8.0+cu128 torchaudio==2.8.0+cu128 --extra-index-url https://download.pytorch.org/whl/cu128 - 2
从 PyPI 安装 OmniVoice
pip install omnivoice - 3
启动本地网页演示
omnivoice-demo --ip 0.0.0.0 --port 8001
使用前须知
- 声音设计仅使用中文和英文数据训练,其他语言的结果可能不稳定。
- 要获得较好的运行效果通常需要 GPU(CUDA、Apple Silicon MPS 或 Intel Arc XPU),并且需要从 Hugging Face 下载预训练模型。
- FlashInfer 加速功能仅适用于 NVIDIA GPU。
标签
常见问题
- OmniVoice 是什么?
- 开源多语言零样本语音合成模型,支持 600 多种语言,并可克隆与设计声音。 OmniVoice 是一个语音合成(TTS)模型,支持 600 多种语言的零样本生成,无需为每种语言单独训练。模型采用类扩散语言模型的架构,既能基于一段短参考音频克隆音色,也能通过性别、年龄、音调、口音、中文方言等属性描述来设计声音。
- OmniVoice 可以免费使用吗?用的什么许可证?
- OmniVoice 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- OmniVoice 还在维护吗?
- 活跃维护中。OmniVoice 最近一次提交是在 2026年10月12日。
- OmniVoice 适合用来做什么?
- 为多种语言制作配音或旁白。 在获得授权的前提下,克隆特定说话人的音色用于个性化语音输出。 利用多块 GPU 批量生成大量语音音频。 在本地 Gradio 界面中快速验证 TTS 功能,再集成到应用中。
- OmniVoice 怎么安装和运行?
- 为你的硬件安装 PyTorch(以 NVIDIA GPU 为例): pip install torch==2.8.0+cu128 torchaudio==2.8.0+cu128 --extra-index-url https://download.pytorch.org/whl/cu128 从 PyPI 安装 OmniVoice: pip install omnivoice 启动本地网页演示: omnivoice-demo --ip 0.0.0.0 --port 8001
- 在哪里获取 OmniVoice?
- 源代码和安装说明在 GitHub 上:https://github.com/k2-fsa/OmniVoice
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
2.7万3649PythonMIT更新于 3个月前
开源文本转语音系统,支持声音克隆、自然语言控制情绪和多角色语音生成。
3.3万2894PythonOther更新于 6天前
基于 Flow Matching 与 Diffusion Transformer 的开源语音合成系统,可用短参考音频进行零样本音色克隆。
1.5万2250PythonMIT更新于 6天前
基于 ZipVoice 的轻量级 TTS 模型,支持声音克隆与 48kHz 语音生成,GPU 上可达 150 倍实时速度。
5487685PythonApache-2.0更新于 5个月前
一个仅 0.1B 参数的多语言语音合成模型,可在 CPU 上实时推理,支持声音克隆与 48 kHz 立体声输出。
4517562PythonApache-2.0更新于 上个月
微软开源的语音 AI 模型系列,包含长音频语音识别、多人对话语音合成和实时流式语音合成。
5.5万6175PythonMIT更新于 12天前