Resemble AIによるオープンソースの音声合成モデルファミリー。短い参照音声から、英語をはじめ多言語で声をクローンできます。
- スター
- 14,781
- フォーク
- 2,206
- 未解決の Issue
- 67
- 最終コミット
- 8 日前
これは何?
OmniVoiceは、言語ごとの学習なしで600以上の言語の音声を生成する音声合成モデルです。拡散言語モデル風のアーキテクチャを採用し、短い参照音声からのゼロショット音声クローンに対応しています。また、性別、年齢、声の高さ、アクセント、中国語の方言などの属性を指定して声をデザインできます。
基本的な音声合成に加え、[laughter]や[sigh]などの非言語タグをテキスト内に挿入できるほか、中国語の発音を修正するためのピンインの声調記号や、英語向けのCMU辞書の音素にも対応しています。出力は24 kHzの音声です。NVIDIA、Apple Silicon(MPS)、Intel Arc(XPU)で動作し、Python API、GradioのWebデモ、コマンドラインツールから利用できます。コマンドラインツールには、マルチGPUバッチ推論用のツールも含まれます。
NVIDIA GPUでのサービングを高速化するため、オプションでFlashInferとの統合も利用できます。
主な機能
- 01短い参照音声からゼロショットで音声をクローンできます。
- 02性別、年齢、声の高さ、スタイル、アクセント、中国語の方言を指定して声をデザインできます。
- 03[laughter]や[sigh]などの非言語タグをテキストに挿入できます。
- 04発音修正用のピンインおよびCMUの音素入力に対応しています。
- 05NVIDIA、Apple Silicon、Intel ArcのGPUで動作します。
- 06Python API、GradioのWebデモ、マルチGPUバッチ推論を含むCLIツールを利用できます。
ユースケース
- 多くの言語でナレーションやボイスオーバーを生成する。
- 本人の同意を得たうえで特定の話者の声をクローンし、パーソナライズされた音声を生成する。
- 複数のGPUを使って大量の音声をバッチ生成する。
- APIを組み込む前に、ローカルのGradioデモでTTS機能のプロトタイプを作る。
クイックスタート
- 1
お使いのハードウェア向けにPyTorchをインストールする(NVIDIA GPUの場合)
pip install torch==2.8.0+cu128 torchaudio==2.8.0+cu128 --extra-index-url https://download.pytorch.org/whl/cu128 - 2
PyPIからOmniVoiceをインストールする
pip install omnivoice - 3
ローカルのWebデモを起動する
omnivoice-demo --ip 0.0.0.0 --port 8001
使う前に知っておきたいこと
- 音声デザインの学習データは中国語と英語のみのため、その他の言語では動作が不安定になる場合があります。
- 快適に実行するには通常、GPU(CUDA、Apple Silicon MPS、またはIntel Arc XPU)が必要です。また、事前学習済みモデルをHugging Faceからダウンロードする必要があります。
- FlashInferによる高速化はNVIDIA GPUのみで利用できます。
トピック
よくある質問
- OmniVoice とは?
- 600以上の言語に対応し、音声クローンと音声デザインも可能なオープンソースの多言語ゼロショットTTSモデル。 OmniVoiceは、言語ごとの学習なしで600以上の言語の音声を生成する音声合成モデルです。拡散言語モデル風のアーキテクチャを採用し、短い参照音声からのゼロショット音声クローンに対応しています。また、性別、年齢、声の高さ、アクセント、中国語の方言などの属性を指定して声をデザインできます。
- OmniVoice は無料で使えますか?ライセンスは?
- OmniVoice は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- OmniVoice は今もメンテナンスされていますか?
- 活発にメンテナンス中。OmniVoice の最終コミットは 2026年10月12日 です。
- OmniVoice は何に使えますか?
- 多くの言語でナレーションやボイスオーバーを生成する。 本人の同意を得たうえで特定の話者の声をクローンし、パーソナライズされた音声を生成する。 複数のGPUを使って大量の音声をバッチ生成する。 APIを組み込む前に、ローカルのGradioデモでTTS機能のプロトタイプを作る。
- OmniVoice のインストール方法は?
- お使いのハードウェア向けにPyTorchをインストールする(NVIDIA GPUの場合): pip install torch==2.8.0+cu128 torchaudio==2.8.0+cu128 --extra-index-url https://download.pytorch.org/whl/cu128 PyPIからOmniVoiceをインストールする: pip install omnivoice ローカルのWebデモを起動する: omnivoice-demo --ip 0.0.0.0 --port 8001
- OmniVoice はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/k2-fsa/OmniVoice
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
LLM系モデルを基盤とするオープンソースの音声合成システム。ボイスクローニング、自然言語による感情制御、複数話者の音声生成に対応します。
Diffusion Transformerを用いたflow matching方式のオープンソース音声合成システム。短い参照音声からゼロショットで音声を複製できます。
軽量なZipVoiceベースのTTSモデル。音声のクローンと48kHzの音声生成に対応し、GPUでリアルタイムの150倍超で動作。
CPUでリアルタイム動作する0.1Bパラメータの多言語音声合成モデル。ボイスクローニングに対応し、48 kHzステレオ音声を出力します。
Microsoftによるオープンソースの音声AIモデル群。長時間音声の認識(ASR)、複数話者の音声合成(TTS)、リアルタイムストリーミングTTSに対応。