Resemble AIによるオープンソースの音声合成モデルファミリー。短い参照音声から、英語をはじめ多言語で声をクローンできます。
OpenBMB/VoxCPM
VoxCPM2は、30言語に対応し、テキストの説明からの音声設計や短い参照音声からの音声クローンが可能な、オープンソースのトークナイザーフリー音声合成モデルです。
代替できる製品:ElevenLabs
- スター
- 39,635
- フォーク
- 4,500
- 未解決の Issue
- 135
- 最終コミット
- 13 日前
これは何?
VoxCPM2はOpenBMBが開発した音声合成システムです。離散トークンではなく、拡散自己回帰アーキテクチャで連続的な音声表現を生成します。MiniCPM-4をバックボーンとする20億パラメーターのモデルで、48kHzの音声を出力します。
複数のワークフローに対応しています。30言語と複数の中国語方言での通常の多言語合成、参照音声を使わず自然言語の説明から行う音声設計、短い参照音声を使ったスタイル制御オプション付きの音声クローンが可能です。より高品質なモードでは、参照音声とその文字起こしを入力し、参照音声の続きとなる音声を生成します。
Python API、CLI、ローカルWebデモから利用でき、ストリーミング生成にも対応しています。サービング方法として、Nano-vLLM、OpenAI互換エンドポイントを備えたvLLM-Omni、オンデバイス利用向けのllama.cpp-omniを利用できます。フルSFTまたはLoRAによるファインチューニングに対応し、重みとコードはApache-2.0で公開されています。
主な機能
- 01言語タグなしで、複数の中国語方言を含む30言語の音声合成に対応。
- 02性別、年齢、声のトーンなどのテキスト説明から音声を設計。
- 03短い参照音声から音声をクローンでき、スタイルや感情の制御も可能。
- 0416kHzの参照音声から48kHzの音声を出力。
- 05Python API、CLI、Webデモからストリーミング生成が可能。
- 06フルファインチューニングとLoRAファインチューニングに対応。
ユースケース
- 台本から多言語のボイスオーバーやナレーションを生成する。
- ゲーム、動画、バーチャルアシスタント向けのオリジナルキャラクターボイスを作成する。
- クローンした話者の声を使って、動画コンテンツを吹き替えたりローカライズしたりする。
- llama.cpp-omniを使い、デバイス上でオフライン音声合成を実行する。
クイックスタート
- 1
pipでパッケージをインストールする
pip install voxcpm - 2
モデルを読み込み、Pythonから音声を生成する
- 3
または、ローカルのWebデモを起動する
python app.py --port 8808
使う前に知っておきたいこと
- READMEに記載されたセットアップには、Python 3.10以上3.13未満、PyTorch 2.5以降、CUDA 12.0以降が必要です。
- 高品質な推論にはGPUが適しています。READMEに記載のリアルタイム係数は、NVIDIA RTX 4090で測定されたものです。
- モデルは20億パラメータで、Hugging FaceまたはModelScopeから大容量のダウンロードが必要です。
トピック
よくある質問
- VoxCPM とは?
- VoxCPM2は、30言語に対応し、テキストの説明からの音声設計や短い参照音声からの音声クローンが可能な、オープンソースのトークナイザーフリー音声合成モデルです。 VoxCPM2はOpenBMBが開発した音声合成システムです。離散トークンではなく、拡散自己回帰アーキテクチャで連続的な音声表現を生成します。MiniCPM-4をバックボーンとする20億パラメーターのモデルで、48kHzの音声を出力します。
- VoxCPM は無料で使えますか?ライセンスは?
- VoxCPM は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- VoxCPM は今もメンテナンスされていますか?
- 活発にメンテナンス中。VoxCPM の最終コミットは 2026年10月8日 です。
- VoxCPM は何に使えますか?
- 台本から多言語のボイスオーバーやナレーションを生成する。 ゲーム、動画、バーチャルアシスタント向けのオリジナルキャラクターボイスを作成する。 クローンした話者の声を使って、動画コンテンツを吹き替えたりローカライズしたりする。 llama.cpp-omniを使い、デバイス上でオフライン音声合成を実行する。
- VoxCPM のインストール方法は?
- pipでパッケージをインストールする: pip install voxcpm モデルを読み込み、Pythonから音声を生成する または、ローカルのWebデモを起動する: python app.py --port 8808
- VoxCPM はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/OpenBMB/VoxCPM
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
600以上の言語に対応し、音声クローンと音声デザインも可能なオープンソースの多言語ゼロショットTTSモデル。
LLM系モデルを基盤とするオープンソースの音声合成システム。ボイスクローニング、自然言語による感情制御、複数話者の音声生成に対応します。
KittenTTS 2で5秒の音声から声を複製し、CPU上でリアルタイムに動作するオープンソースの音声合成ライブラリ。
8,200万パラメータのオープンウェイト音声合成モデル、Kokoro-82MのPython推論ライブラリ。
軽量なZipVoiceベースのTTSモデル。音声のクローンと48kHzの音声生成に対応し、GPUでリアルタイムの150倍超で動作。