Repolode
OpenBMB

OpenBMB/VoxCPM

VoxCPM2は、30言語に対応し、テキストの説明からの音声設計や短い参照音声からの音声クローンが可能な、オープンソースのトークナイザーフリー音声合成モデルです。

代替できる製品:ElevenLabs

スター
39,635
フォーク
4,500
未解決の Issue
135
最終コミット
13 日前

これは何?

VoxCPM2はOpenBMBが開発した音声合成システムです。離散トークンではなく、拡散自己回帰アーキテクチャで連続的な音声表現を生成します。MiniCPM-4をバックボーンとする20億パラメーターのモデルで、48kHzの音声を出力します。

複数のワークフローに対応しています。30言語と複数の中国語方言での通常の多言語合成、参照音声を使わず自然言語の説明から行う音声設計、短い参照音声を使ったスタイル制御オプション付きの音声クローンが可能です。より高品質なモードでは、参照音声とその文字起こしを入力し、参照音声の続きとなる音声を生成します。

Python API、CLI、ローカルWebデモから利用でき、ストリーミング生成にも対応しています。サービング方法として、Nano-vLLM、OpenAI互換エンドポイントを備えたvLLM-Omni、オンデバイス利用向けのllama.cpp-omniを利用できます。フルSFTまたはLoRAによるファインチューニングに対応し、重みとコードはApache-2.0で公開されています。

主な機能

  • 01言語タグなしで、複数の中国語方言を含む30言語の音声合成に対応。
  • 02性別、年齢、声のトーンなどのテキスト説明から音声を設計。
  • 03短い参照音声から音声をクローンでき、スタイルや感情の制御も可能。
  • 0416kHzの参照音声から48kHzの音声を出力。
  • 05Python API、CLI、Webデモからストリーミング生成が可能。
  • 06フルファインチューニングとLoRAファインチューニングに対応。

ユースケース

  • 台本から多言語のボイスオーバーやナレーションを生成する。
  • ゲーム、動画、バーチャルアシスタント向けのオリジナルキャラクターボイスを作成する。
  • クローンした話者の声を使って、動画コンテンツを吹き替えたりローカライズしたりする。
  • llama.cpp-omniを使い、デバイス上でオフライン音声合成を実行する。

クイックスタート

  1. 1

    pipでパッケージをインストールする

    pip install voxcpm
  2. 2

    モデルを読み込み、Pythonから音声を生成する

  3. 3

    または、ローカルのWebデモを起動する

    python app.py --port 8808

使う前に知っておきたいこと

  • READMEに記載されたセットアップには、Python 3.10以上3.13未満、PyTorch 2.5以降、CUDA 12.0以降が必要です。
  • 高品質な推論にはGPUが適しています。READMEに記載のリアルタイム係数は、NVIDIA RTX 4090で測定されたものです。
  • モデルは20億パラメータで、Hugging FaceまたはModelScopeから大容量のダウンロードが必要です。

トピック

よくある質問

VoxCPM とは?
VoxCPM2は、30言語に対応し、テキストの説明からの音声設計や短い参照音声からの音声クローンが可能な、オープンソースのトークナイザーフリー音声合成モデルです。 VoxCPM2はOpenBMBが開発した音声合成システムです。離散トークンではなく、拡散自己回帰アーキテクチャで連続的な音声表現を生成します。MiniCPM-4をバックボーンとする20億パラメーターのモデルで、48kHzの音声を出力します。
VoxCPM は無料で使えますか?ライセンスは?
VoxCPM は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
VoxCPM は今もメンテナンスされていますか?
活発にメンテナンス中。VoxCPM の最終コミットは 2026年10月8日 です。
VoxCPM は何に使えますか?
台本から多言語のボイスオーバーやナレーションを生成する。 ゲーム、動画、バーチャルアシスタント向けのオリジナルキャラクターボイスを作成する。 クローンした話者の声を使って、動画コンテンツを吹き替えたりローカライズしたりする。 llama.cpp-omniを使い、デバイス上でオフライン音声合成を実行する。
VoxCPM のインストール方法は?
pipでパッケージをインストールする: pip install voxcpm モデルを読み込み、Pythonから音声を生成する または、ローカルのWebデモを起動する: python app.py --port 8808
VoxCPM はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/OpenBMB/VoxCPM

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト