モデル、埋め込み、ベクトルストア、サードパーティ連携の標準インターフェースを備えた、LLMアプリケーションやエージェント構築用のPythonフレームワーク。
- スター
- 12,271
- フォーク
- 1,409
- 未解決の Issue
- 82
- 最終コミット
- 14 日前
これは何?
YuE2は、歌詞とスタイルプロンプトから楽曲を生成します。まず、メロディーとコードをABC記法で表した譜面を作成するため、音声を生成する前に内容を確認して編集できます。生成される音声は、ボーカルと伴奏を含む48 kHzのステレオ音声です。
ゼロからの楽曲制作に加え、ゼロショットのカバーにも対応しています。付属のSheetSage2モデルで元の録音からメロディー譜を起こし、新しいスタイルや歌詞で再生成できます。エクスポートした譜面を編集して楽曲を再生成したり、付属のエージェントスキルを通じてこれらの手順を実行したりすることもできます。
このプロジェクトは、プランニング、セマンティック生成、合成、デコードを段階的に実行するPythonパイプラインを提供します。動作環境はLinuxと、BF16に対応し約24 GBのVRAMを備えたNVIDIA GPUです。モデルの重みは非商用ライセンスで公開されており、コードはApache 2.0で提供されています。
主な機能
- 01音声を生成する前に、歌詞とスタイルからメロディー・コード譜を生成します。
- 02エクスポートしたABC譜面を編集し、楽曲を再生成できます。
- 03元の録音から譜面を起こし、ゼロショットでカバーを生成できます。
- 0448 kHzのステレオ音声を出力し、譜面や中間生成物も一緒に保存します。
- 05段階的に実行できるPython APIと、コマンドライン用のサンプルスクリプトを提供します。
ユースケース
- 歌詞とスタイルの説明から楽曲のプロトタイプを作成する。
- 既存のメロディーをもとに、新しいアレンジやスタイルの楽曲を作成する。
- メロディー譜を入力してインストゥルメンタル曲を生成する。
- 記号表現と音声を組み合わせた音楽生成を研究する。
クイックスタート
- 1
リポジトリをクローンする
git clone https://github.com/multimodal-art-projection/YuE.git - 2
ディレクトリに移動し、Python 3.12 の仮想環境を作成する
cd YuE && python3.12 -m venv .venv && source .venv/bin/activate - 3
パッケージをインストールする
python -m pip install --upgrade pip && python -m pip install . - 4
最初の曲を生成する(初回使用時にモデルがダウンロードされます)
python examples/generate.py --output outputs/first-song
使う前に知っておきたいこと
- Linux、Python 3.12、BF16 に対応した 24 GB VRAM の NVIDIA GPU が必要です。
- モデルファイルは初回使用時に Hugging Face からダウンロードされます。
トピック
よくある質問
- YuE とは?
- YuE2は、歌詞とスタイルプロンプトから編集可能なメロディー・コード譜を作成し、ボーカル入りの楽曲を生成するオープンな音楽生成モデルです。 YuE2は、歌詞とスタイルプロンプトから楽曲を生成します。まず、メロディーとコードをABC記法で表した譜面を作成するため、音声を生成する前に内容を確認して編集できます。生成される音声は、ボーカルと伴奏を含む48 kHzのステレオ音声です。
- YuE は無料で使えますか?ライセンスは?
- YuE は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- YuE は今もメンテナンスされていますか?
- 活発にメンテナンス中。YuE の最終コミットは 2026年10月6日 です。
- YuE は何に使えますか?
- 歌詞とスタイルの説明から楽曲のプロトタイプを作成する。 既存のメロディーをもとに、新しいアレンジやスタイルの楽曲を作成する。 メロディー譜を入力してインストゥルメンタル曲を生成する。 記号表現と音声を組み合わせた音楽生成を研究する。
- YuE のインストール方法は?
- リポジトリをクローンする: git clone https://github.com/multimodal-art-projection/YuE.git ディレクトリに移動し、Python 3.12 の仮想環境を作成する: cd YuE && python3.12 -m venv .venv && source .venv/bin/activate パッケージをインストールする: python -m pip install --upgrade pip && python -m pip install . 最初の曲を生成する(初回使用時にモデルがダウンロードされます): python examples/generate.py --output outputs/first-song
- YuE はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/multimodal-art-projection/YuE
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
トークナイズから事前学習、ファインチューニング、評価、チャットまで、LLMの全工程をカバーする、単一GPUノードで動作する最小限で改造しやすいハーネス。
Intel CPU、GPU、NPUで推論するディープラーニングモデルを最適化・デプロイするオープンソースツールキット。
テキスト、画像、動画、点群、マルチモーダルデータをAIで支援しながらアノテーションできる、モデル内蔵のクロスプラットフォーム対応デスクトップアプリ。複数形式へのエクスポートにも対応。
LLMアプリケーション構築用のRustライブラリと、その上に構築されたBevyプラグイン方式のターミナルコーディングエージェント。
NixtlaのTimeGPTを利用するPython SDKクライアント。時系列予測と異常検知に対応