Repolode
Vchitect

Vchitect/VBench

テキストから動画・画像から動画を生成するモデルを、多様な品質・意味的観点から評価するベンチマークスイート兼評価ツールキット。

スター
1,827
フォーク
135
未解決の Issue
73
最終コミット
2 か月前

これは何?

VBenchは、動画生成モデルを評価するためのベンチマークスイートです。動画生成の品質を、被写体や背景の一貫性、時間的なちらつき、動きの滑らかさ、美的品質や映像品質、物体クラス、人間の動作、空間的な関係性など、階層的な評価項目に分解します。各項目には標準プロンプトセットと自動評価手法が用意されており、同じテストケースで異なるモデルを比較できます。

このリポジトリはVBenchシリーズのリファレンス実装です。シリーズには、公平性・バイアス・安全性を対象とする信頼性チェックを含むVBench++(画像から動画への生成、長尺動画の評価)と、常識推論、物理法則、人間の動作など、生成内容の本質的な忠実性を対象とするVBench-2.0も含まれます。pipパッケージとして提供され、`vbench`コマンドラインツールを利用できます。マルチGPU評価に対応し、複数の評価項目について任意の動画を採点できます。

論文で使用したサンプル動画に加えて、プロンプト一覧やモデルの詳細も公開しています。また、動画生成モデルを比較するための公開リーダーボードを運営しています。

主な機能

  • 01被写体の一貫性、動きの滑らかさ、美的品質など、16項目にわたってテキストから動画を生成するモデルを評価します。
  • 02各評価項目に標準プロンプトセットと自動評価手法を用意しています。
  • 03選択した評価項目について、カスタム動画やプロンプトを採点できます。
  • 04VBench++のコンポーネントに、画像から動画への生成、長尺動画、信頼性の評価モジュールが含まれています。
  • 05pipでインストールでき、`vbench` CLIとマルチGPU評価に対応しています。

ユースケース

  • 共通のベンチマークを使って、オープンまたは商用のさまざまな動画生成モデルの出力品質を比較する。
  • 独自の動画生成モデルを公開する前に、標準的な評価項目で性能を評価する。
  • 研究パイプラインで、生成動画の時間的一貫性や動きの品質を測定する。
  • 信頼性評価モジュールを使って、動画生成モデルの公平性、バイアス、安全性を評価する。

クイックスタート

  1. 1

    PyPIからvbenchパッケージをインストールします(READMEのPyPIバッジを参照)

  2. 2

    READMEの「Usage」セクションに従って、生成した動画を評価します

使う前に知っておきたいこと

  • VBench++の一部モジュールは「beta」と名の付くフォルダーにあるため、コアスイートより安定性が低い場合があります。

トピック

よくある質問

VBench とは?
テキストから動画・画像から動画を生成するモデルを、多様な品質・意味的観点から評価するベンチマークスイート兼評価ツールキット。 VBenchは、動画生成モデルを評価するためのベンチマークスイートです。動画生成の品質を、被写体や背景の一貫性、時間的なちらつき、動きの滑らかさ、美的品質や映像品質、物体クラス、人間の動作、空間的な関係性など、階層的な評価項目に分解します。各項目には標準プロンプトセットと自動評価手法が用意されており、同じテストケースで異なるモデルを比較できます。
VBench は無料で使えますか?ライセンスは?
VBench は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
VBench は今もメンテナンスされていますか?
半年以内に更新あり。VBench の最終コミットは 2026年8月21日 です。
VBench は何に使えますか?
共通のベンチマークを使って、オープンまたは商用のさまざまな動画生成モデルの出力品質を比較する。 独自の動画生成モデルを公開する前に、標準的な評価項目で性能を評価する。 研究パイプラインで、生成動画の時間的一貫性や動きの品質を測定する。 信頼性評価モジュールを使って、動画生成モデルの公平性、バイアス、安全性を評価する。
VBench のインストール方法は?
PyPIからvbenchパッケージをインストールします(READMEのPyPIバッジを参照) READMEの「Usage」セクションに従って、生成した動画を評価します
VBench はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/Vchitect/VBench

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト