LLM、VLM、AIGCモデルのベンチマーク評価に加え、推論性能の負荷テストや結果のダッシュボード表示にも対応する、カスタマイズ可能なフレームワーク。
yixuantt/MultiHop-RAG
メタデータ付きの複数文書を対象とするRAG評価用の、2,556件のマルチホップ質問からなるQAデータセット。
- スター
- 476
- フォーク
- 46
- 未解決の Issue
- 12
- 最終コミット
- 先月
これは何?
MultiHop-RAGは、複数の文書から証拠を組み合わせる必要がある質問に対して、検索拡張生成(RAG)システムがどの程度適切に対応できるかを評価するベンチマークデータセットです。2,556件の質問が含まれており、それぞれの質問を裏付ける証拠は2〜4件の文書に分散しています。
質問は文書のメタデータも参照するため、検索と推論の際にその情報を活用する必要があります。これは、実際のRAGアプリケーションでよくある複数の情報源が混在する状況を反映しています。本プロジェクトはCOLM 2024の論文に付随するもので、リポジトリ内のファイルとHugging Face dataloaderの両方で配布されています。
リポジトリには、llama-indexを使った検索(任意でBAAI/llm-embedderによるリランキングを利用)と、Llamaを使った質問応答のサンプルスクリプトに加え、検索結果とQA結果を評価するスクリプトが含まれています。データセット構築パイプラインの一部も参考用に収録されています。
主な機能
- 012〜4件の文書から証拠を集める必要がある質問を2,556件収録
- 02実際のRAGシナリオを反映するため、質問に文書のメタデータを組み込んでいる
- 03任意でリランキングを利用できる検索サンプルスクリプトを収録
- 04Llamaを使ったQAサンプルスクリプトを提供
- 05検索結果とQA結果の評価スクリプトを同梱
ユースケース
- 複数文書にまたがる質問を使った、埋め込みモデルの検索精度のベンチマーク
- LLMが複数の検索結果をまたいで推論できるかのテスト
- メタデータフィルタリングやリランキングを使うRAGパイプラインの比較
クイックスタート
- 1
llama-index依存関係をインストールする
pip install llama-index==0.9.40 - 2
シンプルな検索サンプルを実行する
python simple_retrieval.py --retriever BAAI/llm-embedder - 3
llamaを使ったQAサンプルを実行する
python qa_llama.py
使う前に知っておきたいこと
- これは単体で使えるソフトウェアツールではなく、データセットのプロジェクトです。構築コードは整理されておらず、参考用としてのみ提供されています。
- リポジトリのメタデータにはソフトウェアライセンスの記載がありません。READMEにはデータライセンスとしてODC-BYが記載されています。
収録されている特集
トピック
よくある質問
- MultiHop-RAG とは?
- メタデータ付きの複数文書を対象とするRAG評価用の、2,556件のマルチホップ質問からなるQAデータセット。 MultiHop-RAGは、複数の文書から証拠を組み合わせる必要がある質問に対して、検索拡張生成(RAG)システムがどの程度適切に対応できるかを評価するベンチマークデータセットです。2,556件の質問が含まれており、それぞれの質問を裏付ける証拠は2〜4件の文書に分散しています。
- MultiHop-RAG は無料で使えますか?ライセンスは?
- MultiHop-RAG にはライセンスが明記されていません。コードは公開されていますが、ライセンスがない場合は再利用の許諾がないため、利用前に作者に確認することをおすすめします。
- MultiHop-RAG は今もメンテナンスされていますか?
- 半年以内に更新あり。MultiHop-RAG の最終コミットは 2026年9月16日 です。
- MultiHop-RAG は何に使えますか?
- 複数文書にまたがる質問を使った、埋め込みモデルの検索精度のベンチマーク LLMが複数の検索結果をまたいで推論できるかのテスト メタデータフィルタリングやリランキングを使うRAGパイプラインの比較
- MultiHop-RAG のインストール方法は?
- llama-index依存関係をインストールする: pip install llama-index==0.9.40 シンプルな検索サンプルを実行する: python simple_retrieval.py --retriever BAAI/llm-embedder llamaを使ったQAサンプルを実行する: python qa_llama.py
- MultiHop-RAG はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/yixuantt/MultiHop-RAG
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
テキストから動画・画像から動画を生成するモデルを、多様な品質・意味的観点から評価するベンチマークスイート兼評価ツールキット。
数十種類の標準的な学術ベンチマークを使って、言語モデルの few-shot 評価を実行する統合フレームワーク。
100以上のデータセットと多数のモデルプロバイダー、推論バックエンドに対応した、オープンソースのLLM評価プラットフォーム。
自律エージェントとしてのLLMを評価するハーネス。完了度、安全性、堅牢性を基準に採点する、人手で検証済みの300タスクを収録。
メモリ内、Docker、VM、物理マシンの各環境でマルチモーダルLLMエージェントを評価する、クロス環境ベンチマーク構築用のPythonフレームワークです。