text-generation-webui向けの拡張機能。ローカルLLMでWeb検索し、関連ページの抜粋を回答に追加できます。
SaiAkhil066/CORTEX-AI-SUPER-RAG
Ollama上で動作し、PDF、Word、テキストファイルに関する質問に、ファイル名とページ番号付きで回答するローカルRAGアプリ。
- スター
- 1,981
- フォーク
- 290
- 未解決の Issue
- 14
- 最終コミット
- 先月
これは何?
Cortex RAGでは、PDF、Word文書、テキストファイルをアップロードして、自然な言葉で質問できます。回答には、参照したファイル名とページ番号、使用した文章が記載されます。すべてOllamaを通じて自分のマシン上で動作するため、APIキーもクラウドへのアップロードも必要ありません。
回答の生成には、BM25のキーワード検索とFAISSのベクトル検索を組み合わせ、さらにエンティティの共起グラフとcross-encoderによる再ランキングを加えた検索パイプラインを使用します。質問でファイル名が指定されている場合は検索対象をそのファイルに絞り、追加の質問は単独で意味が通るクエリに書き換えます。RAG-Fusion、HyDE、Corrective RAG、Contextual Retrievalなどの手法は、サイドバーから有効・無効を切り替えられます。
このプロジェクトには、異なるパイプライン設定で質問セットを実行し、ヒット率、MRR、正確性、忠実性をレポートする評価ハーネスも含まれています。ナレッジベースはディスクに保存され、次回起動時に自動で開きます。インターフェースにはStreamlitを使用しています。現時点ではREST APIも複数ユーザー向けログイン機能もありません。
主な機能
- 01使用した文章ごとに、参照元のファイルとページ番号を回答に表示します。
- 02BM25のキーワード検索とFAISSのベクトル検索を組み合わせたハイブリッド検索に対応しています。
- 03質問でファイル名が指定されている場合、検索対象をそのファイルに限定します。
- 04cross-encoderによる再ランキングで、候補となる文章を関連度順に並べ替えます。
- 05独自の質問セットを使って検索設定を比較できる評価ハーネスを備えています。
- 06ナレッジベースはディスクに保存され、後から追加できます。
ユースケース
- 社内ハンドブック、契約書、レポートなどをまとめたフォルダーについて、クラウドサービスに送信せずに質問する。
- RAGの手法を試し、自分のドキュメントでどの手法が有効かを測定する。
- Ollamaのモデルを使い、ノートPC上でドキュメントQ&Aツールのプロトタイプを作る。
クイックスタート
- 1
リポジトリをクローンする
git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git - 2
プロジェクトフォルダーに移動して、Pythonの依存関係をインストールする
cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt - 3
Ollamaでチャットモデルと埋め込みモデルをPullする
ollama pull llama3.1:8b ollama pull nomic-embed-text - 4
アプリを起動して http://localhost:8501 を開く
python -m streamlit run app.py
使う前に知っておきたいこと
- Ollamaをインストールしてローカルで実行する必要があります。また、モデルを実行できるマシンが必要です。
- ノートPCでは、8Bモデルの回答におよそ30~90秒かかる場合があります。
- READMEのベンチマークによると、比率などの計算はデフォルトの8Bモデルでは依然として苦手です。
収録されている特集
トピック
よくある質問
- CORTEX-AI-SUPER-RAG とは?
- Ollama上で動作し、PDF、Word、テキストファイルに関する質問に、ファイル名とページ番号付きで回答するローカルRAGアプリ。 Cortex RAGでは、PDF、Word文書、テキストファイルをアップロードして、自然な言葉で質問できます。回答には、参照したファイル名とページ番号、使用した文章が記載されます。すべてOllamaを通じて自分のマシン上で動作するため、APIキーもクラウドへのアップロードも必要ありません。
- CORTEX-AI-SUPER-RAG は無料で使えますか?ライセンスは?
- CORTEX-AI-SUPER-RAG は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- CORTEX-AI-SUPER-RAG は今もメンテナンスされていますか?
- 半年以内に更新あり。CORTEX-AI-SUPER-RAG の最終コミットは 2026年9月28日 です。
- CORTEX-AI-SUPER-RAG は何に使えますか?
- 社内ハンドブック、契約書、レポートなどをまとめたフォルダーについて、クラウドサービスに送信せずに質問する。 RAGの手法を試し、自分のドキュメントでどの手法が有効かを測定する。 Ollamaのモデルを使い、ノートPC上でドキュメントQ&Aツールのプロトタイプを作る。
- CORTEX-AI-SUPER-RAG のインストール方法は?
- リポジトリをクローンする: git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git プロジェクトフォルダーに移動して、Pythonの依存関係をインストールする: cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt Ollamaでチャットモデルと埋め込みモデルをPullする: ollama pull llama3.1:8b ollama pull nomic-embed-text アプリを起動して http://localhost:8501 を開く: python -m streamlit run app.py
- CORTEX-AI-SUPER-RAG はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
オンデマンドで埋め込みを再計算し、ストレージを約97%削減するローカルベクトルインデックス兼RAGツールキット。ノートPC上の個人データを検索できます。
WebページやPDFをスクリーンショット化して画像検索し、表やグラフを保持したままRAGに活用できるオープンソースパイプライン。
エアギャップ環境で使えるオープンソースのデスクトップアプリ。NotebookLMのように、ローカル文書を調査・変換・編集するAIエージェントです。
Azure上で動作するRAGアクセラレーター。独自のドキュメントに基づいてチャットアシスタントが回答し、出典をインライン引用で示します。
Markdownのメモ、会議の文字起こし、ドキュメントを対象に、BM25、ベクトル検索、LLMによる再ランキングを組み合わせたローカル実行型のCLI検索エンジン。