为 text-generation-webui 提供的扩展,让本地大模型可以联网搜索,并把相关网页内容补充到回答中。
SaiAkhil066/CORTEX-AI-SUPER-RAG
基于 Ollama 本地运行的 RAG 应用,可对 PDF、Word 和文本文件提问,并附带文件名与页码引用。
- Star
- 1,981
- Fork
- 290
- 未关闭 Issue
- 14
- 最近提交
- 上个月
这是什么?
Cortex RAG 是一个本地运行的检索增强生成(RAG)应用。你可以上传 PDF、Word 或文本文件,用自然语言提问。每个回答都会标注来源文件与页码,并附上所引用的段落。模型通过 Ollama 在本机运行,无需 API Key,也不会上传文档到云端。
回答背后是一条混合检索流程:BM25 关键词检索与 FAISS 向量检索结合,再加入实体共现图谱和 cross-encoder 重排序。问题中提到某个文件时,检索会限定在该文件内;追问会先被改写为完整问题。RAG-Fusion、HyDE、Corrective RAG 和 Contextual Retrieval 等技术可在侧边栏中逐项开关。
项目还自带评测工具,可用同一组问题对比不同检索配置的命中率、MRR、正确率和忠实度。知识库会保存在磁盘上并自动重新打开。界面基于 Streamlit 构建,目前没有 REST API,也没有多用户登录。
核心功能
- 01回答会标注每段引用内容所在的文件与页码。
- 02混合检索结合 BM25 关键词检索与 FAISS 向量检索。
- 03问题中提到文件名时,检索范围会限定在该文件。
- 04使用 cross-encoder 对候选段落进行相关性重排序。
- 05内置评测工具,可用自有问题集对比不同检索配置。
- 06知识库保存在磁盘上,之后可继续添加文件。
适用场景
- 在不上传云端的前提下,查询内部手册、合同或报告。
- 试验不同 RAG 技术,并用自己的文档衡量其实际效果。
- 在笔记本上借助 Ollama 模型快速搭建文档问答原型。
快速上手
- 1
克隆仓库
git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git - 2
进入项目目录并安装 Python 依赖
cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt - 3
在 Ollama 中拉取聊天模型和嵌入模型
ollama pull llama3.1:8b ollama pull nomic-embed-text - 4
启动应用并打开 http://localhost:8501
python -m streamlit run app.py
使用前须知
- 需要在本地安装并运行 Ollama,且机器要能跑得动所选模型。
- 在笔记本上使用 8B 模型,每次回答可能需要约 30 到 90 秒。
- 根据 README 的基准测试,默认 8B 模型在比率等计算类问题上表现较弱。
收录于专题
标签
常见问题
- CORTEX-AI-SUPER-RAG 是什么?
- 基于 Ollama 本地运行的 RAG 应用,可对 PDF、Word 和文本文件提问,并附带文件名与页码引用。 Cortex RAG 是一个本地运行的检索增强生成(RAG)应用。你可以上传 PDF、Word 或文本文件,用自然语言提问。每个回答都会标注来源文件与页码,并附上所引用的段落。模型通过 Ollama 在本机运行,无需 API Key,也不会上传文档到云端。
- CORTEX-AI-SUPER-RAG 可以免费使用吗?用的什么许可证?
- CORTEX-AI-SUPER-RAG 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- CORTEX-AI-SUPER-RAG 还在维护吗?
- 半年内有更新。CORTEX-AI-SUPER-RAG 最近一次提交是在 2026年9月28日。
- CORTEX-AI-SUPER-RAG 适合用来做什么?
- 在不上传云端的前提下,查询内部手册、合同或报告。 试验不同 RAG 技术,并用自己的文档衡量其实际效果。 在笔记本上借助 Ollama 模型快速搭建文档问答原型。
- CORTEX-AI-SUPER-RAG 怎么安装和运行?
- 克隆仓库: git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git 进入项目目录并安装 Python 依赖: cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt 在 Ollama 中拉取聊天模型和嵌入模型: ollama pull llama3.1:8b ollama pull nomic-embed-text 启动应用并打开 http://localhost:8501: python -m streamlit run app.py
- 在哪里获取 CORTEX-AI-SUPER-RAG?
- 源代码和安装说明在 GitHub 上:https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
本地向量索引与 RAG 工具,通过按需重算向量将存储占用降低约 97%,可在笔记本上检索个人数据。
开源的视觉检索增强生成(RAG)流程,将网页和 PDF 渲染为截图进行检索,保留表格与图表信息。
可离线运行的开源桌面应用,类似 NotebookLM 的 AI 智能体,用于检索、转换和编辑本地文档。
基于 Azure 的 RAG 解决方案加速器,让聊天助手基于你自己的文档作答,并附带原文引用。
本地运行的命令行搜索引擎,可检索 Markdown 笔记、会议记录和文档,结合 BM25、向量检索与 LLM 重排序。