Repolode
SaiAkhil066

SaiAkhil066/CORTEX-AI-SUPER-RAG

基于 Ollama 本地运行的 RAG 应用,可对 PDF、Word 和文本文件提问,并附带文件名与页码引用。

Star
1,981
Fork
290
未关闭 Issue
14
最近提交
上个月

这是什么?

Cortex RAG 是一个本地运行的检索增强生成(RAG)应用。你可以上传 PDF、Word 或文本文件,用自然语言提问。每个回答都会标注来源文件与页码,并附上所引用的段落。模型通过 Ollama 在本机运行,无需 API Key,也不会上传文档到云端。

回答背后是一条混合检索流程:BM25 关键词检索与 FAISS 向量检索结合,再加入实体共现图谱和 cross-encoder 重排序。问题中提到某个文件时,检索会限定在该文件内;追问会先被改写为完整问题。RAG-Fusion、HyDE、Corrective RAG 和 Contextual Retrieval 等技术可在侧边栏中逐项开关。

项目还自带评测工具,可用同一组问题对比不同检索配置的命中率、MRR、正确率和忠实度。知识库会保存在磁盘上并自动重新打开。界面基于 Streamlit 构建,目前没有 REST API,也没有多用户登录。

核心功能

  • 01回答会标注每段引用内容所在的文件与页码。
  • 02混合检索结合 BM25 关键词检索与 FAISS 向量检索。
  • 03问题中提到文件名时,检索范围会限定在该文件。
  • 04使用 cross-encoder 对候选段落进行相关性重排序。
  • 05内置评测工具,可用自有问题集对比不同检索配置。
  • 06知识库保存在磁盘上,之后可继续添加文件。

适用场景

  • 在不上传云端的前提下,查询内部手册、合同或报告。
  • 试验不同 RAG 技术,并用自己的文档衡量其实际效果。
  • 在笔记本上借助 Ollama 模型快速搭建文档问答原型。

快速上手

  1. 1

    克隆仓库

    git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git
  2. 2

    进入项目目录并安装 Python 依赖

    cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt
  3. 3

    在 Ollama 中拉取聊天模型和嵌入模型

    ollama pull llama3.1:8b ollama pull nomic-embed-text
  4. 4

    启动应用并打开 http://localhost:8501

    python -m streamlit run app.py

使用前须知

  • 需要在本地安装并运行 Ollama,且机器要能跑得动所选模型。
  • 在笔记本上使用 8B 模型,每次回答可能需要约 30 到 90 秒。
  • 根据 README 的基准测试,默认 8B 模型在比率等计算类问题上表现较弱。

收录于专题

标签

常见问题

CORTEX-AI-SUPER-RAG 是什么?
基于 Ollama 本地运行的 RAG 应用,可对 PDF、Word 和文本文件提问,并附带文件名与页码引用。 Cortex RAG 是一个本地运行的检索增强生成(RAG)应用。你可以上传 PDF、Word 或文本文件,用自然语言提问。每个回答都会标注来源文件与页码,并附上所引用的段落。模型通过 Ollama 在本机运行,无需 API Key,也不会上传文档到云端。
CORTEX-AI-SUPER-RAG 可以免费使用吗?用的什么许可证?
CORTEX-AI-SUPER-RAG 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
CORTEX-AI-SUPER-RAG 还在维护吗?
半年内有更新。CORTEX-AI-SUPER-RAG 最近一次提交是在 2026年9月28日。
CORTEX-AI-SUPER-RAG 适合用来做什么?
在不上传云端的前提下,查询内部手册、合同或报告。 试验不同 RAG 技术,并用自己的文档衡量其实际效果。 在笔记本上借助 Ollama 模型快速搭建文档问答原型。
CORTEX-AI-SUPER-RAG 怎么安装和运行?
克隆仓库: git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git 进入项目目录并安装 Python 依赖: cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt 在 Ollama 中拉取聊天模型和嵌入模型: ollama pull llama3.1:8b ollama pull nomic-embed-text 启动应用并打开 http://localhost:8501: python -m streamlit run app.py
在哪里获取 CORTEX-AI-SUPER-RAG?
源代码和安装说明在 GitHub 上:https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目