Repolode
SaiAkhil066

SaiAkhil066/CORTEX-AI-SUPER-RAG

Локальное приложение для генерации с дополнением поиском: отвечает на вопросы по PDF, документам Word и текстовым файлам со ссылками на файл и страницу, используя Ollama.

Звёзды
1,981
Форки
290
Открытые issues
14
Последний коммит
в прошлом месяце

Что это?

Cortex RAG позволяет загружать PDF, документы Word и текстовые файлы, а затем задавать вопросы обычным языком. В каждом ответе указаны файл и страница, откуда взята информация, а также использованный фрагмент. Всё работает на вашем компьютере через Ollama — API-ключ и загрузка файлов в облако не нужны.

За каждым ответом стоит конвейер поиска: он сочетает поиск по ключевым словам BM25 с векторным поиском FAISS, а затем использует граф совместной встречаемости сущностей и reranker на основе cross-encoder. Маршрутизация по источникам ограничивает поиск одним файлом, если он указан в вопросе, а уточняющие вопросы преобразуются в самостоятельные запросы. Такие методы, как RAG-Fusion, HyDE, Corrective RAG и Contextual Retrieval, можно включать и выключать на боковой панели.

В проект также входит набор инструментов для оценки: он запускает список вопросов с разными настройками конвейера и показывает hit rate, MRR, корректность и faithfulness. Базы знаний сохраняются на диск и автоматически открываются при следующем запуске. Интерфейс создан на Streamlit; сейчас в проекте нет REST API и входа для нескольких пользователей.

Ключевые возможности

  • 01В ответах для каждого использованного фрагмента указываются исходный файл и номер страницы.
  • 02Гибридный поиск сочетает поиск по ключевым словам BM25 с векторным поиском FAISS.
  • 03Если в вопросе указан файл, маршрутизация по источникам ограничивает поиск этим файлом.
  • 04Reranker на основе cross-encoder ранжирует найденные фрагменты по релевантности.
  • 05Встроенный набор инструментов для оценки сравнивает настройки поиска на вашем списке вопросов.
  • 06Базы знаний сохраняются на диск, и в них можно добавлять данные.

Сценарии использования

  • Поиск по папке с внутренними справочниками, договорами или отчётами без отправки данных в облачный сервис.
  • Эксперименты с методами RAG и оценка того, какие из них лучше работают на ваших документах.
  • Создание прототипа инструмента для вопросов и ответов по документам на ноутбуке с моделями Ollama.

Быстрый старт

  1. 1

    Клонируйте репозиторий

    git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git
  2. 2

    Перейдите в папку проекта и установите зависимости Python

    cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt
  3. 3

    Загрузите чат-модель и модель эмбеддингов в Ollama

    ollama pull llama3.1:8b ollama pull nomic-embed-text
  4. 4

    Запустите приложение и откройте http://localhost:8501

    python -m streamlit run app.py

Что важно знать

  • Необходимо установить Ollama и запустить его локально, а также использовать компьютер, способный запускать модели.
  • На ноутбуке ответы модели 8B могут занимать примерно от 30 до 90 секунд.
  • Согласно бенчмарку в README, вычисления, например расчёт пропорций, по-прежнему даются модели 8B по умолчанию с трудом.

В подборках

Темы

Частые вопросы

Что такое CORTEX-AI-SUPER-RAG?
Локальное приложение для генерации с дополнением поиском: отвечает на вопросы по PDF, документам Word и текстовым файлам со ссылками на файл и страницу, используя Ollama. Cortex RAG позволяет загружать PDF, документы Word и текстовые файлы, а затем задавать вопросы обычным языком. В каждом ответе указаны файл и страница, откуда взята информация, а также использованный фрагмент. Всё работает на вашем компьютере через Ollama — API-ключ и загрузка файлов в облако не нужны.
CORTEX-AI-SUPER-RAG можно использовать бесплатно? Какая у него лицензия?
CORTEX-AI-SUPER-RAG распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
CORTEX-AI-SUPER-RAG всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в CORTEX-AI-SUPER-RAG — 28 сент. 2026 г..
Для чего можно использовать CORTEX-AI-SUPER-RAG?
Поиск по папке с внутренними справочниками, договорами или отчётами без отправки данных в облачный сервис. Эксперименты с методами RAG и оценка того, какие из них лучше работают на ваших документах. Создание прототипа инструмента для вопросов и ответов по документам на ноутбуке с моделями Ollama.
Как установить CORTEX-AI-SUPER-RAG?
Клонируйте репозиторий: git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git Перейдите в папку проекта и установите зависимости Python: cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt Загрузите чат-модель и модель эмбеддингов в Ollama: ollama pull llama3.1:8b ollama pull nomic-embed-text Запустите приложение и откройте http://localhost:8501: python -m streamlit run app.py
Где скачать CORTEX-AI-SUPER-RAG?
Исходный код и инструкции по установке — на GitHub: https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Локальный векторный индекс и инструментарий для RAG: пересчитывает эмбеддинги по запросу и сокращает объём хранения примерно на 97%, позволяя искать личные данные на ноутбуке.

13,8 тыс.+47 за неделю1,3 тыс.PythonMITАктивно поддерживаетсяОбновлён 4 дня назад