Расширение для text-generation-webui, которое позволяет локальной LLM искать информацию в интернете и добавлять в ответы релевантные фрагменты страниц.
SaiAkhil066/CORTEX-AI-SUPER-RAG
Локальное приложение для генерации с дополнением поиском: отвечает на вопросы по PDF, документам Word и текстовым файлам со ссылками на файл и страницу, используя Ollama.
- Звёзды
- 1,981
- Форки
- 290
- Открытые issues
- 14
- Последний коммит
- в прошлом месяце
Что это?
Cortex RAG позволяет загружать PDF, документы Word и текстовые файлы, а затем задавать вопросы обычным языком. В каждом ответе указаны файл и страница, откуда взята информация, а также использованный фрагмент. Всё работает на вашем компьютере через Ollama — API-ключ и загрузка файлов в облако не нужны.
За каждым ответом стоит конвейер поиска: он сочетает поиск по ключевым словам BM25 с векторным поиском FAISS, а затем использует граф совместной встречаемости сущностей и reranker на основе cross-encoder. Маршрутизация по источникам ограничивает поиск одним файлом, если он указан в вопросе, а уточняющие вопросы преобразуются в самостоятельные запросы. Такие методы, как RAG-Fusion, HyDE, Corrective RAG и Contextual Retrieval, можно включать и выключать на боковой панели.
В проект также входит набор инструментов для оценки: он запускает список вопросов с разными настройками конвейера и показывает hit rate, MRR, корректность и faithfulness. Базы знаний сохраняются на диск и автоматически открываются при следующем запуске. Интерфейс создан на Streamlit; сейчас в проекте нет REST API и входа для нескольких пользователей.
Ключевые возможности
- 01В ответах для каждого использованного фрагмента указываются исходный файл и номер страницы.
- 02Гибридный поиск сочетает поиск по ключевым словам BM25 с векторным поиском FAISS.
- 03Если в вопросе указан файл, маршрутизация по источникам ограничивает поиск этим файлом.
- 04Reranker на основе cross-encoder ранжирует найденные фрагменты по релевантности.
- 05Встроенный набор инструментов для оценки сравнивает настройки поиска на вашем списке вопросов.
- 06Базы знаний сохраняются на диск, и в них можно добавлять данные.
Сценарии использования
- Поиск по папке с внутренними справочниками, договорами или отчётами без отправки данных в облачный сервис.
- Эксперименты с методами RAG и оценка того, какие из них лучше работают на ваших документах.
- Создание прототипа инструмента для вопросов и ответов по документам на ноутбуке с моделями Ollama.
Быстрый старт
- 1
Клонируйте репозиторий
git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git - 2
Перейдите в папку проекта и установите зависимости Python
cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt - 3
Загрузите чат-модель и модель эмбеддингов в Ollama
ollama pull llama3.1:8b ollama pull nomic-embed-text - 4
Запустите приложение и откройте http://localhost:8501
python -m streamlit run app.py
Что важно знать
- Необходимо установить Ollama и запустить его локально, а также использовать компьютер, способный запускать модели.
- На ноутбуке ответы модели 8B могут занимать примерно от 30 до 90 секунд.
- Согласно бенчмарку в README, вычисления, например расчёт пропорций, по-прежнему даются модели 8B по умолчанию с трудом.
В подборках
Темы
Частые вопросы
- Что такое CORTEX-AI-SUPER-RAG?
- Локальное приложение для генерации с дополнением поиском: отвечает на вопросы по PDF, документам Word и текстовым файлам со ссылками на файл и страницу, используя Ollama. Cortex RAG позволяет загружать PDF, документы Word и текстовые файлы, а затем задавать вопросы обычным языком. В каждом ответе указаны файл и страница, откуда взята информация, а также использованный фрагмент. Всё работает на вашем компьютере через Ollama — API-ключ и загрузка файлов в облако не нужны.
- CORTEX-AI-SUPER-RAG можно использовать бесплатно? Какая у него лицензия?
- CORTEX-AI-SUPER-RAG распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- CORTEX-AI-SUPER-RAG всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в CORTEX-AI-SUPER-RAG — 28 сент. 2026 г..
- Для чего можно использовать CORTEX-AI-SUPER-RAG?
- Поиск по папке с внутренними справочниками, договорами или отчётами без отправки данных в облачный сервис. Эксперименты с методами RAG и оценка того, какие из них лучше работают на ваших документах. Создание прототипа инструмента для вопросов и ответов по документам на ноутбуке с моделями Ollama.
- Как установить CORTEX-AI-SUPER-RAG?
- Клонируйте репозиторий: git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git Перейдите в папку проекта и установите зависимости Python: cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt Загрузите чат-модель и модель эмбеддингов в Ollama: ollama pull llama3.1:8b ollama pull nomic-embed-text Запустите приложение и откройте http://localhost:8501: python -m streamlit run app.py
- Где скачать CORTEX-AI-SUPER-RAG?
- Исходный код и инструкции по установке — на GitHub: https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Локальный векторный индекс и инструментарий для RAG: пересчитывает эмбеддинги по запросу и сокращает объём хранения примерно на 97%, позволяя искать личные данные на ноутбуке.
Open-source-пайплайн, который превращает веб-страницы и PDF в скриншоты и ищет по ним визуально, сохраняя таблицы и графики для RAG.
Автономное open-source desktop-приложение: AI-агент в духе NotebookLM для поиска, преобразования и редактирования локальных документов.
RAG-решение для Azure, которое отвечает на вопросы по вашим документам и снабжает ответы встроенными ссылками на источники.
Локальный CLI-поисковик для заметок в Markdown, расшифровок встреч и документации: объединяет BM25, векторный поиск и переранжирование с помощью LLM.