Extensão para o text-generation-webui que permite a um LLM local pesquisar na web e incluir trechos relevantes das páginas nas respostas.
SaiAkhil066/CORTEX-AI-SUPER-RAG
Um app local de geração aumentada por recuperação que responde a perguntas sobre PDFs, arquivos Word e texto, citando o arquivo e a página, com execução via Ollama.
- Estrelas
- 1,981
- Forks
- 290
- Issues abertas
- 14
- Último commit
- mês passado
O que é?
O Cortex RAG permite enviar PDFs, documentos Word ou arquivos de texto e fazer perguntas em linguagem natural. Cada resposta informa o arquivo e a página de onde veio, além do trecho usado. Tudo roda na sua própria máquina via Ollama, sem precisar de chave de API nem enviar arquivos para a nuvem.
Por trás de cada resposta há um pipeline de recuperação que combina busca por palavras-chave com BM25 e busca vetorial com FAISS, além de um grafo de coocorrência de entidades e um reranker cross-encoder. O roteamento por fonte limita a busca a um único arquivo quando a pergunta o menciona, e perguntas de acompanhamento são reescritas como consultas independentes. Técnicas como RAG-Fusion, HyDE, Corrective RAG e Contextual Retrieval podem ser ativadas ou desativadas na barra lateral.
O projeto também inclui um mecanismo de avaliação que executa um conjunto de perguntas com diferentes configurações do pipeline e apresenta hit rate, MRR, correção e fidelidade. As bases de conhecimento são salvas em disco e reabertas automaticamente. A interface é feita com Streamlit, e o projeto atualmente não tem API REST nem login multiusuário.
Recursos principais
- 01As respostas citam o arquivo de origem e o número da página de cada trecho utilizado.
- 02A recuperação híbrida combina busca por palavras-chave com BM25 e busca vetorial com FAISS.
- 03O roteamento por fonte restringe a busca a um arquivo quando a pergunta o menciona.
- 04O reranking cross-encoder ordena os trechos candidatos por relevância.
- 05O mecanismo de avaliação integrado compara configurações de recuperação usando seu próprio conjunto de perguntas.
- 06As bases de conhecimento são salvas em disco e podem ser ampliadas depois.
Casos de uso
- Consultar uma pasta de manuais internos, contratos ou relatórios sem enviar os arquivos para um serviço na nuvem.
- Experimentar técnicas de RAG e medir quais funcionam melhor nos seus próprios documentos.
- Criar um protótipo de ferramenta de perguntas e respostas sobre documentos em um laptop, usando modelos do Ollama.
Início rápido
- 1
Clone o repositório
git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git - 2
Acesse a pasta do projeto e instale as dependências do Python
cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt - 3
Baixe o modelo de chat e o modelo de embeddings no Ollama
ollama pull llama3.1:8b ollama pull nomic-embed-text - 4
Inicie o app e abra http://localhost:8501
python -m streamlit run app.py
Antes de usar
- É necessário ter o Ollama instalado e em execução localmente, além de uma máquina capaz de executar os modelos.
- Em um laptop, as respostas de um modelo 8B podem levar aproximadamente de 30 a 90 segundos.
- De acordo com o benchmark do README, cálculos como proporções continuam sendo um ponto fraco do modelo 8B padrão.
Em coleções
Tópicos
Perguntas frequentes
- O que é CORTEX-AI-SUPER-RAG?
- Um app local de geração aumentada por recuperação que responde a perguntas sobre PDFs, arquivos Word e texto, citando o arquivo e a página, com execução via Ollama. O Cortex RAG permite enviar PDFs, documentos Word ou arquivos de texto e fazer perguntas em linguagem natural. Cada resposta informa o arquivo e a página de onde veio, além do trecho usado. Tudo roda na sua própria máquina via Ollama, sem precisar de chave de API nem enviar arquivos para a nuvem.
- CORTEX-AI-SUPER-RAG é gratuito? Qual é a licença?
- CORTEX-AI-SUPER-RAG é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- CORTEX-AI-SUPER-RAG ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de CORTEX-AI-SUPER-RAG foi em 28 de set. de 2026.
- Para que posso usar CORTEX-AI-SUPER-RAG?
- Consultar uma pasta de manuais internos, contratos ou relatórios sem enviar os arquivos para um serviço na nuvem. Experimentar técnicas de RAG e medir quais funcionam melhor nos seus próprios documentos. Criar um protótipo de ferramenta de perguntas e respostas sobre documentos em um laptop, usando modelos do Ollama.
- Como instalar CORTEX-AI-SUPER-RAG?
- Clone o repositório: git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git Acesse a pasta do projeto e instale as dependências do Python: cd CORTEX-AI-SUPER-RAG pip install -r requirements.txt Baixe o modelo de chat e o modelo de embeddings no Ollama: ollama pull llama3.1:8b ollama pull nomic-embed-text Inicie o app e abra http://localhost:8501: python -m streamlit run app.py
- Onde consigo CORTEX-AI-SUPER-RAG?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um toolkit local de índices vetoriais e RAG que reduz o armazenamento em cerca de 97% ao recalcular embeddings sob demanda, permitindo pesquisar dados pessoais no laptop.
Pipeline open source que transforma páginas da web e PDFs em capturas de tela e faz buscas visuais, preservando tabelas e gráficos para RAG.
App desktop open source e isolado da internet: um agente de IA no estilo do NotebookLM que pesquisa, transforma e edita seus documentos locais.
Acelerador de RAG hospedado no Azure que usa seus documentos como base para um assistente de chat e responde com citações inline das fontes.
Mecanismo de busca CLI local, executado no dispositivo, para notas em markdown, transcrições de reuniões e documentação, que combina BM25, busca vetorial e reranking por LLM.