Repolode
Enviar
finic-ai

finic-ai/rag-stack

Stack RAG auto-hospedada para implantar um assistente privado no estilo ChatGPT com seus próprios PDFs e documentos, usando LLMs open source e Qdrant.

Alternativa open source a:ChatGPT

Ver no GitHubSite
Estrelas
1,581
Forks
137
Issues abertas
27
Último commit
há 26 dias

O que é?

RAGstack é uma stack de geração aumentada por recuperação (RAG) que pode ser implantada na sua própria infraestrutura como alternativa privada a ferramentas hospedadas no estilo ChatGPT. Ela combina um LLM open source, o banco de dados vetorial Qdrant e um servidor com uma interface web simples que aceita uploads de PDFs, permitindo que as respostas se baseiem nos documentos da sua organização.

O projeto oferece suporte ao GPT4All para execução local em CPU, com uma configuração feita por um único script que baixa o modelo e inicia o servidor, o LLM e o Qdrant localmente. Para implantação na nuvem, oferece scripts baseados em Terraform para Google Cloud (GKE com GPUs), AWS (ECS no EC2) e Azure (AKS), com implantação do Falcon-7B. A implantação do Llama 2 consta como compatível no fluxo para nuvem, enquanto o suporte ao Llama-2-40b ainda está no roadmap.

O projeto está marcado como legado e não é mais mantido por seus autores. A configuração local também depende de um projeto Supabase para armazenar os registros de usuários.

Recursos principais

  • 01Implanta uma interface de chat privada e auto-hospedada que consulta seus próprios documentos.
  • 02Usa o Qdrant, um banco de dados vetorial open source escrito em Rust, para fazer a recuperação de informações.
  • 03Oferece suporte ao GPT4All para inferência local em CPU e ao Falcon-7B ou Llama 2 em GPUs.
  • 04Inclui um servidor e uma interface web com upload de PDFs.
  • 05Oferece scripts de implantação baseados em Terraform para GCP, AWS e Azure.

Casos de uso

  • Criar um assistente interno de perguntas e respostas baseado em PDFs e contratos da empresa.
  • Experimentar localmente uma configuração de chat com geração aumentada por recuperação sem enviar dados para APIs hospedadas.
  • Prototipar uma implantação de RAG em um cluster de GPUs na nuvem antes de adotar uma arquitetura de produção.

Início rápido

  1. 1

    Copie os arquivos env de exemplo e adicione a URL e as chaves do seu projeto Supabase

  2. 2

    No Supabase, crie a tabela ragstack_users com as colunas listadas no README

  3. 3

    Execute o script de desenvolvimento local para iniciar o servidor, o LLM e o Qdrant

    scripts/local/run-dev

Antes de usar

  • O README informa que este projeto legado não recebe mais manutenção.
  • A configuração local exige um projeto Supabase e a configuração manual da tabela.
  • Implantações do Falcon-7B na nuvem exigem clusters com GPU e contas na nuvem.

Em coleções

Bases de conhecimento privadas com IA e RAGApps auto-hospedados

Tópicos

#rag#llm#vector-database#qdrant#self-hosted#terraform#gpt4all#falcon

Perguntas frequentes

O que é rag-stack?
Stack RAG auto-hospedada para implantar um assistente privado no estilo ChatGPT com seus próprios PDFs e documentos, usando LLMs open source e Qdrant. RAGstack é uma stack de geração aumentada por recuperação (RAG) que pode ser implantada na sua própria infraestrutura como alternativa privada a ferramentas hospedadas no estilo ChatGPT. Ela combina um LLM open source, o banco de dados vetorial Qdrant e um servidor com uma interface web simples que aceita uploads de PDFs, permitindo que as respostas se baseiem nos documentos da sua organização.
rag-stack é gratuito? Qual é a licença?
rag-stack é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
rag-stack ainda é mantido?
Manutenção ativa. O último commit de rag-stack foi em 12 de out. de 2026.
Para que posso usar rag-stack?
Criar um assistente interno de perguntas e respostas baseado em PDFs e contratos da empresa. Experimentar localmente uma configuração de chat com geração aumentada por recuperação sem enviar dados para APIs hospedadas. Prototipar uma implantação de RAG em um cluster de GPUs na nuvem antes de adotar uma arquitetura de produção.
Como instalar rag-stack?
Copie os arquivos env de exemplo e adicione a URL e as chaves do seu projeto Supabase No Supabase, crie a tabela ragstack_users com as colunas listadas no README Execute o script de desenvolvimento local para iniciar o servidor, o LLM e o Qdrant: scripts/local/run-dev
Onde consigo rag-stack?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/finic-ai/rag-stack

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados