Servidor de inferência autogerenciado que oferece modelos de embeddings, reranking, OCR, extração, segurança e LLM em um único cluster por uma API compatível com OpenAI.
3,5 mil+20 esta semana333PythonApache-2.0Bem mantidoAtualizado há 17 horas
superlinear-ai/raglite
Toolkit em Python para Retrieval-Augmented Generation que armazena e pesquisa documentos no DuckDB ou PostgreSQL.
- Estrelas
- 1,211
- Forks
- 116
- Issues abertas
- 17
- Último commit
- há 4 dias
O que é?
RAGLite é um toolkit em Python para criar pipelines de Retrieval-Augmented Generation. Ele converte PDFs e outros documentos em Markdown, divide o conteúdo em trechos, gera embeddings e armazena tudo no DuckDB ou PostgreSQL, permitindo recuperar passagens relevantes e enviá-las a um LLM para responder a perguntas.
A recuperação combina a busca nativa por palavras-chave e vetores do banco de dados (FTS com VSS no DuckDB, tsvector com pgvector no PostgreSQL) e pode reordenar os resultados com um reranker configurável. O acesso a LLMs e modelos de embedding é feito pelo LiteLLM, incluindo modelos locais do llama.cpp via llama-cpp-python, e o projeto evita dependências pesadas como PyTorch ou LangChain.
Além da recuperação básica, o RAGLite oferece um adaptador de consulta opcional, calculado com dados de avaliação, filtragem por metadados, um servidor MCP integrado para clientes como o Claude desktop e uma interface de chat baseada em Chainlit. A avaliação de recuperação e geração com Ragas está disponível como extra.
Recursos principais
- 01Armazene e pesquise documentos no DuckDB ou PostgreSQL com busca híbrida por palavras-chave e vetores.
- 02Use qualquer LLM ou modelo de embedding compatível com o LiteLLM, incluindo modelos locais do llama.cpp.
- 03Reordene os trechos recuperados com rerankers; FlashRank é o padrão.
- 04Converta PDFs em Markdown e, opcionalmente, processe outros formatos via Pandoc ou Mistral OCR.
- 05Filtre os resultados da recuperação usando metadados dos documentos.
- 06Disponibilize a busca como uma ferramenta MCP e sirva uma interface de chat opcional baseada em Chainlit.
Casos de uso
- Criar um assistente de perguntas e respostas com base em um conjunto privado de PDFs ou documentos Markdown.
- Executar uma configuração de RAG totalmente local com DuckDB e um modelo llama.cpp.
- Adicionar uma ferramenta de busca na base de conhecimento ao Claude desktop por meio do MCP.
- Experimentar estratégias de recuperação e avaliá-las com Ragas.
Início rápido
- 1
Instale o RAGLite pelo PyPI
pip install raglite - 2
Configure o RAGLite com um banco de dados DuckDB ou PostgreSQL e um LLM em Python
Antes de usar
- Licenciado sob MPL-2.0, uma licença copyleft em nível de arquivo que exige o compartilhamento de modificações nos arquivos de código-fonte.
- Modelos locais do llama.cpp precisam de uma versão do llama-cpp-python instalada separadamente e compatível com sua versão do Python e plataforma.
- Alguns recursos, como o Cohere reranker e o Mistral OCR, precisam de chaves de API externas.
Em coleções
Tópicos
Perguntas frequentes
- O que é raglite?
- Toolkit em Python para Retrieval-Augmented Generation que armazena e pesquisa documentos no DuckDB ou PostgreSQL. RAGLite é um toolkit em Python para criar pipelines de Retrieval-Augmented Generation. Ele converte PDFs e outros documentos em Markdown, divide o conteúdo em trechos, gera embeddings e armazena tudo no DuckDB ou PostgreSQL, permitindo recuperar passagens relevantes e enviá-las a um LLM para responder a perguntas.
- raglite é gratuito? Qual é a licença?
- raglite é open source sob a licença MPL-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- raglite ainda é mantido?
- Manutenção ativa. O último commit de raglite foi em 1 de nov. de 2026.
- Para que posso usar raglite?
- Criar um assistente de perguntas e respostas com base em um conjunto privado de PDFs ou documentos Markdown. Executar uma configuração de RAG totalmente local com DuckDB e um modelo llama.cpp. Adicionar uma ferramenta de busca na base de conhecimento ao Claude desktop por meio do MCP. Experimentar estratégias de recuperação e avaliá-las com Ragas.
- Como instalar raglite?
- Instale o RAGLite pelo PyPI: pip install raglite Configure o RAGLite com um banco de dados DuckDB ou PostgreSQL e um LLM em Python
- Onde consigo raglite?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/superlinear-ai/raglite
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Aplicativo de chat RAG que responde a perguntas em linguagem natural sobre linhas de uma tabela PostgreSQL, usando busca com pgvector e modelos da OpenAI, com implantação no Azure.
5061,1 milPythonMITAtualizado há 10 dias
Mecanismo RAG open source que combina geração aumentada por recuperação com recursos de agentes para oferecer uma camada de contexto a aplicações com LLMs.
93,6 mil+520 esta semana11,2 milGoApache-2.0Bem mantidoAtualizado há 22 horas
Framework RAG genérico e extensível para criar aplicações com LLM que respondem a perguntas sobre seus próprios dados, com interface em React e servidor em Python.
680+2 esta semana99PythonApache-2.0Atualizado há 2 meses
Uma base de conhecimento em Rust auto-hospedada que cria um grafo de conhecimento bitemporal a partir de documentos, com busca RAG, raciocínio orientado por ontologias e acesso via MCP para agentes.
8,7 mil+62 esta semana1,2 milRustApache-2.0Bem mantidoAtualizado ontem
Implementação de referência em Python do RAG-Fusion, que combina reformulações de consultas por LLM, busca BM25 e vetorial e Reciprocal Rank Fusion para melhorar a recuperação, com um ambiente de avaliação usando o NFCorpus.
IA e Machine Learning#rag#information-retrieval#vector-search#reciprocal-rank-fusion#query-expansion
960+1 esta semana113PythonMITAtualizado há 27 dias