Servidor de inferencia autohospedado que sirve modelos de embeddings, reranking, OCR, extracción, seguridad y LLM desde un solo clúster mediante una API compatible con OpenAI.
superlinear-ai/raglite
Toolkit de Python para Retrieval-Augmented Generation que almacena y busca documentos en DuckDB o PostgreSQL.
- Estrellas
- 1,211
- Forks
- 117
- Issues abiertos
- 17
- Último commit
- hace 5 días
¿Qué es?
RAGLite es un toolkit de Python para crear pipelines de Retrieval-Augmented Generation. Convierte PDFs y otros documentos a Markdown, los divide en fragmentos, genera embeddings y almacena todo en DuckDB o PostgreSQL, para que puedas recuperar pasajes relevantes y enviárselos a un LLM al responder preguntas.
La recuperación combina la búsqueda nativa por palabras clave y vectores de la base de datos (FTS con VSS en DuckDB, y tsvector con pgvector en PostgreSQL) y puede volver a ordenar los resultados con un reranker configurable. El acceso a los LLM y los modelos de embeddings se realiza mediante LiteLLM, incluidos los modelos locales de llama.cpp a través de llama-cpp-python. Además, el proyecto evita dependencias pesadas como PyTorch o LangChain.
Además de la recuperación básica, RAGLite ofrece un adaptador de consultas opcional calculado a partir de datos de evaluación, filtrado por metadatos, un servidor MCP integrado para clientes como Claude desktop y una interfaz de chat basada en Chainlit. También está disponible como extra la evaluación de la recuperación y la generación basada en Ragas.
Funciones clave
- 01Almacena y busca documentos en DuckDB o PostgreSQL mediante búsqueda híbrida por palabras clave y vectores.
- 02Usa cualquier LLM o modelo de embeddings compatible con LiteLLM, incluidos los modelos locales de llama.cpp.
- 03Vuelve a ordenar los fragmentos recuperados con rerankers; FlashRank es el predeterminado.
- 04Convierte PDFs a Markdown y permite procesar otros formatos mediante Pandoc o Mistral OCR.
- 05Filtra los resultados de recuperación mediante metadatos de los documentos.
- 06Expone la búsqueda como una herramienta MCP y ofrece una interfaz de chat opcional basada en Chainlit.
Casos de uso
- Crear un asistente de preguntas y respuestas sobre un conjunto privado de PDFs o documentos Markdown.
- Ejecutar una configuración de RAG completamente local con DuckDB y un modelo de llama.cpp.
- Añadir una herramienta de búsqueda en una base de conocimiento a Claude desktop mediante MCP.
- Experimentar con estrategias de recuperación y medir su rendimiento con evaluaciones de Ragas.
Inicio rápido
- 1
Instala RAGLite desde PyPI
pip install raglite - 2
Configura RAGLite con una base de datos DuckDB o PostgreSQL y un LLM en Python
Antes de usarlo
- Tiene licencia MPL-2.0, una licencia copyleft a nivel de archivo que exige compartir las modificaciones de los archivos de código fuente.
- Los modelos locales de llama.cpp requieren instalar por separado una compilación de llama-cpp-python compatible con tu versión de Python y tu plataforma.
- Algunas funciones, como Cohere reranker y Mistral OCR, requieren claves de API externas.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es raglite?
- Toolkit de Python para Retrieval-Augmented Generation que almacena y busca documentos en DuckDB o PostgreSQL. RAGLite es un toolkit de Python para crear pipelines de Retrieval-Augmented Generation. Convierte PDFs y otros documentos a Markdown, los divide en fragmentos, genera embeddings y almacena todo en DuckDB o PostgreSQL, para que puedas recuperar pasajes relevantes y enviárselos a un LLM al responder preguntas.
- ¿raglite es gratuito? ¿Qué licencia tiene?
- raglite es open source bajo la licencia MPL-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿raglite sigue mantenido?
- Mantenimiento activo. El último commit de raglite fue el 1 nov 2026.
- ¿Para qué puedo usar raglite?
- Crear un asistente de preguntas y respuestas sobre un conjunto privado de PDFs o documentos Markdown. Ejecutar una configuración de RAG completamente local con DuckDB y un modelo de llama.cpp. Añadir una herramienta de búsqueda en una base de conocimiento a Claude desktop mediante MCP. Experimentar con estrategias de recuperación y medir su rendimiento con evaluaciones de Ragas.
- ¿Cómo se instala raglite?
- Instala RAGLite desde PyPI: pip install raglite Configura RAGLite con una base de datos DuckDB o PostgreSQL y un LLM en Python
- ¿Dónde consigo raglite?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/superlinear-ai/raglite
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
App de chat RAG que responde preguntas en lenguaje natural sobre filas de una tabla PostgreSQL mediante búsquedas con pgvector y modelos de OpenAI, y se puede desplegar en Azure.
Motor RAG de código abierto que combina generación aumentada por recuperación y capacidades de agente para proporcionar una capa de contexto a aplicaciones con LLM.
Framework RAG genérico y extensible para crear aplicaciones con LLM que responden preguntas sobre tus propios datos, con una interfaz React y un servidor Python.
Base de conocimiento autohospedada en Rust que crea un grafo de conocimiento bitemporal a partir de documentos, con búsqueda RAG, razonamiento basado en ontologías y acceso MCP para agentes.
Implementación de referencia en Python de RAG-Fusion, que combina reformulaciones de consultas con LLM, BM25, búsqueda vectorial y fusión recíproca de rangos para mejorar la recuperación; incluye evaluación con NFCorpus.