Backend FastAPI para un agente conversacional RAG que indexa documentos en Qdrant, realiza búsquedas semánticas e híbridas y responde preguntas con LLM.
25744PythonMITBien mantenidoActualizado hace 8 días
finic-ai/rag-stack
Stack RAG autohospedado para desplegar un asistente privado al estilo de ChatGPT con tus propios PDF y documentos, modelos LLM de código abierto y Qdrant.
Alternativa open source a:ChatGPT
- Estrellas
- 1,581
- Forks
- 137
- Issues abiertos
- 27
- Último commit
- hace 26 días
¿Qué es?
RAGstack es un stack de generación aumentada por recuperación que puedes desplegar en tu propia infraestructura como alternativa privada a las herramientas alojadas al estilo de ChatGPT. Combina un LLM de código abierto, la base de datos vectorial Qdrant y un servidor con una interfaz web sencilla que permite subir PDF, para que las respuestas se basen en los documentos de tu organización.
El proyecto admite GPT4All para ejecutarse localmente en CPU e incluye una configuración de un solo script que descarga el modelo e inicia el servidor, el LLM y Qdrant en local. Para despliegues en la nube, ofrece scripts basados en Terraform para Google Cloud (GKE con GPU), AWS (ECS en EC2) y Azure (AKS), con Falcon-7B. En la ruta de despliegue en la nube se indica que Llama 2 es compatible, mientras que la compatibilidad con Llama-2-40b sigue en la hoja de ruta.
El proyecto está marcado como heredado y sus autores ya no lo mantienen. La configuración local también depende de un proyecto de Supabase para almacenar los registros de usuarios.
Funciones clave
- 01Despliega una interfaz de chat privada y autohospedada sobre tus propios documentos.
- 02Usa Qdrant, una base de datos vectorial de código abierto basada en Rust, para la recuperación.
- 03Admite GPT4All para inferencia local en CPU y Falcon-7B o Llama 2 en GPU.
- 04Incluye un servidor y una interfaz web con carga de PDF.
- 05Proporciona scripts de despliegue basados en Terraform para GCP, AWS y Azure.
Casos de uso
- Crear un asistente interno de preguntas y respuestas basado en los PDF y contratos de la empresa.
- Probar localmente una configuración de chat con generación aumentada por recuperación sin enviar datos a API alojadas.
- Crear un prototipo de despliegue RAG en un clúster de GPU en la nube antes de adoptar un diseño de producción.
Inicio rápido
- 1
Copia los archivos env de ejemplo y añade la URL y las claves de tu proyecto de Supabase
- 2
En Supabase, crea la tabla ragstack_users con las columnas indicadas en el README
- 3
Ejecuta el script de desarrollo local para iniciar el servidor, el LLM y Qdrant
scripts/local/run-dev
Antes de usarlo
- El README indica que este proyecto heredado ya no recibe mantenimiento.
- La configuración local requiere un proyecto de Supabase y configurar la tabla manualmente.
- Las implementaciones de Falcon-7B en la nube requieren clústeres con GPU y cuentas en la nube.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es rag-stack?
- Stack RAG autohospedado para desplegar un asistente privado al estilo de ChatGPT con tus propios PDF y documentos, modelos LLM de código abierto y Qdrant. RAGstack es un stack de generación aumentada por recuperación que puedes desplegar en tu propia infraestructura como alternativa privada a las herramientas alojadas al estilo de ChatGPT. Combina un LLM de código abierto, la base de datos vectorial Qdrant y un servidor con una interfaz web sencilla que permite subir PDF, para que las respuestas se basen en los documentos de tu organización.
- ¿rag-stack es gratuito? ¿Qué licencia tiene?
- rag-stack es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿rag-stack sigue mantenido?
- Mantenimiento activo. El último commit de rag-stack fue el 12 oct 2026.
- ¿Para qué puedo usar rag-stack?
- Crear un asistente interno de preguntas y respuestas basado en los PDF y contratos de la empresa. Probar localmente una configuración de chat con generación aumentada por recuperación sin enviar datos a API alojadas. Crear un prototipo de despliegue RAG en un clúster de GPU en la nube antes de adoptar un diseño de producción.
- ¿Cómo se instala rag-stack?
- Copia los archivos env de ejemplo y añade la URL y las claves de tu proyecto de Supabase En Supabase, crea la tabla ragstack_users con las columnas indicadas en el README Ejecuta el script de desarrollo local para iniciar el servidor, el LLM y Qdrant: scripts/local/run-dev
- ¿Dónde consigo rag-stack?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/finic-ai/rag-stack
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Sistema de memoria de siete capas para Hermes Agent que conserva el contexto entre sesiones con Qdrant, SQLite y una wiki que se actualiza por sí sola, y funciona localmente con cualquier proveedor de LLM.
1,4 mil+9 esta semana132PythonMITActualizado hace 2 meses
Interfaz web autoalojada e independiente del proveedor para chatear con modelos locales de Ollama y APIs compatibles con OpenAI, con RAG, plugins y control de acceso multiusuario.
157,9 mil+671 esta semana23 milPythonOtherBien mantenidoActualizado hace 22 horas
Aplicación de IA todo en uno para conversar con tus documentos y ejecutar agentes de IA, con configuración local prioritaria, soporte multiusuario y muchos proveedores de LLM.
68 mil+248 esta semana7,7 milJavaScriptMITBien mantenidoActualizado ayer
Plataforma autoalojada para crear agentes y asistentes de IA que responden preguntas sobre tus documentos, con citas y cualquier modelo.
18,4 mil+11 esta semana2,2 milPythonMITBien mantenidoActualizado hace 23 horas
Biblioteca oficial de Python para el motor de búsqueda vectorial Qdrant, con acceso REST/gRPC síncrono y asíncrono, y modo local en memoria.
1,4 mil+5 esta semana388PythonApache-2.0Bien mantenidoActualizado hace 4 días