Repolode
Enviar
docker

docker/genai-stack

Stack inicial basado en Docker para crear apps de GenAI con LangChain, Neo4j y Ollama, con demos de bot de soporte, preguntas y respuestas sobre PDF y API.

Ver en GitHub
Estrellas
5,423
Forks
1,236
Issues abiertos
99
Último commit
hace 12 días

¿Qué es?

GenAI Stack es un kit inicial para crear aplicaciones de IA generativa con Docker Compose. Integra LangChain para la orquestación, Neo4j como base de datos que almacena tanto un grafo de conocimiento como embeddings vectoriales, y Ollama para ejecutar LLM locales. Así, los desarrolladores pueden partir de una configuración funcional con varios servicios, en lugar de tener que ensamblar las piezas por su cuenta.

El repositorio incluye cinco aplicaciones de demostración: un bot agente de soporte que compara respuestas con y sin generación aumentada por recuperación (RAG), un cargador que importa datos de Stack Overflow a la base de datos, una aplicación de preguntas y respuestas sobre archivos PDF locales, una API HTTP independiente con endpoints de streaming y sin streaming, y un front-end de Svelte que llama a esa API. La configuración se gestiona mediante un archivo `.env` que permite seleccionar el LLM y el modelo de embeddings.

Los LLM se pueden servir desde una instancia local de Ollama o mediante modelos de OpenAI, AWS Bedrock (Claude v2) o Google, con perfiles independientes para los contenedores de Ollama con CPU y GPU en Linux.

Funciones clave

  • 01Configuración de Docker Compose que ejecuta juntos los servicios de LangChain, Neo4j y Ollama
  • 02Neo4j almacena un grafo de conocimiento y embeddings vectoriales para la recuperación
  • 03Permite cambiar entre modelos locales de Ollama y modelos de OpenAI, AWS Claude o Google para embeddings mediante variables de entorno
  • 04Bot de soporte que compara respuestas con RAG y respuestas generadas solo por un LLM
  • 05API HTTP independiente con endpoint de streaming SSE
  • 06Front-end de Svelte creado con Vite y Tailwind

Casos de uso

  • Crear prototipos de un chatbot con generación aumentada por recuperación sobre documentos o datos propios
  • Aprender a combinar un grafo de conocimiento con búsqueda vectorial en una aplicación con LLM
  • Chatear con un PDF local mediante embeddings y un modelo local
  • Ofrecer una API de preguntas y respuestas con LLM a un front-end independiente

Inicio rápido

  1. 1

    Crea un archivo .env a partir de la plantilla env.example

  2. 2

    En macOS o Windows, instala e inicia Ollama (ollama serve) en una terminal aparte

    ollama serve
  3. 3

    Inicia el stack completo

    docker compose up
  4. 4

    Abre Support Bot en http://localhost:8501

Antes de usarlo

  • Se necesitan Docker y Docker Compose. Docker Desktop 4.24.x tiene un problema de rendimiento conocido que requiere actualizarlo.
  • Para usar modelos locales de Ollama en macOS y Windows, hay que instalar Ollama por separado. Las opciones GPT-4 o Claude requieren claves de API de pago.
  • Algunas configuraciones requieren una GPU para el perfil de GPU de Linux.

En colecciones

Bases de conocimiento privadas con IA y RAGEjecuta LLM en local

Temas

#genai#langchain#neo4j#ollama#docker#rag#vector-database#knowledge-graph

Preguntas frecuentes

¿Qué es genai-stack?
Stack inicial basado en Docker para crear apps de GenAI con LangChain, Neo4j y Ollama, con demos de bot de soporte, preguntas y respuestas sobre PDF y API. GenAI Stack es un kit inicial para crear aplicaciones de IA generativa con Docker Compose. Integra LangChain para la orquestación, Neo4j como base de datos que almacena tanto un grafo de conocimiento como embeddings vectoriales, y Ollama para ejecutar LLM locales. Así, los desarrolladores pueden partir de una configuración funcional con varios servicios, en lugar de tener que ensamblar las piezas por su cuenta.
¿genai-stack es gratuito? ¿Qué licencia tiene?
genai-stack es open source bajo la licencia CC0-1.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿genai-stack sigue mantenido?
Mantenimiento activo. El último commit de genai-stack fue el 26 oct 2026.
¿Para qué puedo usar genai-stack?
Crear prototipos de un chatbot con generación aumentada por recuperación sobre documentos o datos propios Aprender a combinar un grafo de conocimiento con búsqueda vectorial en una aplicación con LLM Chatear con un PDF local mediante embeddings y un modelo local Ofrecer una API de preguntas y respuestas con LLM a un front-end independiente
¿Cómo se instala genai-stack?
Crea un archivo .env a partir de la plantilla env.example En macOS o Windows, instala e inicia Ollama (ollama serve) en una terminal aparte: ollama serve Inicia el stack completo: docker compose up Abre Support Bot en http://localhost:8501
¿Dónde consigo genai-stack?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/docker/genai-stack

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados