Repolode
Enviar
docker

docker/genai-stack

Stack inicial baseado em Docker para criar apps de GenAI com LangChain, Neo4j e Ollama, com demos de bot de suporte, perguntas e respostas sobre PDFs e API.

Ver no GitHub
Estrelas
5,423
Forks
1,236
Issues abertas
99
Último commit
há 12 dias

O que é?

GenAI Stack é um kit inicial para criar aplicações de IA generativa com Docker Compose. Ele integra LangChain para orquestração, Neo4j como banco de dados que armazena tanto um grafo de conhecimento quanto embeddings vetoriais, e Ollama para executar LLMs localmente. Assim, os desenvolvedores podem começar com uma configuração funcional de vários serviços, em vez de montar tudo por conta própria.

O repositório inclui cinco aplicações de demonstração: um bot de suporte que compara respostas com e sem geração aumentada por recuperação (RAG), um carregador que importa dados do Stack Overflow para o banco de dados, um app de perguntas e respostas sobre PDFs locais, uma API HTTP independente com endpoints de streaming e sem streaming, e um front-end em Svelte que chama essa API. A configuração é feita por meio de um arquivo `.env`, que seleciona o LLM e o modelo de embeddings.

Os LLMs podem ser executados em uma instância local do Ollama ou com modelos da OpenAI, do AWS Bedrock (Claude v2) ou do Google. No Linux, há perfis separados para contêineres do Ollama com CPU e GPU.

Recursos principais

  • 01Configuração com Docker Compose que executa juntos os serviços LangChain, Neo4j e Ollama
  • 02O Neo4j armazena um grafo de conhecimento e embeddings vetoriais para recuperação
  • 03Alternância entre modelos locais do Ollama e modelos da OpenAI, do AWS Claude ou de embeddings do Google por meio de variáveis de ambiente
  • 04Bot de suporte que compara respostas com RAG e respostas geradas apenas pelo LLM
  • 05API HTTP independente com endpoint de streaming SSE
  • 06Front-end em Svelte criado com Vite e Tailwind

Casos de uso

  • Prototipar um chatbot com geração aumentada por recuperação usando seus próprios documentos ou dados
  • Aprender a combinar um grafo de conhecimento com busca vetorial em um app com LLM
  • Conversar com um PDF local usando embeddings e um modelo local
  • Disponibilizar uma API de perguntas e respostas com LLM para um front-end separado

Início rápido

  1. 1

    Crie um arquivo .env a partir do modelo env.example

  2. 2

    No macOS ou Windows, instale e inicie o Ollama (ollama serve) em um terminal separado

    ollama serve
  3. 3

    Inicie a stack completa

    docker compose up
  4. 4

    Abra o Support Bot em http://localhost:8501

Antes de usar

  • É necessário ter Docker e Docker Compose. O Docker Desktop 4.24.x tem um problema de desempenho conhecido que exige uma atualização.
  • Para usar modelos locais do Ollama no macOS e Windows, é preciso instalar o Ollama separadamente. As opções GPT-4 ou Claude exigem chaves de API pagas.
  • Algumas configurações exigem uma GPU para o perfil de GPU do Linux.

Em coleções

Bases de conhecimento privadas com IA e RAGRode LLMs localmente

Tópicos

#genai#langchain#neo4j#ollama#docker#rag#vector-database#knowledge-graph

Perguntas frequentes

O que é genai-stack?
Stack inicial baseado em Docker para criar apps de GenAI com LangChain, Neo4j e Ollama, com demos de bot de suporte, perguntas e respostas sobre PDFs e API. GenAI Stack é um kit inicial para criar aplicações de IA generativa com Docker Compose. Ele integra LangChain para orquestração, Neo4j como banco de dados que armazena tanto um grafo de conhecimento quanto embeddings vetoriais, e Ollama para executar LLMs localmente. Assim, os desenvolvedores podem começar com uma configuração funcional de vários serviços, em vez de montar tudo por conta própria.
genai-stack é gratuito? Qual é a licença?
genai-stack é open source sob a licença CC0-1.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
genai-stack ainda é mantido?
Manutenção ativa. O último commit de genai-stack foi em 26 de out. de 2026.
Para que posso usar genai-stack?
Prototipar um chatbot com geração aumentada por recuperação usando seus próprios documentos ou dados Aprender a combinar um grafo de conhecimento com busca vetorial em um app com LLM Conversar com um PDF local usando embeddings e um modelo local Disponibilizar uma API de perguntas e respostas com LLM para um front-end separado
Como instalar genai-stack?
Crie um arquivo .env a partir do modelo env.example No macOS ou Windows, instale e inicie o Ollama (ollama serve) em um terminal separado: ollama serve Inicie a stack completa: docker compose up Abra o Support Bot em http://localhost:8501
Onde consigo genai-stack?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/docker/genai-stack

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados