docker/genai-stack

这是什么？

核心功能

• 01通过 Docker Compose 一键启动 LangChain、Neo4j 与 Ollama 服务
• 02Neo4j 同时存储知识图谱和向量嵌入，用于检索
• 03通过环境变量在本地 Ollama 模型与 OpenAI、AWS Claude、Google 嵌入模型之间切换
• 04支持客服机器人可对比开启与关闭 RAG 的回答
• 05独立 HTTP API 提供 SSE 流式接口
• 06基于 Vite 和 Tailwind 构建的 Svelte 前端

适用场景

• 基于自有文档或数据快速搭建检索增强的聊天机器人原型
• 学习如何在大模型应用中结合知识图谱与向量检索
• 利用嵌入和本地模型与 PDF 文件对话
• 为独立前端提供基于大模型的问答 API

快速上手

1. 1

   从模板 env.example 创建 .env 文件

2. 2

   在 macOS 或 Windows 上安装并在另一个终端启动 Ollama（ollama serve）

   ollama serve
3. 3

   启动完整服务栈

   docker compose up
4. 4

   在 http://localhost:8501 打开 Support Bot

使用前须知

• !需要 Docker 和 Docker Compose，且 Docker Desktop 4.24.x 存在性能问题，需升级后使用。
• !macOS 和 Windows 上使用本地模型需单独安装 Ollama；使用 GPT-4 或 Claude 等选项需要付费 API 密钥。
• !使用 Linux GPU 配置时需要 GPU。

收录于专题

标签

常见问题

genai-stack 是什么？

基于 Docker 的 GenAI 应用启动套件，整合 LangChain、Neo4j 与 Ollama，附带问答机器人、PDF 问答等示例。 GenAI Stack 是一套用 Docker Compose 搭建生成式 AI 应用的起步模板。它把 LangChain 用于流程编排，Neo4j 同时存储知识图谱和向量嵌入，Ollama 用于运行本地大模型，开发者无需自行拼装各个服务，就能从可运行的多服务环境开始开发。

genai-stack 可以免费使用吗？用的什么许可证？

genai-stack 以 CC0-1.0 许可证开源。用于商业产品前，请先确认许可证条款。

genai-stack 还在维护吗？

活跃维护中。genai-stack 最近一次提交是在 2026年10月26日。

genai-stack 适合用来做什么？

基于自有文档或数据快速搭建检索增强的聊天机器人原型 学习如何在大模型应用中结合知识图谱与向量检索 利用嵌入和本地模型与 PDF 文件对话 为独立前端提供基于大模型的问答 API

genai-stack 怎么安装和运行？

从模板 env.example 创建 .env 文件 在 macOS 或 Windows 上安装并在另一个终端启动 Ollama（ollama serve）: ollama serve 启动完整服务栈: docker compose up 在 http://localhost:8501 打开 Support Bot

在哪里获取 genai-stack？

源代码和安装说明在 GitHub 上：https://github.com/docker/genai-stack