mfmezger/conversational-agent-langchain

这是什么？

核心功能

• 01将文档写入 Qdrant，支持语义检索和混合（BM25）检索。
• 02通过 LangGraph 与 LiteLLM 调用大模型，基于文档回答问题。
• 03提供兼容 OpenAI 协议的 chat completions 与 responses 接口，支持流式输出。
• 04支持通过 Cohere 或本地 FlashRank 进行重排序。
• 05集成 Phoenix 追踪，可查看检索与生成过程。

适用场景

• 基于自有文档搭建问答后端。
• 使用 Gemini、Cohere 或 Ollama 模型快速验证 RAG 对话服务。
• 让 OpenAI SDK 客户端对接基于私有文档的模型别名。
• 学习如何用 FastAPI 与 LangGraph 组织 RAG 应用。

快速上手

1. 1

   克隆代码仓库

   git clone https://github.com/mfmezger/conversational-agent-langchain.git
2. 2

   进入项目目录

   cd conversational-agent-langchain
3. 3

   基于 template.env 创建 .env 文件并设置 GEMINI_API_KEY 和 COHERE_API_KEY

4. 4

   使用 Docker Compose 启动完整系统

   docker compose up -d

使用前须知

• !开箱即用需要 Google Gemini 和 Cohere 的 API 密钥。
• !在 Linux 或 Mac 上需要 Docker，并要修改 /etc/hosts 添加 qdrant 条目。
• !多个嵌入模型提供商仅为占位实现，需要自行扩展。

标签

常见问题

conversational-agent-langchain 是什么？

基于 FastAPI 的对话式 RAG 后端，将文档写入 Qdrant 向量库，支持语义与混合检索并调用大模型问答。 这是一个面向检索增强生成（RAG）对话代理的 REST 后端。它可以把文档写入 Qdrant 向量数据库，进行语义检索，并基于检索到的内容回答问题。流程由 LangChain 和 LangGraph 构建，可调用 Google Gemini、Cohere、Azure OpenAI 等模型，并通过 LiteLLM 接入多种服务商。

conversational-agent-langchain 可以免费使用吗？用的什么许可证？

conversational-agent-langchain 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。

conversational-agent-langchain 还在维护吗？

活跃维护中。conversational-agent-langchain 最近一次提交是在 2026年10月30日。

conversational-agent-langchain 适合用来做什么？

基于自有文档搭建问答后端。 使用 Gemini、Cohere 或 Ollama 模型快速验证 RAG 对话服务。 让 OpenAI SDK 客户端对接基于私有文档的模型别名。 学习如何用 FastAPI 与 LangGraph 组织 RAG 应用。

conversational-agent-langchain 怎么安装和运行？

克隆代码仓库: git clone https://github.com/mfmezger/conversational-agent-langchain.git 进入项目目录: cd conversational-agent-langchain 基于 template.env 创建 .env 文件并设置 GEMINI_API_KEY 和 COHERE_API_KEY 使用 Docker Compose 启动完整系统: docker compose up -d

在哪里获取 conversational-agent-langchain？

源代码和安装说明在 GitHub 上：https://github.com/mfmezger/conversational-agent-langchain