Официальная Python-библиотека клиента для векторного поискового движка Qdrant: синхронный и асинхронный доступ по REST/gRPC и локальный режим в памяти.
mfmezger/conversational-agent-langchain
Бэкенд на FastAPI для разговорного RAG-агента: загружает документы в Qdrant, выполняет семантический и гибридный поиск и отвечает на вопросы с помощью LLM.
- Звёзды
- 257
- Форки
- 44
- Открытые issues
- 9
- Последний коммит
- 7 дней назад
Что это?
REST-бэкенд для чат-агента на основе генерации с дополненной выборкой (RAG). Он позволяет загружать документы в векторную базу данных Qdrant, искать в них по смыслу и отвечать на вопросы, опираясь на их содержимое. Пайплайн построен на LangChain и LangGraph и поддерживает модели Google Gemini, Cohere, Azure OpenAI и других провайдеров; для доступа к широкому набору бэкендов используется LiteLLM.
Бэкенд предоставляет эндпоинт /rag с метаданными цитат, а также совместимые с OpenAI эндпоинты /v1/chat/completions и /v1/responses с поддержкой потоковой передачи для запросов только с текстом. Улучшить поиск можно с помощью переранжирования через Cohere или локальную библиотеку FlashRank, а для гибридного поиска используется BM25 через FastEmbed. Трассировка в Phoenix сохраняет запуски пайплайна, чтобы можно было изучить найденные документы и этапы генерации.
В репозитории есть Docker Compose для API, Qdrant, фронтенда на Streamlit и Phoenix, а также скрипты загрузки демонстрационных данных и набор тестов.
Ключевые возможности
- 01Загружает документы в Qdrant и выполняет семантический и гибридный поиск (BM25).
- 02Отвечает на вопросы по документам с помощью LLM через LangGraph и LiteLLM.
- 03Предоставляет совместимые с OpenAI эндпоинты для чата и ответов с потоковой передачей.
- 04Поддерживает переранжирование через Cohere или локальную FlashRank.
- 05Предоставляет трассировку в Phoenix для изучения этапов поиска и генерации.
Сценарии использования
- Создание бэкенда для ответов на вопросы по собственным документам.
- Прототипирование RAG-чата с моделями Gemini, Cohere или Ollama.
- Подключение клиента OpenAI SDK к приватному алиасу модели, ответы которой опираются на документы.
- Изучение структуры RAG-приложения на FastAPI и LangGraph.
Быстрый старт
- 1
Клонируйте репозиторий
git clone https://github.com/mfmezger/conversational-agent-langchain.git - 2
Перейдите в каталог проекта
cd conversational-agent-langchain - 3
Создайте файл .env на основе template.env и задайте значения GEMINI_API_KEY и COHERE_API_KEY
- 4
Запустите всю систему с помощью Docker Compose
docker compose up -d
Что важно знать
- Для запуска без дополнительной настройки нужны API-ключи Google Gemini и Cohere.
- Для настройки требуются Docker и запись для qdrant в /etc/hosts в Linux или Mac.
- Некоторые провайдеры эмбеддингов пока являются лишь заглушками для дальнейшего расширения.
Темы
Частые вопросы
- Что такое conversational-agent-langchain?
- Бэкенд на FastAPI для разговорного RAG-агента: загружает документы в Qdrant, выполняет семантический и гибридный поиск и отвечает на вопросы с помощью LLM. REST-бэкенд для чат-агента на основе генерации с дополненной выборкой (RAG). Он позволяет загружать документы в векторную базу данных Qdrant, искать в них по смыслу и отвечать на вопросы, опираясь на их содержимое. Пайплайн построен на LangChain и LangGraph и поддерживает модели Google Gemini, Cohere, Azure OpenAI и других провайдеров; для доступа к широкому набору бэкендов используется LiteLLM.
- conversational-agent-langchain можно использовать бесплатно? Какая у него лицензия?
- conversational-agent-langchain распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- conversational-agent-langchain всё ещё поддерживается?
- Активно поддерживается. Последний коммит в conversational-agent-langchain — 30 окт. 2026 г..
- Для чего можно использовать conversational-agent-langchain?
- Создание бэкенда для ответов на вопросы по собственным документам. Прототипирование RAG-чата с моделями Gemini, Cohere или Ollama. Подключение клиента OpenAI SDK к приватному алиасу модели, ответы которой опираются на документы. Изучение структуры RAG-приложения на FastAPI и LangGraph.
- Как установить conversational-agent-langchain?
- Клонируйте репозиторий: git clone https://github.com/mfmezger/conversational-agent-langchain.git Перейдите в каталог проекта: cd conversational-agent-langchain Создайте файл .env на основе template.env и задайте значения GEMINI_API_KEY и COHERE_API_KEY Запустите всю систему с помощью Docker Compose: docker compose up -d
- Где скачать conversational-agent-langchain?
- Исходный код и инструкции по установке — на GitHub: https://github.com/mfmezger/conversational-agent-langchain
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Модульный учебный проект по Agentic RAG на LangGraph: иерархическая индексация, память диалога и уточнение запросов.
Реализация LangChain на C# для создания приложений с LLM на .NET: цепочки, векторный поиск и загрузка документов.
Порт LangChain на Dart и Flutter для создания приложений на базе LLM с подключаемыми провайдерами моделей, RAG и агентами.
Локальная AI-система памяти: хранит историю диалогов без изменений и находит нужное с помощью семантического поиска; доступна как MCP-сервер и CLI.
Открытая векторная база данных для AI-приложений: хранит документы и векторы для семантического, гибридного и полнотекстового поиска.