Repolode
mfmezger

mfmezger/conversational-agent-langchain

Бэкенд на FastAPI для разговорного RAG-агента: загружает документы в Qdrant, выполняет семантический и гибридный поиск и отвечает на вопросы с помощью LLM.

Звёзды
257
Форки
44
Открытые issues
9
Последний коммит
7 дней назад

Что это?

REST-бэкенд для чат-агента на основе генерации с дополненной выборкой (RAG). Он позволяет загружать документы в векторную базу данных Qdrant, искать в них по смыслу и отвечать на вопросы, опираясь на их содержимое. Пайплайн построен на LangChain и LangGraph и поддерживает модели Google Gemini, Cohere, Azure OpenAI и других провайдеров; для доступа к широкому набору бэкендов используется LiteLLM.

Бэкенд предоставляет эндпоинт /rag с метаданными цитат, а также совместимые с OpenAI эндпоинты /v1/chat/completions и /v1/responses с поддержкой потоковой передачи для запросов только с текстом. Улучшить поиск можно с помощью переранжирования через Cohere или локальную библиотеку FlashRank, а для гибридного поиска используется BM25 через FastEmbed. Трассировка в Phoenix сохраняет запуски пайплайна, чтобы можно было изучить найденные документы и этапы генерации.

В репозитории есть Docker Compose для API, Qdrant, фронтенда на Streamlit и Phoenix, а также скрипты загрузки демонстрационных данных и набор тестов.

Ключевые возможности

  • 01Загружает документы в Qdrant и выполняет семантический и гибридный поиск (BM25).
  • 02Отвечает на вопросы по документам с помощью LLM через LangGraph и LiteLLM.
  • 03Предоставляет совместимые с OpenAI эндпоинты для чата и ответов с потоковой передачей.
  • 04Поддерживает переранжирование через Cohere или локальную FlashRank.
  • 05Предоставляет трассировку в Phoenix для изучения этапов поиска и генерации.

Сценарии использования

  • Создание бэкенда для ответов на вопросы по собственным документам.
  • Прототипирование RAG-чата с моделями Gemini, Cohere или Ollama.
  • Подключение клиента OpenAI SDK к приватному алиасу модели, ответы которой опираются на документы.
  • Изучение структуры RAG-приложения на FastAPI и LangGraph.

Быстрый старт

  1. 1

    Клонируйте репозиторий

    git clone https://github.com/mfmezger/conversational-agent-langchain.git
  2. 2

    Перейдите в каталог проекта

    cd conversational-agent-langchain
  3. 3

    Создайте файл .env на основе template.env и задайте значения GEMINI_API_KEY и COHERE_API_KEY

  4. 4

    Запустите всю систему с помощью Docker Compose

    docker compose up -d

Что важно знать

  • Для запуска без дополнительной настройки нужны API-ключи Google Gemini и Cohere.
  • Для настройки требуются Docker и запись для qdrant в /etc/hosts в Linux или Mac.
  • Некоторые провайдеры эмбеддингов пока являются лишь заглушками для дальнейшего расширения.

Темы

Частые вопросы

Что такое conversational-agent-langchain?
Бэкенд на FastAPI для разговорного RAG-агента: загружает документы в Qdrant, выполняет семантический и гибридный поиск и отвечает на вопросы с помощью LLM. REST-бэкенд для чат-агента на основе генерации с дополненной выборкой (RAG). Он позволяет загружать документы в векторную базу данных Qdrant, искать в них по смыслу и отвечать на вопросы, опираясь на их содержимое. Пайплайн построен на LangChain и LangGraph и поддерживает модели Google Gemini, Cohere, Azure OpenAI и других провайдеров; для доступа к широкому набору бэкендов используется LiteLLM.
conversational-agent-langchain можно использовать бесплатно? Какая у него лицензия?
conversational-agent-langchain распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
conversational-agent-langchain всё ещё поддерживается?
Активно поддерживается. Последний коммит в conversational-agent-langchain — 30 окт. 2026 г..
Для чего можно использовать conversational-agent-langchain?
Создание бэкенда для ответов на вопросы по собственным документам. Прототипирование RAG-чата с моделями Gemini, Cohere или Ollama. Подключение клиента OpenAI SDK к приватному алиасу модели, ответы которой опираются на документы. Изучение структуры RAG-приложения на FastAPI и LangGraph.
Как установить conversational-agent-langchain?
Клонируйте репозиторий: git clone https://github.com/mfmezger/conversational-agent-langchain.git Перейдите в каталог проекта: cd conversational-agent-langchain Создайте файл .env на основе template.env и задайте значения GEMINI_API_KEY и COHERE_API_KEY Запустите всю систему с помощью Docker Compose: docker compose up -d
Где скачать conversational-agent-langchain?
Исходный код и инструкции по установке — на GitHub: https://github.com/mfmezger/conversational-agent-langchain

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Официальная Python-библиотека клиента для векторного поискового движка Qdrant: синхронный и асинхронный доступ по REST/gRPC и локальный режим в памяти.

1,4 тыс.+5 за неделю388PythonApache-2.0Активно поддерживаетсяОбновлён 3 дня назад