Qdrant 벡터 검색 엔진의 공식 Python 클라이언트 라이브러리로, 동기·비동기 REST/gRPC 액세스와 로컬 인메모리 모드를 제공합니다.
mfmezger/conversational-agent-langchain
문서를 Qdrant에 임베딩하고 시맨틱 및 하이브리드 검색을 수행해 LLM으로 답변하는 대화형 RAG 에이전트용 FastAPI 백엔드입니다.
- 스타
- 257
- 포크
- 44
- 열린 이슈
- 9
- 마지막 커밋
- 8일 전
어떤 프로젝트인가요?
이 프로젝트는 검색 증강 생성(RAG) 기반 채팅 에이전트를 위한 REST 백엔드입니다. 문서를 Qdrant 벡터 데이터베이스에 임베딩하고, 의미 기반으로 검색한 뒤 해당 문서에 근거해 질문에 답할 수 있습니다. 파이프라인은 LangChain과 LangGraph로 구축되었으며, LiteLLM을 통해 Google Gemini, Cohere, Azure OpenAI 등 다양한 제공업체의 모델을 사용할 수 있습니다.
백엔드는 인용 메타데이터를 제공하는 /rag 엔드포인트와, 텍스트 전용 요청에 대해 스트리밍을 지원하는 OpenAI 호환 /v1/chat/completions 및 /v1/responses 엔드포인트를 제공합니다. Cohere 또는 로컬 FlashRank 라이브러리를 사용한 리랭킹으로 검색 결과를 개선할 수 있으며, 하이브리드 검색에는 FastEmbed를 통한 BM25를 사용합니다. Phoenix 트레이싱은 파이프라인 실행을 기록해 검색된 문서와 생성 단계를 살펴볼 수 있게 합니다.
저장소에는 API, Qdrant, Streamlit 프런트엔드, Phoenix를 위한 Docker Compose 설정과 데모 데이터를 불러오는 스크립트 및 테스트 스위트가 포함되어 있습니다.
핵심 기능
- 01문서를 Qdrant에 임베딩하고 시맨틱 검색과 하이브리드(BM25) 검색을 수행합니다.
- 02LangGraph와 LiteLLM을 통해 LLM으로 문서 기반 질문에 답변합니다.
- 03스트리밍을 지원하는 OpenAI 호환 채팅 완성 및 응답 엔드포인트를 제공합니다.
- 04Cohere 또는 로컬 FlashRank를 통한 리랭킹을 지원합니다.
- 05검색 및 생성 단계를 살펴볼 수 있도록 Phoenix 트레이싱을 제공합니다.
활용 사례
- 자체 파일을 기반으로 문서 질의응답 백엔드를 구축할 때
- Gemini, Cohere 또는 Ollama 모델을 사용하는 RAG 채팅 서비스를 프로토타이핑할 때
- OpenAI SDK 클라이언트를 비공개 문서 기반 모델 별칭에 연결할 때
- FastAPI와 LangGraph를 활용한 RAG 애플리케이션 구조를 익힐 때
빠른 시작
- 1
저장소를 클론합니다
git clone https://github.com/mfmezger/conversational-agent-langchain.git - 2
프로젝트 디렉터리로 이동합니다
cd conversational-agent-langchain - 3
template.env를 바탕으로 .env 파일을 만들고 GEMINI_API_KEY와 COHERE_API_KEY를 설정합니다
- 4
Docker Compose로 전체 시스템을 시작합니다
docker compose up -d
사용 전 알아둘 점
- 바로 실행하려면 Google Gemini와 Cohere의 API 키가 필요합니다.
- 설정하려면 Docker와 Linux 또는 Mac에서 qdrant용 /etc/hosts 항목이 필요합니다.
- 일부 임베딩 제공자는 확장을 위한 자리 표시자일 뿐입니다.
토픽
자주 묻는 질문
- conversational-agent-langchain은(는) 무엇인가요?
- 문서를 Qdrant에 임베딩하고 시맨틱 및 하이브리드 검색을 수행해 LLM으로 답변하는 대화형 RAG 에이전트용 FastAPI 백엔드입니다. 이 프로젝트는 검색 증강 생성(RAG) 기반 채팅 에이전트를 위한 REST 백엔드입니다. 문서를 Qdrant 벡터 데이터베이스에 임베딩하고, 의미 기반으로 검색한 뒤 해당 문서에 근거해 질문에 답할 수 있습니다. 파이프라인은 LangChain과 LangGraph로 구축되었으며, LiteLLM을 통해 Google Gemini, Cohere, Azure OpenAI 등 다양한 제공업체의 모델을 사용할 수 있습니다.
- conversational-agent-langchain은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- conversational-agent-langchain은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- conversational-agent-langchain은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. conversational-agent-langchain의 마지막 커밋은 2026년 10월 30일입니다.
- conversational-agent-langchain은(는) 어디에 사용할 수 있나요?
- 자체 파일을 기반으로 문서 질의응답 백엔드를 구축할 때 Gemini, Cohere 또는 Ollama 모델을 사용하는 RAG 채팅 서비스를 프로토타이핑할 때 OpenAI SDK 클라이언트를 비공개 문서 기반 모델 별칭에 연결할 때 FastAPI와 LangGraph를 활용한 RAG 애플리케이션 구조를 익힐 때
- conversational-agent-langchain는 어떻게 설치하나요?
- 저장소를 클론합니다: git clone https://github.com/mfmezger/conversational-agent-langchain.git 프로젝트 디렉터리로 이동합니다: cd conversational-agent-langchain template.env를 바탕으로 .env 파일을 만들고 GEMINI_API_KEY와 COHERE_API_KEY를 설정합니다 Docker Compose로 전체 시스템을 시작합니다: docker compose up -d
- conversational-agent-langchain은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/mfmezger/conversational-agent-langchain
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
LangGraph 기반의 모듈형 Agentic RAG 튜토리얼로, 계층형 인덱싱과 대화 메모리, 질의 명확화 기능을 제공합니다.
체인 조합, 벡터 검색, 문서 로더를 제공하는 .NET용 LangChain C# 구현체입니다.
플러그인 방식으로 모델 제공자, RAG, 에이전트를 지원해 LLM 기반 앱을 만들 수 있는 LangChain의 Dart 및 Flutter 포트입니다.
오픈소스 LLM과 Qdrant를 사용해 자체 PDF와 문서에 기반한 비공개 ChatGPT 스타일 어시스턴트를 배포하는 셀프 호스팅 RAG 스택입니다.
대화 기록을 원문 그대로 저장하고 의미 검색으로 찾아주는 로컬 우선 AI 메모리 시스템으로, MCP 서버와 CLI를 제공합니다.