Repolode
mfmezger

mfmezger/conversational-agent-langchain

문서를 Qdrant에 임베딩하고 시맨틱 및 하이브리드 검색을 수행해 LLM으로 답변하는 대화형 RAG 에이전트용 FastAPI 백엔드입니다.

스타
257
포크
44
열린 이슈
9
마지막 커밋
8일 전

어떤 프로젝트인가요?

이 프로젝트는 검색 증강 생성(RAG) 기반 채팅 에이전트를 위한 REST 백엔드입니다. 문서를 Qdrant 벡터 데이터베이스에 임베딩하고, 의미 기반으로 검색한 뒤 해당 문서에 근거해 질문에 답할 수 있습니다. 파이프라인은 LangChain과 LangGraph로 구축되었으며, LiteLLM을 통해 Google Gemini, Cohere, Azure OpenAI 등 다양한 제공업체의 모델을 사용할 수 있습니다.

백엔드는 인용 메타데이터를 제공하는 /rag 엔드포인트와, 텍스트 전용 요청에 대해 스트리밍을 지원하는 OpenAI 호환 /v1/chat/completions 및 /v1/responses 엔드포인트를 제공합니다. Cohere 또는 로컬 FlashRank 라이브러리를 사용한 리랭킹으로 검색 결과를 개선할 수 있으며, 하이브리드 검색에는 FastEmbed를 통한 BM25를 사용합니다. Phoenix 트레이싱은 파이프라인 실행을 기록해 검색된 문서와 생성 단계를 살펴볼 수 있게 합니다.

저장소에는 API, Qdrant, Streamlit 프런트엔드, Phoenix를 위한 Docker Compose 설정과 데모 데이터를 불러오는 스크립트 및 테스트 스위트가 포함되어 있습니다.

핵심 기능

  • 01문서를 Qdrant에 임베딩하고 시맨틱 검색과 하이브리드(BM25) 검색을 수행합니다.
  • 02LangGraph와 LiteLLM을 통해 LLM으로 문서 기반 질문에 답변합니다.
  • 03스트리밍을 지원하는 OpenAI 호환 채팅 완성 및 응답 엔드포인트를 제공합니다.
  • 04Cohere 또는 로컬 FlashRank를 통한 리랭킹을 지원합니다.
  • 05검색 및 생성 단계를 살펴볼 수 있도록 Phoenix 트레이싱을 제공합니다.

활용 사례

  • 자체 파일을 기반으로 문서 질의응답 백엔드를 구축할 때
  • Gemini, Cohere 또는 Ollama 모델을 사용하는 RAG 채팅 서비스를 프로토타이핑할 때
  • OpenAI SDK 클라이언트를 비공개 문서 기반 모델 별칭에 연결할 때
  • FastAPI와 LangGraph를 활용한 RAG 애플리케이션 구조를 익힐 때

빠른 시작

  1. 1

    저장소를 클론합니다

    git clone https://github.com/mfmezger/conversational-agent-langchain.git
  2. 2

    프로젝트 디렉터리로 이동합니다

    cd conversational-agent-langchain
  3. 3

    template.env를 바탕으로 .env 파일을 만들고 GEMINI_API_KEY와 COHERE_API_KEY를 설정합니다

  4. 4

    Docker Compose로 전체 시스템을 시작합니다

    docker compose up -d

사용 전 알아둘 점

  • 바로 실행하려면 Google Gemini와 Cohere의 API 키가 필요합니다.
  • 설정하려면 Docker와 Linux 또는 Mac에서 qdrant용 /etc/hosts 항목이 필요합니다.
  • 일부 임베딩 제공자는 확장을 위한 자리 표시자일 뿐입니다.

토픽

자주 묻는 질문

conversational-agent-langchain은(는) 무엇인가요?
문서를 Qdrant에 임베딩하고 시맨틱 및 하이브리드 검색을 수행해 LLM으로 답변하는 대화형 RAG 에이전트용 FastAPI 백엔드입니다. 이 프로젝트는 검색 증강 생성(RAG) 기반 채팅 에이전트를 위한 REST 백엔드입니다. 문서를 Qdrant 벡터 데이터베이스에 임베딩하고, 의미 기반으로 검색한 뒤 해당 문서에 근거해 질문에 답할 수 있습니다. 파이프라인은 LangChain과 LangGraph로 구축되었으며, LiteLLM을 통해 Google Gemini, Cohere, Azure OpenAI 등 다양한 제공업체의 모델을 사용할 수 있습니다.
conversational-agent-langchain은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
conversational-agent-langchain은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
conversational-agent-langchain은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. conversational-agent-langchain의 마지막 커밋은 2026년 10월 30일입니다.
conversational-agent-langchain은(는) 어디에 사용할 수 있나요?
자체 파일을 기반으로 문서 질의응답 백엔드를 구축할 때 Gemini, Cohere 또는 Ollama 모델을 사용하는 RAG 채팅 서비스를 프로토타이핑할 때 OpenAI SDK 클라이언트를 비공개 문서 기반 모델 별칭에 연결할 때 FastAPI와 LangGraph를 활용한 RAG 애플리케이션 구조를 익힐 때
conversational-agent-langchain는 어떻게 설치하나요?
저장소를 클론합니다: git clone https://github.com/mfmezger/conversational-agent-langchain.git 프로젝트 디렉터리로 이동합니다: cd conversational-agent-langchain template.env를 바탕으로 .env 파일을 만들고 GEMINI_API_KEY와 COHERE_API_KEY를 설정합니다 Docker Compose로 전체 시스템을 시작합니다: docker compose up -d
conversational-agent-langchain은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/mfmezger/conversational-agent-langchain

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트