Repolode
Enviar
mfmezger

mfmezger/conversational-agent-langchain

Backend FastAPI para um agente conversacional de RAG que incorpora documentos no Qdrant, faz buscas semânticas e híbridas e responde a perguntas com LLMs.

Ver no GitHub
Estrelas
257
Forks
44
Issues abertas
9
Último commit
há 7 dias

O que é?

Este projeto é um backend REST para um agente de chat com geração aumentada por recuperação (RAG). Ele permite incorporar documentos ao banco de dados vetorial Qdrant, pesquisá-los semanticamente e responder a perguntas com base neles. O pipeline é desenvolvido com LangChain e LangGraph e pode chamar modelos do Google Gemini, Cohere, Azure OpenAI e outros provedores, usando LiteLLM para acessar uma ampla variedade de backends.

O backend disponibiliza um endpoint /rag com metadados de citações, além dos endpoints compatíveis com OpenAI /v1/chat/completions e /v1/responses, que oferecem streaming para solicitações somente de texto. A recuperação pode ser aprimorada com reranking via Cohere ou pela biblioteca local FlashRank, e a busca híbrida usa BM25 via FastEmbed. O tracing com Phoenix registra as execuções do pipeline para que você possa inspecionar os documentos recuperados e as etapas de geração.

O repositório inclui Docker Compose para a API, o Qdrant, um frontend em Streamlit e o Phoenix, além de scripts para carregar dados de demonstração e uma suíte de testes.

Recursos principais

  • 01Incorpora documentos no Qdrant e faz buscas semânticas e híbridas (BM25).
  • 02Responde a perguntas sobre documentos usando LLMs por meio do LangGraph e do LiteLLM.
  • 03Oferece endpoints de chat completions e responses compatíveis com OpenAI, com streaming.
  • 04Oferece reranking via Cohere ou FlashRank local.
  • 05Oferece tracing com Phoenix para inspecionar as etapas de recuperação e geração.

Casos de uso

  • Criar um backend de perguntas e respostas sobre documentos com base nos seus próprios arquivos.
  • Prototipar um serviço de chat com RAG usando modelos Gemini, Cohere ou Ollama.
  • Configurar um cliente do OpenAI SDK para usar um alias de modelo privado com respostas fundamentadas em documentos.
  • Aprender a estruturar uma aplicação de RAG com FastAPI e LangGraph.

Início rápido

  1. 1

    Clone o repositório

    git clone https://github.com/mfmezger/conversational-agent-langchain.git
  2. 2

    Acesse o diretório do projeto

    cd conversational-agent-langchain
  3. 3

    Crie um arquivo .env a partir de template.env e configure GEMINI_API_KEY e COHERE_API_KEY

  4. 4

    Inicie o sistema completo com Docker Compose

    docker compose up -d

Antes de usar

  • Para executar imediatamente, são necessárias chaves de API do Google Gemini e da Cohere.
  • A configuração requer Docker e uma entrada para qdrant em /etc/hosts no Linux ou Mac.
  • Alguns provedores de embeddings são apenas placeholders para extensões futuras.

Tópicos

#rag#fastapi#langchain#langgraph#vector-database#qdrant#semantic-search#llm#ai#cohere

Perguntas frequentes

O que é conversational-agent-langchain?
Backend FastAPI para um agente conversacional de RAG que incorpora documentos no Qdrant, faz buscas semânticas e híbridas e responde a perguntas com LLMs. Este projeto é um backend REST para um agente de chat com geração aumentada por recuperação (RAG). Ele permite incorporar documentos ao banco de dados vetorial Qdrant, pesquisá-los semanticamente e responder a perguntas com base neles. O pipeline é desenvolvido com LangChain e LangGraph e pode chamar modelos do Google Gemini, Cohere, Azure OpenAI e outros provedores, usando LiteLLM para acessar uma ampla variedade de backends.
conversational-agent-langchain é gratuito? Qual é a licença?
conversational-agent-langchain é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
conversational-agent-langchain ainda é mantido?
Manutenção ativa. O último commit de conversational-agent-langchain foi em 30 de out. de 2026.
Para que posso usar conversational-agent-langchain?
Criar um backend de perguntas e respostas sobre documentos com base nos seus próprios arquivos. Prototipar um serviço de chat com RAG usando modelos Gemini, Cohere ou Ollama. Configurar um cliente do OpenAI SDK para usar um alias de modelo privado com respostas fundamentadas em documentos. Aprender a estruturar uma aplicação de RAG com FastAPI e LangGraph.
Como instalar conversational-agent-langchain?
Clone o repositório: git clone https://github.com/mfmezger/conversational-agent-langchain.git Acesse o diretório do projeto: cd conversational-agent-langchain Crie um arquivo .env a partir de template.env e configure GEMINI_API_KEY e COHERE_API_KEY Inicie o sistema completo com Docker Compose: docker compose up -d
Onde consigo conversational-agent-langchain?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/mfmezger/conversational-agent-langchain

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados