finic-ai/rag-stack

어떤 프로젝트인가요?

핵심 기능

• 01자체 문서를 대상으로 하는 비공개 셀프 호스팅 채팅 인터페이스를 배포합니다.
• 02검색을 위해 Rust 기반 오픈소스 벡터 데이터베이스인 Qdrant를 사용합니다.
• 03로컬 CPU 추론에는 GPT4All을, GPU에서는 Falcon-7B 또는 Llama 2를 지원합니다.
• 04PDF 업로드를 지원하는 서버와 웹 UI를 제공합니다.
• 05GCP, AWS, Azure 배포를 위한 Terraform 기반 스크립트를 제공합니다.

활용 사례

• 회사 PDF와 계약서를 바탕으로 답변하는 내부 어시스턴트를 구축합니다.
• 호스팅 API로 데이터를 전송하지 않고 로컬에서 검색 증강 채팅 환경을 시험합니다.
• 프로덕션 설계를 채택하기 전에 클라우드 GPU 클러스터에서 RAG 배포를 프로토타이핑합니다.

빠른 시작

1. 1

   예제 env 파일을 복사하고 Supabase 프로젝트 URL과 키를 추가합니다

2. 2

   Supabase에서 README에 나열된 열을 사용해 ragstack_users 테이블을 만듭니다

3. 3

   로컬 개발 스크립트를 실행해 서버, LLM, Qdrant를 시작합니다

   scripts/local/run-dev

사용 전 알아둘 점

• !README에 따르면 이 레거시 프로젝트는 더 이상 유지 관리되지 않습니다.
• !로컬 설정에는 Supabase 프로젝트와 테이블의 수동 구성이 필요합니다.
• !Falcon-7B를 클라우드에 배포하려면 GPU 지원 클러스터와 클라우드 계정이 필요합니다.

포함된 컬렉션

토픽

자주 묻는 질문

rag-stack은(는) 무엇인가요?

오픈소스 LLM과 Qdrant를 사용해 자체 PDF와 문서에 기반한 비공개 ChatGPT 스타일 어시스턴트를 배포하는 셀프 호스팅 RAG 스택입니다. RAGstack은 호스팅형 ChatGPT 스타일 도구를 대체하는 비공개 솔루션으로, 자체 인프라에서 실행하도록 설계된 배포형 검색 증강 생성 스택입니다. 오픈소스 LLM, Qdrant 벡터 데이터베이스, PDF 업로드를 지원하는 간단한 웹 UI가 포함된 서버를 결합해 조직의 문서를 근거로 답변할 수 있습니다.

rag-stack은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

rag-stack은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

rag-stack은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. rag-stack의 마지막 커밋은 2026년 10월 12일입니다.

rag-stack은(는) 어디에 사용할 수 있나요?

회사 PDF와 계약서를 바탕으로 답변하는 내부 어시스턴트를 구축합니다. 호스팅 API로 데이터를 전송하지 않고 로컬에서 검색 증강 채팅 환경을 시험합니다. 프로덕션 설계를 채택하기 전에 클라우드 GPU 클러스터에서 RAG 배포를 프로토타이핑합니다.

rag-stack는 어떻게 설치하나요?

예제 env 파일을 복사하고 Supabase 프로젝트 URL과 키를 추가합니다 Supabase에서 README에 나열된 열을 사용해 ragstack_users 테이블을 만듭니다 로컬 개발 스크립트를 실행해 서버, LLM, Qdrant를 시작합니다: scripts/local/run-dev

rag-stack은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/finic-ai/rag-stack