OpenAI 호환 API로 임베딩, 리랭킹, OCR, 추출, 안전성 및 LLM 모델을 제공하는 셀프 호스팅 추론 서버
superlinear-ai/raglite
DuckDB 또는 PostgreSQL에 문서를 저장하고 검색하는 Retrieval-Augmented Generation용 Python 툴킷입니다.
- 스타
- 1,211
- 포크
- 116
- 열린 이슈
- 17
- 마지막 커밋
- 4일 전
어떤 프로젝트인가요?
RAGLite는 Retrieval-Augmented Generation 파이프라인을 구축하기 위한 Python 툴킷입니다. PDF와 기타 문서를 Markdown으로 변환하고 청크로 나눈 뒤 임베딩하여 DuckDB 또는 PostgreSQL에 저장하므로, 관련 구절을 검색해 질문에 답할 때 LLM에 전달할 수 있습니다.
검색에는 데이터베이스의 네이티브 키워드 검색과 벡터 검색( DuckDB에서는 FTS와 VSS, PostgreSQL에서는 tsvector와 pgvector)을 결합하며, 설정 가능한 reranker로 검색 결과의 순위를 다시 매길 수 있습니다. LLM과 임베더는 LiteLLM을 통해 사용하며, llama-cpp-python을 통한 로컬 llama.cpp 모델도 지원합니다. 또한 PyTorch나 LangChain 같은 무거운 의존성을 사용하지 않습니다.
기본 검색 기능 외에도 RAGLite는 평가 데이터를 바탕으로 계산하는 선택적 query adapter, 메타데이터 필터링, Claude desktop 등의 클라이언트에서 사용할 수 있는 내장 MCP 서버, Chainlit 기반 채팅 프런트엔드를 제공합니다. Ragas를 이용한 검색 및 생성 평가 기능은 추가 옵션으로 제공됩니다.
핵심 기능
- 01하이브리드 키워드 및 벡터 검색을 지원하며 DuckDB 또는 PostgreSQL에 문서를 저장하고 검색합니다.
- 02로컬 llama.cpp 모델을 포함해 LiteLLM이 지원하는 모든 LLM 또는 임베더를 사용할 수 있습니다.
- 03기본값인 FlashRank를 비롯한 reranker로 검색된 청크의 순위를 다시 매깁니다.
- 04PDF를 Markdown으로 변환하며, Pandoc 또는 Mistral OCR을 통해 다른 형식도 선택적으로 처리합니다.
- 05문서 메타데이터로 검색 결과를 필터링합니다.
- 06검색 기능을 MCP 도구로 제공하고 선택적으로 Chainlit 채팅 프런트엔드를 실행합니다.
활용 사례
- 비공개 PDF 또는 Markdown 문서 모음에 대한 질의응답 어시스턴트를 구축합니다.
- DuckDB와 llama.cpp 모델을 사용해 완전한 로컬 RAG 환경을 실행합니다.
- MCP를 통해 Claude desktop에 지식 베이스 검색 도구를 추가합니다.
- 검색 전략을 실험하고 Ragas 평가로 성능을 측정합니다.
빠른 시작
- 1
PyPI에서 RAGLite를 설치합니다
pip install raglite - 2
Python에서 DuckDB 또는 PostgreSQL 데이터베이스와 LLM을 사용하도록 RAGLite를 구성합니다
사용 전 알아둘 점
- MPL-2.0 라이선스가 적용됩니다. 파일 단위 카피레프트 라이선스로, 수정한 소스 파일을 공유해야 합니다.
- 로컬 llama.cpp 모델을 사용하려면 Python 버전 및 플랫폼에 맞는 llama-cpp-python 빌드를 별도로 설치해야 합니다.
- Cohere reranker 및 Mistral OCR과 같은 일부 기능에는 외부 API 키가 필요합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- raglite은(는) 무엇인가요?
- DuckDB 또는 PostgreSQL에 문서를 저장하고 검색하는 Retrieval-Augmented Generation용 Python 툴킷입니다. RAGLite는 Retrieval-Augmented Generation 파이프라인을 구축하기 위한 Python 툴킷입니다. PDF와 기타 문서를 Markdown으로 변환하고 청크로 나눈 뒤 임베딩하여 DuckDB 또는 PostgreSQL에 저장하므로, 관련 구절을 검색해 질문에 답할 때 LLM에 전달할 수 있습니다.
- raglite은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- raglite은(는) MPL-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- raglite은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. raglite의 마지막 커밋은 2026년 11월 1일입니다.
- raglite은(는) 어디에 사용할 수 있나요?
- 비공개 PDF 또는 Markdown 문서 모음에 대한 질의응답 어시스턴트를 구축합니다. DuckDB와 llama.cpp 모델을 사용해 완전한 로컬 RAG 환경을 실행합니다. MCP를 통해 Claude desktop에 지식 베이스 검색 도구를 추가합니다. 검색 전략을 실험하고 Ragas 평가로 성능을 측정합니다.
- raglite는 어떻게 설치하나요?
- PyPI에서 RAGLite를 설치합니다: pip install raglite Python에서 DuckDB 또는 PostgreSQL 데이터베이스와 LLM을 사용하도록 RAGLite를 구성합니다
- raglite은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/superlinear-ai/raglite
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
pgvector 검색과 OpenAI 모델을 사용해 PostgreSQL 테이블의 행에 관한 자연어 질문에 답하고 Azure에 배포할 수 있는 RAG 채팅 앱입니다.
LLM 애플리케이션에 컨텍스트 계층을 제공하는 오픈소스 RAG 엔진으로, 검색 증강 생성과 에이전트 기능을 결합합니다.
자체 데이터셋을 바탕으로 질문에 답하는 LLM 애플리케이션을 위한 범용 확장형 RAG 프레임워크로, React UI와 Python 서버를 제공합니다.
문서에서 이중 시간 지식 그래프를 구축하고 RAG 검색, 온톨로지 기반 추론, 에이전트용 MCP 접근을 지원하는 셀프 호스팅 Rust 지식 베이스
LLM 쿼리 재작성, BM25 및 벡터 검색, Reciprocal Rank Fusion을 결합해 검색 성능을 높이는 RAG-Fusion의 Python 레퍼런스 구현으로, NFCorpus 평가 하네스를 제공합니다.