Spring AI와 Spring Boot로 LLM 및 생성형 AI 기능을 구현하는 방법을 보여주는 Java 샘플 애플리케이션 모음입니다.
jonfairbanks/local-rag
로컬 파일, GitHub 저장소, 웹사이트를 수집하고 로컬 Ollama 모델로 질문에 답하는 오프라인 RAG 앱으로, 데이터는 네트워크 내에 보관합니다.
- 스타
- 765
- 포크
- 95
- 열린 이슈
- 10
- 마지막 커밋
- 5일 전
어떤 프로젝트인가요?
Local RAG는 타사 서비스에 콘텐츠를 전송하지 않고 자신의 문서와 대화할 수 있는 오픈소스 검색 증강 생성 앱입니다. 로컬 파일, GitHub 저장소 또는 웹사이트를 지정하면 해당 콘텐츠를 색인해 언어 모델이 이를 근거로 질문에 답할 수 있습니다.
채팅에는 로컬 Ollama 모델을 사용하고, 임베딩은 Ollama 또는 로컬 Hugging Face 모델에서 생성할 수 있습니다. 응답은 LlamaIndex를 통해 스트리밍됩니다. 설정은 브라우저에 저장되며 채팅 기록을 내보낼 수 있습니다.
업로드, URL, 저장소 크기, 데이터 수집 과정에 대한 안전장치가 포함되어 있으며, 문서에서는 설정, 사용법, RAG 파이프라인, 문제 해결 방법을 다룹니다.
핵심 기능
- 01로컬 Ollama 모델과 채팅
- 02Ollama 또는 로컬 Hugging Face 모델을 통한 임베딩 생성
- 03로컬 파일, GitHub 저장소, 웹사이트 수집
- 04LlamaIndex를 통한 RAG 응답 스트리밍
- 05채팅 기록 내보내기 및 브라우저에 설정 저장
활용 사례
- 클라우드 API에 전송하지 않고 비공개 문서에 질문하기
- 오프라인에서 코드베이스나 GitHub 저장소에 관해 질문하기
- 웹페이지와 파일을 바탕으로 로컬 지식 베이스 구축하기
사용 전 알아둘 점
- GPL-3.0 라이선스가 적용됩니다. 카피레프트 라이선스이므로 파생물을 배포할 때도 오픈소스로 공개해야 합니다.
- 채팅 모델을 사용하려면 로컬 모델을 실행하는 Ollama 인스턴스를 별도로 실행해야 합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- local-rag은(는) 무엇인가요?
- 로컬 파일, GitHub 저장소, 웹사이트를 수집하고 로컬 Ollama 모델로 질문에 답하는 오프라인 RAG 앱으로, 데이터는 네트워크 내에 보관합니다. Local RAG는 타사 서비스에 콘텐츠를 전송하지 않고 자신의 문서와 대화할 수 있는 오픈소스 검색 증강 생성 앱입니다. 로컬 파일, GitHub 저장소 또는 웹사이트를 지정하면 해당 콘텐츠를 색인해 언어 모델이 이를 근거로 질문에 답할 수 있습니다.
- local-rag은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- local-rag은(는) GPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- local-rag은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. local-rag의 마지막 커밋은 2026년 11월 2일입니다.
- local-rag은(는) 어디에 사용할 수 있나요?
- 클라우드 API에 전송하지 않고 비공개 문서에 질문하기 오프라인에서 코드베이스나 GitHub 저장소에 관해 질문하기 웹페이지와 파일을 바탕으로 로컬 지식 베이스 구축하기
- local-rag은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/jonfairbanks/local-rag
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
BAAI의 검색 툴킷으로, BGE 임베딩 및 리랭커 모델과 검색·RAG를 위한 학습, 평가, 튜토리얼을 제공합니다.
파일, 메일, 채팅, 노트를 제자리에 둔 채 검색하고 출처를 표시한 번호 매긴 답변을 제공하는 개인 사서 에이전트입니다.
RAG, 에이전트, 시각적 로직 기반 AI 프로젝트를 만들고 내장 웹 UI와 REST API로 제공하는 오픈소스 AIaaS 플랫폼입니다.
Ollama, vLLM 또는 llama-cpp-python을 통해 소비자용 하드웨어에서 OpenAI 호환 API를 제공하는 소규모 로컬 LLM 실행 가이드 겸 챗봇 웹 앱입니다.
출처 구절을 인용하는 오프라인 AI 도우미로, 생존 및 응급처치 자료를 내장하고 컴퓨터에서 로컬로 실행됩니다.