mamei16/LLM_Web_search

어떤 프로젝트인가요?

핵심 기능

• 01네이티브 tool calling 또는 정규식으로 실행하는 검색 명령
• 02기본 DuckDuckGo 및 선택 가능한 SearXNG 백엔드
• 03간단한 검색 모드와 전체 검색 모드
• 04dense embedding과 결합한 Okapi BM25 또는 SPLADE 키워드 검색
• 05문자 수, 의미 기반, 토큰 분류 방식의 청킹 옵션

활용 사례

• 로컬 호스팅 모델로 최근 사건에 관한 질문에 답변
• 호스팅 서비스에 프롬프트를 보내지 않고 로컬 채팅 모델에 웹 접근 기능 제공
• 자체 호스팅한 SearXNG 인스턴스로 비공개 검색 실행

빠른 시작

1. 1

   웹 UI의 Session 탭에서 확장 프로그램을 설치합니다

2. 2

   update_wizard 스크립트를 실행하고 'Install/update extensions requirements'를 선택합니다

3. 3

   확장 프로그램을 활성화한 상태로 서버를 시작합니다

   python server.py --extension LLM_Web_search

사용 전 알아둘 점

• !text-generation-webui용 확장 프로그램이므로 해당 애플리케이션을 먼저 설치해야 합니다.
• !AGPL-3.0 라이선스로 제공됩니다. 카피레프트 라이선스이므로 파생 네트워크 서비스는 소스 코드를 공유해야 합니다.
• !Full search, semantic chunking, SPLADE는 속도가 느리고 더 많은 리소스가 필요하며, SPLADE는 GPU를 사용하면 효과적입니다.

토픽

자주 묻는 질문

LLM_Web_search은(는) 무엇인가요?

로컬 LLM이 웹을 검색하고 관련 페이지 발췌문을 답변에 덧붙이도록 하는 text-generation-webui 확장 프로그램입니다. LLM_Web_search는 oobabooga의 text-generation-webui에서 로컬 언어 모델이 웹을 검색할 수 있게 해줍니다. 모델은 네이티브 tool calling을 사용하거나 출력에서 특정 명령과 일치하는 정규식을 통해 검색을 실행할 수 있습니다. 확장 프로그램은 검색 결과 페이지를 가져온 다음, dense embedding 모델과 Okapi BM25(또는 선택적으로 SPLADE)를 함께 사용해 쿼리와 관련된 구절을 추출하고 이를 모델 출력에 덧붙입니다.

LLM_Web_search은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

LLM_Web_search은(는) AGPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

LLM_Web_search은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. LLM_Web_search의 마지막 커밋은 2026년 11월 3일입니다.

LLM_Web_search은(는) 어디에 사용할 수 있나요?

로컬 호스팅 모델로 최근 사건에 관한 질문에 답변 호스팅 서비스에 프롬프트를 보내지 않고 로컬 채팅 모델에 웹 접근 기능 제공 자체 호스팅한 SearXNG 인스턴스로 비공개 검색 실행

LLM_Web_search는 어떻게 설치하나요?

웹 UI의 Session 탭에서 확장 프로그램을 설치합니다 update_wizard 스크립트를 실행하고 'Install/update extensions requirements'를 선택합니다 확장 프로그램을 활성화한 상태로 서버를 시작합니다: python server.py --extension LLM_Web_search

LLM_Web_search은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/mamei16/LLM_Web_search