krisyangdev/ChatLLM-Web

어떤 프로젝트인가요?

핵심 기능

• 01전용 worker에서 WebGPU를 통해 로컬 GPU로 WebLLM 모델을 실행합니다.
• 02채팅·코딩·추론·비전·도구 사용이 가능한 엄선된 모델 20종과 고급 카탈로그를 제공합니다.
• 03선택한 파일 읽기, 검색, 계산을 위한 샌드박스 처리된 로컬 도구를 Agent 모드에서 사용할 수 있습니다.
• 04결과물을 IndexedDB에 쓰기 전에 diff 승인을 받아야 합니다.
• 05TXT, Markdown, JSON 및 일반적인 코드 파일을 컨텍스트로 직접 첨부할 수 있습니다.
• 06PWA로 설치할 수 있으며 첫 로드 후 캐시된 모델을 다시 사용합니다.

활용 사례

• 프롬프트를 클라우드 API로 보내지 않고 LLM과 비공개로 대화하기.
• 지원되는 GPU와 브라우저가 있는 노트북에서 소형 오픈 모델을 사용해 보기.
• 파일을 업로드하지 않고 로컬 코드나 텍스트 파일에 관해 질문하기.
• 선택한 파일만 다루는 로컬 도구 호출 에이전트를 실험하기.

빠른 시작

1. 1

   종속 항목 설치

   npm install
2. 2

   개발 서버 시작

   npm run dev

사용 전 알아둘 점

• !최신 WebGPU 지원 브라우저와 충분한 GPU 메모리를 갖춘 기기가 필요합니다.
• !Agent 모델 3개는 실험용으로 표시되어 있으며, Advanced 카탈로그는 고급 사용자를 위한 것입니다.

포함된 컬렉션

토픽

자주 묻는 질문

ChatLLM-Web은(는) 무엇인가요?

WebGPU로 기기에서 WebLLM 모델을 실행하는 브라우저 기반 로컬 AI 채팅 및 에이전트 작업 공간으로, 백엔드나 계정이 필요하지 않습니다. ChatLLM Web은 브라우저에서 완전히 실행되는 대규모 언어 모델과 대화할 수 있는 정적 웹 앱입니다. 전용 Web Worker에서 WebLLM을 사용해 WebGPU를 통해 로컬 GPU로 모델을 실행합니다. 기기의 WebGPU 지원 여부와 메모리 및 저장 공간을 확인한 뒤 모델을 추천하고, 다운로드·로드·캐시·호환성 상태를 표시합니다.

ChatLLM-Web은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

ChatLLM-Web은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

ChatLLM-Web은(는) 아직 유지보수되고 있나요?

6개월 이내 업데이트. ChatLLM-Web의 마지막 커밋은 2026년 8월 12일입니다.

ChatLLM-Web은(는) 어디에 사용할 수 있나요?

프롬프트를 클라우드 API로 보내지 않고 LLM과 비공개로 대화하기. 지원되는 GPU와 브라우저가 있는 노트북에서 소형 오픈 모델을 사용해 보기. 파일을 업로드하지 않고 로컬 코드나 텍스트 파일에 관해 질문하기. 선택한 파일만 다루는 로컬 도구 호출 에이전트를 실험하기.

ChatLLM-Web는 어떻게 설치하나요?

종속 항목 설치: npm install 개발 서버 시작: npm run dev

ChatLLM-Web은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/krisyangdev/ChatLLM-Web