Nehanth/pooled

어떤 프로젝트인가요?

핵심 기능

• 01노트북, 데스크톱, 휴대폰의 브라우저 탭에 모델 레이어를 분산합니다.
• 02WebGPU와 사용자 지정 WGSL 커널로 각 기기의 GPU에서 연산을 실행합니다.
• 03직접 연결된 WebRTC를 통해 기기 간에 hidden state를 전달하며, 릴레이 대체 경로도 제공합니다.
• 04Code 모드에서 브라우저 안에 소형 웹 앱을 만들고 미리 보고 수정합니다.
• 05CLI 브리지를 통해 방의 모델을 OpenAI 및 Anthropic 호환 API로 제공합니다.

활용 사례

• 개인 기기 몇 대를 연결해 클라우드 계정 없이 더 큰 오픈 모델을 실행합니다.
• 링크 하나로 소규모 친구 또는 동료 그룹과 모델 하나를 공유합니다.
• 브라우저 내 코딩 에이전트로 소형 웹 앱을 프로토타이핑합니다.
• 로컬 코딩 에이전트나 SDK 코드에서 방에 호스팅된 모델을 사용합니다.

빠른 시작

1. 1

   저장소를 클론합니다

   git clone https://github.com/Nehanth/pooled && cd pooled
2. 2

   폴더를 로컬에서 제공하고 룸 페이지를 엽니다

   npx -y serve -l 8080 .
3. 3

   명령줄에서 룸에 참여해 컴퓨터를 대여합니다(선택 사항)

   npx @pooled/cli join <ROOM CODE>

사용 전 알아둘 점

• !추론하려면 브라우저에서 WebGPU를 지원하는 GPU가 필요합니다.
• !Qwen3.8 Flash 모델은 실험 단계이며, 처음 실행할 때 약 99GB를 다운로드합니다.
• !사이트에 릴레이가 설정되어 있지 않으면 일부 직장 네트워크에서 피어 투 피어 룸이 차단될 수 있습니다.

포함된 컬렉션

토픽

자주 묻는 질문

pooled은(는) 무엇인가요?

브라우저에서 P2P LLM 추론을 실행하세요. WebRTC로 노트북, 데스크톱, 휴대폰을 연결해 대형 오픈 모델을 구동하고 내장 코딩 에이전트를 활용할 수 있습니다. Pooled는 한 방에 있는 여러 기기에서 오픈 언어 모델 하나를 분산 실행합니다. 각 기기는 모델 레이어의 일부를 맡아 WebGPU를 통해 자체 GPU에서 실행하며, 브라우저 탭 사이의 hidden state는 직접 연결된 WebRTC를 통해 전달됩니다. 공유 링크를 열기만 하면 참여할 수 있어 설치나 계정이 필요 없고, 추론을 처리하는 서버도 없습니다.

pooled은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

pooled은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

pooled은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. pooled의 마지막 커밋은 2026년 11월 3일입니다.

pooled은(는) 어디에 사용할 수 있나요?

개인 기기 몇 대를 연결해 클라우드 계정 없이 더 큰 오픈 모델을 실행합니다. 링크 하나로 소규모 친구 또는 동료 그룹과 모델 하나를 공유합니다. 브라우저 내 코딩 에이전트로 소형 웹 앱을 프로토타이핑합니다. 로컬 코딩 에이전트나 SDK 코드에서 방에 호스팅된 모델을 사용합니다.

pooled는 어떻게 설치하나요?

저장소를 클론합니다: git clone https://github.com/Nehanth/pooled && cd pooled 폴더를 로컬에서 제공하고 룸 페이지를 엽니다: npx -y serve -l 8080 . 명령줄에서 룸에 참여해 컴퓨터를 대여합니다(선택 사항): npx @pooled/cli join <ROOM CODE>

pooled은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Nehanth/pooled