LLM을 기기에서 완전히 오프라인으로 실행하는 Android 앱으로, 로컬 에이전트와 메모리, 음성 기능 및 OpenAI/Ollama 호환 LAN API를 제공합니다.
fikrikarim/parlor
Gemma 4와 llama.cpp를 기반으로 Apple Silicon 또는 Linux에서 로컬 실행되는 완전 온디바이스 실시간 음성·카메라 AI 어시스턴트입니다.
대체할 수 있는 제품:ChatGPT Advanced Voice
- 스타
- 2,112
- 포크
- 281
- 열린 이슈
- 1
- 마지막 커밋
- 3개월 전
어떤 프로젝트인가요?
Parlor는 마이크로 듣고 카메라로 본 뒤 음성으로 답하는 셀프 호스팅 실시간 멀티모달 어시스턴트입니다. 전체 파이프라인이 사용자 기기에서 실행됩니다. llama.cpp로 제공되는 Gemma 4 E4B가 음성과 시각 정보를 처리하고, Kokoro가 텍스트를 음성으로 변환하며, Pipecat의 smart-turn-v3가 사용자의 발화가 끝난 시점을 판단합니다. 브라우저 프런트엔드는 WebSocket을 통해 오디오와 JPEG 프레임을 전송하고, FastAPI 서버가 대화 루프를 실행합니다.
이 프로젝트는 낮은 지연 시간과 자연스러운 대화에 중점을 둡니다. 답변은 먼저 텍스트로 표시되고, 생성 중에도 문장 단위로 음성 출력이 시작됩니다. 어시스턴트가 말하는 도중 사용자가 끼어들면 출력을 중단합니다. 타이머, 실시간 번역 및 무음 메모처럼 모드를 전환하는 기능, 웹 질문을 OpenAI 호환 모델에 맡기는 선택적 백그라운드 조사 기능은 별도의 action 요청으로 처리됩니다. API 키를 설정하지 않으면 조사는 비활성화됩니다.
작성자는 이 프로젝트를 GPT-Live 스타일 음성 어시스턴트를 대체할 로컬 기반 대안으로 만든 연구 프리뷰라고 설명하며, 개발 과정에서 AI의 상당한 도움을 받았다고 덧붙입니다.
핵심 기능
- 01llama.cpp를 통해 Gemma 4로 음성 인식, 시각 처리, 답변 생성을 온디바이스에서 실행합니다.
- 02Silero VAD와 smart-turn-v3의 발화 종료 감지를 사용해 손을 쓰지 않고 대화 차례를 주고받습니다.
- 03텍스트 기록과 음성 답변을 문장 단위로 스트리밍하며, 끼어들기를 지원합니다.
- 04카운트다운 및 취소 기능이 있는 타이머를 지원합니다.
- 05실시간 번역 모드와 듣기 전용 모드를 제공합니다.
- 06OpenAI 호환 엔드포인트를 통한 선택적 백그라운드 조사를 지원합니다.
활용 사례
- 홈 서버나 노트북에서 비공개 무료 음성 튜터와 영어 말하기를 연습합니다.
- 어시스턴트가 답변하지 않고 메모를 받아 적는 동안 생각을 소리 내어 정리합니다.
- Gemma가 이해하는 모든 언어의 대화를 순차 통역합니다.
- Apple Silicon Mac에서 로컬 멀티모달 어시스턴트를 실험합니다.
빠른 시작
- 1
리포지토리를 클론합니다
git clone https://github.com/fikrikarim/parlor.git - 2
프로젝트 디렉터리로 이동합니다
cd parlor - 3
llama.cpp를 설치합니다(macOS)
brew install llama.cpp - 4
종속성을 설치하고 서버를 시작한 다음 http://localhost:8000 을 엽니다
uv sync && uv run parlor
사용 전 알아둘 점
- 연구 프리뷰로, 다듬어지지 않은 부분과 버그가 있습니다.
- Apple Silicon이 탑재된 macOS 또는 지원되는 Linux GPU가 필요하며, llama.cpp 빌드 b9503 이상이 필요합니다.
- 기본 모델을 사용하려면 여유 RAM 약 6 GB가 필요하며, 첫 실행 시 약 5.7 GB 크기의 모델을 다운로드해야 합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- parlor은(는) 무엇인가요?
- Gemma 4와 llama.cpp를 기반으로 Apple Silicon 또는 Linux에서 로컬 실행되는 완전 온디바이스 실시간 음성·카메라 AI 어시스턴트입니다. Parlor는 마이크로 듣고 카메라로 본 뒤 음성으로 답하는 셀프 호스팅 실시간 멀티모달 어시스턴트입니다. 전체 파이프라인이 사용자 기기에서 실행됩니다. llama.cpp로 제공되는 Gemma 4 E4B가 음성과 시각 정보를 처리하고, Kokoro가 텍스트를 음성으로 변환하며, Pipecat의 smart-turn-v3가 사용자의 발화가 끝난 시점을 판단합니다. 브라우저 프런트엔드는 WebSocket을 통해 오디오와 JPEG 프레임을 전송하고, FastAPI 서버가 대화 루프를 실행합니다.
- parlor은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- parlor은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- parlor은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. parlor의 마지막 커밋은 2026년 8월 3일입니다.
- parlor은(는) 어디에 사용할 수 있나요?
- 홈 서버나 노트북에서 비공개 무료 음성 튜터와 영어 말하기를 연습합니다. 어시스턴트가 답변하지 않고 메모를 받아 적는 동안 생각을 소리 내어 정리합니다. Gemma가 이해하는 모든 언어의 대화를 순차 통역합니다. Apple Silicon Mac에서 로컬 멀티모달 어시스턴트를 실험합니다.
- parlor는 어떻게 설치하나요?
- 리포지토리를 클론합니다: git clone https://github.com/fikrikarim/parlor.git 프로젝트 디렉터리로 이동합니다: cd parlor llama.cpp를 설치합니다(macOS): brew install llama.cpp 종속성을 설치하고 서버를 시작한 다음 http://localhost:8000 을 엽니다: uv sync && uv run parlor
- parlor은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/fikrikarim/parlor
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Apple Silicon에서 MLX 프레임워크로 네이티브 실행되는 텍스트 음성 변환, 음성 텍스트 변환 및 음성 간 변환 모델용 Python 라이브러리입니다.
SSD에서 전문가를 스트리밍해 Apple Silicon Mac에서 Gemma 4 26B-A4B를 실행하는 Swift·Metal 런타임
Google AI Edge가 제공하는 Android 및 iOS 앱으로, 오픈소스 LLM과 온디바이스 GenAI를 인터넷 연결 없이 휴대폰에서 체험할 수 있습니다.
Gemma와 MiniCPM-V 모델을 iPhone에서 실행해 Calendar, Reminders, Contacts, Health 기본 Skills를 제공하는 iOS 앱이자 Swift 프레임워크입니다.
GGUF 언어 모델을 로컬에서 실행하는 단일 파일 런처로, 텍스트·이미지·음성·음악 생성과 KoboldAI 웹 UI를 지원합니다.