Ollama, vLLM 또는 llama-cpp-python을 통해 소비자용 하드웨어에서 OpenAI 호환 API를 제공하는 소규모 로컬 LLM 실행 가이드 겸 챗봇 웹 앱입니다.
- 스타
- 3,323
- 포크
- 146
- 열린 이슈
- 35
- 마지막 커밋
- 지난달
어떤 프로젝트인가요?
Sidekick은 내장된 llama.cpp 백엔드로 로컬 대규모 언어 모델을 실행하는 macOS 네이티브 채팅 앱으로, 대화를 Mac 안에서 처리할 수 있습니다. 파일, 폴더, 웹사이트를 전문가로 구성하면 해당 전문가가 활성화됐을 때 Sidekick이 RAG(검색 증강 생성)로 관련 구절을 찾아 출처를 인용하며 질문에 답합니다.
로컬 모델 외에도 자체 API 키를 사용해 OpenAI 호환 API에 연결할 수 있으며, OpenAI, Anthropic, Google AI Studio, DeepSeek 등의 제공업체를 위한 프리셋이 제공됩니다. 기본 메일 클라이언트에서 이메일 초안 작성, 웹 검색, 여러 웹페이지를 읽고 보고서를 작성하는 Deep Research 에이전트, 대화 간에 사용자 선호도를 유지하는 메모리 기능 등의 작업을 위한 function calling도 지원합니다.
텍스트와 코드를 편집할 수 있는 Canvas, 응답의 LaTeX 및 차트 렌더링, macOS 15.2 이상과 Apple Intelligence가 필요한 이미지 생성 기능도 제공됩니다. Apple Silicon이 탑재되고 RAM이 8GB 이상인 Mac이 필요합니다.
핵심 기능
- 01내장 llama.cpp 백엔드로 로컬 GGUF 모델과 대화
- 02파일, 폴더, 웹사이트를 전문가로 구성해 출처를 포함한 RAG 기반 답변 제공
- 03자체 API 키로 주요 제공업체 프리셋을 포함한 OpenAI 호환 API에 연결
- 04이메일 초안 작성, 계산 실행 등의 작업을 위한 function calling
- 05여러 단계의 웹 조사를 수행해 보고서를 작성하는 Deep Research 에이전트
- 06텍스트와 코드를 만들고 선택적으로 편집할 수 있는 Canvas
활용 사례
- 오프라인에서 보유한 연구 논문이나 문서를 검색하고 인용하기
- 파일을 클라우드에 업로드하지 않고 프로젝트 폴더에 대해 질문하기
- Apple Silicon Mac에서 이메일 초안을 작성하거나 웹 조사 내용을 요약하기
- 하나의 채팅 인터페이스에서 로컬 모델과 원격 API 비교하기
빠른 시작
- 1
Homebrew로 설치
brew install --cask arcadi4/tap/sidekick-ai - 2
시작 가이드에 따라 앱 설정
사용 전 알아둘 점
- Apple Silicon이 탑재된 Mac과 최소 8GB RAM이 필요합니다.
- 이미지 생성에는 macOS 15.2 이상과 Apple Intelligence가 필요합니다.
- 원격 모델을 사용하려면 제공업체에서 발급받은 본인의 API 키가 필요합니다.
포함된 컬렉션
토픽
자주 묻는 질문
- Sidekick은(는) 무엇인가요?
- 추가 소프트웨어 없이 파일, 폴더, 웹사이트를 바탕으로 답변하는 로컬 LLM과 대화할 수 있는 macOS 네이티브 앱입니다. Sidekick은 내장된 llama.cpp 백엔드로 로컬 대규모 언어 모델을 실행하는 macOS 네이티브 채팅 앱으로, 대화를 Mac 안에서 처리할 수 있습니다. 파일, 폴더, 웹사이트를 전문가로 구성하면 해당 전문가가 활성화됐을 때 Sidekick이 RAG(검색 증강 생성)로 관련 구절을 찾아 출처를 인용하며 질문에 답합니다.
- Sidekick은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- Sidekick은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- Sidekick은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. Sidekick의 마지막 커밋은 2026년 9월 30일입니다.
- Sidekick은(는) 어디에 사용할 수 있나요?
- 오프라인에서 보유한 연구 논문이나 문서를 검색하고 인용하기 파일을 클라우드에 업로드하지 않고 프로젝트 폴더에 대해 질문하기 Apple Silicon Mac에서 이메일 초안을 작성하거나 웹 조사 내용을 요약하기 하나의 채팅 인터페이스에서 로컬 모델과 원격 API 비교하기
- Sidekick는 어떻게 설치하나요?
- Homebrew로 설치: brew install --cask arcadi4/tap/sidekick-ai 시작 가이드에 따라 앱 설정
- Sidekick은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/johnbean393/Sidekick
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
llama.cpp로 GGUF 모델을 로컬에서 실행하거나 OpenAI, Anthropic, Ollama, DeepSeek 같은 원격 제공자와 채팅할 수 있는 Android 앱입니다.
ChatGPT와 다양한 LLM을 지원하는 가벼운 웹 GUI로, 파일 기반 Q&A, 웹 검색, 로컬 모델 배포, 에이전트 비서를 제공합니다.
Tauri 2.0과 Next.js로 만든 경량 데스크톱 AI 채팅 클라이언트로, 클라우드 API와 Ollama 같은 로컬 모델을 지원하고 데이터를 로컬에 저장합니다.
LLM 채팅, RAG 지식 베이스, 브라우징·셸·MCP 도구를 사용하는 에이전트 루프를 결합한 단일 Go 바이너리 형태의 셀프 호스팅 개인용 AI 비서입니다.
자체 호스팅 환경에서 문서를 바탕으로 출처를 제시하며 질문에 답하는 AI 에이전트와 어시스턴트를 어떤 모델로든 구축할 수 있는 플랫폼입니다.