在消费级硬件上搭建本地小型大模型,并提供类 ChatGPT 网页聊天界面的部署指南与项目。
- Star
- 3,323
- Fork
- 146
- 未关闭 Issue
- 35
- 最近提交
- 上个月
这是什么?
Sidekick 是一款原生 macOS 聊天应用,内置 llama.cpp 推理引擎,可在本机运行本地大模型,对话内容无需离开你的电脑。你可以把文件、文件夹和网站整理到不同的 Expert 中,启用后 Sidekick 会通过 RAG(检索增强生成)检索相关内容来回答问题,并给出引用来源。
除本地模型外,Sidekick 还支持兼容 OpenAI 接口的 API,你可以填入自己的密钥接入远程模型,内置 OpenAI、Anthropic、Google AI Studio、DeepSeek 等服务商预设。应用还提供函数调用能力,例如在默认邮件客户端中生成邮件草稿;同时支持网页搜索、可阅读大量网页并撰写报告的 Deep Research 智能体,以及跨会话保存偏好的记忆功能。
此外,应用包含用于编辑文本和代码的 Canvas、LaTeX 公式与图表渲染,以及需要 macOS 15.2 及以上版本和 Apple Intelligence 的图像生成功能。运行环境要求为搭载 Apple Silicon 的 Mac,且内存不少于 8 GB。
核心功能
- 01通过内置 llama.cpp 后端运行本地 GGUF 模型
- 02将文件、文件夹和网站归入 Expert,基于 RAG 检索并附上引用来源
- 03可填入自己的密钥接入兼容 OpenAI 接口的远程模型,内置多家服务商预设
- 04支持函数调用,可执行起草邮件、数值计算等操作
- 05Deep Research 智能体可自动阅读多个网页并生成研究报告
- 06Canvas 支持创建文本和代码,并对选中内容进行局部编辑
适用场景
- 离线检索并引用自己的论文或文档内容
- 在不上传文件到云端的前提下,就项目文件夹提问
- 在 Apple Silicon Mac 上起草邮件或整理网络资料
- 在同一个聊天界面中对比本地模型与远程 API
快速上手
- 1
通过 Homebrew 安装
brew install --cask arcadi4/tap/sidekick-ai - 2
按照入门指南完成应用设置
使用前须知
- 需要搭载 Apple Silicon 芯片且内存至少 8 GB 的 Mac。
- 图像生成需要 macOS 15.2 或更高版本以及 Apple Intelligence。
- 使用远程模型需要您自己的服务商 API 密钥。
收录于专题
标签
常见问题
- Sidekick 是什么?
- 一款原生 macOS 应用,可与本地大模型对话,并基于你电脑上的文件、文件夹和网站内容作答。 Sidekick 是一款原生 macOS 聊天应用,内置 llama.cpp 推理引擎,可在本机运行本地大模型,对话内容无需离开你的电脑。你可以把文件、文件夹和网站整理到不同的 Expert 中,启用后 Sidekick 会通过 RAG(检索增强生成)检索相关内容来回答问题,并给出引用来源。
- Sidekick 可以免费使用吗?用的什么许可证?
- Sidekick 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- Sidekick 还在维护吗?
- 半年内有更新。Sidekick 最近一次提交是在 2026年9月30日。
- Sidekick 适合用来做什么?
- 离线检索并引用自己的论文或文档内容 在不上传文件到云端的前提下,就项目文件夹提问 在 Apple Silicon Mac 上起草邮件或整理网络资料 在同一个聊天界面中对比本地模型与远程 API
- Sidekick 怎么安装和运行?
- 通过 Homebrew 安装: brew install --cask arcadi4/tap/sidekick-ai 按照入门指南完成应用设置
- 在哪里获取 Sidekick?
- 源代码和安装说明在 GitHub 上:https://github.com/johnbean393/Sidekick
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一款 Android 应用,可本地运行 GGUF 模型对话,也可连接 OpenAI、Anthropic、Ollama 等远程模型服务。
为 ChatGPT 等多种大模型提供轻快好用的 Web 图形界面,并集成文件问答、联网搜索等功能。
基于 Tauri 2.0 与 Next.js 的轻量桌面 AI 聊天客户端,支持云端与本地模型,数据存于本地。
可自托管的个人 AI 助手,以单个 Go 二进制文件提供 LLM 对话、RAG 知识库和代理循环能力。
可自托管的 AI 智能体平台,基于你自己的文档回答问题,并附带引用来源。