在 Apple Silicon Mac 上用 MLX 本地运行开源模型,并以 Anthropic API 兼容服务让 Claude Code 离线使用。
- Star
- 131
- Fork
- 25
- 未关闭 Issue
- 15
- 最近提交
- 31分钟前
这是什么?
Off Grid AI 是一款桌面端应用,所有模型推理都在本机完成。它支持文本和图像输入的对话、本地图像生成、语音转文字与文字转语音,并提供可渲染 HTML、React、SVG 和 Mermaid 的沙箱画布。推理由内置的 llama.cpp、stable-diffusion.cpp、whisper.cpp 和 Kokoro 完成,对话、文件和模型都不离开设备。
应用在 127.0.0.1:7878 提供兼容 OpenAI 接口的本地网关,覆盖对话、图像、音频和 embeddings,也可以无界面运行,通过 HTTP 拉取、激活和删除模型。项目功能支持基于上传文档的 RAG 并附带引用来源,还可以接入 MCP 连接器作为对话中的工具。
可选的 Pro 许可证增加常驻能力:屏幕截图与 OCR、日志和实体记录、会议转写、语音听写和剪贴板历史,所有操作需用户审批。开源核心采用 AGPL-3.0 协议,Pro 功能位于独立的私有包中。
核心功能
- 01支持文本与图像输入的对话,并带有推理模式。
- 02基于 SDXL、Z-Image-Turbo 等模型在本地完成文生图和图生图。
- 03支持语音转文字、文字转语音及免手动语音模式。
- 04提供兼容 OpenAI 的网关,覆盖对话、图像、音频和 embeddings。
- 05项目内可对 PDF、DOCX、txt、md 文档做 RAG 问答并标注来源。
- 06可接入 MCP 连接器,在对话中调用外部工具。
适用场景
- 在笔记本上离线与文档对话、分析资料,数据不上传云端。
- 在家庭服务器上以无界面模式运行网关,为自己的应用提供兼容 OpenAI 的接口。
- 在 Apple Silicon Mac 上离线生成图片或转写音频。
- 在本地 API 上调试基于大模型的工具,接口与 OpenAI 保持一致。
快速上手
- 1
从发布页面下载应用
- 2
克隆代码仓库
git clone https://github.com/off-grid-ai/OGAD.git - 3
进入项目目录并用 Git LFS 拉取捆绑的原生二进制文件
cd OGAD && git lfs install && git lfs pull - 4
安装依赖并启动完整应用
npm install && npm run dev
使用前须知
- 桌面版仅支持 macOS(Apple Silicon)、Windows(x64)和 Linux(x64,Ubuntu 24.04 或更新版本)。
- 从源码构建需要 Git LFS 来拉取捆绑的原生二进制文件。
- Off Grid AI Pro 是需要付费授权的独立组件,不属于开源核心。
标签
常见问题
- OGAD 是什么?
- 一款本地运行的桌面 AI 工作台,支持 macOS、Windows 和 Linux,内置兼容 OpenAI 的本地网关,无需账号或云端。 Off Grid AI 是一款桌面端应用,所有模型推理都在本机完成。它支持文本和图像输入的对话、本地图像生成、语音转文字与文字转语音,并提供可渲染 HTML、React、SVG 和 Mermaid 的沙箱画布。推理由内置的 llama.cpp、stable-diffusion.cpp、whisper.cpp 和 Kokoro 完成,对话、文件和模型都不离开设备。
- OGAD 可以免费使用吗?用的什么许可证?
- OGAD 以 AGPL-3.0 许可证开源。用于商业产品前,请先确认许可证条款。
- OGAD 还在维护吗?
- 活跃维护中。OGAD 最近一次提交是在 2026年10月22日。
- OGAD 适合用来做什么?
- 在笔记本上离线与文档对话、分析资料,数据不上传云端。 在家庭服务器上以无界面模式运行网关,为自己的应用提供兼容 OpenAI 的接口。 在 Apple Silicon Mac 上离线生成图片或转写音频。 在本地 API 上调试基于大模型的工具,接口与 OpenAI 保持一致。
- OGAD 怎么安装和运行?
- 从发布页面下载应用 克隆代码仓库: git clone https://github.com/off-grid-ai/OGAD.git 进入项目目录并用 Git LFS 拉取捆绑的原生二进制文件: cd OGAD && git lfs install && git lfs pull 安装依赖并启动完整应用: npm install && npm run dev
- 在哪里获取 OGAD?
- 源代码和安装说明在 GitHub 上:https://github.com/off-grid-ai/OGAD
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
自托管的 OpenAI 兼容 AI 引擎,可在任意硬件(含纯 CPU)上运行大模型、视觉、语音、图像和视频模型。
开源 AI 助手,带持久记忆,可运行于 Android、iOS、桌面和网页端。
可在 macOS 和 Windows 本地离线运行的桌面音频与音乐创作工作室,支持语音合成、声音克隆、带歌词的歌曲生成和 MIDI 乐谱编排。
一款免费、离线的桌面应用,基于场景、动作、音频、物体和字幕等信号,在本地视频中找出精彩片段并解释评分原因。
开源的智能体 API 服务器,提供 OpenAI 兼容接口,可对接任意模型与基础设施。