Google AI Edge 推出的 Android 与 iOS 应用,可在手机上离线体验开源大模型和端侧生成式 AI 功能。
a-ghorbani/pocketpal-ai
一款在手机上完全离线运行语言模型、语音合成和工具调用的 React Native 应用,无需账号。
- Star
- 8,732
- Fork
- 967
- 未关闭 Issue
- 132
- 最近提交
- 14小时前
这是什么?
PocketPal AI 是一款运行于 iOS、iPadOS 和 Android 的手机应用,可直接在设备上运行 GGUF 格式的语言模型。对话、提示词和文档都保存在手机本地,模型下载后无需联网或注册账号即可使用。
应用支持创建名为 Pal 的个性化助手,可设置专属模型、系统提示词和人设,并可在 PalsHub 上浏览和安装社区助手。助手可以调用内置工具,如计算器、日期时间查询和 HTML 渲染。借助 Kokoro 等端侧语音引擎,助手还能朗读回复;模型可直接从 Hugging Face Hub 搜索下载,包括需要访问令牌的受限模型。
项目基于 React Native 构建,通过 llama.rn 调用 llama.cpp 进行大模型推理,TTS 则使用 ONNX Runtime。推理可在 CPU、iOS 的 Metal、高通 Adreno 的 OpenCL 或高通 Hexagon NPU 上运行,后端不可用时会自动回退。应用内还提供基准测试页面,可查看每秒生成的 token 数和内存占用。
核心功能
- 01在 iOS 和 Android 上完全离线运行 GGUF 语言模型
- 02内置端侧语音合成,支持 Kokoro 等引擎
- 03可自定义助手,设置专属模型、系统提示词和人设
- 04内置计算、日期时间和 HTML 渲染等工具
- 05支持从 Hugging Face Hub 下载模型,包括受限模型
- 06通过 CPU、Metal、OpenCL 和高通 NPU 进行硬件加速
适用场景
- 在飞机上或无网络环境中与 AI 助手对话
- 避免云端处理,保护敏感笔记和文档隐私
- 在特定手机上测试和比较不同 GGUF 模型的性能
- 创建并分享角色扮演或特定任务的自定义助手
快速上手
- 1
从 App Store 或 Google Play 安装应用
- 2
克隆仓库
git clone https://github.com/a-ghorbani/pocketpal-ai - 3
安装 JS 依赖
yarn install - 4
在 Android 模拟器上运行
yarn android
使用前须知
- 开发环境需要 Xcode、CocoaPods、Android Studio 以及指定版本的 Node。
- 聊天前需先将模型下载到手机上,较大的模型需要更多内存。
标签
常见问题
- pocketpal-ai 是什么?
- 一款在手机上完全离线运行语言模型、语音合成和工具调用的 React Native 应用,无需账号。 PocketPal AI 是一款运行于 iOS、iPadOS 和 Android 的手机应用,可直接在设备上运行 GGUF 格式的语言模型。对话、提示词和文档都保存在手机本地,模型下载后无需联网或注册账号即可使用。
- pocketpal-ai 可以免费使用吗?用的什么许可证?
- pocketpal-ai 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- pocketpal-ai 还在维护吗?
- 活跃维护中。pocketpal-ai 最近一次提交是在 2026年10月20日。
- pocketpal-ai 适合用来做什么?
- 在飞机上或无网络环境中与 AI 助手对话 避免云端处理,保护敏感笔记和文档隐私 在特定手机上测试和比较不同 GGUF 模型的性能 创建并分享角色扮演或特定任务的自定义助手
- pocketpal-ai 怎么安装和运行?
- 从 App Store 或 Google Play 安装应用 克隆仓库: git clone https://github.com/a-ghorbani/pocketpal-ai 安装 JS 依赖: yarn install 在 Android 模拟器上运行: yarn android
- 在哪里获取 pocketpal-ai?
- 源代码和安装说明在 GitHub 上:https://github.com/a-ghorbani/pocketpal-ai
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一款开源桌面应用,用于在本地运行大语言模型,提供聊天界面和兼容 OpenAI/Anthropic 的 API。
把开源大模型打包成单个可执行文件,无需安装即可在多数操作系统和 CPU 架构上运行。
一款 macOS 菜单栏应用,用于在本机运行大语言模型,基于 llama.cpp 构建,提供本地 API 服务和内置 WebUI。
在 12 GB 显存的 RTX 4070 上部署 Mirai S 27B 模型,支持完整 262k 上下文窗口。
基于 onnxruntime 的离线语音工具包,支持语音识别、语音合成、VAD、说话人分离等,覆盖多平台与多种编程语言。