Repolode
a-ghorbani

a-ghorbani/pocketpal-ai

一款在手机上完全离线运行语言模型、语音合成和工具调用的 React Native 应用,无需账号。

可替代:ChatGPTGoogle AI Edge Gallery

Star
8,732
Fork
967
未关闭 Issue
132
最近提交
14小时前

这是什么?

PocketPal AI 是一款运行于 iOS、iPadOS 和 Android 的手机应用,可直接在设备上运行 GGUF 格式的语言模型。对话、提示词和文档都保存在手机本地,模型下载后无需联网或注册账号即可使用。

应用支持创建名为 Pal 的个性化助手,可设置专属模型、系统提示词和人设,并可在 PalsHub 上浏览和安装社区助手。助手可以调用内置工具,如计算器、日期时间查询和 HTML 渲染。借助 Kokoro 等端侧语音引擎,助手还能朗读回复;模型可直接从 Hugging Face Hub 搜索下载,包括需要访问令牌的受限模型。

项目基于 React Native 构建,通过 llama.rn 调用 llama.cpp 进行大模型推理,TTS 则使用 ONNX Runtime。推理可在 CPU、iOS 的 Metal、高通 Adreno 的 OpenCL 或高通 Hexagon NPU 上运行,后端不可用时会自动回退。应用内还提供基准测试页面,可查看每秒生成的 token 数和内存占用。

核心功能

  • 01在 iOS 和 Android 上完全离线运行 GGUF 语言模型
  • 02内置端侧语音合成,支持 Kokoro 等引擎
  • 03可自定义助手,设置专属模型、系统提示词和人设
  • 04内置计算、日期时间和 HTML 渲染等工具
  • 05支持从 Hugging Face Hub 下载模型,包括受限模型
  • 06通过 CPU、Metal、OpenCL 和高通 NPU 进行硬件加速

适用场景

  • 在飞机上或无网络环境中与 AI 助手对话
  • 避免云端处理,保护敏感笔记和文档隐私
  • 在特定手机上测试和比较不同 GGUF 模型的性能
  • 创建并分享角色扮演或特定任务的自定义助手

快速上手

  1. 1

    从 App Store 或 Google Play 安装应用

  2. 2

    克隆仓库

    git clone https://github.com/a-ghorbani/pocketpal-ai
  3. 3

    安装 JS 依赖

    yarn install
  4. 4

    在 Android 模拟器上运行

    yarn android

使用前须知

  • 开发环境需要 Xcode、CocoaPods、Android Studio 以及指定版本的 Node。
  • 聊天前需先将模型下载到手机上,较大的模型需要更多内存。

标签

常见问题

pocketpal-ai 是什么?
一款在手机上完全离线运行语言模型、语音合成和工具调用的 React Native 应用,无需账号。 PocketPal AI 是一款运行于 iOS、iPadOS 和 Android 的手机应用,可直接在设备上运行 GGUF 格式的语言模型。对话、提示词和文档都保存在手机本地,模型下载后无需联网或注册账号即可使用。
pocketpal-ai 可以免费使用吗?用的什么许可证?
pocketpal-ai 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
pocketpal-ai 还在维护吗?
活跃维护中。pocketpal-ai 最近一次提交是在 2026年10月20日。
pocketpal-ai 适合用来做什么?
在飞机上或无网络环境中与 AI 助手对话 避免云端处理,保护敏感笔记和文档隐私 在特定手机上测试和比较不同 GGUF 模型的性能 创建并分享角色扮演或特定任务的自定义助手
pocketpal-ai 怎么安装和运行?
从 App Store 或 Google Play 安装应用 克隆仓库: git clone https://github.com/a-ghorbani/pocketpal-ai 安装 JS 依赖: yarn install 在 Android 模拟器上运行: yarn android
在哪里获取 pocketpal-ai?
源代码和安装说明在 GitHub 上:https://github.com/a-ghorbani/pocketpal-ai

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目