面向手机、可穿戴设备、智能家居和机器人的端侧 AI 推理引擎与运行时,基于 C++ 实现。
software-mansion/react-native-executorch
基于 Meta ExecuTorch 运行时的 React Native 库,可在手机端直接运行机器学习模型,无需联网。
- Star
- 1,773
- Fork
- 97
- 未关闭 Issue
- 48
- 最近提交
- 5小时前
这是什么?
React Native ExecuTorch 是一个面向 React Native 应用的端侧 AI 推理库,基于 PyTorch 的 ExecuTorch 运行时构建。模型直接在用户手机上运行,推理可离线完成,用户数据不会上传到服务器。
库中提供开箱即用的 Hook,覆盖 LLM 对话、计算机视觉、语音转文字、文字转语音和向量嵌入等任务,并自动处理模型下载、缓存和生命周期管理。项目还附带一批预导出模型,也支持加载自定义的 .pte 模型。开发者可以用 TypeScript 编写底层张量运算并组合自定义推理流程。
硬件加速方面,CPU 使用 XNNPACK,Apple 芯片支持 Core ML 与 MLX,Android GPU 使用 Vulkan。项目要求启用 New Architecture,React Native 0.83+ 或 Expo SDK 55+(需开发构建),iOS 17+ 与 Android 13+。
核心功能
- 01LLM、视觉、语音和向量嵌入模型完全在设备端运行,无需云端推理。
- 02提供开箱即用的 React Hook,并自动缓存模型。
- 03通过 XNNPACK、Core ML、MLX 和 Vulkan 调用硬件加速。
- 04内置预导出模型目录,也支持自定义 .pte 模型。
- 05可用 TypeScript 基于底层张量运算构建自定义推理流程。
适用场景
- 为 React Native 应用添加无需服务器的离线聊天功能。
- 在相机功能中实现端侧目标检测或 OCR。
- 让敏感的语音或文本处理保留在用户手机上完成。
- 开发注重隐私的移动端 AI 产品。
快速上手
- 1
使用 npm 安装库及其对等依赖
npm install react-native-executorch react-native-worklets react-native-blob-util - 2
在应用中使用 useLLMChatSession 等任务 Hook 与预导出模型
使用前须知
- 需要启用新架构,React Native 0.83+ 或 Expo SDK 55+ 并使用开发构建;不支持 Expo Go。
- 需要 iOS 17.0+ 或 Android 13+。
- 许可证显示为 NOASSERTION,使用前请自行核实许可条款。
- 下载预导出模型时会发送匿名遥测事件,除非手动关闭。
收录于专题
标签
常见问题
- react-native-executorch 是什么?
- 基于 Meta ExecuTorch 运行时的 React Native 库,可在手机端直接运行机器学习模型,无需联网。 React Native ExecuTorch 是一个面向 React Native 应用的端侧 AI 推理库,基于 PyTorch 的 ExecuTorch 运行时构建。模型直接在用户手机上运行,推理可离线完成,用户数据不会上传到服务器。
- react-native-executorch 可以免费使用吗?用的什么许可证?
- react-native-executorch 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
- react-native-executorch 还在维护吗?
- 活跃维护中。react-native-executorch 最近一次提交是在 2026年10月22日。
- react-native-executorch 适合用来做什么?
- 为 React Native 应用添加无需服务器的离线聊天功能。 在相机功能中实现端侧目标检测或 OCR。 让敏感的语音或文本处理保留在用户手机上完成。 开发注重隐私的移动端 AI 产品。
- react-native-executorch 怎么安装和运行?
- 使用 npm 安装库及其对等依赖: npm install react-native-executorch react-native-worklets react-native-blob-util 在应用中使用 useLLMChatSession 等任务 Hook 与预导出模型
- 在哪里获取 react-native-executorch?
- 源代码和安装说明在 GitHub 上:https://github.com/software-mansion/react-native-executorch
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
面向 Sophon、Rockchip RKNN 和 x86 的 C++ 边缘 AI 引擎,将视频分析与端侧 VLM 模型部署为可运行的应用。
llama.cpp 的 React Native 绑定,可在 iOS 和 Android 应用中本地运行 GGUF 大模型。
Ultralytics YOLO 是一个 Python 计算机视觉库,支持目标检测、分割、分类、姿态估计和目标跟踪等任务。
基于 PyTorch 的计算机视觉工具库,支持目标检测、实例分割和图像分类的训练与模型导出。
面向计算机视觉的 Python 图像增强库,统一处理图像、掩码、边界框和关键点。