Repolode
software-mansion

software-mansion/react-native-executorch

基于 Meta ExecuTorch 运行时的 React Native 库,可在手机端直接运行机器学习模型,无需联网。

Star
1,773
Fork
97
未关闭 Issue
48
最近提交
4小时前

这是什么?

React Native ExecuTorch 是一个面向 React Native 应用的端侧 AI 推理库,基于 PyTorch 的 ExecuTorch 运行时构建。模型直接在用户手机上运行,推理可离线完成,用户数据不会上传到服务器。

库中提供开箱即用的 Hook,覆盖 LLM 对话、计算机视觉、语音转文字、文字转语音和向量嵌入等任务,并自动处理模型下载、缓存和生命周期管理。项目还附带一批预导出模型,也支持加载自定义的 .pte 模型。开发者可以用 TypeScript 编写底层张量运算并组合自定义推理流程。

硬件加速方面,CPU 使用 XNNPACK,Apple 芯片支持 Core ML 与 MLX,Android GPU 使用 Vulkan。项目要求启用 New Architecture,React Native 0.83+ 或 Expo SDK 55+(需开发构建),iOS 17+ 与 Android 13+。

核心功能

  • 01LLM、视觉、语音和向量嵌入模型完全在设备端运行,无需云端推理。
  • 02提供开箱即用的 React Hook,并自动缓存模型。
  • 03通过 XNNPACK、Core ML、MLX 和 Vulkan 调用硬件加速。
  • 04内置预导出模型目录,也支持自定义 .pte 模型。
  • 05可用 TypeScript 基于底层张量运算构建自定义推理流程。

适用场景

  • 为 React Native 应用添加无需服务器的离线聊天功能。
  • 在相机功能中实现端侧目标检测或 OCR。
  • 让敏感的语音或文本处理保留在用户手机上完成。
  • 开发注重隐私的移动端 AI 产品。

快速上手

  1. 1

    使用 npm 安装库及其对等依赖

    npm install react-native-executorch react-native-worklets react-native-blob-util
  2. 2

    在应用中使用 useLLMChatSession 等任务 Hook 与预导出模型

使用前须知

  • 需要启用新架构,React Native 0.83+ 或 Expo SDK 55+ 并使用开发构建;不支持 Expo Go。
  • 需要 iOS 17.0+ 或 Android 13+。
  • 许可证显示为 NOASSERTION,使用前请自行核实许可条款。
  • 下载预导出模型时会发送匿名遥测事件,除非手动关闭。

收录于专题

标签

常见问题

react-native-executorch 是什么?
基于 Meta ExecuTorch 运行时的 React Native 库,可在手机端直接运行机器学习模型,无需联网。 React Native ExecuTorch 是一个面向 React Native 应用的端侧 AI 推理库,基于 PyTorch 的 ExecuTorch 运行时构建。模型直接在用户手机上运行,推理可离线完成,用户数据不会上传到服务器。
react-native-executorch 可以免费使用吗?用的什么许可证?
react-native-executorch 以 Other 许可证开源。用于商业产品前,请先确认许可证条款。
react-native-executorch 还在维护吗?
活跃维护中。react-native-executorch 最近一次提交是在 2026年10月22日。
react-native-executorch 适合用来做什么?
为 React Native 应用添加无需服务器的离线聊天功能。 在相机功能中实现端侧目标检测或 OCR。 让敏感的语音或文本处理保留在用户手机上完成。 开发注重隐私的移动端 AI 产品。
react-native-executorch 怎么安装和运行?
使用 npm 安装库及其对等依赖: npm install react-native-executorch react-native-worklets react-native-blob-util 在应用中使用 useLLMChatSession 等任务 Hook 与预导出模型
在哪里获取 react-native-executorch?
源代码和安装说明在 GitHub 上:https://github.com/software-mansion/react-native-executorch

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目