Движок инференса и рантайм на C++ для запуска LLM, речевых и визуальных моделей на смартфонах, носимых устройствах, устройствах умного дома и роботах.
6,1 тыс.519C++OtherОбновлён 27 дней назад
software-mansion/react-native-executorch
Библиотека React Native для запуска моделей машинного обучения прямо на телефоне без сетевых запросов, основанная на runtime ExecuTorch от Meta.
- Звёзды
- 1,773
- Форки
- 97
- Открытые issues
- 48
- Последний коммит
- 3 часа назад
Что это?
React Native ExecuTorch — библиотека для инференса ИИ прямо на устройстве в приложениях React Native, основанная на runtime ExecuTorch от PyTorch. Модели запускаются на телефоне пользователя, поэтому инференс работает офлайн, а данные не отправляются на сервер.
Библиотека предоставляет готовые хуки для таких задач, как чат с LLM, компьютерное зрение, преобразование речи в текст, синтез речи и получение эмбеддингов. Она также автоматически загружает и кэширует модели и управляет их жизненным циклом. В библиотеку входит каталог заранее экспортированных моделей, а также поддерживается загрузка собственных моделей .pte. Низкоуровневые операции с тензорами и пользовательские пайплайны можно писать на TypeScript.
Для аппаратного ускорения используются XNNPACK на CPU, Core ML и MLX на Apple Silicon, а также Vulkan на GPU Android. Требуются New Architecture, React Native 0.83+ или Expo SDK 55+ с development builds, iOS 17+ и Android 13+.
Ключевые возможности
- 01Запускает модели LLM, компьютерного зрения, обработки речи и эмбеддингов полностью на устройстве, без облачного инференса.
- 02Готовые React-хуки для распространённых задач ИИ с автоматическим кэшированием моделей.
- 03Аппаратное ускорение с помощью XNNPACK, Core ML, MLX и Vulkan.
- 04Каталог заранее экспортированных моделей и поддержка собственных моделей .pte.
- 05Пользовательские пайплайны можно создавать на TypeScript, используя низкоуровневые операции с тензорами.
Сценарии использования
- Добавление офлайн-чат-бота в приложение React Native без затрат на сервер.
- Запуск детекции объектов или OCR прямо на устройстве в функции камеры.
- Обработка конфиденциальной речи или текста на телефоне пользователя.
- Создание мобильного ИИ-продукта с акцентом на конфиденциальность.
Быстрый старт
- 1
Установите библиотеку и её peer dependencies с помощью npm
npm install react-native-executorch react-native-worklets react-native-blob-util - 2
Используйте в приложении task hook, например useLLMChatSession, с заранее экспортированной моделью
Что важно знать
- Требуется New Architecture, React Native 0.83 или новее либо Expo SDK 55 или новее с development builds. Expo Go не поддерживается.
- Требуется iOS 17.0 или новее либо Android 13 или новее.
- В качестве лицензии указано NOASSERTION, поэтому перед использованием проверьте условия лицензии.
- При загрузке заранее экспортированных моделей отправляется анонимное событие телеметрии, если эту функцию не отключить.
Темы
Частые вопросы
- Что такое react-native-executorch?
- Библиотека React Native для запуска моделей машинного обучения прямо на телефоне без сетевых запросов, основанная на runtime ExecuTorch от Meta. React Native ExecuTorch — библиотека для инференса ИИ прямо на устройстве в приложениях React Native, основанная на runtime ExecuTorch от PyTorch. Модели запускаются на телефоне пользователя, поэтому инференс работает офлайн, а данные не отправляются на сервер.
- react-native-executorch можно использовать бесплатно? Какая у него лицензия?
- react-native-executorch распространяется с открытым исходным кодом под лицензией Other. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- react-native-executorch всё ещё поддерживается?
- Активно поддерживается. Последний коммит в react-native-executorch — 22 окт. 2026 г..
- Для чего можно использовать react-native-executorch?
- Добавление офлайн-чат-бота в приложение React Native без затрат на сервер. Запуск детекции объектов или OCR прямо на устройстве в функции камеры. Обработка конфиденциальной речи или текста на телефоне пользователя. Создание мобильного ИИ-продукта с акцентом на конфиденциальность.
- Как установить react-native-executorch?
- Установите библиотеку и её peer dependencies с помощью npm: npm install react-native-executorch react-native-worklets react-native-blob-util Используйте в приложении task hook, например useLLMChatSession, с заранее экспортированной моделью
- Где скачать react-native-executorch?
- Исходный код и инструкции по установке — на GitHub: https://github.com/software-mansion/react-native-executorch
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Периферийный ИИ-движок на C++, который превращает видеоаналитику и локальные VLM-модели в приложения для Sophon, Rockchip RKNN и x86.
1,9 тыс.311CApache-2.0Обновлён позавчера
React Native-обёртка для llama.cpp, позволяющая запускать GGUF-модели на устройствах iOS и Android.
1,1 тыс.131CMITОбновлён 10 часов назад
Ultralytics YOLO — библиотека Python для компьютерного зрения: обнаружение объектов, сегментация, классификация, оценка позы, трекинг и другие задачи.
62,7 тыс.11,9 тыс.PythonAGPL-3.0Обновлён 14 минут назад
Ultralytics YOLOv5 — библиотека компьютерного зрения на базе PyTorch для детекции объектов, сегментации экземпляров и классификации изображений, с обучением и экспортом моделей.
58,2 тыс.17,5 тыс.PythonAGPL-3.0Обновлён вчера
Библиотека Python для аугментации изображений в компьютерном зрении: пиксельные, пространственные, медицинские и 3D-преобразования с согласованной обработкой масок, рамок и ключевых точек.
ИИ и машинное обучение#computer-vision#data-augmentation#image-processing#deep-learning#object-detection
57443PythonAGPL-3.0Обновлён 3 дня назад