Um mecanismo de inferência e runtime em C++ para executar modelos de LLM, fala e visão em celulares, wearables, dispositivos de casa inteligente e robôs.
6,1 mil519C++OtherAtualizado há 27 dias
software-mansion/react-native-executorch
Biblioteca para executar modelos de machine learning diretamente em celulares, sem chamadas de rede, usando o runtime ExecuTorch da Meta.
- Estrelas
- 1,773
- Forks
- 97
- Issues abertas
- 48
- Último commit
- há 3 horas
O que é?
O React Native ExecuTorch é uma biblioteca de inferência de IA no dispositivo para apps React Native, baseada no runtime ExecuTorch do PyTorch. Os modelos são executados no celular do usuário, permitindo fazer inferências offline sem enviar dados a um servidor.
A biblioteca oferece hooks prontos para tarefas como chat com LLM, visão computacional, conversão de fala em texto, conversão de texto em fala e embeddings, além de gerenciar automaticamente o download, o cache e o ciclo de vida dos modelos. Também inclui um catálogo de modelos pré-exportados e permite carregar modelos .pte personalizados. É possível escrever operações de tensor de baixo nível e pipelines personalizados em TypeScript.
A aceleração de hardware usa XNNPACK na CPU, Core ML e MLX em Apple Silicon e Vulkan nas GPUs Android. É necessário usar a New Architecture, React Native 0.83+ ou Expo SDK 55+ com development builds, iOS 17+ e Android 13+.
Recursos principais
- 01Executa modelos de LLM, visão, fala e embeddings inteiramente no dispositivo, sem inferência na nuvem.
- 02Hooks React prontos para tarefas comuns de IA, com cache automático de modelos.
- 03Aceleração de hardware via XNNPACK, Core ML, MLX e Vulkan.
- 04Catálogo de modelos pré-exportados, além de suporte a modelos .pte personalizados.
- 05Permite criar pipelines personalizados em TypeScript usando operações de tensor de baixo nível.
Casos de uso
- Adicionar um chatbot offline a um app React Native sem custos de servidor.
- Executar detecção de objetos ou OCR no dispositivo em um recurso de câmera.
- Manter o processamento de fala ou texto sensível no celular do usuário.
- Criar um produto de IA móvel com foco em privacidade.
Início rápido
- 1
Instale a biblioteca e suas peer dependencies com npm
npm install react-native-executorch react-native-worklets react-native-blob-util - 2
Use um hook de tarefas como useLLMChatSession com um modelo pré-exportado no seu app
Antes de usar
- Requer New Architecture, React Native 0.83 ou posterior, ou Expo SDK 55 ou posterior com development builds. O Expo Go não é compatível.
- Requer iOS 17.0 ou posterior ou Android 13 ou posterior.
- A licença está listada como NOASSERTION, então confira os termos antes de usar.
- O download de modelos pré-exportados envia um evento de telemetria anônimo, a menos que isso seja desativado.
Em coleções
Tópicos
Perguntas frequentes
- O que é react-native-executorch?
- Biblioteca para executar modelos de machine learning diretamente em celulares, sem chamadas de rede, usando o runtime ExecuTorch da Meta. O React Native ExecuTorch é uma biblioteca de inferência de IA no dispositivo para apps React Native, baseada no runtime ExecuTorch do PyTorch. Os modelos são executados no celular do usuário, permitindo fazer inferências offline sem enviar dados a um servidor.
- react-native-executorch é gratuito? Qual é a licença?
- react-native-executorch é open source sob a licença Other. Confira os termos da licença antes de usá-lo em produtos comerciais.
- react-native-executorch ainda é mantido?
- Manutenção ativa. O último commit de react-native-executorch foi em 22 de out. de 2026.
- Para que posso usar react-native-executorch?
- Adicionar um chatbot offline a um app React Native sem custos de servidor. Executar detecção de objetos ou OCR no dispositivo em um recurso de câmera. Manter o processamento de fala ou texto sensível no celular do usuário. Criar um produto de IA móvel com foco em privacidade.
- Como instalar react-native-executorch?
- Instale a biblioteca e suas peer dependencies com npm: npm install react-native-executorch react-native-worklets react-native-blob-util Use um hook de tarefas como useLLMChatSession com um modelo pré-exportado no seu app
- Onde consigo react-native-executorch?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/software-mansion/react-native-executorch
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Engine de IA de borda em C++ que transforma análises de vídeo e modelos VLM executados no dispositivo em aplicações implantáveis em hardware Sophon, Rockchip RKNN e x86.
1,9 mil311CApache-2.0Atualizado anteontem
Binding de React Native para llama.cpp, que permite executar LLMs GGUF no dispositivo em apps para iOS e Android.
1,1 mil131CMITAtualizado há 15 horas
Ultralytics YOLO é uma biblioteca Python para visão computacional que abrange detecção, segmentação, classificação, estimativa de pose, rastreamento e muito mais.
62,7 mil11,9 milPythonAGPL-3.0Atualizado há 3 horas
Ultralytics YOLOv5, toolkit de visão computacional baseado em PyTorch para detecção de objetos, segmentação de instâncias e classificação de imagens, com recursos de treinamento e exportação.
58,2 mil17,5 milPythonAGPL-3.0Atualizado ontem
Biblioteca Python de aumento de dados para visão computacional, com transforms de pixel, espaciais, médicos e 3D, além de tratamento consistente de máscaras, caixas delimitadoras e keypoints.
IA e Machine Learning#computer-vision#data-augmentation#image-processing#deep-learning#object-detection
57443PythonAGPL-3.0Atualizado há 4 dias