Repolode
Enviar
a-ghorbani

a-ghorbani/pocketpal-ai

Um app mobile em React Native que executa modelos de linguagem, converte texto em fala e usa ferramentas diretamente no celular, offline e sem precisar de uma conta.

Alternativa open source a:ChatGPTGoogle AI Edge Gallery

Ver no GitHub
Estrelas
8,732
Forks
967
Issues abertas
132
Último commit
há 12 horas

O que é?

O PocketPal AI é um app mobile para iOS, iPadOS e Android que executa modelos de linguagem GGUF diretamente no dispositivo. Conversas, prompts e documentos ficam no celular, e o app funciona sem conexão com a internet ou conta depois que um modelo é baixado.

No app, os usuários podem criar assistentes personalizados chamados Pals, com modelo, prompt de sistema e personalidade próprios, e explorar os Pals da comunidade no PalsHub. Os Pals podem chamar ferramentas integradas, como calculadora, consulta de data e hora e renderizador de HTML. O recurso de conversão de texto em fala no dispositivo, com engines como Kokoro, dá voz aos assistentes. Também é possível pesquisar e baixar modelos do Hugging Face Hub, inclusive modelos com acesso restrito, usando um token de acesso.

A stack é baseada em React Native, com o llama.rn fazendo a ponte com o llama.cpp para inferência de LLM e o ONNX Runtime para TTS. A inferência pode usar CPU, Metal no iOS, OpenCL em GPUs Qualcomm Adreno ou NPUs Qualcomm Hexagon, com fallback quando um backend não estiver disponível. O projeto usa a licença MIT e inclui uma página de benchmarking para medir tokens por segundo e uso de memória.

Recursos principais

  • 01Executa modelos de linguagem GGUF totalmente offline no iOS e no Android
  • 02Conversão de texto em fala no dispositivo, com engines como Kokoro
  • 03Pals personalizados com modelo, prompt de sistema e personalidade próprios
  • 04Ferramentas integradas para cálculos, consulta de data e hora e renderização de HTML
  • 05Baixa modelos do Hugging Face Hub, inclusive os com acesso restrito
  • 06Aceleração por hardware com CPU, Metal, OpenCL e NPU da Qualcomm

Casos de uso

  • Conversar com um assistente de IA em um avião ou em um lugar sem conexão
  • Manter notas ou documentos confidenciais em sigilo, evitando o processamento na nuvem
  • Testar e comparar o desempenho de diferentes modelos GGUF em um celular específico
  • Criar e compartilhar assistentes personalizados para roleplay ou tarefas específicas

Início rápido

  1. 1

    Instale o app pela App Store ou pelo Google Play

  2. 2

    Clone o repositório

    git clone https://github.com/a-ghorbani/pocketpal-ai
  3. 3

    Instale as dependências de JS

    yarn install
  4. 4

    Execute no emulador do Android

    yarn android

Antes de usar

  • A configuração do ambiente de desenvolvimento requer Xcode, CocoaPods, Android Studio e uma versão específica do Node.
  • Os modelos precisam ser baixados no celular antes de conversar, e os modelos maiores precisam de mais memória.

Tópicos

#on-device-ai#llm#react-native#llama-cpp#offline#text-to-speech#mobile#gguf

Perguntas frequentes

O que é pocketpal-ai?
Um app mobile em React Native que executa modelos de linguagem, converte texto em fala e usa ferramentas diretamente no celular, offline e sem precisar de uma conta. O PocketPal AI é um app mobile para iOS, iPadOS e Android que executa modelos de linguagem GGUF diretamente no dispositivo. Conversas, prompts e documentos ficam no celular, e o app funciona sem conexão com a internet ou conta depois que um modelo é baixado.
pocketpal-ai é gratuito? Qual é a licença?
pocketpal-ai é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
pocketpal-ai ainda é mantido?
Manutenção ativa. O último commit de pocketpal-ai foi em 20 de out. de 2026.
Para que posso usar pocketpal-ai?
Conversar com um assistente de IA em um avião ou em um lugar sem conexão Manter notas ou documentos confidenciais em sigilo, evitando o processamento na nuvem Testar e comparar o desempenho de diferentes modelos GGUF em um celular específico Criar e compartilhar assistentes personalizados para roleplay ou tarefas específicas
Como instalar pocketpal-ai?
Instale o app pela App Store ou pelo Google Play Clone o repositório: git clone https://github.com/a-ghorbani/pocketpal-ai Instale as dependências de JS: yarn install Execute no emulador do Android: yarn android
Onde consigo pocketpal-ai?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/a-ghorbani/pocketpal-ai

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados