Repolode
Предложить
a-ghorbani

a-ghorbani/pocketpal-ai

Мобильное приложение на React Native, которое запускает языковые модели, преобразование текста в речь и инструменты прямо на телефоне — офлайн и без учётной записи.

Open source альтернатива:ChatGPTGoogle AI Edge Gallery

Открыть на GitHub
Звёзды
8,732
Форки
967
Открытые issues
132
Последний коммит
16 часов назад

Что это?

PocketPal AI — мобильное приложение для iOS, iPadOS и Android, которое запускает языковые модели в формате GGUF прямо на устройстве. Переписки, промпты и документы остаются на телефоне; после загрузки модели приложение работает без интернета и учётной записи.

В приложении можно создавать персонализированных ассистентов — Pals — с собственной моделью, системным промптом и характером, а также просматривать Pals сообщества на PalsHub. Pals могут вызывать встроенные инструменты: калькулятор, поиск даты и времени и HTML-рендерер. Преобразование текста в речь прямо на устройстве с помощью движков вроде Kokoro позволяет озвучивать ответы ассистентов. Модели можно искать и скачивать с Hugging Face Hub, в том числе модели с ограниченным доступом, используя токен доступа.

Приложение создано на React Native: llama.rn связывает его с llama.cpp для инференса LLM, а для синтеза речи используется ONNX Runtime. Инференс может выполняться на CPU, через Metal на iOS, OpenCL на GPU Qualcomm Adreno или NPU Qualcomm Hexagon; если бэкенд недоступен, используется запасной вариант. Проект распространяется по лицензии MIT и включает страницу для сравнения производительности, где можно измерить число токенов в секунду и использование памяти.

Ключевые возможности

  • 01Запускает языковые модели в формате GGUF на iOS и Android полностью офлайн
  • 02Преобразует текст в речь прямо на устройстве с помощью движков вроде Kokoro
  • 03Позволяет создавать Pals с собственной моделью, системным промптом и характером
  • 04Включает инструменты для вычислений, поиска даты и времени и HTML-рендеринга
  • 05Скачивает модели с Hugging Face Hub, в том числе с ограниченным доступом
  • 06Поддерживает аппаратное ускорение через CPU, Metal, OpenCL и NPU Qualcomm

Сценарии использования

  • Общение с AI-ассистентом в самолёте или в месте без доступа к сети
  • Защита личных заметок и документов от обработки в облаке
  • Тестирование и сравнение производительности разных моделей GGUF на конкретном телефоне
  • Создание и публикация собственных ассистентов для ролевых игр или конкретных задач

Быстрый старт

  1. 1

    Установите приложение из App Store или Google Play

  2. 2

    Клонируйте репозиторий

    git clone https://github.com/a-ghorbani/pocketpal-ai
  3. 3

    Установите зависимости JS

    yarn install
  4. 4

    Запустите в эмуляторе Android

    yarn android

Что важно знать

  • Для настройки среды разработки нужны Xcode, CocoaPods, Android Studio и закреплённая версия Node.
  • Перед началом чата модели нужно скачать на телефон; для более крупных моделей требуется больше памяти.

Темы

#on-device-ai#llm#react-native#llama-cpp#offline#text-to-speech#mobile#gguf

Частые вопросы

Что такое pocketpal-ai?
Мобильное приложение на React Native, которое запускает языковые модели, преобразование текста в речь и инструменты прямо на телефоне — офлайн и без учётной записи. PocketPal AI — мобильное приложение для iOS, iPadOS и Android, которое запускает языковые модели в формате GGUF прямо на устройстве. Переписки, промпты и документы остаются на телефоне; после загрузки модели приложение работает без интернета и учётной записи.
pocketpal-ai можно использовать бесплатно? Какая у него лицензия?
pocketpal-ai распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
pocketpal-ai всё ещё поддерживается?
Активно поддерживается. Последний коммит в pocketpal-ai — 20 окт. 2026 г..
Для чего можно использовать pocketpal-ai?
Общение с AI-ассистентом в самолёте или в месте без доступа к сети Защита личных заметок и документов от обработки в облаке Тестирование и сравнение производительности разных моделей GGUF на конкретном телефоне Создание и публикация собственных ассистентов для ролевых игр или конкретных задач
Как установить pocketpal-ai?
Установите приложение из App Store или Google Play Клонируйте репозиторий: git clone https://github.com/a-ghorbani/pocketpal-ai Установите зависимости JS: yarn install Запустите в эмуляторе Android: yarn android
Где скачать pocketpal-ai?
Исходный код и инструкции по установке — на GitHub: https://github.com/a-ghorbani/pocketpal-ai

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

mozilla-ai / llamafile

Распространяет и запускает открытые LLM в виде одного исполняемого файла, который работает в большинстве операционных систем и на большинстве архитектур CPU без установки.

ИИ и машинное обучение#llm#local-inference#gguf
26,4 тыс.1,8 тыс.C++OtherОбновлён 9 дней назад