Repolode
投稿する
a-ghorbani

a-ghorbani/pocketpal-ai

言語モデル、音声合成、ツールをすべてスマートフォン上でオフライン実行できるReact Native製モバイルアプリ。アカウントも不要です。

代替できる製品:ChatGPTGoogle AI Edge Gallery

GitHub で見る
スター
8,732
フォーク
967
未解決の Issue
132
最終コミット
13 時間前

これは何？

PocketPal AIは、GGUF言語モデルをデバイス上で直接実行するiOS、iPadOS、Android向けモバイルアプリです。チャット、プロンプト、ドキュメントはスマートフォン内にとどまり、モデルをダウンロードすれば、インターネット接続やアカウントなしで利用できます。

アプリ内では、独自のモデル、システムプロンプト、ペルソナを設定した「Pals」と呼ばれるカスタムアシスタントを作成でき、PalsHubでコミュニティのPalsを探すこともできます。Palsは、計算機、日時検索、HTMLレンダラーなどの組み込みツールを呼び出せます。Kokoroなどのエンジンによるオンデバイス音声合成でアシスタントに声を与えられます。また、アクセス トークンを使えば、アクセス制限付きのモデルも含め、Hugging Face Hubからモデルを検索してダウンロードできます。

技術スタックはReact Nativeを基盤とし、llama.rnがllama.cppをつないでLLM推論を行い、TTSにはONNX Runtimeを使用します。推論にはCPU、iOSのMetal、Qualcomm Adreno GPUのOpenCL、Qualcomm Hexagon NPUを利用でき、バックエンドが使えない場合はフォールバックします。プロジェクトはMITライセンスで公開されており、tokens per secondとメモリ使用量を測定するベンチマークページも備えています。

主な機能

  • 01GGUF言語モデルをiOSとAndroidで完全オフライン実行
  • 02Kokoroなどのエンジンによるオンデバイス音声合成
  • 03独自のモデル、システムプロンプト、ペルソナを設定できるカスタムPals
  • 04計算、日時検索、HTMLレンダリングに使える組み込みツール
  • 05アクセス制限付きのモデルを含め、Hugging Face Hubからモデルをダウンロード
  • 06CPU、Metal、OpenCL、Qualcomm NPUによるハードウェアアクセラレーション

ユースケース

  • 飛行機内や通信できない場所でAIアシスタントとチャットする
  • クラウドでの処理を避け、機密性の高いメモやドキュメントをプライベートに保つ
  • 特定のスマートフォンで異なるGGUFモデルの性能をテスト・比較する
  • ロールプレイ用や特定タスク向けのカスタムアシスタントを作成して共有する

クイックスタート

  1. 1

    App StoreまたはGoogle Playからアプリをインストールする

  2. 2

    リポジトリをクローンする

    git clone https://github.com/a-ghorbani/pocketpal-ai
  3. 3

    JSの依存関係をインストールする

    yarn install
  4. 4

    Androidエミュレーターで実行する

    yarn android

使う前に知っておきたいこと

  • 開発環境のセットアップには、Xcode、CocoaPods、Android Studio、および指定バージョンのNodeが必要です。
  • チャットを始める前にモデルをスマートフォンにダウンロードする必要があり、大きなモデルほど多くのメモリが必要です。

トピック

#on-device-ai#llm#react-native#llama-cpp#offline#text-to-speech#mobile#gguf

よくある質問

pocketpal-ai とは？
言語モデル、音声合成、ツールをすべてスマートフォン上でオフライン実行できるReact Native製モバイルアプリ。アカウントも不要です。 PocketPal AIは、GGUF言語モデルをデバイス上で直接実行するiOS、iPadOS、Android向けモバイルアプリです。チャット、プロンプト、ドキュメントはスマートフォン内にとどまり、モデルをダウンロードすれば、インターネット接続やアカウントなしで利用できます。
pocketpal-ai は無料で使えますか？ライセンスは？
pocketpal-ai は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
pocketpal-ai は今もメンテナンスされていますか？
活発にメンテナンス中。pocketpal-ai の最終コミットは 2026年10月20日 です。
pocketpal-ai は何に使えますか？
飛行機内や通信できない場所でAIアシスタントとチャットする クラウドでの処理を避け、機密性の高いメモやドキュメントをプライベートに保つ 特定のスマートフォンで異なるGGUFモデルの性能をテスト・比較する ロールプレイ用や特定タスク向けのカスタムアシスタントを作成して共有する
pocketpal-ai のインストール方法は？
App StoreまたはGoogle Playからアプリをインストールする リポジトリをクローンする: git clone https://github.com/a-ghorbani/pocketpal-ai JSの依存関係をインストールする: yarn install Androidエミュレーターで実行する: yarn android
pocketpal-ai はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/a-ghorbani/pocketpal-ai

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト