orailnoor/cross-platform-llm-client

これは何？

主な機能

• 01GPUアクセラレーションを利用して、AndroidとiOSでGGUFモデルを実行します。
• 02OpenAI、Anthropic、Google Gemini、KimiのAPIに切り替えられます。
• 03テキストと画像の入力に対応し、ローカルのQwen2-VL画像認識モデルも利用できます。
• 04チャットと設定をHiveでローカルに保存します。
• 05端末のRAMに基づいて、コンテキストサイズとトークン上限を提案します。

ユースケース

• データをサーバーに送信せず、スマートフォン上でローカルモデルとチャットする。
• 端末上のモデルとクラウドAPIを1つのクライアントで切り替えて使う。
• AltStore経由で、プライベートなAIチャットアプリをiPhoneやiPadにサイドロードする。

クイックスタート

1. 1

   Flutterの依存関係をインストールする

   flutter pub get
2. 2

   AndroidのデバッグAPKをビルドする

   flutter build apk --debug
3. 3

   Webアプリをビルドする

   flutter build web --release

使う前に知っておきたいこと

• !端末上でのローカル推論はAndroidとiOSのみ対応しています。Webビルドではクラウドのみ利用できます。
• !iOS向けのビルドにはMacが必要です。また、AltStore経由でインストールする必要があり、サイドロードしたアプリの有効期限は7日間です。
• !Androidのリリースビルドには、独自の署名キー設定が必要です。

収録されている特集

トピック

よくある質問

cross-platform-llm-client とは？

AndroidとiOSでGGUFモデルを端末上で実行でき、OpenAI、Anthropic、Gemini、KimiのクラウドAPIにも切り替えられるFlutter製チャットクライアント。 PrivateLMはFlutterで構築されたクロスプラットフォームのAIチャットクライアントです。独自のFlutterプラグインでラップしたllama.cppを使ってAndroidとiOS上でローカルLLMを実行し、AndroidではVulkan、iOSではMetalによるGPUアクセラレーションを利用します。GGUFモデルを端末にダウンロードすれば、ダウンロード完了後はインターネット接続なしでチャットできます。

cross-platform-llm-client は無料で使えますか？ライセンスは？

cross-platform-llm-client は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

cross-platform-llm-client は今もメンテナンスされていますか？

活発にメンテナンス中。cross-platform-llm-client の最終コミットは 2026年11月4日 です。

cross-platform-llm-client は何に使えますか？

データをサーバーに送信せず、スマートフォン上でローカルモデルとチャットする。 端末上のモデルとクラウドAPIを1つのクライアントで切り替えて使う。 AltStore経由で、プライベートなAIチャットアプリをiPhoneやiPadにサイドロードする。

cross-platform-llm-client のインストール方法は？

Flutterの依存関係をインストールする: flutter pub get AndroidのデバッグAPKをビルドする: flutter build apk --debug Webアプリをビルドする: flutter build web --release

cross-platform-llm-client はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/orailnoor/cross-platform-llm-client