Repolode
zhongerxin

zhongerxin/iPhone-use

WebDriverAgent経由でUSB接続した実機iPhoneをAIアシスタントから操作できる、Codex・WorkBuddy・Doubao用プラグイン

スター
4,342
フォーク
425
未解決の Issue
25
最終コミット
4 日前

これは何?

iPhone Useは、USB接続した実機iPhoneとAIアシスタントを連携します。自然言語でタスクを指示すると、アシスタントはアプリを開き、画面を読み取り、タップ、スワイプ、文字入力、リスト項目の収集を行えます。サイドバーウィジェットには、スマートフォンの画面がリアルタイムで表示されます。自動化サービスとしてiPhone上で動作するWebDriverAgent(WDA)を基盤とし、ローカルMCPサーバー、セットアップと使い方のスキル、画面ウィジェットを備えています。

セットアップにはmacOS、フル版のXcode、Python 3.9以降、Node.js、iPhoneが必要です。ユーザーは自身のApple DeveloperチームでWDA Runnerに署名し、起動します。インストールスクリプトでCodexにプラグインを登録でき、WorkBuddyとDoubao向けには別のインストーラーが用意されています。要素の検索に失敗した場合、アシスタントはスクリーンショットと座標指定によるタップに切り替えられます。分析機能はデフォルトで有効で、環境変数を使って無効にできます。

このプロジェクトは、モデル向けの18種類のツールと画面操作専用の補助機能を提供します。環境診断、アクションの一括実行、スクロールしながらの検索、リスト項目の収集、Unicodeに対応したテキスト入力を利用できます。共通の操作ロックにより、複数のホストが同時に同じiPhoneを操作するのを防ぎます。

主な機能

  • 01WebDriverAgent経由でUSB接続した実機iPhoneを操作します。
  • 02モデル向けに簡潔なアクセシビリティツリーとスクリーンショットを読み取ります。
  • 03タップ、スワイプ、ドラッグ、Unicodeテキスト入力、一括アクションに対応しています。
  • 04重複部分を処理して重複を除きながら、スクロールしてリスト項目を収集します。
  • 05一時停止や操作引き継ぎの状態を表示できる、スマートフォン画面のライブウィジェットを備えています。
  • 06ガイド付きセットアップでCodex、WorkBuddy、Doubaoにインストールできます。

ユースケース

  • AIアシスタントに、個人のiPhoneでアプリを開いて複数段階のタスクを実行させる。
  • スクロールしながら、iPhoneアプリ内のリスト項目を収集・整理する。
  • デスクトップのアシスタントからiOSアプリの操作フローをテストしたり、動作を確認したりする。
  • ユーザーが内容を確認して送信できるよう、スマートフォンアプリに入力文の下書きを作成する。

クイックスタート

  1. 1

    リポジトリをクローンする

    git clone https://github.com/zhongerxin/iPhone-use.git
  2. 2

    プロジェクトディレクトリに移動する

    cd iPhone-use
  3. 3

    インストールスクリプトを実行する

    sh scripts/install.sh

使う前に知っておきたいこと

  • macOS、完全版のXcode、USB接続されたiPhoneが必要です。
  • まず、自分のApple DeveloperアカウントでWebDriverAgentに署名し、自分のiPhoneで実行する必要があります。
  • 単独で使うツールというより、主にCodex、WorkBuddy、Doubao向けのプラグインとして設計されています。
  • READMEによると、リポジトリは現在非公開のため、GitHubへのアクセス権またはソースパッケージが必要です。

トピック

よくある質問

iPhone-use とは?
WebDriverAgent経由でUSB接続した実機iPhoneをAIアシスタントから操作できる、Codex・WorkBuddy・Doubao用プラグイン iPhone Useは、USB接続した実機iPhoneとAIアシスタントを連携します。自然言語でタスクを指示すると、アシスタントはアプリを開き、画面を読み取り、タップ、スワイプ、文字入力、リスト項目の収集を行えます。サイドバーウィジェットには、スマートフォンの画面がリアルタイムで表示されます。自動化サービスとしてiPhone上で動作するWebDriverAgent(WDA)を基盤とし、ローカルMCPサーバー、セットアップと使い方のスキル、画面ウィジェットを備えています。
iPhone-use は無料で使えますか?ライセンスは?
iPhone-use は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
iPhone-use は今もメンテナンスされていますか?
活発にメンテナンス中。iPhone-use の最終コミットは 2026年10月16日 です。
iPhone-use は何に使えますか?
AIアシスタントに、個人のiPhoneでアプリを開いて複数段階のタスクを実行させる。 スクロールしながら、iPhoneアプリ内のリスト項目を収集・整理する。 デスクトップのアシスタントからiOSアプリの操作フローをテストしたり、動作を確認したりする。 ユーザーが内容を確認して送信できるよう、スマートフォンアプリに入力文の下書きを作成する。
iPhone-use のインストール方法は?
リポジトリをクローンする: git clone https://github.com/zhongerxin/iPhone-use.git プロジェクトディレクトリに移動する: cd iPhone-use インストールスクリプトを実行する: sh scripts/install.sh
iPhone-use はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/zhongerxin/iPhone-use

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト