MCP経由でAIエージェントがUSBまたはWi-Fi接続の実機iPhoneを操作できるツールです。
zhongerxin/iPhone-use
WebDriverAgent経由でUSB接続した実機iPhoneをAIアシスタントから操作できる、Codex・WorkBuddy・Doubao用プラグイン
- スター
- 4,342
- フォーク
- 425
- 未解決の Issue
- 25
- 最終コミット
- 4 日前
これは何?
iPhone Useは、USB接続した実機iPhoneとAIアシスタントを連携します。自然言語でタスクを指示すると、アシスタントはアプリを開き、画面を読み取り、タップ、スワイプ、文字入力、リスト項目の収集を行えます。サイドバーウィジェットには、スマートフォンの画面がリアルタイムで表示されます。自動化サービスとしてiPhone上で動作するWebDriverAgent(WDA)を基盤とし、ローカルMCPサーバー、セットアップと使い方のスキル、画面ウィジェットを備えています。
セットアップにはmacOS、フル版のXcode、Python 3.9以降、Node.js、iPhoneが必要です。ユーザーは自身のApple DeveloperチームでWDA Runnerに署名し、起動します。インストールスクリプトでCodexにプラグインを登録でき、WorkBuddyとDoubao向けには別のインストーラーが用意されています。要素の検索に失敗した場合、アシスタントはスクリーンショットと座標指定によるタップに切り替えられます。分析機能はデフォルトで有効で、環境変数を使って無効にできます。
このプロジェクトは、モデル向けの18種類のツールと画面操作専用の補助機能を提供します。環境診断、アクションの一括実行、スクロールしながらの検索、リスト項目の収集、Unicodeに対応したテキスト入力を利用できます。共通の操作ロックにより、複数のホストが同時に同じiPhoneを操作するのを防ぎます。
主な機能
- 01WebDriverAgent経由でUSB接続した実機iPhoneを操作します。
- 02モデル向けに簡潔なアクセシビリティツリーとスクリーンショットを読み取ります。
- 03タップ、スワイプ、ドラッグ、Unicodeテキスト入力、一括アクションに対応しています。
- 04重複部分を処理して重複を除きながら、スクロールしてリスト項目を収集します。
- 05一時停止や操作引き継ぎの状態を表示できる、スマートフォン画面のライブウィジェットを備えています。
- 06ガイド付きセットアップでCodex、WorkBuddy、Doubaoにインストールできます。
ユースケース
- AIアシスタントに、個人のiPhoneでアプリを開いて複数段階のタスクを実行させる。
- スクロールしながら、iPhoneアプリ内のリスト項目を収集・整理する。
- デスクトップのアシスタントからiOSアプリの操作フローをテストしたり、動作を確認したりする。
- ユーザーが内容を確認して送信できるよう、スマートフォンアプリに入力文の下書きを作成する。
クイックスタート
- 1
リポジトリをクローンする
git clone https://github.com/zhongerxin/iPhone-use.git - 2
プロジェクトディレクトリに移動する
cd iPhone-use - 3
インストールスクリプトを実行する
sh scripts/install.sh
使う前に知っておきたいこと
- macOS、完全版のXcode、USB接続されたiPhoneが必要です。
- まず、自分のApple DeveloperアカウントでWebDriverAgentに署名し、自分のiPhoneで実行する必要があります。
- 単独で使うツールというより、主にCodex、WorkBuddy、Doubao向けのプラグインとして設計されています。
- READMEによると、リポジトリは現在非公開のため、GitHubへのアクセス権またはソースパッケージが必要です。
トピック
よくある質問
- iPhone-use とは?
- WebDriverAgent経由でUSB接続した実機iPhoneをAIアシスタントから操作できる、Codex・WorkBuddy・Doubao用プラグイン iPhone Useは、USB接続した実機iPhoneとAIアシスタントを連携します。自然言語でタスクを指示すると、アシスタントはアプリを開き、画面を読み取り、タップ、スワイプ、文字入力、リスト項目の収集を行えます。サイドバーウィジェットには、スマートフォンの画面がリアルタイムで表示されます。自動化サービスとしてiPhone上で動作するWebDriverAgent(WDA)を基盤とし、ローカルMCPサーバー、セットアップと使い方のスキル、画面ウィジェットを備えています。
- iPhone-use は無料で使えますか?ライセンスは?
- iPhone-use は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- iPhone-use は今もメンテナンスされていますか?
- 活発にメンテナンス中。iPhone-use の最終コミットは 2026年10月16日 です。
- iPhone-use は何に使えますか?
- AIアシスタントに、個人のiPhoneでアプリを開いて複数段階のタスクを実行させる。 スクロールしながら、iPhoneアプリ内のリスト項目を収集・整理する。 デスクトップのアシスタントからiOSアプリの操作フローをテストしたり、動作を確認したりする。 ユーザーが内容を確認して送信できるよう、スマートフォンアプリに入力文の下書きを作成する。
- iPhone-use のインストール方法は?
- リポジトリをクローンする: git clone https://github.com/zhongerxin/iPhone-use.git プロジェクトディレクトリに移動する: cd iPhone-use インストールスクリプトを実行する: sh scripts/install.sh
- iPhone-use はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/zhongerxin/iPhone-use
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
画面やアプリウィンドウのキャプチャ、UI要素の検査、AIエージェントやMCPクライアント向けのクリック・入力自動化ができるmacOS CLI/メニューバーアプリ。
経験からスキルを作成・改善し、多数のモデルプロバイダーに対応、CLIやメッセージアプリから利用できる自己改善型AIエージェント。
AIエージェントが各種SNSや動画サイトを閲覧・検索できるよう、チャネルをセットアップするCLIとスキル層。
Claude Code、Claude.ai、Codex、Cursor、Gemini CLIなどのコーディングエージェント向けに、1000件以上のClaude Skillsとプラグインを厳選してまとめたディレクトリ。