MCP経由でAIエージェントがUSBまたはWi-Fi接続の実機iPhoneを操作できるツールです。
onehumanbeing/esp32-iphone-agent
7ドルのESP32-S3ボードで、実機のiPhoneをAIビジョンモデルから操作。実行時にPCは不要。
- スター
- 3,240
- フォーク
- 428
- 未解決の Issue
- 14
- 最終コミット
- 22 時間前
これは何?
ESP32 iPhone Agentは、AIモデルで実機のiPhoneを操作できるシステムです。ESP32-S3ボードはAirPlayレシーバーとして動作し、Wi-Fi経由でiPhoneの画面をミラーリングします。また、iPhoneからは標準的なUSBマウス兼キーボードとして認識されます。同じデバイス上のiPhoneアプリがミラーリング映像をデコードし、スクリーンショットをOpenAI互換のビジョンモデルに送信。モデルの応答に基づいて、タップ、スワイプ、文字入力、キー入力を実行します。
Mac、開発者アカウント、脱獄が利用できない環境を想定しています。ボードへのファームウェア書き込みとアプリのビルドには、一度だけXcodeを搭載したMacが必要ですが、エージェントの実行時には不要です。実行内容は毎回iPhoneに保存され、手順ごとに再生できます。また、別のエージェントによる分析用にトレースをエクスポートできます。
プロジェクトのライセンスはMITですが、UxPlayから移植されたファームウェアコンポーネントはGPL-3.0です。必要な環境はiOS 18以降とモバイルデータ通信です。エージェントの実行中はiPhoneのWi-Fiをボードのホットスポットが使用するためです。
主な機能
- 01AirPlayの画面ミラーリングでiPhoneの画面を受信し、H.264映像をBLE経由でアプリに転送します。
- 02USB HIDマウス兼キーボードとして動作し、AssistiveTouchを使ってポインターによるタップやスワイプを行います。
- 03vLLMやOllamaなどのセルフホストサーバーを含め、あらゆるOpenAI互換のビジョンモデルで動作します。
- 04プランナーとアクターの処理をバックグラウンドで実行し、ボードまたはミラーリング接続が切断されると一時停止し、復旧後に再開します。
- 05すべての実行内容を保存し、手順ごとの再生やスクリーンショット・アクションのエクスポートに対応します。
ユースケース
- Macや開発者アカウントを使わずに、iOSアプリを操作するAIエージェントのプロトタイプを作る。
- アラームの設定や各種設定の変更など、所有するiPhoneで繰り返し行う作業を自動化する。
- シミュレーターではなく実機を使って、コンピューター操作エージェントを研究する。
- 別のエージェントによる分析に向けて、スマートフォン操作の実行トレースを収集する。
トピック
よくある質問
- esp32-iphone-agent とは?
- 7ドルのESP32-S3ボードで、実機のiPhoneをAIビジョンモデルから操作。実行時にPCは不要。 ESP32 iPhone Agentは、AIモデルで実機のiPhoneを操作できるシステムです。ESP32-S3ボードはAirPlayレシーバーとして動作し、Wi-Fi経由でiPhoneの画面をミラーリングします。また、iPhoneからは標準的なUSBマウス兼キーボードとして認識されます。同じデバイス上のiPhoneアプリがミラーリング映像をデコードし、スクリーンショットをOpenAI互換のビジョンモデルに送信。モデルの応答に基づいて、タップ、スワイプ、文字入力、キー入力を実行します。
- esp32-iphone-agent は無料で使えますか?ライセンスは?
- esp32-iphone-agent は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- esp32-iphone-agent は今もメンテナンスされていますか?
- 活発にメンテナンス中。esp32-iphone-agent の最終コミットは 2026年10月19日 です。
- esp32-iphone-agent は何に使えますか?
- Macや開発者アカウントを使わずに、iOSアプリを操作するAIエージェントのプロトタイプを作る。 アラームの設定や各種設定の変更など、所有するiPhoneで繰り返し行う作業を自動化する。 シミュレーターではなく実機を使って、コンピューター操作エージェントを研究する。 別のエージェントによる分析に向けて、スマートフォン操作の実行トレースを収集する。
- esp32-iphone-agent はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/onehumanbeing/esp32-iphone-agent
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
経験からスキルを作成・改善し、多数のモデルプロバイダーに対応、CLIやメッセージアプリから利用できる自己改善型AIエージェント。
自然言語の指示に基づき、LLMがスマートフォンやデスクトップを操作するための自動化フレームワーク。
UI Automationツリーを読み取り、任意のLLMにクリックや入力、コマンド実行を選ばせてWindowsをGUI操作するAIエージェント。
物理モニターを消灯したまま、視覚AIエージェントがデスクトップアプリを操作できる仮想ディスプレイを作成するmacOSネイティブアプリ。
自分のモデル用キーと承認制の操作で、日々のタスクやセキュリティレビューをこなすオープンソースのデスクトップAIコワーカー。