RLinf/APXinf-robo

これは何？

主な機能

• 01JetsonおよびRTX GPU上でPI-0.5、PI0-FAST、GR00T N1.7、Qwen-Driveモデルを実行できます。
• 02モデル単体、ポリシー、WebSocketサーバーの各レベルでPython APIを提供します。
• 03OpenPI互換のWebSocketプロトコルに対応しており、既存のopenpi-clientコードから接続できます。
• 04BF16、INT8、Thor限定のFP8精度に対応しています。
• 05レイテンシのベンチマークとLIBERO-10タスク評価用のスクリプトが含まれています。

ユースケース

• 低レイテンシ推論で、Jetson搭載ロボットにVLAポリシーをデプロイする。
• クライアントコードを変更せずに、OpenPIサーバーをより高速なエンジンに置き換える。
• Thor、Orin、RTX 4090で、精度ごとのVLAモデルのレイテンシをベンチマークする。
• LIBERO-10シミュレーションスイートでπ0.5のチェックポイントを評価する。

クイックスタート

1. 1

   サブモジュールを含めてリポジトリをクローンする

   git clone --recursive https://github.com/RLinf/APXinf-robo.git
2. 2

   仮想環境を作成し、maturinをインストールする

   python3 -m venv .venv && source .venv/bin/activate && pip install maturin
3. 3

   ApxInfのPythonバインディングとRoboパッケージをビルドしてインストールする

   CARGO_TARGET_DIR=target/wheel maturin build --release --features cuda --auditwheel skip -m apxinf/crates/apxinf-py/Cargo.toml && pip install --force-reinstall target/wheel/wheels/apxinf_py-*.whl && pip install -e "./apxinf/python/apxinf[serving]" --config-settings editable_mode=strict && pip install -e ".[libero,serve]"
4. 4

   ランダムな重みでPI-0.5ベンチマークを実行する

   python scripts/bench_pi05.py --random-weights --precision bf16 --layer l1 --samples 5

使う前に知っておきたいこと

• !NVIDIA GPU、CUDA toolkit、Rust、cmakeが必要です。また、カーネルはデプロイ先のアーキテクチャに合わせてコンパイルされます。
• !FP8精度に対応しているのはJetson AGX Thorのみです。OrinにはFP8 Tensor Coreがありません。
• !実際のモデルを実行するには、パッケージに含まれていないチェックポイントディレクトリが必要です。

トピック

よくある質問

APXinf-robo とは？

ApxInf Rust推論エンジン向けのPythonバインディングとロボットポリシー層。Jetson Thor/OrinやRTX GPUでVLAモデルを実行 APXinf-roboは、ApxInfエッジ推論エンジンを身体性AIのワークロードに接続します。Python APIとOpenPI互換のWebSocketサーバーを提供し、NVIDIA Jetson AGX ThorやOrin、RTX 4090 GPU上で、PI-0.5、PI0-FAST、GR00T N1.7、Qwen-Driveなどの視覚・言語・行動（VLA）モデルを実行できます。

APXinf-robo は無料で使えますか？ライセンスは？

APXinf-robo は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

APXinf-robo は今もメンテナンスされていますか？

活発にメンテナンス中。APXinf-robo の最終コミットは 2026年9月29日 です。

APXinf-robo は何に使えますか？

低レイテンシ推論で、Jetson搭載ロボットにVLAポリシーをデプロイする。 クライアントコードを変更せずに、OpenPIサーバーをより高速なエンジンに置き換える。 Thor、Orin、RTX 4090で、精度ごとのVLAモデルのレイテンシをベンチマークする。 LIBERO-10シミュレーションスイートでπ0.5のチェックポイントを評価する。

APXinf-robo のインストール方法は？

サブモジュールを含めてリポジトリをクローンする: git clone --recursive https://github.com/RLinf/APXinf-robo.git 仮想環境を作成し、maturinをインストールする: python3 -m venv .venv && source .venv/bin/activate && pip install maturin ApxInfのPythonバインディングとRoboパッケージをビルドしてインストールする: CARGO_TARGET_DIR=target/wheel maturin build --release --features cuda --auditwheel skip -m apxinf/crates/apxinf-py/Cargo.toml && pip install --force-reinstall target/wheel/wheels/apxinf_py-*.whl && pip install -e "./apxinf/python/apxinf[serving]" --config-settings editable_mode=strict && pip install -e ".[libero,serve]" ランダムな重みでPI-0.5ベンチマークを実行する: python scripts/bench_pi05.py --random-weights --precision bf16 --layer l1 --samples 5

APXinf-robo はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/RLinf/APXinf-robo