RLinf/APXinf-robo

这是什么？

核心功能

• 01在 Jetson 与 RTX GPU 上运行 PI-0.5、PI0-FAST、GR00T N1.7 和 Qwen-Drive 模型。
• 02提供裸模型、策略和 websocket 服务三层 Python 接口。
• 03兼容 OpenPI websocket 协议，现有 openpi-client 代码可直接连接。
• 04支持 BF16、INT8，以及仅 Thor 可用的 FP8 精度。
• 05内置延迟基准测试和 LIBERO-10 任务评测脚本。

适用场景

• 在 Jetson 机器人上以低延迟部署 VLA 策略。
• 在不修改客户端代码的前提下，把 OpenPI 服务替换为推理更快的引擎。
• 在 Thor、Orin 或 RTX 4090 上比较不同精度下 VLA 模型的延迟。
• 在 LIBERO-10 仿真基准上评测 π0.5 模型权重。

快速上手

1. 1

   递归克隆仓库及子模块

   git clone --recursive https://github.com/RLinf/APXinf-robo.git
2. 2

   创建虚拟环境并安装 maturin

   python3 -m venv .venv && source .venv/bin/activate && pip install maturin
3. 3

   构建并安装 ApxInf Python 绑定及 Robo 包

   CARGO_TARGET_DIR=target/wheel maturin build --release --features cuda --auditwheel skip -m apxinf/crates/apxinf-py/Cargo.toml && pip install --force-reinstall target/wheel/wheels/apxinf_py-*.whl && pip install -e "./apxinf/python/apxinf[serving]" --config-settings editable_mode=strict && pip install -e ".[libero,serve]"
4. 4

   使用随机权重运行 PI-0.5 基准测试

   python scripts/bench_pi05.py --random-weights --precision bf16 --layer l1 --samples 5

使用前须知

• !需要 NVIDIA GPU、CUDA 工具链、Rust 和 cmake，且内核需针对部署架构编译。
• !FP8 精度仅支持 Jetson AGX Thor，因为 Orin 没有 FP8 Tensor Core。
• !运行真实模型需要自备检查点目录，软件包不包含该目录。

标签

常见问题

APXinf-robo 是什么？

基于 ApxInf Rust 推理引擎的机器人策略层，在 Jetson 与 RTX GPU 上部署 PI-0.5 等 VLA 模型。 APXinf-robo 将 ApxInf 边缘推理引擎接入具身智能场景。它提供 Python API 和兼容 OpenPI 协议的 websocket 服务，用于在 NVIDIA Jetson AGX Thor、Orin 以及 RTX 4090 上运行 PI-0.5、PI0-FAST、GR00T N1.7、Qwen-Drive 等视觉-语言-动作（VLA）模型。

APXinf-robo 可以免费使用吗？用的什么许可证？

APXinf-robo 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

APXinf-robo 还在维护吗？

活跃维护中。APXinf-robo 最近一次提交是在 2026年9月29日。

APXinf-robo 适合用来做什么？

在 Jetson 机器人上以低延迟部署 VLA 策略。 在不修改客户端代码的前提下，把 OpenPI 服务替换为推理更快的引擎。 在 Thor、Orin 或 RTX 4090 上比较不同精度下 VLA 模型的延迟。 在 LIBERO-10 仿真基准上评测 π0.5 模型权重。

APXinf-robo 怎么安装和运行？

递归克隆仓库及子模块: git clone --recursive https://github.com/RLinf/APXinf-robo.git 创建虚拟环境并安装 maturin: python3 -m venv .venv && source .venv/bin/activate && pip install maturin 构建并安装 ApxInf Python 绑定及 Robo 包: CARGO_TARGET_DIR=target/wheel maturin build --release --features cuda --auditwheel skip -m apxinf/crates/apxinf-py/Cargo.toml && pip install --force-reinstall target/wheel/wheels/apxinf_py-*.whl && pip install -e "./apxinf/python/apxinf[serving]" --config-settings editable_mode=strict && pip install -e ".[libero,serve]" 使用随机权重运行 PI-0.5 基准测试: python scripts/bench_pi05.py --random-weights --precision bf16 --layer l1 --samples 5

在哪里获取 APXinf-robo？

源代码和安装说明在 GitHub 上：https://github.com/RLinf/APXinf-robo