基于 PyTorch 的强化学习库,支持 PPO 和 SAC,面向可在 GPU 上并行运行数千个环境的仿真器。
pollen-robotics/microduck_rl
为 Microduck 小型双足机器人提供强化学习训练环境,在 MuJoCo 仿真中训练行走、起身等策略。
- Star
- 2,835
- Fork
- 684
- 未关闭 Issue
- 61
- 最近提交
- 前天
这是什么?
microduck_rl 是 Microduck 双足机器人的强化学习训练环境。该机器人约 800 克、高约 25 厘米,项目基于 mjlab(MuJoCo Warp)使用 PPO 算法,以 50 Hz 训练策略,导出为 ONNX 后由独立的 Microduck 运行时部署到实体机器人上。
项目包含多种任务:速度跟踪行走、跌倒恢复、站起、坐站切换、地面拾取、踢球、前滚翻以及滑轮滑行步态等。在仿真到实机的迁移上,项目使用 BAM 舵机模型(Dynamixel XL330)、电池电压和摩擦力的域随机化,并为每个任务提供可选的齿轮间隙(backlash)变体。
仓库还提供 ONNX 导出、CPU MuJoCo 键盘控制推理以及向 Hugging Face Hub 发布策略的工具。训练可在本地 CUDA GPU 上运行,也可提交到 Hugging Face Jobs。
核心功能
- 01在 MuJoCo 中为 Microduck 双足机器人训练行走、站立、跌倒恢复和花式动作策略。
- 02使用 BAM 模型和域随机化对 Dynamixel XL330 舵机进行建模。
- 03提供齿轮间隙变体,模拟每个舵机关节约 ±1° 的空回。
- 04将策略导出为 ONNX,并将观测归一化器打包进模型。
- 05支持在 CPU MuJoCo 中用键盘驱动已导出的策略进行测试。
- 06可将策略发布到 Hugging Face Hub,供机器人守护进程加载。
适用场景
- 为 Microduck 机器人训练自定义步态或动作。
- 研究小型舵机驱动双足机器人的仿真到实机迁移。
- 在上实机前于仿真中测试导出的 ONNX 策略。
快速上手
- 1
克隆仓库
git clone https://github.com/pollen-robotics/microduck_rl - 2
进入项目目录
cd microduck_rl - 3
训练行走策略(需要 CUDA GPU 和 uv)
uv run train Mjlab-Velocity-Flat-MicroDuck --env.scene.num-envs 4096 - 4
在 CPU MuJoCo 中用键盘控制导出的策略(需先导出为 ONNX)
uv run scripts/infer_policy.py --walking output.onnx
使用前须知
- 训练需要 CUDA GPU,因为训练基于 MuJoCo Warp。
- 3D 模型网格文件采用 CC BY-NC-SA 4.0 许可,禁止商用,而代码为 Apache-2.0 许可。
- 在 4096 个环境下,获得可用的行走步态大约需要 1–2 小时训练。
收录于专题
标签
常见问题
- microduck_rl 是什么?
- 为 Microduck 小型双足机器人提供强化学习训练环境,在 MuJoCo 仿真中训练行走、起身等策略。 microduck_rl 是 Microduck 双足机器人的强化学习训练环境。该机器人约 800 克、高约 25 厘米,项目基于 mjlab(MuJoCo Warp)使用 PPO 算法,以 50 Hz 训练策略,导出为 ONNX 后由独立的 Microduck 运行时部署到实体机器人上。
- microduck_rl 可以免费使用吗?用的什么许可证?
- microduck_rl 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- microduck_rl 还在维护吗?
- 活跃维护中。microduck_rl 最近一次提交是在 2026年11月5日。
- microduck_rl 适合用来做什么?
- 为 Microduck 机器人训练自定义步态或动作。 研究小型舵机驱动双足机器人的仿真到实机迁移。 在上实机前于仿真中测试导出的 ONNX 策略。
- microduck_rl 怎么安装和运行?
- 克隆仓库: git clone https://github.com/pollen-robotics/microduck_rl 进入项目目录: cd microduck_rl 训练行走策略(需要 CUDA GPU 和 uv): uv run train Mjlab-Velocity-Flat-MicroDuck --env.scene.num-envs 4096 在 CPU MuJoCo 中用键盘控制导出的策略(需先导出为 ONNX): uv run scripts/infer_policy.py --walking output.onnx
- 在哪里获取 microduck_rl?
- 源代码和安装说明在 GitHub 上:https://github.com/pollen-robotics/microduck_rl
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个用 Rust 编写的开源项目,为小型双足机器鸭提供运动控制、手柄、OTA 更新和摄像头推流等软件。
基于 Gymnasium API 与 MuJoCo 物理引擎的机器人强化学习仿真环境集合。
面向全身控制的模仿学习基准,基于 MuJoCo 和 MJX 提供人形、四足及人体骨骼肌肉模型环境。
一个 Unreal Engine 5 插件,将 MuJoCo 物理引擎嵌入编辑器和运行时,结合精确接触动力学与 Unreal 渲染。
通用物理引擎,用于快速、精确地模拟带接触的关节式结构,常用于机器人与机器学习研究。