为 Microduck 小型双足机器人提供强化学习训练环境,在 MuJoCo 仿真中训练行走、起身等策略。
Denys88/rl_games
基于 PyTorch 的强化学习库,支持 PPO 和 SAC,面向可在 GPU 上并行运行数千个环境的仿真器。
- Star
- 1,410
- Fork
- 223
- 未关闭 Issue
- 53
- 最近提交
- 19小时前
这是什么?
rl_games 是一个基于 PyTorch 的强化学习框架,实现了 PPO 和 SAC 算法。它主要面向 GPU 向量化仿真环境,单个进程即可同时驱动数千个环境,并提供 Isaac Lab、MJLab、EnvPool、MyoSuite 等环境的训练流程,也支持 MuJoCo、Atari 等常见 Gym 风格环境。
框架覆盖了机器人学习中常用的功能:带独立中心化价值网络的非对称 actor-critic、RNN 策略、基于 DistributedDataParallel 的多 GPU 训练、基于种群的训练(PBT)、自博弈,以及训练策略的 ONNX 导出。安装 Triton 后会自动使用 Triton 实现的 GAE 内核,实验结果也可以记录到 Weights & Biases。
训练通过 YAML 配置文件指定算法、网络和运行参数,使用脚本或 torchrun 启动,多卡训练即通过 torchrun 完成。项目列出了多篇仿真到现实(sim-to-real)机器人论文,这些工作均使用它训练策略。
核心功能
- 01基于 PyTorch 实现 PPO 和 SAC 算法
- 02支持带独立中心化价值网络的非对称 actor-critic
- 03通过 torchrun 与 DistributedDataParallel 进行多 GPU 训练
- 04支持基于种群的训练和自博弈
- 05可将训练好的策略导出为 ONNX
- 06通过 YAML 配置训练,并可接入 Weights & Biases 记录实验
适用场景
- 在 Isaac Lab 或 MJLab 中训练运动控制或灵巧操作策略
- 借助 EnvPool 进行高吞吐的 MuJoCo 或 Atari 实验
- 将训练好的强化学习策略导出为 ONNX 以便部署
- 在多块 GPU 上扩展强化学习训练
快速上手
- 1
在 Google Colab 中打开 README 提供的 Mujoco 训练示例
使用前须知
- MJLab 训练 notebook 需要本地 GPU;其 Colab 版本推荐使用 L4 或 A100 GPU。
- 2.0.0 版本尚未发布,API 改为仅支持 gymnasium,并要求 Python 3.11 或更高版本。
- 传统的 Isaac Gym 环境仅支持到 rl_games 1.6.5 版本。
收录于专题
标签
常见问题
- rl_games 是什么?
- 基于 PyTorch 的强化学习库,支持 PPO 和 SAC,面向可在 GPU 上并行运行数千个环境的仿真器。 rl_games 是一个基于 PyTorch 的强化学习框架,实现了 PPO 和 SAC 算法。它主要面向 GPU 向量化仿真环境,单个进程即可同时驱动数千个环境,并提供 Isaac Lab、MJLab、EnvPool、MyoSuite 等环境的训练流程,也支持 MuJoCo、Atari 等常见 Gym 风格环境。
- rl_games 可以免费使用吗?用的什么许可证?
- rl_games 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- rl_games 还在维护吗?
- 活跃维护中。rl_games 最近一次提交是在 2026年11月6日。
- rl_games 适合用来做什么?
- 在 Isaac Lab 或 MJLab 中训练运动控制或灵巧操作策略 借助 EnvPool 进行高吞吐的 MuJoCo 或 Atari 实验 将训练好的强化学习策略导出为 ONNX 以便部署 在多块 GPU 上扩展强化学习训练
- rl_games 怎么安装和运行?
- 在 Google Colab 中打开 README 提供的 Mujoco 训练示例
- 在哪里获取 rl_games?
- 源代码和安装说明在 GitHub 上:https://github.com/Denys88/rl_games
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
面向掼蛋(四人对战组队出牌游戏)的开源强化学习智能体,附带可在浏览器中游玩的牌桌服务。
一个用 Rust 编写的开源项目,为小型双足机器鸭提供运动控制、手柄、OTA 更新和摄像头推流等软件。
基于 PyTorch 的真实机器人开源库,提供模型、数据集和硬件控制、训练与评估工具。
基于 PyTorch 的强化学习算法实现库,提供可靠、接口统一的基准版本。
基于 PyTorch 的计算机视觉工具库,支持目标检测、实例分割和图像分类的训练与模型导出。