Repolode
Denys88

Denys88/rl_games

Biblioteca de aprendizaje por refuerzo en PyTorch (PPO y SAC) para simuladores vectorizados en GPU que ejecutan miles de entornos en paralelo.

Estrellas
1,410
Forks
223
Issues abiertos
52
Último commit
hace 4 días

¿Qué es?

rl_games es un framework de aprendizaje por refuerzo que implementa PPO y SAC en PyTorch. Su principal enfoque es entrenar con simuladores vectorizados en GPU, donde un solo proceso controla miles de entornos a la vez. Ofrece pipelines de entrenamiento para Isaac Lab, MJLab, EnvPool y MyoSuite, además de entornos al estilo de Gym, como MuJoCo y Atari.

La biblioteca incluye funciones habituales en el aprendizaje robótico: un actor-crítico asimétrico con un crítico de valor central independiente, políticas RNN, entrenamiento en varias GPU con DistributedDataParallel, entrenamiento basado en poblaciones, self-play y exportación a ONNX de las políticas entrenadas. Si Triton está instalado, se usan kernels GAE basados en Triton; también es posible registrar los experimentos en Weights and Biases.

El entrenamiento se configura mediante archivos YAML que especifican los ajustes del algoritmo, la red y el runner, y se inicia con un script runner o con torchrun para ejecutar en varias GPU. El proyecto enumera varios artículos de robótica sim-to-real que lo utilizaron para entrenar políticas.

Funciones clave

  • 01Implementaciones de PPO y SAC en PyTorch
  • 02Actor-crítico asimétrico con un crítico de valor central independiente
  • 03Entrenamiento en varias GPU mediante torchrun y DistributedDataParallel
  • 04Compatibilidad con entrenamiento basado en poblaciones y self-play
  • 05Exportación a ONNX de políticas entrenadas
  • 06Configuración del entrenamiento mediante YAML y registro con Weights & Biases

Casos de uso

  • Entrenar políticas de locomoción o manipulación diestra en Isaac Lab o MJLab
  • Ejecutar experimentos de MuJoCo o Atari de alto rendimiento con EnvPool
  • Desplegar políticas de RL entrenadas exportándolas a ONNX
  • Escalar el entrenamiento de RL a varias GPU

Inicio rápido

  1. 1

    Abre el ejemplo de entrenamiento de Mujoco en Google Colab (desde el README)

Antes de usarlo

  • El notebook de entrenamiento de MJLab requiere una GPU local; se recomienda usar la versión de Colab con GPU L4 o A100.
  • La versión 2.0.0 aún no se ha publicado y cambia la API para que solo use gymnasium, por lo que requiere Python 3.11 o posterior.
  • El entorno heredado de Isaac Gym solo es compatible hasta rl_games 1.6.5.

En colecciones

Temas

Preguntas frecuentes

¿Qué es rl_games?
Biblioteca de aprendizaje por refuerzo en PyTorch (PPO y SAC) para simuladores vectorizados en GPU que ejecutan miles de entornos en paralelo. rl_games es un framework de aprendizaje por refuerzo que implementa PPO y SAC en PyTorch. Su principal enfoque es entrenar con simuladores vectorizados en GPU, donde un solo proceso controla miles de entornos a la vez. Ofrece pipelines de entrenamiento para Isaac Lab, MJLab, EnvPool y MyoSuite, además de entornos al estilo de Gym, como MuJoCo y Atari.
¿rl_games es gratuito? ¿Qué licencia tiene?
rl_games es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿rl_games sigue mantenido?
Mantenimiento activo. El último commit de rl_games fue el 2 nov 2026.
¿Para qué puedo usar rl_games?
Entrenar políticas de locomoción o manipulación diestra en Isaac Lab o MJLab Ejecutar experimentos de MuJoCo o Atari de alto rendimiento con EnvPool Desplegar políticas de RL entrenadas exportándolas a ONNX Escalar el entrenamiento de RL a varias GPU
¿Cómo se instala rl_games?
Abre el ejemplo de entrenamiento de Mujoco en Google Colab (desde el README)
¿Dónde consigo rl_games?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Denys88/rl_games

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados