Entornos de entrenamiento por aprendizaje por refuerzo que enseñan al robot bípedo Microduck de ~25 cm a caminar, levantarse y hacer trucos en una simulación de MuJoCo.
Denys88/rl_games
Biblioteca de aprendizaje por refuerzo en PyTorch (PPO y SAC) para simuladores vectorizados en GPU que ejecutan miles de entornos en paralelo.
- Estrellas
- 1,410
- Forks
- 223
- Issues abiertos
- 52
- Último commit
- hace 4 días
¿Qué es?
rl_games es un framework de aprendizaje por refuerzo que implementa PPO y SAC en PyTorch. Su principal enfoque es entrenar con simuladores vectorizados en GPU, donde un solo proceso controla miles de entornos a la vez. Ofrece pipelines de entrenamiento para Isaac Lab, MJLab, EnvPool y MyoSuite, además de entornos al estilo de Gym, como MuJoCo y Atari.
La biblioteca incluye funciones habituales en el aprendizaje robótico: un actor-crítico asimétrico con un crítico de valor central independiente, políticas RNN, entrenamiento en varias GPU con DistributedDataParallel, entrenamiento basado en poblaciones, self-play y exportación a ONNX de las políticas entrenadas. Si Triton está instalado, se usan kernels GAE basados en Triton; también es posible registrar los experimentos en Weights and Biases.
El entrenamiento se configura mediante archivos YAML que especifican los ajustes del algoritmo, la red y el runner, y se inicia con un script runner o con torchrun para ejecutar en varias GPU. El proyecto enumera varios artículos de robótica sim-to-real que lo utilizaron para entrenar políticas.
Funciones clave
- 01Implementaciones de PPO y SAC en PyTorch
- 02Actor-crítico asimétrico con un crítico de valor central independiente
- 03Entrenamiento en varias GPU mediante torchrun y DistributedDataParallel
- 04Compatibilidad con entrenamiento basado en poblaciones y self-play
- 05Exportación a ONNX de políticas entrenadas
- 06Configuración del entrenamiento mediante YAML y registro con Weights & Biases
Casos de uso
- Entrenar políticas de locomoción o manipulación diestra en Isaac Lab o MJLab
- Ejecutar experimentos de MuJoCo o Atari de alto rendimiento con EnvPool
- Desplegar políticas de RL entrenadas exportándolas a ONNX
- Escalar el entrenamiento de RL a varias GPU
Inicio rápido
- 1
Abre el ejemplo de entrenamiento de Mujoco en Google Colab (desde el README)
Antes de usarlo
- El notebook de entrenamiento de MJLab requiere una GPU local; se recomienda usar la versión de Colab con GPU L4 o A100.
- La versión 2.0.0 aún no se ha publicado y cambia la API para que solo use gymnasium, por lo que requiere Python 3.11 o posterior.
- El entorno heredado de Isaac Gym solo es compatible hasta rl_games 1.6.5.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es rl_games?
- Biblioteca de aprendizaje por refuerzo en PyTorch (PPO y SAC) para simuladores vectorizados en GPU que ejecutan miles de entornos en paralelo. rl_games es un framework de aprendizaje por refuerzo que implementa PPO y SAC en PyTorch. Su principal enfoque es entrenar con simuladores vectorizados en GPU, donde un solo proceso controla miles de entornos a la vez. Ofrece pipelines de entrenamiento para Isaac Lab, MJLab, EnvPool y MyoSuite, además de entornos al estilo de Gym, como MuJoCo y Atari.
- ¿rl_games es gratuito? ¿Qué licencia tiene?
- rl_games es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿rl_games sigue mantenido?
- Mantenimiento activo. El último commit de rl_games fue el 2 nov 2026.
- ¿Para qué puedo usar rl_games?
- Entrenar políticas de locomoción o manipulación diestra en Isaac Lab o MJLab Ejecutar experimentos de MuJoCo o Atari de alto rendimiento con EnvPool Desplegar políticas de RL entrenadas exportándolas a ONNX Escalar el entrenamiento de RL a varias GPU
- ¿Cómo se instala rl_games?
- Abre el ejemplo de entrenamiento de Mujoco en Google Colab (desde el README)
- ¿Dónde consigo rl_games?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Denys88/rl_games
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Agente de aprendizaje por refuerzo de código abierto para jugar GuanDan de forma competitiva, con una mesa web jugable.
Software open source en Rust para controlar un pequeño robot pato bípedo, con control de movimiento, gamepad, actualizaciones y transmisión de video desde la cámara.
Biblioteca de PyTorch con modelos, conjuntos de datos y herramientas para robótica en el mundo real: control de hardware, recopilación de datos, entrenamiento y evaluación de políticas.
Implementaciones en PyTorch de algoritmos de aprendizaje por refuerzo, diseñadas como una base fiable y coherente para la investigación y las aplicaciones.
Ultralytics YOLOv5 es un kit de herramientas de visión artificial basado en PyTorch para detectar objetos, segmentar instancias y clasificar imágenes, con funciones de entrenamiento y exportación.