Библиотека для обучения с подкреплением на PyTorch (PPO и SAC), рассчитанная на симуляторы с векторизацией на GPU и тысячами параллельных сред.
pollen-robotics/microduck_rl
Среды обучения с подкреплением для робота-бипеда Microduck высотой около 25 см: в симуляции MuJoCo он учится ходить, вставать и выполнять трюки.
- Звёзды
- 2,827
- Форки
- 680
- Открытые issues
- 61
- Последний коммит
- вчера
Что это?
В microduck_rl собраны среды обучения с подкреплением для Microduck — робота-бипеда весом около 800 г и высотой 25 см. Проект построен на mjlab (MuJoCo Warp) и обучает политики PPO с частотой 50 Гц. Обученные политики экспортируются в ONNX и развёртываются на физическом роботе с помощью отдельного runtime-проекта Microduck.
Проект охватывает разные задачи: ходьбу с отслеживанием заданной скорости, восстановление после падения, вставание, переходы между положением сидя и стоя, подбор предметов с пола, удары по мячу, кувырки вперёд и походку на роликовых коньках. Перенос из симуляции на реального робота обеспечивают модель приводов BAM Dynamixel XL330, рандомизация напряжения батареи и трения, а также варианты каждой задачи с люфтом в редукторе.
В репозитории также есть инструменты для экспорта моделей ONNX, запуска политик в MuJoCo на CPU с управлением с клавиатуры и публикации политик в Hugging Face Hub. Обучение можно запускать локально на CUDA GPU или через Hugging Face Jobs.
Ключевые возможности
- 01Обучает политики ходьбы, стояния, восстановления после падения и выполнения трюков для робота-бипеда Microduck в MuJoCo.
- 02Моделирует сервоприводы Dynamixel XL330 с помощью модели приводов BAM и рандомизации параметров.
- 03Предоставляет варианты с люфтом, моделирующие ход редуктора ±1° в каждом сервоприводе.
- 04Экспортирует политики в ONNX со встроенным нормализатором наблюдений для развёртывания.
- 05Включает симуляцию на CPU с управлением с клавиатуры для тестирования экспортированных политик.
- 06Публикует политики в Hugging Face Hub в формате, который может загружать демон робота.
Сценарии использования
- Обучение собственной походки или трюка для робота Microduck.
- Исследование переноса из симуляции на реальных небольших роботах-бипедах с сервоприводами.
- Тестирование экспортированных политик ONNX в симуляции перед запуском на реальном роботе.
Быстрый старт
- 1
Клонируйте репозиторий
git clone https://github.com/pollen-robotics/microduck_rl - 2
Перейдите в каталог проекта
cd microduck_rl - 3
Обучите политику ходьбы (потребуются CUDA GPU и uv)
uv run train Mjlab-Velocity-Flat-MicroDuck --env.scene.num-envs 4096 - 4
Управляйте экспортированной политикой с клавиатуры в MuJoCo для CPU (после экспорта в ONNX)
uv run scripts/infer_policy.py --walking output.onnx
Что важно знать
- Для обучения требуется CUDA GPU, поскольку оно выполняется через MuJoCo Warp.
- На сетки 3D-моделей распространяется лицензия CC BY-NC-SA 4.0, запрещающая коммерческое использование; код распространяется по лицензии Apache-2.0.
- Обучение пригодной для использования походки занимает примерно 1–2 часа при 4096 envs.
В подборках
Темы
Частые вопросы
- Что такое microduck_rl?
- Среды обучения с подкреплением для робота-бипеда Microduck высотой около 25 см: в симуляции MuJoCo он учится ходить, вставать и выполнять трюки. В microduck_rl собраны среды обучения с подкреплением для Microduck — робота-бипеда весом около 800 г и высотой 25 см. Проект построен на mjlab (MuJoCo Warp) и обучает политики PPO с частотой 50 Гц. Обученные политики экспортируются в ONNX и развёртываются на физическом роботе с помощью отдельного runtime-проекта Microduck.
- microduck_rl можно использовать бесплатно? Какая у него лицензия?
- microduck_rl распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- microduck_rl всё ещё поддерживается?
- Активно поддерживается. Последний коммит в microduck_rl — 5 нояб. 2026 г..
- Для чего можно использовать microduck_rl?
- Обучение собственной походки или трюка для робота Microduck. Исследование переноса из симуляции на реальных небольших роботах-бипедах с сервоприводами. Тестирование экспортированных политик ONNX в симуляции перед запуском на реальном роботе.
- Как установить microduck_rl?
- Клонируйте репозиторий: git clone https://github.com/pollen-robotics/microduck_rl Перейдите в каталог проекта: cd microduck_rl Обучите политику ходьбы (потребуются CUDA GPU и uv): uv run train Mjlab-Velocity-Flat-MicroDuck --env.scene.num-envs 4096 Управляйте экспортированной политикой с клавиатуры в MuJoCo для CPU (после экспорта в ONNX): uv run scripts/infer_policy.py --walking output.onnx
- Где скачать microduck_rl?
- Исходный код и инструкции по установке — на GitHub: https://github.com/pollen-robotics/microduck_rl
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
ПО с открытым исходным кодом на Rust для управления маленьким двуногим роботом-уткой: движение, геймпад, обновления и видеопоток с камеры.
Набор робототехнических сред для обучения с подкреплением на базе MuJoCo, реализованных через API Gymnasium.
Бенчмарк имитационного обучения для управления всем телом с окружениями MuJoCo и MJX для гуманоидов, четвероногих роботов и биомеханических моделей человека.
Плагин для Unreal Engine 5, который запускает физику MuJoCo в редакторе и игре, сочетая точную динамику контактов с рендерингом Unreal.
Универсальный физический движок для быстрой и точной симуляции контактирующих сочленённых тел, широко используемый в робототехнике и исследованиях машинного обучения.