Modelo aberto de visão-linguagem-ação da NVIDIA (GR00T N1.7) para habilidades generalistas de manipulação com robôs e humanoides, com ferramentas de fine-tuning e implantação.
X-Square-Robot/wall-x
Código de treinamento e inferência da série WALL-OSS de modelos foundation open source e embodied para manipulação robótica de uso geral.
- Estrelas
- 1,313
- Forks
- 111
- Issues abertas
- 52
- Último commit
- há 2 meses
O que é?
Wall-X é a base de código de treinamento e inferência da série WALL de modelos foundation embodied, que busca dar aos robôs habilidades de manipulação de uso geral aprendidas a partir de dados de interação física. Abrange todo o fluxo de trabalho, desde a preparação de datasets no formato LeRobot e a configuração de modelos até o fine-tuning, a execução de inferência e a disponibilização de um modelo para avaliações em malha fechada ou aberta.
O repositório oferece suporte a vários métodos de geração de ações, incluindo flow-matching e action heads FAST, e disponibiliza checkpoints pré-treinados da família WALL-OSS no Hugging Face. O treinamento é iniciado com um trainer FSDP, e a inferência pode ser disponibilizada por meio de um servidor WebSocket. Há também uma ferramenta opcional para avaliação com o simulador LIBERO.
O projeto requer Python 3.10, PyTorch, FlashAttention e CUDA 12.x no Ubuntu 22.04. Os códigos-fonte dos operadores CUDA são compilados durante a instalação, portanto é necessário ter um ambiente funcional para compilação com GPU.
Recursos principais
- 01Faz fine-tuning de modelos em datasets no formato LeRobot usando um trainer FSDP.
- 02Oferece suporte aos métodos de geração de ações flow-matching e FAST.
- 03Carrega checkpoints pré-treinados da WALL-OSS hospedados no Hugging Face.
- 04Disponibiliza as ações do modelo por meio de um servidor WebSocket.
- 05Inclui avaliação em malha aberta com dados de referência do LeRobot e ferramentas para iniciar o simulador LIBERO.
Casos de uso
- Fazer fine-tuning de um modelo vision-language-action em um dataset personalizado de manipulação robótica.
- Executar inferência com um modelo embodied pré-treinado em um robô real ou em simulação.
- Comparar previsões de ações em malha aberta com demonstrações gravadas.
- Pesquisar action heads flow-matching ou FAST para políticas robóticas.
Início rápido
- 1
Crie e ative um ambiente conda com Python 3.10
conda create --name wallx python=3.10 - 2
Instale os requisitos
pip install -r requirements.txt - 3
Instale o Wall-X, que compila os operadores CUDA
MAX_JOBS=8 pip install --no-build-isolation -e . - 4
Execute o exemplo mínimo de inferência com um checkpoint baixado
python scripts/fake_inference.py --checkpoint-path <path/to/checkpoint>
Antes de usar
- É necessária uma GPU NVIDIA com CUDA; a instalação compila os operadores CUDA e o flash-attn.
- A configuração é trabalhosa, pois várias dependências, como LeRobot, DMuon e flash-attn, precisam ser instaladas manualmente.
- O README tem como alvo o Ubuntu 22.04 com CUDA 12.x e Python 3.10.
Em coleções
Tópicos
Perguntas frequentes
- O que é wall-x?
- Código de treinamento e inferência da série WALL-OSS de modelos foundation open source e embodied para manipulação robótica de uso geral. Wall-X é a base de código de treinamento e inferência da série WALL de modelos foundation embodied, que busca dar aos robôs habilidades de manipulação de uso geral aprendidas a partir de dados de interação física. Abrange todo o fluxo de trabalho, desde a preparação de datasets no formato LeRobot e a configuração de modelos até o fine-tuning, a execução de inferência e a disponibilização de um modelo para avaliações em malha fechada ou aberta.
- wall-x é gratuito? Qual é a licença?
- wall-x é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
- wall-x ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de wall-x foi em 18 de set. de 2026.
- Para que posso usar wall-x?
- Fazer fine-tuning de um modelo vision-language-action em um dataset personalizado de manipulação robótica. Executar inferência com um modelo embodied pré-treinado em um robô real ou em simulação. Comparar previsões de ações em malha aberta com demonstrações gravadas. Pesquisar action heads flow-matching ou FAST para políticas robóticas.
- Como instalar wall-x?
- Crie e ative um ambiente conda com Python 3.10: conda create --name wallx python=3.10 Instale os requisitos: pip install -r requirements.txt Instale o Wall-X, que compila os operadores CUDA: MAX_JOBS=8 pip install --no-build-isolation -e . Execute o exemplo mínimo de inferência com um checkpoint baixado: python scripts/fake_inference.py --checkpoint-path <path/to/checkpoint>
- Onde consigo wall-x?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/X-Square-Robot/wall-x
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Biblioteca PyTorch de modelos, datasets e ferramentas para robótica no mundo real, abrangendo controle de hardware, coleta de dados, treinamento e avaliação de políticas.
Modelos open source de visão-linguagem-ação (VLA) para robótica da Physical Intelligence, com checkpoints pré-treinados e exemplos de fine-tuning.
Kit open source de braço robótico líder e seguidor, com 5 DOF e uma garra, peças imprimíveis em 3D e disposição de juntas compatível com o LeRobot para teleoperação e aprendizado por imitação.
Framework de simulação em larga escala para treinar e avaliar robôs generalistas em tarefas cotidianas de cozinha, baseado no robosuite.
Benchmark de aprendizado por imitação para controle de corpo inteiro, com ambientes MuJoCo e MJX para humanoides, quadrúpedes e modelos musculoesqueléticos humanos.