/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
5 дек 2025

Motus_robotwin2

Языковая модельИзображение, текст → action3 профессии

Дообученный чекпойнт Motus для управления роботом в более чем 50 бимануальных задачах манипуляции бенчмарка RoboTwin 2.0.

152скачиваний за 30 дней4лайкавеса обновлены19 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Motus — модель Vision-Language-Action и world model, разработанная авторами проекта Motus. Этот чекпойнт дообучен для бенчмарка RoboTwin 2.0 и предназначен для управления роботами при выполнении более 50 задач манипуляции, включая бимануальные сценарии. Модель объединяет экспертов понимания, действий и генерации видео в архитектуре Mixture-of-Transformers и поддерживает несколько режимов моделирования.

Для представления действий используются чанки по 48 шагов с частотой управления 30 Гц и 14 измерениями для двух рук. В описании компонентов указаны WAN 2.2 примерно на 5 млрд параметров, Qwen3-VL-2B примерно на 2,13 млрд и эксперт действий примерно на 641,5 млн параметров. На RoboTwin 2.0 авторы сообщают среднюю успешность 87,02% в рандомизированном режиме. Чекпойнт распространяется в формате PyTorch по лицензии Apache-2.0; для инференса требуется около 24 ГБ VRAM с предварительно закодированным T5 или около 41 ГБ без него.

Сценарии применения

  • управление двумя руками робота в симуляции RoboTwin 2.0
  • выполнение многоэтапных задач захвата и размещения предметов
  • генерация последовательностей действий робота по визуальному и языковому контексту
  • оценка политики манипуляции на задачах RoboTwin 2.0
  • дообучение роботизированной политики для манипуляции

Ограничения

Заявленные результаты относятся к бенчмарку RoboTwin 2.0 и не гарантируют аналогичную успешность на реальных роботах или других задачах. Для инференса требуется мощный GPU с указанным объёмом видеопамяти.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Motus: RoboTwin 2.0 Fine-Tuned Checkpoint

Motus is a unified latent action world model that leverages existing pretrained models and rich, sharable motion information. Motus introduces a Mixture-of-Transformers (MoT) architecture to integrate three experts (understanding, action, and video generation) and adopts a UniDiffuser-style scheduler to enable flexible switching between different modeling modes (World Models, Vision-Language-Action Models, Inverse Dynamics Models, Video Generation Models, and Video-Action Joint Prediction Models). Motus further leverages optical flow to learn latent actions and adopts a three-phase training pipeline and six-layer data pyramid, thereby extracting pixel-level "delta action" and enabling large-scale action pretraining.

This checkpoint is fine-tuned on RoboTwin 2.0 benchmark (50+ manipulation tasks).

Homepage | GitHub | arXiv | Feishu | WeChat


Table of Contents


Highlights

  • 87.02% average success rate on RoboTwin 2.0 (+15% over X-VLA, +45% over π₀.₅)
  • 50+ Manipulation Tasks: Trained on diverse bimanual manipulation scenarios
  • Multi-Task Capable: Single model handles all 50+ tasks
  • Ready for Deployment: Direct inference or further fine-tuning

Model Details

Architecture

ComponentBase ModelParameters
VGM (Video Generation Model)WAN 2.2~5.00B
VLM (Vision-Language Model)Qwen3-VL-2B~2.13B
Action Expert-~641.5M
Understanding Expert-~253.5M
Total-~8B

Training Details

  • Base Checkpoint: motus-robotics/Motus (Stage 2 pretrained)
  • Fine-Tuning Data: RoboTwin 2.0 (2,500 clean + 25,000 randomized demonstrations)
  • Training Steps: 40k steps

Action Representation

  • Control frequency: 30Hz (default)
  • Action chunk size: 48 steps (default)
  • Action dimension: 14 (bimanual: 7 per arm)

Performance

RoboTwin 2.0 Benchmark (50+ Tasks)

MethodCleanRandomized
π₀.₅42.98%43.84%
X-VLA72.80%72.84%
Motus (Ours)88.66%87.02%

Key improvements:

  • +15% over X-VLA
  • +45% over π₀.₅

Hardware & Software Requirements

ModeVRAMRecommended GPU
Inference (with pre-encoded T5)~ 24 GBRTX 5090
Inference (without pre-encoded T5)~ 41 GBA100 (40GB) / A100 (80GB) / H100 / B200

Quickstart (Inference)

RoboTwin 2.0 Simulation

cd inference/robotwin/Motus

# Single task evaluation
bash eval.sh place_dual_shoes

# Multi-task batch evaluation
bash auto_eval.sh

Offline Inference (No Environment)

python inference/real_world/Motus/inference_example.py \
  --model_config inference/real_world/Motus/utils/robotwin.yml \
  --ckpt_dir ./pretrained_models/Motus_robotwin2 \
  --wan_path /path/to/pretrained_models \
  --image /path/to/input_frame.png \
  --instruction "pick up the cube and place it on the right" \
  --use_t5 \
  --output result.png

Python API

import torch
import yaml
from models.motus import Motus, MotusConfig

# Load config
with open("configs/robotwin.yaml", "r") as f:
    config = yaml.safe_load(f)

# Initialize model
model_config = MotusConfig(
    wan_checkpoint_path=config['model']['wan']['checkpoint_path'],
    vae_path=config['model']['wan']['vae_path'],
    wan_config_path=config['model']['wan']['config_path'],
    vlm_checkpoint_path=config['model']['vlm']['checkpoint_path'],
    action_dim=14,
    load_pretrained_backbones=False,
)

model = Motus(model_config).to("cuda").eval()
model.load_checkpoint("./pretrained_models/Motus_robotwin2", strict=False)

# Inference
with torch.no_grad():
    predicted_frames, predicted_actions = model.inference_step(
        first_frame=frame_tensor,
        state=state_tensor,
        num_inference_steps=20,
        language_embeddings=t5_embeddings,
        vlm_inputs=[vlm_inputs],
    )

# Action chunk: [1, 48, 14]
actions = predicted_actions.squeeze(0).cpu().numpy()

Citation

@misc{bi2025motusunifiedlatentaction,
            title={Motus: A Unified Latent Action World Model}, 
            author={Hongzhe Bi and Hengkai Tan and Shenghao Xie and Zeyuan Wang and Shuhe Huang and Haitian Liu and Ruowen Zhao and Yao Feng and Chendong Xiang and Yinze Rong and Hongyan Zhao and Hanyu Liu and Zhizhong Su and Lei Ma and Hang Su and Jun Zhu},
            year={2025},
            eprint={2512.13030},
            archivePrefix={arXiv},
            primaryClass={cs.CV},
            url={https://arxiv.org/abs/2512.13030}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
ab74bc2

0 моделей