/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3-VL-2B-Instruct
Библиотека
lerobot
Опубликована
7 июн 2026

tbdvla_libero

Языковая модельИзображение, текст → action3 профессии

TBD-VLA — дообученная визуально-языковая политика, которая преобразует изображения и инструкции в последовательности действий робота.

210скачиваний за 30 дней1лайквеса обновлены29 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TBD-VLA — политика Vision-Language-Action для управления роботом, представленная Sung-Wook Lee, Xuhui Kang и Yen-Ling Kuo. Модель основана на визуально-языковой модели Qwen3-VL-2B-Instruct и дообучена для предсказания последовательностей роботизированных действий на наборе LIBERO.

Архитектура сочетает визуально-языковое обусловливание, токенизатор непрерывных действий и блочный модуль диффузионного денойзинга. Модель принимает визуальное наблюдение и языковую инструкцию, а выдаёт чанки действий для управления роботом; поддерживаются временные блоки и опциональная компенсация задержки с Real-Time Chunking. В README приведены результаты оценки на задачах LIBERO и LIBERO-Plus, а также время генерации чанка на RTX A40.

Модель предназначена для роботизированного выполнения инструкций и оценки политик в среде LIBERO. Она не описана как универсальный чат-ассистент. Доступна под лицензией Apache-2.0. Результаты в README относятся к указанным тестовым наборам и оборудованию; для применения на реальном роботе потребуется адаптация к среде и проверка управления.

Сценарии применения

  • выполнение языковых инструкций роботом в LIBERO
  • предсказание чанков действий по визуальному наблюдению
  • оценка роботизированных политик на наборах LIBERO и LIBERO-Plus
  • эксперименты с диффузионным планированием действий
  • генерация действий с компенсацией задержки при управлении роботом

Ограничения

В README приведены результаты только для LIBERO и LIBERO-Plus и задержка на NVIDIA RTX A40; эти показатели не гарантируют аналогичное качество на других роботах и средах. Для использования требуется совместимая реализация на базе LeRobot и настройка под частоту управления и задержку.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for TBD-VLA

TBD-VLA (Temporal Block Diffusion Vision Language Action Model) is a Vision-Language-Action policy based on Block Discrete Denoising Diffusion. It uses a Qwen3-VL vision-language backbone and predicts robot action chunks through temporal-level block diffusion.

The model was introduced in the paper TBD-VLA: Temporal Block Diffusion Vision Language Action Model by Sung-Wook Lee, Xuhui Kang, and Yen-Ling Kuo.

This policy has been trained and pushed to the Hub using a LeRobot fork. See the full documentation here.

Results

LIBERO

Success rates (%) across the four LIBERO task suites.

ModelSpatialObjectGoalLongAvg
TBD-VLA97.699.697.496.697.7

LIBERO-Plus

Zero-shot success rates (%) across the seven LIBERO-Plus perturbation factors.

ModelCameraRobotLanguageLightBackgroundNoiseLayoutAvg
TBD-VLA87.860.477.495.888.889.984.483.5

Inference Time

Action chunk generation latency measured on a single NVIDIA RTX A40 GPU.

n_action_stepsInference Time (s)
80.087
120.117

How to Get Started with the Model

Installation

git clone https://github.com/TBD-VLA/lerobot.git
cd lerobot
uv python install 3.12
uv venv --python 3.12
source .venv/bin/activate
uv pip install -e ".[libero]"
uv pip install -U transformers
uv pip install -U accelerate

Train from scratch

python src/lerobot/scripts/lerobot_train.py \
  --policy.type=tbdvla \
  --output_dir=/$OUTPUT_DIR \
  --dataset.repo_id=sean1295/libero_all \
  --job_name=tbdvla_experiment \
  --steps=150000 \
  --batch_size=4 \
  --save_freq=20000 \
  --log_freq=1000 \
  --policy.device=cuda \
  --policy.n_bins=512 \
  --policy.block_temporal_size=4 \
  --policy.n_diffusion_steps=2 \
  --policy.gripper_dims=[-1] \
  --policy.chunk_size=16 \
  --policy.n_action_steps=16 \
  --policy.gradient_checkpointing=true \
  --policy.push_to_hub=false \
  --wandb.enable=false

Writes checkpoints to the configured output directory.

Multi-GPU training

accelerate launch --multi_gpu --num_processes=4 \
  src/lerobot/scripts/lerobot_train.py \
  --wandb.enable=false \
  --num_workers=4 \
  --policy.type=tbdvla \
  --policy.push_to_hub=false \
  --dataset.repo_id=sean1295/libero_all \
  --steps=150000 \
  --save_freq=20000 \
  --log_freq=1000 \
  --batch_size=16 \
  --policy.device=cuda \
  --policy.n_bins=512 \
  --policy.block_temporal_size=4 \
  --policy.n_diffusion_steps=2 \
  --policy.gripper_dims=[-1] \
  --policy.chunk_size=16 \
  --policy.n_action_steps=16

Evaluate the policy/run inference

uv run python src/lerobot/scripts/lerobot_eval.py \
  --policy.path=$CKPT_DIR \
  --env.type=libero \
  --env.task=libero_10 \
  --eval.n_episodes=50 \
  --eval.batch_size=1 \
  --eval.use_async_envs=false \
  --policy.device=cuda \
  --policy.n_action_steps=12 \
  --policy.n_diffusion_steps=2 \
  --policy.compile_model=true

Use --policy.path to point to a local or Hub checkpoint.

Real-Time Chunking (RTC)

TBD-VLA supports Real-Time Chunking (RTC) for latency-aware action generation. RTC allows the next action chunk to be generated while the current chunk is being executed and uses temporal in-painting to maintain consistency with previously generated actions.

In the LeRobot implementation, RTC latency compensation is controlled by --policy.latency_timestep. The value specifies the number of action timesteps corresponding to inference latency; the default value 0 disables latency compensation.

For example, to evaluate with a latency of 4 action timesteps:

uv run python src/lerobot/scripts/lerobot_eval.py \
  --policy.path=$CKPT_DIR \
  --env.type=libero \
  --env.task=libero_10_with_obs_delay_t4 \
  --eval.n_episodes=50 \
  --eval.batch_size=1 \
  --eval.use_async_envs=false \
  --policy.device=cuda \
  --policy.n_action_steps=12 \
  --policy.n_diffusion_steps=2 \
  --policy.latency_timestep=4

Set --policy.latency_timestep according to the measured inference latency and the control frequency of the environment or robot. Use 0 for standard chunked inference without RTC latency compensation.


Model Details

  • Model type: Vision-Language-Action policy
  • Architecture: Block Diffusion VLA
  • VLM backbone: Qwen/Qwen3-VL-2B-Instruct
  • License: apache-2.0

Architecture

TBD-VLA contains the following main components:

ComponentDescription
VLM backboneQwen3-VL model used for vision-language conditioning
Action tokenizerDiscretizes continuous robot actions into token bins
Block denoising modulePerforms block-temporal denoising over action chunks
Pre/post-processorsHandle normalization, device transfer, and action conversion

Files

FileDescription
configuration_tbdvla.pyTBDVLAConfig dataclass with policy hyperparameters
modeling_tbdvla.pyTBDVLAPolicy implementation, including model, training loss, and inference
processor_tbdvla.pyPre/post-processing pipelines for normalization and device transfer
__init__.pyExports TBDVLAConfig, TBDVLAPolicy, and make_tbdvla_pre_post_processors

Key Parameters

Model Architecture

ParameterDescriptionDefault
--policy.vlm_checkpointQwen3-VL model IDQwen/Qwen3-VL-2B-Instruct
--policy.num_vlm_layersNumber of VLM layers to use (-1 = all)-1

Diffusion / Block Denoising

ParameterDescriptionDefault
--policy.block_temporal_sizeTemporal steps per block4
--policy.n_diffusion_stepsNumber of denoising steps at inference2
--policy.chunk_sizeAction chunk length (multipliers of block_temporal_size)16

Training Hyperparameters

ParameterDescriptionDefault
--policy.n_binsNumber of action discretization bins512
--policy.n_obs_stepsNumber of observation steps (only 1 supported)1
--policy.max_task_tokensMax task/language tokens fed to the VLM64
--policy.use_stateInclude proprioceptive state inputtrue
--policy.state_dropout_pDropout probability for state input0.0
--policy.image_resolutionResize images to this resolution256,256
--policy.gradient_checkpointingEnable gradient checkpointing (saves VRAM)false
--policy.precisionTraining precision (float16, bfloat16, float32)bfloat16
--policy.attn_implementationAttention backend (eager, sdpa, flex_attention)sdpa
--policy.optimizer_lrAdamW learning rate1e-4

Inference Hyperparameters

ParameterDescriptionDefault
--policy.n_action_stepsSteps executed per inference (must be <= chunk_size)12
--policy.gripper_dimsGripper dimension indices[-1]
--policy.expectation_sampleUse expectation-based samplingtrue
--policy.compile_modelWrap the VLM forward in torch.compilefalse

BibTex

@article{lee2026tbdvlatemporalblockdiffusion,
      title={TBD-VLA: Temporal Block Diffusion Vision Language Action Model},
      author={Lee, Sung-Wook and Kang, Xuhui and Kuo, Yen-Ling},
      journal={arXiv preprint},
      year={2026},
      url={https://arxiv.org/abs/2606.07895}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · lerobot

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
cdc7c59

0 моделей