/ Модель

Характеристики

Библиотека
pytorch
Опубликована
3 авг 2026

FastWAM-LingBotVA-PurpleBox

Языковая модельИзображение, текст → action

Экспериментальные чекпойнты FastWAM и LingBot-VA для управления роботом при переносе правого фиолетового ящика в центр.

0скачиваний за 30 дней0лайковвеса обновлены3 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий PencilHu содержит два экспериментальных чекпойнта, дообученных для задачи «взять правый фиолетовый ящик и поставить его посередине»: вариант FastWAM с памятью и трансформер LingBot-VA. Модели предназначены для роботизированного управления с использованием видеонаблюдений и действий робота; обе обучены на 18 эпизодах, а эпизоды 4 и 15 оставлены для проверки.

FastWAM принимает виды global_primary, left_wrist и right_wrist, использует видео 384×320, контекст 128 и каноническую 80-мерную схему действий и проприоцепции с масками валидности. LingBot-VA использует виды right_eye, left_wrist и right_wrist, фиксированное окно из 16 латентных кадров и компактные действия правой руки и захвата, сопоставленные 30-мерной схеме модели. LingBot-VA представлен весами трансформера; для запуска нужны исходный код LingBot-VA и компоненты Wan, VAE и текстовый энкодер.

Обе модели являются узкоспециализированными дообучениями: FastWAM обучен до 500 шагов, LingBot-VA — до 250. Приведённые результаты относятся к диагностике генерации в восьми открытых тестовых случаях и не измеряют успешность управления реальным роботом в замкнутом цикле. Лицензия в предоставленных данных не указана.

Сценарии применения

  • управление роботом при захвате правого фиолетового ящика
  • перемещение ящика в заданную центральную позицию
  • генерация видеопрогноза и действий манипулятора для обученной сцены

Ограничения

Обучение охватывает одну задачу и 18 эпизодов, а приведённые метрики получены в восьми открытых тестовых случаях и не показывают успешность замкнутого управления. Для запуска LingBot-VA требуются исходный код проекта и компоненты Wan, VAE и текстовый энкодер.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

FastWAM and LingBot-VA Purple Box Checkpoints

Public release of two checkpoints fine-tuned on jokeru/pick_right_purple_box_and_place_it_in_the_middle.

Contents

PathModelTraining pointNotes
fastwam/step_000500.ptmemory FastWAMstep 500Full model checkpoint used by the local FastWAM runtime
lingbot-va/transformer/old Robbyant/lingbot-vastep 250Fine-tuned transformer weights and transformer config

The LingBot-VA optimizer/FSDP state (training_state.pt, about 40.5 GB) is intentionally excluded. The uploaded transformer is sufficient for inference and as a fine-tuning initialization, but still requires the upstream LingBot-VA code and base Wan/VAE/text-encoder components.

Data and split

  • Source dataset: jokeru/pick_right_purple_box_and_place_it_in_the_middle
  • Training episodes: 18
  • Held-out episodes: 4 and 15
  • Task: pick the right purple box and place it in the middle

FastWAM

  • Architecture: project memory FastWAM variant
  • Input views: global_primary, left_wrist, right_wrist
  • Video size: 384 x 320
  • Action/proprio schema: canonical 80D with validity masks
  • Context length: 128
  • Memory history: long 8, mid 2, short 1
  • Optimization: 8 GPUs, batch 8/GPU, global batch 64, bf16, 500 steps
  • Initialization: official RoboTwin FastWAM MoT checkpoint plus the Helios memory patchers from memory checkpoint step 35000

The detailed transfer metadata is stored in fastwam/initialization_report.json. Paths in that report have been reduced to stable checkpoint identifiers.

LingBot-VA

  • Architecture: old Robbyant/lingbot-va
  • Optimization: 8 GPUs, batch 24/GPU, global batch 192, 250 steps
  • Fixed latent window: 16 frames
  • Action alignment: 16 source action steps per latent frame
  • Training episodes: 18; held-out episodes: 4 and 15
  • Input views: right_eye, left_wrist, right_wrist
  • Compact action: right-arm joints 7D plus right gripper 1D, mapped into the model's 30D action schema

Held-out open-loop results

These numbers are diagnostics from eight generated cases, not closed-loop robot success rates.

ModelGenerated framesVideo PSNRVideo MAEAction MAE
FastWAM10116.7270.07760.4830
LingBot-VA14116.5400.09130.1146

Loading

Download the FastWAM checkpoint:

from huggingface_hub import hf_hub_download

checkpoint = hf_hub_download(
    repo_id="PencilHu/FastWAM-LingBotVA-PurpleBox",
    filename="fastwam/step_000500.pt",
)

Download the LingBot-VA transformer snapshot:

from huggingface_hub import snapshot_download

snapshot_download(
    repo_id="PencilHu/FastWAM-LingBotVA-PurpleBox",
    allow_patterns="lingbot-va/transformer/*",
)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
1b0f2f6

0 моделей