/ Модель

Характеристики

Контекст
131 072 токена
Размер весов
16,8 ГБ
Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
2 авг 2026

lingbot-vla-pick-and-place-toy-to-bucket

Языковая модельИзображение, текст → action

Зрительно-языковая модель управления роботом, дообученная LingBot-VLA-4B для переноса игрушки в ведро манипулятором SO101.

13скачиваний за 30 дней0лайковвеса обновлены2 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Aikwed/lingbot-vla-pick-and-place-toy-to-bucket — полно-параметрическая донастройка LingBot-VLA-4B на наборе AlvinAi/pick_and_place_toy_to_bucket для выполнения роботом задачи «взять игрушку и положить в ведро». Модель использует зрительно-языково-действенную архитектуру LingBot-VLA и обучена предсказывать действия манипулятора по данным с передней и боковой камер и состояниям шести степеней управления: пяти суставов руки и захвата. Длина горизонта действия — 50 шагов.

Чекпойнт предназначен для управления манипулятором SO101 в сценарии pick-and-place. Для согласованного инференса README требует применять включённые norm_stats.json и robot_config.yaml: движения суставов заданы как приращения, а захват — как абсолютное значение. Значения захвата соответствуют калибровке датасета примерно 0–34; перенос на другое оборудование требует согласования калибровки и единиц. Модель дообучена на 82 эпизодах и 27 962 кадрах с частотой 30 FPS. Лицензия — Apache-2.0.

Сценарии применения

  • перенос игрушки в ведро манипулятором SO101
  • управление захватом и суставами руки по изображению с камер
  • воспроизведение задачи pick-and-place по текстовой инструкции

Ограничения

Обучена на одном сценарии и наборе из 82 эпизодов; для корректного инференса нужны соответствующие нормализация и конфигурация робота. Абсолютные значения захвата требуют совпадения калибровки и единиц с обучающими данными.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LingBot-VLA: Pick and Place Toy to Bucket

This checkpoint is a full-parameter fine-tune of LingBot-VLA-4B on the AlvinAi/pick_and_place_toy_to_bucket LeRobot dataset.

Task instruction

pick and place toy to bucket

The training pipeline formats it as <bos>pick and place toy to bucket\n before tokenization.

Dataset and robot layout

  • 82 episodes, 27,962 frames, 30 FPS
  • Cameras: observation.images.front and observation.images.side
  • State/action dimensions:
    1. shoulder_pan.pos
    2. shoulder_lift.pos
    3. elbow_flex.pos
    4. wrist_flex.pos
    5. wrist_roll.pos
    6. gripper.pos
  • Arm joints are trained as delta actions.
  • The gripper is trained as an absolute action.
  • The action horizon is 50 steps, with episode-tail padding excluded from both normalization statistics and the training loss.

The dataset's gripper values are approximately in the range 0–34. Hardware inference must use the same calibration and units; do not assume a 0–100 gripper range.

Fine-tuning setup

  • Full-parameter fine-tuning of the VLM, vision encoder, and action expert
  • 4 epochs
  • Global batch size 256 on 4 GPUs
  • Learning rate 2e-5, constant schedule
  • FP32/TF32 FSDP2 training
  • Mean/std normalization from the accompanying norm_stats.json

Included files

  • Hugging Face model weights and tokenizer/processor configuration
  • lingbotvla_cli.yaml: resolved training configuration
  • norm_stats.json: task-specific normalization statistics
  • robot_config.yaml: feature mapping used during training and inference

For inference, use norm_stats.json and robot_config.yaml from this model repository so that input padding, normalization, action restoration, and the absolute gripper output remain aligned with training.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
243100e

0 моделей