/ Модель

Характеристики

Лицензия
Apache 2.0
Опубликована
28 мая 2024

vqbet_pusht

Языковая модельИзображение, текст → action3 профессии

Модель VQ-BeT, обученная управлять объектом в симуляционной среде PushT и перемещать его к заданной цели.

32скачиваний за 30 дней2лайкавеса обновлены2 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VQ-BeT/PushT — модель для управления роботом, разработанная на основе подхода VQ-BeT из работы «Behavior Generation with Latent Actions» и обученная для среды PushT из gym-pusht. Она предназначена для генерации действий, перемещающих объект в форме буквы T к целевой позиции; загрузка и оценка модели выполняются с помощью библиотеки LeRobot.

Модель включает RGB-энкодер на 11,2 млн параметров и остальные компоненты VQ-BeT на 26,3 млн параметров. В оценке на 500 эпизодах PushT среднее максимальное перекрытие с целью составило 0,887, а доля успешных эпизодов — 66%. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Модель проверена в симуляционной среде PushT; эти результаты сами по себе не подтверждают пригодность для реального робота или других задач управления. README не сообщает о поддержке языковых инструкций.

Сценарии применения

  • управление объектом в форме T в симуляции PushT
  • генерация последовательностей действий для перемещения объекта к цели
  • оценка методов обучения робототехнике в gym-pusht
  • воспроизведение экспериментов по генерации поведения с латентными действиями

Ограничения

Оценка проведена только в симуляционной среде PushT: успешность на 500 эпизодах составила 66%. Перенос на реальное оборудование или другие задачи в README не подтверждён.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for VQ-BeT/PushT

VQ-BeT (as per Behavior Generation with Latent Actions) trained for the PushT environment from gym-pusht.

How to Get Started with the Model

See the LeRobot library (particularly the evaluation script) for instructions on how to load and evaluate this model.

Training Details

The model was trained using this command:

python lerobot/scripts/train.py \
  policy=vqbet \
  env=pusht dataset_repo_id=lerobot/pusht \
  wandb.enable=true \
  device=cuda

This took about 7 hours to train on an Nvida A6000.

Model Size

Number of Parameters
RGB Encoder11.2M
Remaining VQ-BeT Parts26.3M

Evaluation

The model was evaluated on the PushT environment from gym-pusht. There are two evaluation metrics on a per-episode basis:

  • Maximum overlap with target (seen as eval/avg_max_reward in the charts above). This ranges in [0, 1].
  • Success: whether or not the maximum overlap is at least 95%.

Here are the metrics for 500 episodes worth of evaluation.

Ours
Average max. overlap ratio for 500 episodes0.887
Success rate for 500 episodes (%)66.0

The results of each of the individual rollouts may be found in eval_info.json.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
f2d76e2

0 моделей