/ Модель

Характеристики

Лицензия
MIT
Опубликована
3 сен 2026

3dwm-franka-pickplace-mppi

Языковая модельИзображение, текст → action

Модель прогнозирует облака точек для планирования действий Franka через MPPI в задаче захвата и размещения куба в MuJoCo.

0скачиваний за 30 дней0лайковвеса обновлены3 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это обученная 3D-модель мира FrankaPickPlace3D от Flashkernel, предназначенная для планирования управления роботом Franka в симуляторе MuJoCo. Она прогнозирует следующее состояние облака точек по частям сцены; контроллер MPPI оценивает последовательности действий, прокручивая прогноз модели вперёд. Отдельная политика управления не обучается: планировщик сам выбирает действия в замкнутом цикле для достижения, захвата, переноса и размещения объекта.

Модель построена на энкодере-декодере PTv3, использует два кадра и семь каналов действий. Чекпойнт эпохи 28 содержит 16,65 млн параметров, сохранён в формате PyTorch и занимает около 200 МБ. Он обучен на 1000 демонстрациях Franka-pickplace-1000demos-v2; для работы длина авторегрессионного прогноза составляет 10 шагов, и горизонт планировщика должен ей соответствовать. Лицензия — MIT.

Модель рассчитана на конкретную конфигурацию MuJoCo FrankaPickPlace3D-o1 и зависит от версии среды, на которой были созданы демонстрации: другая версия меняет сцены и делает входные данные несовместимыми с обучением. Результаты запусков на GPU могут отличаться по отдельным шагам событий даже при фиксированном seed; качество рекомендуется оценивать по серии seed. В README сообщается об успешном размещении куба в 15 из 15 запусков.

Сценарии применения

  • планирование подхода робота Franka к кубу
  • захват куба по облаку точек
  • перенос объекта к целевой позиции
  • размещение куба в симуляторе MuJoCo
  • замкнутое управление Franka с планировщиком MPPI

Ограничения

Модель зависит от конкретной версии среды MuJoCo, использованной при создании демонстраций; более поздние версии меняют сцены и приводят к сдвигу распределения. Запуски на GPU не битово воспроизводимы, поэтому результаты следует сравнивать на диапазоне seed.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

3DWM world model — FrankaPickPlace3D (epoch 28)

The trained 3D point-cloud world model used for closed-loop MPPI planning on kinder's MuJoCo FrankaPickPlace3D-o1 task (reach, grasp, carry, place). Every number in the accompanying reproduction package was measured on this checkpoint.

The model predicts the next per-part point cloud; MPPI scores sampled action sequences by rolling it forward. No policy is trained — the planner is the controller.

File

franka_pickplace_rollout10_bs16_dt01_epoch28_model.pt — 200 MB, md5 01ec30be1f1c4ff94a43e83f1591b413, 16.65 M parameters.

Contents: {'epoch': 28, 'dynamics': <state dict>, 'optim_state_dict': ...}, so training can be resumed from it as well.

Training

datasetFranka-pickplace-1000demos-v2 (1000 demos, 109,084 frames)
architecturePTv3 encoder/decoder, multi_frame_num=2, 7 action channels
rollout length10 (autoregressive) — the planner's horizon must match
dt0.01
batch size16
optimizerAdamW, lr 1e-4, StepLR (milestones 10/20)
total epochs60 — epoch 28 is a mid-training checkpoint; later epochs were not better for planning

Use

Place it where the plan config resolves checkpoints (tools/utils.py appends the dataset scenario to exp_name):

logdir/3dwm_franka_local/franka_pickplace_rollout10_1000demos_v2_bs16_dt01_pickplace/epoch_28/model.pt

Then follow section 4 of the reproduction guide in the code repository.

Two things to know

The MuJoCo environment must be pinned. The demos were generated against kindergarden commit 1d0cc56, and no published version of that package reproduces it. PyPI kindergarden==0.2.0 carries the same version string but was built three days earlier, before the FR3 pinch_site the demos' actions are defined on existed. v0.2.1 and later moved the FR3 mount (mount_height → mount_surface), which changes every scene and puts this model out of distribution. Both fail silently. The code repository ships scripts/check_kinder_env.py to verify by content hash.

Runs are not bitwise reproducible even with this checkpoint and a fixed seed — GPU nondeterminism moves per-episode event steps. Reproduce rates and rankings over a seed range, not individual step numbers. On 15 seeds this checkpoint places the cube 15/15.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
f1e3588

0 моделей