/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
MolmoBot-DROID
Библиотека
molmobot
Опубликована
17 июл 2026

MolmoBot-DROID-Directional-PickPlace-SimpleDesk-Step-10000

Языковая модельИзображение, текст → action

Промежуточная дообученная модель MolmoBot для выполнения команд захвата и размещения предметов слева или справа от цели на столе.

2скачиваний за 30 дней1лайквеса обновлены17 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MolmoBot-DROID Directional Pick/Place SimpleDesk — промежуточный чекпойнт на 10 000 шагах, дообученный ccwatson от allenai/MolmoBot-DROID. Модель предназначена для управления манипулятором Franka/FR3 при выполнении настольных команд, где нужно переместить предмет влево или вправо от другого объекта. Она принимает изображения с камер DROID и команды на естественном языке, а выдаёт действия робота через стек MolmoBot.

Чекпойнт обучен на 200 scripted траекториях из 40 эпизодов и оценён в симуляции на 40 эпизодах: строгий успех составил 25 из 40 (62,5%). Это не финальная версия запланированного обучения на 16 000 шагов. Для запуска требуются сервер MolmoBot и включённая в репозиторий статистика нормализации; лицензия — Apache-2.0.

Сценарии применения

  • перемещение предмета слева от другого предмета на столе
  • размещение предмета справа от указанного объекта
  • выполнение команд pick-and-place на симуляционном стенде Franka/FR3
  • оценка пространственного понимания робота по изображениям камер DROID

Ограничения

Это промежуточный чекпойнт на 10 000 шагах, измеренный только на 40 эпизодах симуляционного бенчмарка; результат 62,5% не подтверждает широкую робототехническую способность или безопасность в реальном мире. Перед физическим использованием необходимо проверить масштабирование действий, камеры, границы рабочей зоны, обработку столкновений и аварийную остановку.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MolmoBot-DROID Directional Pick/Place SimpleDesk — Step 10,000

This repository contains the 10,000-step intermediate checkpoint from the lr_custom_16k MolmoBot finetuning run. It was finetuned from allenai/MolmoBot-DROID for Franka/FR3 tabletop pick-and-place commands that require placing one object to the left or right of another object.

The root config.yaml and model.pt form the unsharded MolmoBot checkpoint expected by the MolmoBot server. This is not the final 16,000-step checkpoint; the step is deliberately included in both the repository name and this model card.

Checkpoint identity

FieldValue
Checkpoint step10,000
Training runlr_custom_16k
Checkpoint formatMolmoBot unsharded (config.yaml + model.pt)
Base modelallenai/MolmoBot-DROID
Base model revisioncbe6ec358958d07ddfb20d3aa54e560e9e1b18c9
Training W&B runccwatson/molmobot_finetune/ouuzdjlg
Training Slurm job7107997 (lr-custom-ie-fe-16k-b16-32)
Checkpoint created2026-07-17 12:11 UTC
model.pt size19,992,166,548 bytes
model.pt SHA-256027daf40cbf87cfebc4dcee0aa16b0d6c0a87c2bfb30229ed77f9c1545d600da
config.yaml SHA-2567eeb51134b93fc17955f3bd850240074d6b9faf3dcf527177861940c7c098400

The complete resolved model/trainer configuration is in config.yaml. The submission-time environment is preserved as metadata/training_launch.env, and machine-readable provenance is in metadata/provenance.json.

Training data

Training used ccwatson/directional_pick_place_simpledesk_diverse_targets_tested40_200demos_20260716_molmobot at dataset revision 5446191605f7eb3020983d83f707153d9719ecfb.

The dataset contains 200 successful scripted trajectories derived from 40 valid benchmark episodes, with five attempts per episode:

SplitSource episodesTrajectoriesHDF5 filesVideos
Train36180180360
Validation4202040

The two cameras are droid_shoulder_light_randomization and wrist_camera_zed_mini. Prompts were not randomized during training. Normalization was computed from the train split using action quantiles and state min/max statistics for the eight-dimensional Franka action and state vectors. The exact statistics are included as normalization_stats.yaml (SHA-256 972a88e10f02976ce5a4d1c90a2070a62e4daa08a5fe1cecb4ca00e8216eb15d).

Main training settings

SettingValue
Intended run length16,000 steps
This checkpoint10,000 steps
Device / global batch size16 / 32
Sequence length928
Observation frames2
Observation step delta8
Maximum images4
Maximum frames1
Single-frame preprocessingfalse
Action presetfranka_joint
Camera presetfranka_droid
Action horizon in data16 × 8
Weighted samplingenabled
Prompt randomizationdisabled
Image augmentationenabled
LLM finetuningenabled
Embedding finetuning modeae
Flow timestamps8
Connector learning rate5e-6
Vision encoder learning rate5e-6
LLM learning rate1e-5
Action expert learning rate1e-4
Validation interval / max examples200 / 200
Save and external-eval interval2,000 steps
Trainer and optimizer statereset from base model
Hardware1× NVIDIA B200, 28 CPUs, 224 GiB host memory

Closed-loop evaluation

This checkpoint was evaluated on all 40 episodes of FrankaPickAndPlaceRelativeNextToSimpleDeskDiverseTargetsTested40Bench (20 left and 20 right tasks) through the VLA evaluation harness and MolmoSpaces. The evaluation used natural-language prompts, Filament rendering, 10 parallel shards, a 500-step task horizon, and both DROID cameras.

Server action settings were:

  • execution horizon: 8
  • state mode: cross_attn
  • maximum joint delta: 0.2
MetricResult
Strict success25 / 40 (62.5%)
Lax success26 / 40 (65.0%)
Strict oracle-done rate25 / 40 (62.5%)
Lax oracle-done rate27 / 40 (67.5%)
Average episode length274.675 steps
Average successful episode length140.08 steps
Min / max episode length32 / 499 steps
Failed shards0
Missing / duplicate / unexpected episodes0 / 0 / 0

The eval completed successfully (eval_returncode=0) in 2,016.92 seconds. See the evaluation W&B run, metadata/external_eval_request.json, and metadata/external_eval_result.json for the complete recorded configuration and result.

Repository files

  • model.pt: unsharded MolmoBot weights.
  • config.yaml: complete resolved model and trainer configuration.
  • normalization_stats.yaml: exact state/action normalization statistics.
  • metadata/training_launch.env: exact experiment launch configuration.
  • metadata/external_eval_request.json: checkpoint identity and requested eval settings.
  • metadata/external_eval_result.json: complete eval result and coverage accounting.
  • metadata/provenance.json: source revisions, hashes, run identity, and artifact inventory.

Intended use and limitations

This checkpoint is intended for research evaluation of the matching Franka/FR3 DROID-camera setup and directional SimpleDesk tasks. It should be served with the MolmoBot inference stack and the included normalization stats. It has only been measured on the 40-episode simulated benchmark described above. The 62.5% result is a single benchmark evaluation, not a claim of broad robotic capability or real-world safety. Validate action scaling, cameras, workspace limits, collision handling, and emergency-stop behavior before any physical-robot use.

License

This derivative checkpoint follows the Apache-2.0 license declared by the base allenai/MolmoBot-DROID model. Users remain responsible for the terms of the base model, training dataset, simulator assets, and other dependencies.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · molmobot

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
b9b18a4

0 моделей