/ Модель

Характеристики

Контекст
1 010 000 токенов
Размер весов
19,5 ГБ
Архитектура
molmoact2 · dense
Библиотека
transformers
Опубликована
4 мая 2026

MolmoAct2-Pretrain

Изображение и текст → текст3 профессии

Предварительно обученный визуально-языковой бэкбон для дальнейшей настройки MolmoAct2 и генерации дискретных токенов состояния и действий робота.

4 322скачиваний за 30 дней5лайковвеса обновлены23 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MolmoAct2-Pretrain — предварительно обученная модель Allen Institute for AI, основанная на визуально-языковом бэкбоне Molmo2-ER. Она преобразует визуальные наблюдения и языковые инструкции в последовательности дискретных токенов состояния робота и действий, сохраняя интерфейс токенов Molmo2. В репозитории указана архитектура MolmoAct2ForConditionalGeneration; веса представлены в формате Safetensors и предназначены для работы через Transformers.

Чекпойнт рассчитан на последующие этапы постобучения или тонкой настройки в составе MolmoAct2. Это бэкбон до подключения эксперта действий на основе continuous flow matching: непрерывное управление роботом через predict_action(...) недоступно. Генерацию в стиле VLM можно выполнять через стандартный механизм Transformers при включённом trust_remote_code.

Модель может использоваться в экспериментах по преобразованию изображений и инструкций в роботизированные действия, но этот чекпойнт не готов для прямого управления роботом. Поведение может зависеть от воплощения робота, среды и аппаратной конфигурации; перед применением на оборудовании результаты необходимо проверять и ограничивать средствами безопасности. Лицензия в предоставленных данных не указана.

Сценарии применения

  • постобучение политики робота на визуальных наблюдениях и языковых инструкциях
  • тонкая настройка VLA-модели под конкретный корпус робототехнических данных
  • эксперименты с дискретным представлением состояния и действий робота
  • генерация ответов VLM по визуальным наблюдениям через Transformers

Ограничения

Чекпойнт не включает эксперта непрерывных действий, поэтому predict_action(...) и прямое непрерывное управление недоступны; модель предназначена для последующего постобучения или тонкой настройки. Перед запуском на физическом роботе необходимы проверка выходов и меры безопасности с учётом конкретного оборудования и среды.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MolmoAct2-Pretrain

MolmoAct2-Pretrain adapts the Molmo2-ER vision-language backbone into a discrete autoregressive robot policy while keeping the Molmo2 token interface. Robot state is represented with discrete state tokens, and future one-second actions are represented with OpenFAST action tokens.

This checkpoint is the pre-trained VLA backbone before the continuous flow-matching action expert is attached. It is intended for further post-training or fine-tuning, not direct continuous-control inference.

Quick Links

Intended Use

Use this checkpoint for further MolmoAct2 training stages. It was converted with add_action_expert=false, so predict_action(...) is intentionally unavailable. Standard Transformers generation can still be used for VLM-style behavior with trust_remote_code=True.

Model and Hardware Safety

MolmoAct2 generate robot actions from visual observations and language instructions, but their behavior may vary across embodiments, environments, and hardware configurations. Users should carefully validate model outputs before deployment, especially when operating physical robots or other actuated systems. Where possible, actions should be monitored through interpretable intermediate outputs (adaptive depth map), simulation rollouts, action limits, or other safety checks before execution on hardware. The model’s action space should be bounded by the training data, robot controller limits, and task-specific safety constraints, including limits on speed, workspace, torque, and contact force. Users should follow the hardware manufacturer’s safety guidelines, use appropriate emergency-stop mechanisms, and operate the system only in a safely configured environment with human supervision.

Citation

@misc{fang2026molmoact2actionreasoningmodels,
      title={MolmoAct2: Action Reasoning Models for Real-world Deployment}, 
      author={Haoquan Fang and Jiafei Duan and Donovan Clay and Sam Wang and Shuo Liu and Weikai Huang and Xiang Fan and Wei-Chuan Tsai and Shirui Chen and Yi Ru Wang and Shanli Xing and Jaemin Cho and Jae Sung Park and Ainaz Eftekhar and Peter Sushko and Karen Farley and Angad Wadhwa and Cole Harrison and Winson Han and Ying-Chun Lee and Eli VanderBilt and Rose Hendrix and Suveen Ellawela and Lucas Ngoo and Joyce Chai and Zhongzheng Ren and Ali Farhadi and Dieter Fox and Ranjay Krishna},
      year={2026},
      eprint={2605.02881},
      archivePrefix={arXiv},
      primaryClass={cs.RO},
      url={https://arxiv.org/abs/2605.02881}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MolmoAct2ForConditionalGeneration
Ревизия весов
a05effc

0 моделей