/ Модель

Характеристики

Контекст
1 010 000 токенов
Размер весов
19,4 ГБ
Лицензия
Apache 2.0
Архитектура
molmo2 · dense
Базовая модель
Molmo2-4B
Библиотека
transformers
Опубликована
4 мая 2026

Molmo2-ER

Изображение и текст → текст3 профессии

Мультимодальная модель Ai2 для понимания сцен, пространственных отношений, нескольких изображений и временной последовательности в видео.

23 560скачиваний за 30 дней17лайковвеса обновлены21 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Molmo2-ER — мультимодальная модель зрения и языка на 4 млрд параметров, разработанная Ai2 для задач embodied reasoning, связанных с пониманием визуальной сцены и пространственных отношений. Она дообучена на базе allenai/Molmo2-4B; архитектура Molmo2-4B использует основу Qwen3-4B и визуальный энкодер SigLIP2. Модель предназначена для визуального восприятия, на которое могут опираться последующие модели планирования действий, и служит визуально-языковой основой MolmoAct2.

Модель отвечает на вопросы по изображениям и видео, описывает сцены, указывает объекты с точностью до пикселей, сопоставляет виды одной сцены на нескольких изображениях, включая перспективы от первого и третьего лица, и рассуждает о временной последовательности в видео. В README сообщается, что на 9 из 13 перечисленных бенчмарков embodied reasoning она превзошла сравниваемые открытые и закрытые модели; средний результат составил 63,8%, на 17 процентных пунктов выше исходной Molmo2. Эти результаты относятся к указанному набору бенчмарков и не гарантируют качество в других сценариях.

В метаданных указан английский язык, библиотека Transformers и формат весов Safetensors. Лицензия — Apache-2.0. Ограничения по длине контекста и подробные результаты для конкретных сценариев в предоставленных материалах не приведены.

Сценарии применения

  • Ответы на вопросы о содержимом изображения
  • Определение точного положения объекта на изображении
  • Сопоставление объектов и сцен на нескольких изображениях
  • Сопоставление перспектив от первого и третьего лица
  • Анализ событий и их последовательности в видео
  • Понимание пространственных отношений в сцене

Ограничения

Заявленные преимущества основаны на сравнении на 9 из 13 перечисленных бенчмарков и не устанавливают качество на любых других задачах. Длина контекста в предоставленных материалах не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Molmo2-ER

Molmo2-ER (Embodied Reasoning) is a 4B vision–language model specialized for the embodied perception skills that downstream action models depend on: scene understanding, pixel-accurate pointing, multi-image and egocentric–exocentric correspondence, and video temporal reasoning.

It is built on top of Molmo2 (Qwen3-4B backbone + SigLIP2 vision encoder) and serves as the vision–language backbone of the MolmoAct2 action reasoning model.

Highlights

  • Outperforms every open-weight baseline as well as the strongest closed-source models — including Gemini Robot-ER 1.5 Thinking and GPT-5 — on 9 of 13 established embodied reasoning benchmarks (Point-Bench, RefSpatial, BLINK, CV-Bench, ERQA, EmbSpatial, MindCube, SAT, VSI-Bench).
  • Overall average 63.8%, a +17 point improvement over the Molmo2 starting point.

Training

Molmo2-ER is trained from the released Molmo2 checkpoint with a two-stage specialize-then-rehearse recipe:

StageStepsMixtureSeq. len.Per-device BS
1. Embodied specialization20K3.3M-sample embodied corpus (SAT, RoboPoint, RefSpatial, VST-P, VSI-590K, SIMS-VSI, RoboVQA, SenseNova-SI, CLEVR, GRiD-3D) + 8% Tulu-34,2004
2. Joint refinement1.5K50% embodied / 42% Molmo2 general / 8% Tulu-316,3841

All other hyperparameters follow Molmo2.

Resources

Usage

See https://github.com/allenai/molmo2 for inference, evaluation, and training code.

License

Apache-2.0.

Citation

@misc{fang2026molmoact2actionreasoningmodels,
      title={MolmoAct2: Action Reasoning Models for Real-world Deployment}, 
      author={Haoquan Fang and Jiafei Duan and Donovan Clay and Sam Wang and Shuo Liu and Weikai Huang and Xiang Fan and Wei-Chuan Tsai and Shirui Chen and Yi Ru Wang and Shanli Xing and Jaemin Cho and Jae Sung Park and Ainaz Eftekhar and Peter Sushko and Karen Farley and Angad Wadhwa and Cole Harrison and Winson Han and Ying-Chun Lee and Eli VanderBilt and Rose Hendrix and Suveen Ellawela and Lucas Ngoo and Joyce Chai and Zhongzheng Ren and Ali Farhadi and Dieter Fox and Ranjay Krishna},
      year={2026},
      eprint={2605.02881},
      archivePrefix={arXiv},
      primaryClass={cs.RO},
      url={https://arxiv.org/abs/2605.02881}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Molmo2ForConditionalGeneration
Ревизия весов
dab2256

0 моделей