/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
5 июн 2025

RoboBrain2.0-32B

Языковая модельИзображение, текст → action3 профессии

RoboBrain 2.0-32B — мультимодальная модель BAAI для пространственного восприятия, рассуждений и планирования задач роботов по визуальным данным и инструкциям.

23скачиваний за 30 дней45лайковвеса обновлены10 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RoboBrain 2.0-32B — разработанная BAAI мультимодальная модель для embodied AI и робототехники. Она объединяет зрительный энкодер, MLP-проектор и языковой декодер в неоднородной архитектуре и предназначена для восприятия сцены, рассуждений и планирования действий роботов. Версия содержит 32 млрд параметров.

Модель принимает изображения, видео, текстовые инструкции и структурированные графы сцен. Она поддерживает пространственное понимание, предсказание точек и ограничивающих рамок, оценку будущих траекторий, интерактивное планирование с обратной связью и построение памяти о сцене. Выход включает структурированные планы, пространственные отношения и относительные или абсолютные координаты. В README приведены результаты на пространственных и временных бенчмарках; сведения о поддерживаемых естественных языках и длине контекста отсутствуют.

Модель может применяться для планирования задач манипуляции и координации нескольких роботов, а также для анализа визуальной обстановки. Веса опубликованы в формате safetensors под лицензией Apache-2.0. Для развёртывания требуются вычислительные ресурсы, соответствующие модели на 32 млрд параметров; количественные требования в карточке не приведены.

Сценарии применения

  • пространственное понимание изображений и сцен для робота
  • предсказание точек взаимодействия и ограничивающих рамок по инструкции
  • прогнозирование траекторий объектов или роботов
  • планирование длительных задач с обратной связью от сцены
  • координация нескольких роботов
  • построение и обновление структурированной памяти о сцене

Ограничения

Карточка не сообщает о поддерживаемых естественных языках и длине контекста. Версия на 32 млрд параметров требует значительных вычислительных ресурсов; приведённые в README результаты бенчмарков сами по себе не гарантируют качество в конкретном роботизированном сценарии.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RoboBrain 2.0: See Better. Think Harder. Do Smarter.

🗞️ News

  • 2025-07-23: 🤗 RoboBrain 2.0-3B model checkpoint has been released in Huggingface.
  • 2025-07-03: 🤗 RoboBrain 2.0-32B model checkpoint has been released in Huggingface.
  • 2025-06-07: 🎉 We highlight the training framework (FlagScale) developed by BAAI Framework R&D team, and the evaluation framework (FlagEvalMM) by BAAI FlagEval team. Both are used for RoboBrain 2.0.
  • 2025-06-06: 🤗 RoboBrain 2.0-7B model checkpoint has been released in Huggingface..
  • 2025-06-06: 🔥 We're excited to announce the release of our more powerful RoboBrain 2.0.
  • 2025-04-11: 🎉 RoboBrain 1.0 was selected for CVPR 2025's official Embodied AI Trends Commentary.
  • 2025-02-27: 🌍 RoboBrain 1.0 was accepted to CVPR2025.

🔥 Overview

We are thrilled to announce the launch of RoboBrain 2.0, the most powerful open-source embodied brain model to date. Compared to its predecessor, RoboBrain 1.0, the new version is designed to unify perception, reasoning, and planning for complex embodied tasks in physical environments. RoboBrain 2.0 comes in three variants: an ultra-lightweight 3B model, a lightweight 7B model, and a full-scale 32B model, all featuring a heterogeneous architecture with a vision encoder and a language model. Despite its compact size, RoboBrain 2.0 delivers exceptional performance across a wide range of embodied reasoning tasks. The newly released 3B model is optimized for resource-constrained scenarios, being extremely lightweight and easy to deploy, with spatial understanding capabilities comparable to the 7B model, making it ideal for edge devices and real-time applications. The 7B model strikes a balance between performance and computational requirements, suitable for diverse scenarios, while the 32B model achieves leading results in most spatial and temporal benchmarks, surpassing prior open-source and proprietary models. RoboBrain 2.0 supports critical real-world embodied intelligence capabilities, including spatial understanding (e.g., affordance prediction, spatial referring, trajectory forecasting) and temporal decision-making (e.g., closed-loop interaction, multi-agent long-horizon planning, and real-time scene memory). This report details the model architecture, data construction, multi-stage training strategies, infrastructure, and practical applications. We hope RoboBrain 2.0 advances embodied AI research and serves as a practical step toward building generalist embodied agents.

📆 Todo

  • Release model checkpoint for RoboBrain 2.0-3B
  • Release model checkpoint for RoboBrain 2.0-7B
  • Release quick inference example for RoboBrain 2.0
  • Release training codes for RoboBrain 2.0
  • Release model checkpoint for RoboBrain 2.0-32B

🚀 Features

RoboBrain 2.0 supports interactive reasoning with long-horizon planning and closed-loop feedback, spatial perception for precise point and bbox prediction from complex instructions, temporal perception for future trajectory estimation, and scene reasoning through real-time structured memory construction and update.

⭐️ Architecture

RoboBrain 2.0 supports multi-image, long video, and high-resolution visual inputs, along with complex task instructions and structured scene graphs on the language side. Visual inputs are processed via a Vision Encoder and MLP Projector, while textual inputs are tokenized into a unified token stream. All inputs are fed into a LLM Decoder that performs long-chain-of-thought reasoning and outputs structured plans, spatial relations, and both relative and absolute coordinates.

🤗 Model Zoo

ModelsCheckpointDescription
RoboBrain 2.0 3B🤗 BAAI/RoboBrain2.0-3B3B parameter version of the RoboBrain2.0
RoboBrain 2.0 7B🤗 BAAI/RoboBrain2.0-7B7B parameter version of the RoboBrain2.0
RoboBrain 2.0 32B🤗 BAAI/RoboBrain2.0-32B32B parameter version of the RoboBrain2.0

🛠️ Setup

# clone repo.
git clone https://github.com/FlagOpen/RoboBrain2.0.git
cd RoboBrain

# build conda env.
conda create -n robobrain2 python=3.10
conda activate robobrain2
pip install -r requirements.txt

🤖 Simple Inference

Note: Please refer to RoboBrain 2.0 Github for the usage of RoboBrain 2.0

😊 More Results

Benchmark comparison across spatial reasoning and temporal task planning. RoboBrain2.0 achieves state-of-the-art (SOTA) or near-SOTA performance on nine spatial reasoning benchmarks: BLINK-Spatial, CV-Bench, EmbSpatial, RoboSpatial, RefSpatial, SAT, VSI-Bench, Where2Place and ShareRobot-Bench, and three temporal reasoning benchmarks: Multi-Robot-Planning, Ego-Plan2 and RoboBench-Planning, It not only outperforms leading open-source models such as Cosmos-Reason1 and Qwen2.5-VL, but also surpasses closed-source models like Gemini 2.5 Pro, o4-mini and Claude Sonnet 4.

📑 Citation

If you find this project useful, welcome to cite us.

@article{RoboBrain 2.0,
    title={RoboBrain 2.0 Technical Report},
    author={BAAI RoboBrain Team},
    journal={arXiv preprint arXiv:2507.02029},
    year={2025}
}

@article{RoboBrain 1.0,
    title={Robobrain: A unified brain model for robotic manipulation from abstract to concrete},
    author={Ji, Yuheng and Tan, Huajie and Shi, Jiayu and Hao, Xiaoshuai and Zhang, Yuan and Zhang, Hengyuan and Wang, Pengwei and Zhao, Mengdi and Mu, Yao and An, Pengju and others},
    journal={arXiv preprint arXiv:2502.21257},
    year={2025}
}

@article{RoboOS,
    title={RoboOS: A Hierarchical Embodied Framework for Cross-Embodiment and Multi-Agent Collaboration},
    author={Tan, Huajie and Hao, Xiaoshuai and Lin, Minglan and Wang, Pengwei and Lyu, Yaoxu and Cao, Mingyu and Wang, Zhongyuan and Zhang, Shanghang},
    journal={arXiv preprint arXiv:2505.03673},
    year={2025}
}

@article{zhou2025roborefer,
    title={RoboRefer: Towards Spatial Referring with Reasoning in Vision-Language Models for Robotics},
    author={Zhou, Enshen and An, Jingkun and Chi, Cheng and Han, Yi and Rong, Shanyu and Zhang, Chi and Wang, Pengwei and Wang, Zhongyuan and Huang, Tiejun and Sheng, Lu and others},
    journal={arXiv preprint arXiv:2506.04308},
    year={2025}
}

@article{Reason-RFT,
    title={Reason-rft: Reinforcement fine-tuning for visual reasoning},
    author={Tan, Huajie and Ji, Yuheng and Hao, Xiaoshuai and Lin, Minglan and Wang, Pengwei and Wang, Zhongyuan and Zhang, Shanghang},
    journal={arXiv preprint arXiv:2503.20752},
    year={2025}
}

@article{Code-as-Monitor,
    title={Code-as-Monitor: Constraint-aware Visual Programming for Reactive and Proactive Robotic Failure Detection},
    author={Zhou, Enshen and Su, Qi and Chi, Cheng and Zhang, Zhizheng and Wang, Zhongyuan and Huang, Tiejun and Sheng, Lu and Wang, He},
    journal={arXiv preprint arXiv:2412.04455},
    year={2024}
}

Acknowledgements

We sincerely thank RoboRefer (NeurIPS 2025) for bringing powerful spatial reasoning and referring capabilities to RoboBrain 2.0, and Reason-RFT (NeurIPS 2025) for providing an effective reinforcement learning post-training method.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Доступ к модели ограничен автором; у платформы нет доступа к весам.

Ревизия весов
892c724

0 моделей