/ Модель

Характеристики

Контекст
262 144 токена
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Qwen3.5-2B
Библиотека
transformers
Опубликована
13 июл 2026

RynnBrain1.1-2B

Изображение и текст → текст3 профессии

RynnBrain 1.1-2B — дообученная мультимодальная модель для пространственного понимания изображений и видео, локализации объектов и рассуждений в сценариях embodied AI.

64 279скачиваний за 30 дней12лайковвеса обновлены9 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RynnBrain 1.1-2B — мультимодальная модель для embodied AI, разработанная Alibaba DAMO Academy и дообученная на базе Qwen/Qwen3.5-2B. Она принимает изображения и текстовые запросы, а также поддерживает понимание видео и пространственных сцен; выдаёт текстовые ответы и описания, включая результаты локализации объектов. В карточке указана архитектура Qwen3.5 dense с 2 млрд параметров, библиотека Transformers и формат весов safetensors.

Модель предназначена для пространственного и объектного понимания, визуального заземления инструкций, рассуждений и планирования в сценах для embodied-систем. Примеры задач из README включают определение категорий, атрибутов и отношений объектов, подсчёт и локализацию объектов по запросу на изображении или видео. Семейство RynnBrain 1.1 также включает отдельную VLA-систему для управления роботами; README не утверждает, что данный чекпойнт 2B сам выдаёт команды управления.

Модель ориентирована на английский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Длина контекста и количественные результаты именно этого чекпойнта в предоставленных материалах не приведены.

Сценарии применения

  • Определение объектов, их атрибутов и взаимного расположения в сцене
  • Локализация указанного объекта по текстовой инструкции на изображении
  • Понимание пространственной структуры видеосцены
  • Подсчёт объектов на изображении или видео
  • Ответы на вопросы о содержимом визуальной сцены

Ограничения

В предоставленных материалах нет количественных оценок качества для чекпойнта 2B и сведений о длине контекста. Поддержка управления реальными роботами описана для отдельной системы RynnBrain-VLA и не подтверждает непосредственную генерацию управляющих действий этим чекпойнтом.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RynnBrain 1.1

News

  • [2026.07.16] ✨✨ Release RynnBrain 1.1 checkpoints (2B / 9B / 122B-A10B) on Hugging Face & ModelScope!
  • [2026.07.16] ✨✨ Release the RynnBrain 1.1 Technical Report on arXiv!

Introduction

We present RynnBrain 1.1, a systematic upgrade of RynnBrain for embodied intelligence. RynnBrain 1.1 is released in three scales: 2B, 9B, and 122B-A10B, extending the model family from compact dense models to its first 122B-level sparse-MoE model.

What's New in 1.1 🚀

  • Unified Embodied Scaling to 122B: Establishes the first embodied brain model at the 122B scale under a unified training recipe shared across 2B, 9B, and 122B-A10B, enabling a systematic study of how embodied cognition, spatial reasoning, grounding, and planning evolve with scale.
  • Real-robot VLA transfer: Bridges perception and action through RynnBrain-VLA, translating embodied understanding into real-robot control and demonstrating strong cross-platform generalization on Unitree G1, Astribot, and Tianji-Wuji across humanoid, bimanual, and dexterous-hand tasks.
  • Native 3D and contact point grounding: Introduces explicit 3D-grounded training and a new contact point prediction task, extending RynnBrain from image-plane localization to metric 3D understanding and action-relevant interaction grounding.

Performance

  • General Embodied Understanding
  • Real-Robot VLA Evaluation
  • 3D Grounding

Model Zoo

ModelBase ModelHuggingFaceModelScope
RynnBrain1.1-2B (This checkpoint)Qwen3.5-2BLinkLink
RynnBrain1.1-9BQwen3.5-9BLinkLink
RynnBrain1.1-122B-A10BQwen3.5-122B-A10BLinkLink

Quick Start

Inference with 🤗 transformers

Minimal dependencies

pip install transformers==5.2.0

Run text generation

import torch
from transformers import AutoModelForImageTextToText, AutoProcessor

conversation = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "cookbooks/assets/object_location/images/000000086408.jpg"},
            {
                "type": "text",
                "text": "What appliance can be used to heat food quickly.\nGenerate coordinates for one object bounding box. Constraints: x1,y1,x2,y2 in [0,1000]. Response must be in the format: <object> (x1, y1), (x2, y2) </object>",
            },
        ],
    }
]

model_path = "Alibaba-DAMO-Academy/RynnBrain1.1-2B"
processor = AutoProcessor.from_pretrained(model_path)

model = AutoModelForImageTextToText.from_pretrained(
    model_path,
    dtype=torch.bfloat16,
)
model.to("cuda")

model_inputs = processor.apply_chat_template(
    conversation,
    add_generation_prompt=True,
    enable_thinking=False,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
)
model_inputs = model_inputs.to("cuda")

output_ids = model.generate(
    **model_inputs,
    max_new_tokens=256,
    do_sample=False,
)
output_ids = output_ids[:, model_inputs["input_ids"].size(1) :]
response = processor.decode(output_ids[0], skip_special_tokens=True)
print(response)

Inference with SGLang

For installation and advanced usages, please refer to the official documentation.

OpenAI-Compatible Serving

# launch server
python3 -m sglang.launch_server --model-path Alibaba-DAMO-Academy/RynnBrain1.1-2B --host 0.0.0.0 --port 8000
# inference using openai api
import base64
import io

from openai import OpenAI
from PIL import Image

def pil_to_url(image: Image.Image):
    image_format = image.format if image.format else 'PNG'
    buffered = io.BytesIO()
    image.save(buffered, format=image_format)
    img_str = base64.b64encode(buffered.getvalue()).decode('utf-8')
    return f'data:image/{image_format.lower()};base64,{img_str}'

messages = [
    {
        'role': 'user',
        'content': [
            {'type': 'image_url', 'image_url': {'url': pil_to_url(Image.open('cookbooks/assets/object_location/images/000000086408.jpg'))}},
            {'type': 'text', 'text': 'What appliance can be used to heat food quickly.\nGenerate coordinates for one object bounding box. Constraints: x1,y1,x2,y2 ∈ [0,1000]. Response must be in the format: <object> (x1, y1), (x2, y2) </object>'},
        ],
    }
]

client = OpenAI(api_key="", base_url="http://localhost:8000/v1")
response = client.chat.completions.create(
    model="default",
    messages=messages,
    stream=False,
).choices[0].message.content
print(response)

Offline Engine

import sglang as sgl
from transformers import AutoProcessor

def main():
    conversation = [
        {
            'role': 'user',
            'content': [
                {'type': 'image'},
                {'type': 'text', 'text': 'What appliance can be used to heat food quickly.\nGenerate coordinates for one object bounding box. Constraints: x1,y1,x2,y2 ∈ [0,1000]. Response must be in the format: <object> (x1, y1), (x2, y2) </object>'},
            ],
        }
    ]

    model_path = 'Alibaba-DAMO-Academy/RynnBrain1.1-2B'
    llm = sgl.Engine(model_path=model_path)
    processor = AutoProcessor.from_pretrained(model_path)

    prompt = processor.apply_chat_template(
        conversation,
        add_generation_prompt=True,
        tokenize=False,
    )

    output = llm.generate(
        prompt=prompt,
        image_data='cookbooks/assets/object_location/images/000000086408.jpg',
        sampling_params={"temperature": 0.8, "top_p": 0.95},
    )
    print(f"Prompt: {prompt}\nGenerated text: {output['text']}")

if __name__ == '__main__':
    main()

Cookbooks

Check out the cookbooks that showcase RynnBrain's capabilities in cognition, localization, reasoning, and planning.

CategoryCookbook nameDescription
Spatial Understanding1_spatial_understanding.ipynbShows the model's ability for spatial understanding in the video scene.
Object Understanding2_object_understanding.ipynbShows how the model understands object categories, attributes, and relations and counting ability.
Object Grounding3_object_grounding.ipynbLocates specific objects with bounding boxes in an image or video based on instructions.
Area Location4_area_location.ipynbIdentifies and marks specified regions by points in an image or video.
Affordance Location5_affordance_location.ipynbFinds areas or objects with specific affordances in an image or video.
Trajectory Location6_trajectory_location.ipynbInfers and annotates trajectories or motion paths in an image or video.
🆕 Contact Point Prediction7_contact_point_prediction.ipynbPredicts an instruction-conditioned contact point and in-plane orientation from an image.
🆕 3D Grounding8_3d_grounding.ipynbPredicts 3D bounding boxes (position, dimensions, orientation) from a single RGB image with camera intrinsics.

Training

Pretraining & Evaluation

Please refer to RynnScale for details of pretraining and evaluation.

📑 Citation

If you find RynnBrain useful for your research and applications, please cite using this BibTeX:

@article{damo2026rynnbrain,
  title={RynnBrain: Open Embodied Foundation Models},
  author={Ronghao Dang, Jiayan Guo, Bohan Hou, Sicong Leng, Kehan Li, Xin Li, Jiangpin Liu, Yunxuan Mao, Zhikai Wang, Yuqian Yuan, Minghao Zhu, Xiao Lin, Yang Bai, Qian Jiang, Yaxi Zhao, Minghua Zeng, Junlong Gao, Yuming Jiang, Jun Cen, Siteng Huang, Liuyi Wang, Wenqiao Zhang, Chengju Liu, Jianfei Yang, Shijian Lu, Deli Zhao},
  journal={arXiv preprint arXiv:2602.14979v1},
  year={2026},
  url = {https://arxiv.org/abs/2602.14979v1}
}

@article{damo2026rynnbrain11,
  title={RynnBrain 1.1: Towards More Capable and Generalizable Embodied Foundation Model},
  author={Kehan Li, Bohan Hou, Minghao Zhu, Tianyi Zhang, Zesen Cheng, Zhikai Wang, Sicong Leng, Xin Li, Xiao Lin, Biying Yao, Minghua Zeng, Jiangpin Liu, Ronghao Dang, Jiayan Guo, Siteng Huang, Haoyu Zhao, Heng Ping, Yaxi Zhao, Kexiang Wang, Tong Lu, Shengke Xue, Jiahao Tang, Yulei Wang, Zejing Wang, Jianwei Gao, Shijian Lu, Chengju Liu, Jianfei Yang, Mingxiu Chen, Deli Zhao},
  journal={arXiv preprint arXiv:2607.17977},
  year={2026},
  url = {https://arxiv.org/abs/2607.17977}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
36069aa

0 моделей