/ Модель

Характеристики

Базовая модель
Qwen2.5-VL-7B-Instruct
Библиотека
transformers
Опубликована
15 авг 2026

Embodied-Navigator-7B-GRPO

Языковая модельИзображение, текст → action

Дообученная на основе Qwen2.5-VL-7B политика предсказывает точки маршрута для навигации робота по RGB-визуальным наблюдениям и текстовым инструкциям.

2скачиваний за 30 дней5лайковвеса обновлены28 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Embodied-Navigator-7B-GRPO — исследовательская политика для навигации в помещениях по визуальным наблюдениям и инструкциям. Модель разработана авторами проекта Embodied-Navigator на основе Qwen2.5-VL-7B-Instruct и дообучена методом Two-Level Group Relative Policy Optimization (GRPO). Чекпойнт в формате BF16 содержит около 7 млрд параметров, специальные навигационные токены и обученную голову действий; для загрузки требуется адаптированная реализация Qwen2.5-VL из репозитория проекта.

На каждом шаге политика получает четыре эгоцентрических RGB-изображения, текстовую инструкцию и компактную память траектории. Она выбирает вид камеры, решает, нужно ли явное рассуждение, и предсказывает точку маршрута в пиксельных координатах. Полная система затем проецирует точку в 3D с использованием глубины и передаёт движение контроллеру низкого уровня. Модель предназначена для непрерывной навигации по инструкциям, в том числе с длинным горизонтом; в README приведены результаты на R2R-CE и RxR-CE, а также zero-shot оценка в реальных условиях.

Модель поддерживает английский язык согласно метаданным. Для полноценной работы нужны проектные компоненты построения запросов и памяти, геометрической проекции, локализации и управления; отдельно требуются среда Habitat-Lab, эпизоды бенчмарков и лицензированные ресурсы Matterport3D. Авторы отмечают риск преждевременной остановки и ложного сообщения об успехе, когда цель исчезает из всех видов камеры, а переносимость за пределы оценённых условий не установлена. Лицензия в предоставленных данных не указана.

Сценарии применения

  • навигация агента в помещении по текстовым указаниям
  • предсказание пиксельной точки пути по нескольким видам камеры
  • исследование мультимодальных политик для embodied AI
  • оценка навигации на бенчмарках R2R-CE и RxR-CE
  • изучение выборочного рассуждения и памяти для длинных маршрутов

Ограничения

Для полноценной работы необходимы адаптированный код проекта и внешние компоненты навигационного стека; результаты не воспроизводятся как у стандартной Transformers-модели. Возможны преждевременная остановка и ложное сообщение об успехе, а переносимость за пределы испытанных условий не установлена.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Embodied-Navigator-7B-GRPO

Point, Think, Memorize, and Align for Efficient Embodied Navigation

Project Page | Code | Paper

Embodied-Navigator-7B-GRPO is the released navigation policy checkpoint for Embodied-Navigator. It adapts Qwen2.5-VL-7B to continuous vision-language navigation and aligns the policy with Two-Level Group Relative Policy Optimization (GRPO).

The policy observes four egocentric RGB views, an instruction, and compact trajectory memory. At each decision point it determines whether explicit reasoning is useful, selects a camera view, and predicts a 2D pixel waypoint. The complete system projects that pixel into 3D using depth after the model prediction and delegates motion execution to a low-level navigation controller.

Model Details

FieldValue
Base modelQwen2.5-VL-7B-Instruct
Model familyVision-language navigation policy
PrecisionBF16
Context configuration128K tokens
Visual inputFour 90-degree RGB views with 360-degree coverage
Policy outputSelective reasoning, view selection, and 2D pixel waypoint
Navigation memoryAnchor-Trajectory Memory with Space-Time Indicators
Post-trainingSupervised fine-tuning followed by Two-Level GRPO
Training dataMultiNav-CoT, 90K navigation trajectories

The checkpoint includes navigation-specific tokens and a learned action head. It is intended to be loaded with the custom Qwen2.5-VL implementation in the project repository rather than treated as a generic image-captioning or chat checkpoint.

Method Summary

Embodied-Navigator organizes the policy around four components:

  • Point: predict a view and pixel waypoint, then use deterministic geometry for pixel-to-3D projection.
  • Think: trigger Chain-of-Thought reasoning only at decision-relevant nodes.
  • Memorize: retain critical visual-reasoning anchors and compress routine motion into Space-Time Indicators.
  • Align: combine local action advantages with global trajectory advantages through Two-Level GRPO.

Download

hf download UnderTides/Embodied-Navigator-7B-GRPO \
  --local-dir Embodied-Navigator-7B-GRPO

The repository contains approximately 17 GB of BF16 safetensors split across four shards.

Loading the Checkpoint

Clone the project code and load the checkpoint through its navigation-adapted Qwen2.5-VL classes:

git clone https://github.com/ZJU-OmniAI/Embodied-Navigator.git
cd Embodied-Navigator
from src.model.qwen2_5_vl import (
    Qwen2_5_VLForConditionalGeneration,
    Qwen2_5_VLProcessor,
)

model_id = "UnderTides/Embodied-Navigator-7B-GRPO"

processor = Qwen2_5_VLProcessor.from_pretrained(model_id)
model = Qwen2_5_VLForConditionalGeneration.from_pretrained(
    model_id,
    device_map="auto",
    torch_dtype="auto",
)
model.eval()

The full navigation workflow builds multi-view prompts, maintains Anchor-Trajectory Memory, parses policy outputs, projects predicted pixels into 3D, and executes waypoints through the environment controller. Use the agent and evaluation code in the project repository for end-to-end evaluation.

Example evaluation entry point:

bash scripts/run_evaluate.sh \
  config/ht_dthink_r2r.yaml \
  ./Embodied-Navigator-7B-GRPO \
  runs/embodied_navigator_eval

This evaluation also requires the corresponding Habitat-Lab environment, benchmark episodes, and licensed Matterport3D assets.

Evaluation Results

Results below are reported on validation-unseen splits. NE is lower-is-better; all other metrics are higher-is-better.

R2R-CE Val-Unseen

NEOSSRSPL
3.8574.566.258.8

RxR-CE Val-Unseen

NESRSPLnDTW
4.3265.756.972.4

Additional reported findings:

  • Adaptive reasoning reaches 66.2% R2R-CE SR with a 26.3% reasoning ratio.
  • Anchor-Trajectory Memory reaches 49.8% SR on the long-horizon subset.
  • Zero-shot real-world evaluation reaches 60.0% success over 100 blind trials.

See the project page and repository for complete tables, ablations, qualitative trajectories, and deployment videos.

Intended Use

This checkpoint is intended for research on:

  • Continuous vision-language navigation
  • Embodied vision-language policies
  • Selective reasoning and long-horizon memory
  • Pixel-grounded action prediction
  • Reinforcement-learning alignment for navigation

It is a component of a complete navigation system. Deployment requires the project's prompt construction, memory management, pixel-to-3D projection, localization, and low-level motion-control modules.

Limitations

  • The VLM observes RGB, while the complete system still uses depth for post-prediction geometric projection and odometry for memory encoding.
  • Results depend on the full evaluation stack and are not reproduced by loading the checkpoint as a standalone generic Transformers pipeline.
  • The policy may stop prematurely or hallucinate success when the target leaves all camera views.
  • Performance outside the reported navigation domains, sensor configuration, and instruction distribution has not been established.
  • The checkpoint does not include licensed Habitat-Matterport3D assets, the full MultiNav-CoT corpus, or the robot localization and planning stack.

Training Data

The policy is trained on MultiNav-CoT, a 90K-trajectory navigation dataset with Chain-of-Thought annotations generated using Gemini 2.5 Flash. A data subset and the processing pipeline are available in the project repository; the complete training corpus is distributed separately.

License

License terms for the released checkpoint have not yet been specified by the authors. Refer to the project repository for future license updates.

Citation

@inproceedings{feng2026embodiednavigator,
  title     = {Embodied-Navigator: Point, Think, Memorize, and Align
               for Efficient Embodied Navigation},
  author    = {Feng, Hongyan and Chen, Sunlai and Liu, Xuanyu and Pan, Miao and
               Xie, Yangfan and Cui, Yuxiang and Zhou, Zhongxiang and
               Xiong, Rong and Zhang, Wenqi and Yin, Jianwei and
               Zhuang, Yueting and Zhang, Xuhong},
  year      = {2026},
  url       = {https://arxiv.org/abs/2608.17512}
}

Authors

Hongyan Feng, Sunlai Chen, Xuanyu Liu, Miao Pan, Yangfan Xie, Yuxiang Cui, Zhongxiang Zhou, Rong Xiong, Wenqi Zhang, Jianwei Yin, Yueting Zhuang, and Xuhong Zhang.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Доступ к модели ограничен автором; у платформы нет доступа к весам.

Ревизия весов
3c60c49

0 моделей