/ Модель

Характеристики

Лицензия
MIT
Базовая модель
Florence-2-large
Опубликована
16 мар 2025

flower_calvin_abc

Языковая модельИзображение, текст → action3 профессии

FlowerVLA — модель примерно с 1 млрд параметров, которая преобразует изображения с камер робота и текстовую инструкцию в действия для манипуляций в среде CALVIN ABC.

325скачиваний за 30 дней5лайковвеса обновлены15 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mbreuss/flower_calvin_abc — предобученная модель FlowerVLA для управления манипуляциями робота по изображениям и текстовым инструкциям. Разработчики описывают FlowerVLA как эффективную Vision-Language-Action-политику для робототехники с примерно 1 млрд параметров, основанную на половине Florence-2 для мультимодального кодирования и трансформерной архитектуре flow matching. Чекпойнт обучен для задачи CALVIN ABC.

Модель принимает RGB-изображения статической и захватной камер вместе с текстовой командой и выдаёт последовательность из семимерных действий, соответствующих приращениям положения конечного эффектора. Она предназначена для выполнения инструкций по манипуляции объектами в среде CALVIN. В README приведены результаты на CALVIN ABC, однако они относятся к этому бенчмарку и не подтверждают обобщение на другие среды или реальные роботы. Репозиторий использует формат safetensors; лицензия — MIT.

Сценарии применения

  • выполнение текстовой команды по захвату или перемещению объекта в CALVIN
  • управление манипулятором по изображениям статической и захватной камер
  • генерация последовательности приращений положения конечного эффектора
  • оценка политики управления роботом на бенчмарке CALVIN ABC

Ограничения

Чекпойнт ориентирован на CALVIN ABC; результаты из README не подтверждают перенос на другие среды или реальные роботы. Для работы требуются RGB-наблюдения с двух камер и текстовая инструкция.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

FlowerVLA - Vision-Language-Action Flow Model for CALVIN ABC

This is a pretrained FlowerVLA model for robotic manipulation trained on the CALVIN ABC dataset. Flower is an efficient Vision-Language-Action Flow policy for robot learning that only contains 1B parameters.

Model Description

FlowerVLA is a novel architecture that:

  • Uses half of Florence-2 for multi-modal vision-language encoding
  • Employs an novel transformer-based flow matching architecture
  • Provides an efficient, versatile VLA policy with only ~1B parameters

Model Performance

This checkpoint contains weights for the CALVIN ABC challenge and currently ranks 1 with the following results:

Train→TestMethod12345Avg. Len.
CALVIN ABCFlowerVLA99.3%95.9%90.5%84.8%77.5%4.54

Input/Output Specifications

Inputs

  • RGB Static Camera: (B, T, 3, H, W) tensor
  • RGB Gripper Camera: (B, T, 3, H, W) tensor
  • Language Instructions: Text strings

Outputs

  • Action Space: (B, T, 7) tensor representing delta EEF actions

Usage

Check out our full model implementation on Github todo and follow the instructions in the readme to test the model on one of the environments.

obs = {
    "rgb_obs": {
        "rgb_static": static_image,
        "rgb_gripper": gripper_image
    }
}
goal = {"lang_text": "pick up the blue cube"}
action = model.step(obs, goal)

Training Details

Configuration

  • Optimizer: AdamW
  • Learning Rate: 2e-5
  • Weight Decay: 0.05

@inproceedings{ reuss2025flower, title={{FLOWER}: Democratizing Generalist Robot Policies with Efficient Vision-Language-Flow Models}, author={Moritz Reuss and Hongyi Zhou and Marcel R{"u}hle and {"O}mer Erdin{\c{c}} Ya{\u{g}}murlu and Fabian Otto and Rudolf Lioutikov}, booktitle={9th Annual Conference on Robot Learning}, year={2025}, url={https://openreview.net/forum?id=JeppaebLRD} }

License

This model is released under the MIT license.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
6424ee4

0 моделей