/ Модель

Характеристики

Опубликована
17 дек 2024

UH-1

Языковая модельИзображение, текст → action

UH-1 — набор чекпойнтов трансформера и токенизатора действий для управления позами гуманоидного робота по методу, обученному на видео людей.

0скачиваний за 30 дней8лайковвеса обновлены19 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

UH-1 — набор официальных чекпойнтов, выпущенный авторами работы «Learning from Massive Human Videos for Universal Humanoid Pose Control». В репозитории находятся трансформер UH1_Transformer и токенизатор действий UH1_Action_Tokenizer в формате PyTorch; они предназначены для управления позами гуманоидного робота с использованием обучения на больших массивах видео людей.

Модель относится к робототехнике и связана с датасетом Humanoid-X. README направляет за инструкциями по использованию и запуску кода проекта. Сведения о лицензии и конкретных ограничениях применения в доступных материалах отсутствуют.

Сценарии применения

  • управление позами гуманоидного робота
  • генерация последовательностей действий для гуманоидного робота
  • эксперименты по переносу движений человека на робота

Ограничения

Для использования чекпойнтов требуется код проекта; README не содержит инструкций по запуску. Лицензия и подробные условия использования в доступных материалах не указаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This repo contains the officail model checkpoints for the paper "Learning from Massive Human Videos for Universal Humanoid Pose Control" If you like our project, please give us a star ⭐ on GitHub for latest update.

Our model checkpoints contain a transformer model UH1_Transformer.pth and an action tokenizer UH1_Action_Tokenizer.pth. For the usage/inference of these models, please refer to the codes here.

Alt text

UH-1 Model Architecture

Alt text

UH-1 Real Robot Demo Results

Alt text

Citation

If you find our work helpful, please cite us:

@article{mao2024learning,
  title={Learning from Massive Human Videos for Universal Humanoid Pose Control},
  author={Mao, Jiageng and Zhao, Siheng and Song, Siqi and Shi, Tianheng and Ye, Junjie and Zhang, Mingtong and Geng, Haoran and Malik, Jitendra and Guizilini, Vitor and Wang, Yue},
  journal={arXiv preprint arXiv:2412.14172},
  year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели для роботов не запускаются как сервис инференса.

Ревизия весов
91f5c18

0 моделей