/ Модель

Характеристики

Библиотека
transformers
Опубликована
13 июн 2024

in2IN

Языковая модель3 профессии

Диффузионная модель, которая генерирует движения и взаимодействия двух людей по общему текстовому описанию и описаниям действий каждого участника.

30скачиваний за 30 дней5лайковвеса обновлены29 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

in2IN — диффузионная модель генерации движений и взаимодействий двух людей по тексту, представленная автором репозитория pabloruizponce. На вход она принимает описание общего взаимодействия и отдельные описания действий каждого участника. Модель предназначена для создания разнообразных межличностных движений и учитывает как согласованность взаимодействия, так и индивидуальные действия людей.

Модель ориентирована на сценарии робототехники, игр, анимации и метавселенных. В README заявлено, что она достигла результатов уровня state of the art на датасете InterHuman. Для повышения разнообразия движений авторы также описывают DualMDM — композиционный метод, объединяющий in2IN с одно-personным априорным движением, предварительно обученным на HumanML3D. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Условия лицензирования в предоставленных данных не описаны.

Сценарии применения

  • генерация движений двух людей по текстовому описанию сцены
  • создание анимации взаимодействия персонажей
  • подготовка движений персонажей для игр и метавселенных
  • генерация взаимодействий людей для симуляций в робототехнике

Ограничения

Для управления движением требуется общее текстовое описание взаимодействия и отдельное описание действий каждого из двух участников. В предоставленных данных не указаны лицензия и ограничения по применению.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

in2IN: Leveraging individual Information to Generate Human INteractions

🕹️ Usage

Input: The model gets as input the textual description of the overall interaction and the two individual descriptions from the interactants

Output (2,T,N,3): the model returns an array with the coordinates of the N joints of each interactant during a motion of T timesteps of duration,    

from transformers import AutoModel        
model = AutoModel.from_pretrained("pabloruizponce/in2IN", trust_remote_code=True)
model(textI, texti1, texti2)

📚 Citation

If you find our work helpful, please cite:

@InProceedings{Ruiz-Ponce_2024_CVPR,
    author    = {Ruiz-Ponce, Pablo and Barquero, German and Palmero, Cristina and Escalera, Sergio and Garc{\'\i}a-Rodr{\'\i}guez, Jos\'e},
    title     = {in2IN: Leveraging Individual Information to Generate Human INteractions},
    booktitle = {Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Workshops},
    month     = {June},
    year      = {2024},
    pages     = {1941-1951}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

3D-генерация пока не поддерживается.

Класс архитектуры
in2INModel
Ревизия весов
4a0c8ac

0 моделей