/ Модель

Характеристики

Опубликована
30 сен 2026

MegaAvatar

Видео из изображенияИзображение, текст → видео

MegaAvatar создаёт видео говорящего аватара по портрету с управляемыми движениями тела и головы, синхронизацией речи и мимикой.

17скачиваний за 30 дней2лайкавеса обновлены4 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MegaAvatar — модель генерации говорящих аватаров, разработанная Junyao Gao и соавторами из Tencent AIPD и Университета Тунцзи. Она построена на Wan2.2-TI2V-5B и по портретному изображению создаёт видео с говорящим человеком.

Модель поддерживает управление движениями головы и тела с помощью SMPL-X, а также генерацию движений губ и выражений лица, синхронизированных с аудио. Предусмотрены режимы управления через SMPL-X и через аудио; система заявляет сохранение внешности лица исходного персонажа. Чекпойнты опубликованы в форматах PyTorch и Safetensors.

Для работы нужны исходный портрет и подходящие управляющие данные, например аудио или параметры SMPL-X. README направляет к официальному репозиторию за инструкциями по установке и запуску. Лицензия в предоставленных сведениях не указана.

Сценарии применения

  • создание говорящего аватара по портретному изображению
  • генерация видео с артикуляцией губ, синхронизированной с аудио
  • управление позой и движением аватара через SMPL-X
  • анимация лица с выражениями, обусловленными речью

Ограничения

Для генерации требуется портретное изображение и управляющее аудио или данные SMPL-X; подробные требования к запуску вынесены в связанный репозиторий. Лицензия и количественные оценки качества в предоставленных данных не описаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Junyao Gao*1,2   Sibo Liu*1   Weidong Zhang1   Cairong Zhao2‡   Jun Zhang1‡

1Tencent AIPD   2Tongji University   *Equal contribution   ‡Corresponding authors

GitHub arXiv Dataset


MegaAvatar is a controllable talking avatar generation framework built on top of Wan2.2-TI2V-5B.

Given a reference portrait image, MegaAvatar generates talking avatar videos with:

  • controllable body and head motion using SMPL-X;
  • speech-synchronized lip motion and facial expressions using audio;
  • identity-preserving facial appearance.

MegaAvatar supports both SMPL-X-driven and audio-driven generation.

Model Download

hf download Gaojunyao/MegaAvatar --include "checkpoints/*" --local-dir .

The released checkpoints include:

checkpoints/
├── megaavatar.safetensors
└── audio2smplx/
  • megaavatar.safetensors: MegaAvatar video generation model.
  • audio2smplx/: audio-to-SMPL-X components.

Usage

Please refer to the official GitHub repository for installation, inference, and training instructions:

https://github.com/Jeoyal/MegaAvatar

MegaAvatar supports:

Reference Image + SMPL-X + Audio → Talking Avatar Video
Reference Image + Audio          → SMPL-X → Talking Avatar Video

Related Resources

Acknowledgements

This project benefits from FantasyTalking, SpeakerVid-5M-Code, and DiffSynth-Studio.

Citation

@article{gao2026megaavatar,
  title={MegaAvatar: Controllable Talking Avatar Generation},
  author={Gao, Junyao and Liu, Sibo and Zhang, Weidong and Zhao, Cairong and Zhang, Jun},
  journal={arXiv preprint arXiv:2609.39273},
  year={2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели «картинка → видео» пока не запускаются.

Ревизия весов
c69fc84

0 моделей