I.10Видео, анимация и 3D
В разделе собраны самостоятельные задачи, где AI помогает создавать, анализировать и преобразовывать динамический визуальный контент и 3D-сцены. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
3 279 моделейMolmoPoint-8B — открытая мультимодальная модель Allen Institute for AI (Ai2) для понимания изображений и видео, нескольких изображений и пространственной привязки объектов. Она объединяет архитектуру MolmoPoint с компонентами SigLIP SO400M и Qwen3-8B; каталог классифицирует её как плотную модель генерации текста по изображениям, а файлы представлены в формате Safetensors. Модель предназначена для диалоговых запросов о визуальном содержимом, указания объектов на изображении и видео, а также отслеживания объектов в видео. В карточке отмечен специальный механизм указания точек, улучшающий привязку на изображениях и видео и видео-трекинг. Обучение из опубликованной версии на Hugging Face не поддерживается; код обучения доступен отдельно в репозитории разработчика. Лицензия — Apache-2.0. Карточка не сообщает длину контекста или подробные ограничения качества; для инференса рекомендуется использовать предоставляемый моделью обработчик логитов, чтобы генерируемые токены координат соответствовали допустимому формату.
Карточка модели niobures/MOSS-SoundEffect-v2.0 на Hugging Face совпадает с карточкой OpenMOSS-Team/MOSS-SoundEffect-v2.0, поэтому описание составлено по ней. MOSS-SoundEffect v2.0 — модель генерации звуковых эффектов по текстовому описанию, разработанная командой OpenMOSS-Team. Она преобразует естественно-языковые запросы в атмосферные, городские, животные и другие звуки, включая действия людей и короткие музыкальные или перкуссионные фрагменты. Модель предназначена для создания звукового оформления сцен, игр, видео и аудиоконтента. В основе — Diffusion Transformer с обучением Flow Matching, DAC VAE и текстовый энкодер Qwen3. Модель содержит 1,3 млрд параметров, генерирует звук с частотой 48 кГц и поддерживает длительность до 30 секунд за один вызов. Обучающие описания были на английском и китайском языках. Репозиторий использует Diffusers и формат Safetensors. Модель распространяется по лицензии Apache-2.0. Для генерации требуется значительное число шагов сэмплирования; README указывает 100 шагов как значение по умолчанию. Указанные языки обучающих описаний не гарантируют одинаковое качество для других языков.
Photon_v1 — модель генерации изображений по текстовому описанию, опубликованная digiplay и доступная через Diffusers как StableDiffusionPipeline. Она предназначена для создания изображений по текстовым промптам; карточка Hugging Face показывает пример генерации изображения с описанием сцены. Репозиторий содержит веса в формате Safetensors и помечен лицензией «other». Карточка связывает модель со страницей Photon на Civitai, но доступные сведения не уточняют конкретные условия лицензии, языковой охват промптов или подробности обучения.
ByteDance/Sa2VA-Qwen2_5-VL-3B — мультимодальная чат-модель семейства Sa2VA, предназначенная для работы с изображениями и видео. Она отвечает на вопросы по визуальному содержимому, понимает визуальные подсказки и выполняет сегментацию объектов с плотной привязкой к изображению или кадрам видео. Семейство Sa2VA объединяет языковые и визуальные компоненты; в этом репозитории указаны 3,1 млрд параметров, архитектура Sa2VAChatModelQwen и контекст до 128 000 токенов. Модель рассчитана на визуальные диалоги, локализацию объектов и сегментацию, включая задачи на видео. В README семейство Sa2VA описано как конкурентоспособное с Qwen2.5-VL и InternVL3 в тестах ответов на вопросы и сильное в визуальной привязке и сегментации. Указанная лицензия — Apache-2.0. Поддержка языков обозначена как многоязычная, без перечисления отдельных языков.
xinsir/controlnet-scribble-sdxl-1.0 — модель ControlNet для Stable Diffusion XL, разработанная xinsir и дообученная на базе stabilityai/stable-diffusion-xl-base-1.0. Она предназначена для генерации изображений высокого разрешения по текстовому описанию с управлением композицией через наброски и другие линейные управляющие изображения. Модель поддерживает линии различных типов и толщины, включая scribble, lineart, Canny, HED и PIDI. Она подходит для создания иллюстраций, концепт-арта, фотореалистичных сцен, логотипов и других изображений, а также для локальной корректировки композиции: более точный эскиз и подробное описание помогают контролировать отдельные области результата. По заявлению автора, модель обучалась на более чем 10 миллионах отфильтрованных и аннотированных изображений и ориентирована на высокую визуальную привлекательность и сильное следование управляющим линиям. В README не указаны точный размер параметров, максимальная длина контекста, поддерживаемые языки и отдельные сведения о системных требованиях. Для использования модель интегрируется с библиотеками Diffusers и базовой SDXL-моделью; приведённый пример рассчитан на PyTorch и работу в формате float16. Модель распространяется по лицензии Apache-2.0.
epiCRealism-NaturalSin — модель генерации изображений по текстовому описанию, опубликованная TheImposterImposters. Она реализована как StableDiffusionPipeline и распространяется в формате safetensors через Hugging Face и Diffusers. Репозиторий содержит компоненты полноценного диффузионного пайплайна, включая U-Net, VAE, текстовый энкодер, токенизатор, планировщик и safety checker.
MistoLine — модель ControlNet для Stable Diffusion XL, разработанная TheMisto.ai. Она предназначена для генерации изображений по текстовому запросу с управлением композицией и формами на основе различных видов линейного рисунка: эскизов от руки, результатов препроцессоров ControlNet и контуров, созданных другими моделями. Модель ориентирована на сценарии преобразования скетчей и рендеринга по заданным линиям. MistoLine сохраняет архитектуру ControlNet, совместима с SDXL и обучена на базе U-Net модели stabilityai/stable-diffusion-xl-base-1.0 с использованием алгоритма предварительной обработки линий Anyline. Заявлены высокая точность, устойчивость, восстановление деталей и соответствие текстовому запросу, включая сложные случаи. Модель поддерживает генерацию изображений с короткой стороной более 1024 пикселей и обобщает разные типы линейных условий без необходимости выбирать отдельный ControlNet для каждого препроцессора. Поддержка языков и точный размер модели в README не указаны. Модель совместима с большинством SDXL-моделей, но, согласно README, не поддерживает PlaygroundV2.5, CosXL и, возможно, SDXL-Lightning. Ее можно использовать вместе с LCM и другими ControlNet-моделями. Указана лицензия openrail++. Для коммерческого использования требуется явно указывать вклад TheMisto.ai и соблюдать дополнительные условия атрибуции. Авторы также ограничивают применение модели для незаконных целей, причинения вреда, дискриминации, нарушения приватности, вредоносных автоматизированных решений и медицинских рекомендаций.
Карточка модели modulsx/MOSS-SoundEffect-v2.0 на Hugging Face совпадает с карточкой OpenMOSS-Team/MOSS-SoundEffect-v2.0, поэтому описание составлено по ней. MOSS-SoundEffect v2.0 — модель генерации звуковых эффектов по текстовому описанию, разработанная командой OpenMOSS-Team. Она преобразует естественно-языковые запросы в атмосферные, городские, животные и другие звуки, включая действия людей и короткие музыкальные или перкуссионные фрагменты. Модель предназначена для создания звукового оформления сцен, игр, видео и аудиоконтента. В основе — Diffusion Transformer с обучением Flow Matching, DAC VAE и текстовый энкодер Qwen3. Модель содержит 1,3 млрд параметров, генерирует звук с частотой 48 кГц и поддерживает длительность до 30 секунд за один вызов. Обучающие описания были на английском и китайском языках. Репозиторий использует Diffusers и формат Safetensors. Модель распространяется по лицензии Apache-2.0. Для генерации требуется значительное число шагов сэмплирования; README указывает 100 шагов как значение по умолчанию. Указанные языки обучающих описаний не гарантируют одинаковое качество для других языков.
Qwen-Edit-2509-Multiple-angles — это LoRA-адаптер для модели Qwen/Qwen-Image-Edit-2509, разработанный пользователем dx8152 и обученный на ModelScope. Адаптер предназначен для редактирования изображений по текстовым инструкциям и управления ракурсом виртуальной камеры при сохранении содержания исходного изображения. Он подключается к базовой модели через библиотеку Diffusers и может использоваться в сценариях image-to-image, включая перемещение камеры вперёд, влево, вправо и вниз, поворот влево или вправо, переход к виду сверху, широкоугольному плану или крупному плану. Для работы не требуются триггерные слова. README рекомендует совместное использование этого адаптера с LoRA Qwen-Image-Lightning, однако конкретные сведения об архитектуре базовой модели, размере адаптера, поддерживаемых языках и максимальном контексте не указаны. Заявлена улучшенная согласованность после повторной загрузки версии с большим числом итераций обучения, но также упоминается возможная нестабильность согласованности. Модель предназначена для управляемого редактирования изображений, однако её результаты могут зависеть от исходного изображения, формулировки запроса и настроек инференса. Лицензия указана как Apache-2.0. README не содержит подробностей о коммерческих ограничениях, точных требованиях к оборудованию или качестве работы в отдельных языках и предметных областях.
ByteDance разработала Sa2VA-Qwen3-VL-2B — мультимодальную чат-модель для вопросов по изображениям и видео, понимания визуальных подсказок и сегментации объектов. Семейство Sa2VA объединяет языковую модель с возможностями визуального анализа и сегментации; в метаданных архитектура указана как Sa2VAChatModelQwen, а базовая модель — OpenGVLab/InternVL3-8B, с которой репозиторий связан как merge. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для визуальных вопросов и ответов, привязки объектов к текстовым описаниям и плотной сегментации на изображениях и видео. В README семейство Sa2VA описано как сопоставимое с Qwen2.5-VL и InternVL3 на тестах вопросов и ответов и сильное в задачах grounding и сегментации. Размер и длина контекста для этого конкретного репозитория в предоставленных данных не указаны. Лицензия — Apache-2.0. README не приводит отдельные результаты именно для Sa2VA-Qwen3-VL-2B, а таблица производительности относится к другим вариантам семейства. Для запуска приведён пример с Transformers; README не описывает требования к ресурсам или ограничения по типам входных данных.
GOLDFish — модель генерации изображений по текстовому описанию, созданная как смесь OLDFIsh от timevisitor и RMHF_2.5D_v2 от TkskKurumi. Она предназначена для создания изображений по запросам пользователя; в метаданных указаны Stable Diffusion и библиотека Diffusers, а файлы представлены в форматах Diffusers, PyTorch и safetensors. Модель распространяется по лицензии CreativeML OpenRAIL-M.
rupeshs/hyper-sd-sdxl-1-step — модель генерации изображений по текстовому описанию на основе Hyper-SD для SDXL; репозиторий опубликовал пользователь rupeshs, а исходную технологию Hyper-SD разработала команда ByteDance. Это чекпойнт UNet, дистиллированный из Stable Diffusion XL Base 1.0 для генерации изображения за один шаг. Он предназначен для быстрого преобразования текстового промпта в изображение и используется в пайплайне Diffusers StableDiffusionXLPipeline. Репозиторий содержит веса Diffusers в формате safetensors и имеет лицензию openrail++. Одношаговый режим ориентирован на скорость; карточка также указывает размер около 3 млрд параметров. Модель генерирует изображения по тексту; отдельный язык или длина контекста для неё не заявлены.
x1101/IllustXL — модель генерации изображений по текстовому описанию, размещённая пользователем x1101 на Hugging Face. Репозиторий содержит файл Illustrious-XL-v1.0.safetensors и поддерживает запуск через Diffusers StableDiffusionXLPipeline. По названию чекпойнта модель относится к семейству Illustrious-XL; доступные сведения не раскрывают её точную архитектуру, число параметров, контекст или языковой охват. Модель предназначена для создания изображений по текстовым промптам. В примере Hugging Face изображение генерируется из описания сцены; файл модели имеет размер около 6,94 ГБ. Лицензия и конкретные ограничения использования по доступным сведениям не установлены.
digiplay/majicMIX_realistic_v4 — модель Stable Diffusion для генерации реалистичных изображений по текстовым запросам. Репозиторий представлен в форматах Diffusers, PyTorch и Safetensors. Карточка содержит пример изображения, созданного через API Hugging Face, но не описывает обучение, точную архитектуру или рекомендуемые сценарии. Метаданные указывают задачу text-to-image; лицензия обозначена как other, поэтому условия использования следует сверить с файлами и сведениями в репозитории.
MIX-Pro-V4 — модель генерации изображений по текстовому описанию в формате Diffusers. Репозиторий указывает исходный размер загрузки 4,27 ГБ и вариант fp16. Модель предназначена для создания изображений по текстовым запросам через StableDiffusionPipeline. В карточке не приведены сведения о разработчике, обучающих данных, поддерживаемых языках или длине контекста. Лицензия — CreativeML OpenRAIL-M, условия которой следует учитывать при использовании и распространении модели.
Realistic Vision — модель генерации изображений по текстовому описанию, представленная StableDiffusionAPI и доступная через API ModelsLab. В карточке показан сценарий создания фотореалистичного портрета с настройкой отрицательного промпта, размера изображения, числа шагов генерации и guidance scale; также упомянуты параметры улучшения промпта, апскейлинга, panorama и подключения LoRA или embeddings. Модель предназначена для генерации реалистичных изображений из текстовых запросов. Метаданные указывают форматы Diffusers и PyTorch, а лицензию CreativeML OpenRAIL-M. Пример API-запроса использует изображение 512×512 и 30 шагов; это параметры примера, а не заявленные ограничения модели.
UMO — разработанная ByteDance Research система настройки изображений, основанная на объединении нескольких моделей. Она предназначена для генерации и кастомизации изображений по текстовому описанию с сохранением внешности нескольких заданных людей и снижением путаницы между их идентичностями. Метод использует глобальное сопоставление нескольких референсных изображений с результатами генерации и обучение с подкреплением для диффузионных моделей; доступны варианты на основе FLUX.1-dev, UNO и OmniGen2. В README заявлено, что подход улучшает сохранение идентичности и уменьшает смешение персонажей по сравнению с открытыми методами.
URPM v13 — модель для генерации изображений по текстовому описанию, опубликованная под аккаунтом stablediffusionapi и предназначенная для использования через API ModelsLab. В примере карточки указаны реалистичные портреты и детализированные сцены; запрос можно дополнить негативным промптом и параметрами генерации, включая размер изображения, число шагов и guidance scale. Метаданные указывают задачу text-to-image и форматы Diffusers и PyTorch. Лицензия — CreativeML OpenRAIL-M. Карточка демонстрирует настройку отключения safety checker; доступные меры безопасности зависят от используемого API и параметров запроса.
Ham1mad1/videomae-base-Vsl-Lab-PC-V6 — модель VideoMAE для классификации видео, обученная с нуля. Она содержит 113,2 млн параметров и распространяется в формате Safetensors. Модель предназначена для отнесения видео к классам; карточка не описывает конкретные классы или сценарии применения.
Это модель классификации видео на основе VideoMAE Large, разработанная автором репозитория sangdeptraivcl. Она является дообученной версией sangdeptraivcl/videomae-large-finetuned-ucf101-subset; указанный датасет дополнительного дообучения неизвестен. Модель предназначена для отнесения видео к категориям по содержимому. Веса опубликованы в формате Safetensors, размер модели составляет около 402,7 млн параметров. Модель принимает видео и выдаёт метки классов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение. Карточка не сообщает набор классов, параметры видеовхода или результаты оценки, поэтому пригодность для конкретных категорий и качество предсказаний следует проверять отдельно.
jzli/DreamShaper-8 — модель генерации изображений по текстовому описанию в формате Diffusers, совместимая со StableDiffusionPipeline. Карточка сообщает о возможности запускать её бесплатно и получать доступ через API. Модель предназначена для создания изображений по текстовым запросам. В доступных сведениях не приведены разработчик, базовая модель, число параметров, контекст и поддерживаемые языки; поэтому эти характеристики не указаны. Репозиторий содержит файлы Diffusers, PyTorch и SafeTensors. Лицензия в предоставленных данных не указана.
Это версия DreamShaper-XL-Lightning, подготовленная HelloSun для запуска через OpenVINO на CPU. Модель основана на Lykon/dreamshaper-xl-lightning — дообученной на SDXL модели, дистиллированной для генерации за четыре шага; в этой публикации веса переведены в формат OpenVINO и сжаты до INT4 с помощью NNCF. README указывает размер весов около 2,06 ГБ против примерно 6,5 ГБ у исходной FP16-экспортированной версии. Модель предназначена для создания изображений по текстовым описаниям, включая художественные, аниме, 3D и фотографические стили. Заявлена генерация изображений 1024×1024 на CPU; пример измерения на сервере с 192 vCPU занимает в среднем около 15 секунд на изображение, но скорость зависит от оборудования. Для работы рекомендованы четыре шага и guidance scale 2.0. Ограничения включают более долгую загрузку и компиляцию при первом запуске, меньшую скорость на обычных настольных процессорах и небольшие отличия результата от FP16 из-за INT4-квантования. Формат репозитория ориентирован на OpenVINO и CPU. Лицензия — OpenRAIL++; необходимо соблюдать также условия исходной модели и политики OpenRAIL++.
Карточка модели tanjohnngu/FLUX.1-Canny-dev на Hugging Face совпадает с карточкой black-forest-labs/FLUX.1-Canny-dev, поэтому описание составлено по ней. FLUX.1 Canny [dev] — модель генерации изображений от Black Forest Labs. Это трансформер rectified flow на 12 млрд параметров, обученный с помощью дистилляции guidance. Он создаёт изображение по текстовому описанию, одновременно следуя структуре входного изображения, заданной картой контуров Canny. Модель подходит для преобразования эскизов и контурных изображений в иллюстрации, а также для редактирования визуального результата по текстовой инструкции с сохранением композиции исходника. Для запуска предусмотрен интерфейс FluxControlPipeline в библиотеке Diffusers. Модель хорошо сочетает следование текстовому запросу с сохранением структуры исходного изображения. Она может не точно выполнять запросы, а результат зависит от стиля формулировки промпта; модель не предназначена для получения фактической информации и может усиливать социальные предубеждения. Лицензия FLUX.1 [dev] Non-Commercial License допускает личное и научное использование, а также коммерческое использование с ограничениями, установленными лицензией.
Fun-CineForge — модель для дубляжа видеоматериалов, разработанная командой Tongyi Lab Speech Team совместно со студентом University of Science and Technology of China. Она предназначена для озвучивания сцен с монологами, закадровым повествованием и диалогами, включая сцены с несколькими говорящими. Проект объединяет модель на основе мультимодальной языковой модели и конвейер создания данных для дубляжа; авторы сообщают о результатах по качеству аудио, синхронизации губ, смене тембра и следованию инструкциям. Модель поддерживает китайские и английские материалы. Для инференса требуется потребительский GPU; опубликованы код инференса и чекпойнты. В репозитории указаны форматы ONNX и Safetensors. Модель распространяется по лицензии Apache-2.0, однако авторы характеризуют проект как исследовательский артефакт, не являющийся коммерческим продуктом Tongyi Lab; образцы датасета имеют отдельные условия лицензирования.
JanusCoder-14B — языковая модель для генерации кода, разработанная авторами семейства JanusCoder. Она основана на Qwen3-14B и дообучена на корпусе JANUSCODE-800K, который включает мультимодальные примеры программного кода для визуального контента. По карточке Hugging Face, модель имеет плотную архитектуру Qwen3 с 14 млрд параметров, работает через Transformers и принимает контекст до 32 768 токенов. Модель предназначена для создания кода по текстовым инструкциям, в том числе кода визуализаций данных, интерактивных веб-интерфейсов и анимаций. В README приведены результаты на PandasPlotBench, ArtifactsBench и DTVBench; это указывает на ориентацию на генерацию и редактирование визуального контента средствами кода. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Эта версия обозначена как текстовая модель; возможности визуального ввода описаны для семейства JanusCoder в целом, но метаданные не подтверждают их для JanusCoder-14B. README не сообщает конкретные ограничения модели или перечень поддерживаемых естественных языков.
LeibyApp/leiby-sa3-small-sfx-gguf — GGUF-сборка модели Stable Audio 3 Small SFX от Stability AI, подготовленная для on-device Sound и sa3.cpp. Репозиторий описан как побитово идентичная копия исходного набора GGUF-файлов Leiby; в комплект входят компоненты DiT F16, SAME-S F16 и conditioner F32. Модель предназначена для генерации звуковых эффектов по текстовому описанию. Базовая модель рассчитана на английские текстовые запросы и выдаёт аудио. Доступны веса GGUF в точностях F16 и F32; лицензия указана как other, поэтому перед использованием следует проверить условия исходной модели и репозитория.
digiplay/OnlyRealistic_v29 — модель генерации изображений по текстовому описанию в формате Stable Diffusion Pipeline. Карточка не содержит сведений о разработчике, архитектурной версии, размере или специализации модели. Модель принимает текстовые запросы и создаёт изображения; репозиторий содержит веса в формате safetensors для использования с Diffusers. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория.
Open Diffusion V2 (OD-v2) — модель генерации изображений по текстовому описанию, разработанная OpenSkyML. Она предназначена для создания изображений по запросу пользователя. Модель опубликована в форматах Diffusers и PyTorch с весами Safetensors; метаданные также отмечают поддержку ONNX. В карточке указаны английский, французский и русский языки. Используется лицензия CreativeML-OpenRAIL-M.
philz1337x/revanimated — модель генерации изображений по текстовому описанию, опубликованная пользователем philz1337x на Hugging Face. Она предназначена для создания изображений из текстовых промптов и работает через библиотеку Diffusers в формате StableDiffusionPipeline. Модель поставляется в виде весов revAnimated_v122.safetensors. Модель подходит для генерации художественных сцен, персонажей, иллюстраций и визуальных концепций по заданному описанию. Доступные сведения не содержат подтверждённых данных о размере архитектуры в параметрах, поддерживаемых естественных языках, длине контекста, специализированных доменах, ограничениях или лицензии.
Sa2VA-4B — мультимодальная модель ByteDance для диалога о визуальном содержимом, объединяющая возможности языковой модели и сегментации изображений и видео. В карточке указана архитектура Sa2VAChatModel; модель основана на объединении с InternVL2.5-4B и использует языковую часть Qwen2.5-3B-Instruct. Репозиторий содержит веса в формате safetensors и предназначен для работы через Transformers. Модель отвечает на вопросы по изображениям и видео, понимает визуальные подсказки и выполняет плотную сегментацию объектов на обоих типах данных. В README заявлены результаты, сопоставимые с Qwen2-VL и InternVL2.5 на бенчмарках вопросов и ответов, а также сильные результаты в задачах визуального заземления и сегментации. Указанная лицензия — Apache-2.0. Карточка не приводит размер контекста и конкретный перечень поддерживаемых языков.