I.10Видео, анимация и 3D
В разделе собраны самостоятельные задачи, где AI помогает создавать, анализировать и преобразовывать динамический визуальный контент и 3D-сцены. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
3 279 моделейfreds0/parler-tts-mini-v1.1-ptbr — модель синтеза речи семейства Parler-TTS, созданная командами Hugging Face Audio и Quantum Squadra при содействии AI4Bharat. Это дообученная версия Parler-TTS Mini Multilingual v1 на датасете BRSpeech-TTS-Dataset, включающем около 200 часов португальской речи. Модель предназначена для генерации речи на бразильском португальском по тексту; характеристики голоса можно задавать текстовым описанием. Используются отдельные токенизаторы для текста и описания речи, а токенизатор описаний поддерживает расширенный словарь и побайтовый fallback. Модель подходит для озвучивания текста и создания управляемой синтетической речи на бразильском португальском. В репозитории опубликованы веса Safetensors, библиотека — Transformers. Лицензия Apache-2.0. README не приводит размер модели или длину контекста; заявленная поддержка других языков через расширение токенизатора не подтверждает качество синтеза для них.
ProtoGen X3.4 1111 — модель преобразования текстовых запросов в изображения, опубликованная аккаунтом Stable Diffusion API и доступная через библиотеку Diffusers. Она предназначена для генерации изображений по текстовому описанию; в метаданных модель отмечена как ориентированная на ультрареалистичный стиль. README описывает доступ к генерации через API ModelsLab. Репозиторий содержит веса в форматах Diffusers, PyTorch и Safetensors. Указана лицензия CreativeML OpenRAIL-M. README не приводит сведений об архитектуре, размере, языках запросов или контексте, поэтому эти характеристики здесь не уточняются.
Realisian_v6 — модель генерации изображений по текстовому описанию, размещённая пользователем digiplay на Hugging Face. Репозиторий использует Diffusers и StableDiffusionPipeline и содержит веса в формате safetensors; карточка связывает модель со страницей Realisian на Civitai. Модель предназначена для создания изображений по текстовым запросам. Данные подтверждают задачу text-to-image, но не дают надёжных сведений об архитектурной версии базовой модели, размере параметров, поддерживаемых языках и особенностях генерации. Указана лицензия other; её конкретные условия следует сверять с источником модели.
SDXS-512-DreamShaper — модель генерации изображений по текстовому описанию, созданная авторами проекта SDXS как вариант для сообщества. Она относится к семейству латентных диффузионных моделей SDXS и рассчитана на генерацию изображений 512 пикселей за один шаг. При обучении использовались score distillation и feature matching; модель ориентирована на качество изображения и жертвует разнообразием результатов. В качестве учителя использовалась dreamshaper-8-lcm, также применялась dreamshaper-8, а декодирование выполняется с помощью TAESD. Модель подходит для быстрого создания изображений по текстовым промптам. Репозиторий распространяет веса в формате Diffusers и Safetensors, запуск предусмотрен через Diffusers. Авторы опубликовали её как часть исследовательской работы; лицензия — OpenRAIL++. README предупреждает, что декодер изображений модели несовместим с Diffusers и используется TAESD, а его возможная замена ожидалась в будущем обновлении Diffusers.
Openjourney — модель генерации изображений по текстовому описанию, созданная PromptHero на основе Stable Diffusion и дообученная на изображениях Midjourney. Для получения характерного стиля в запрос рекомендуется добавлять фразу «mdjrny-v4 style». Модель подходит для создания иллюстраций и концепт-арта по текстовым промптам; её можно запускать через Diffusers и использовать в интерфейсе Gradio. В репозитории доступны форматы Diffusers и PyTorch, а README также описывает экспорт в ONNX, MPS и FLAX/JAX. Указана лицензия CreativeML Open RAIL-M.
MCG-NJU VideoMAE Small — видеомодель для классификации действий и событий в роликах. Разработана командой MCG-NJU на основе архитектуры VideoMAE и дообучена с учителем на наборе Something-Something V2 после 2400 эпох предварительного самообучения. Модель обрабатывает видео как последовательность патчей размером 16×16 с помощью Transformer-энкодера, основанного на Vision Transformer. Она классифицирует ролик по одному из 174 классов Something-Something V2. На тестовой выборке этого набора указаны top-1 точность 66,8 и top-5 точность 90,3. Модель подходит для распознавания действий в коротких видео и экспериментов с классификацией видео. В карточке не приведены ограничения по длительности входного ролика или его предобработке. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
X-CLIP — видеоязыковая модель семейства CLIP от Microsoft, обученная на UCF101 в режиме few-shot с четырьмя примерами на класс. Это модель архитектуры XCLIPModel в базовом размере с патчами 16 пикселей, доступная в формате PyTorch и распространяемая по лицензии MIT. Модель сопоставляет видео и текст с помощью контрастивного обучения. Её можно применять для классификации видео в режимах zero-shot, few-shot и с учителем, а также для поиска соответствий между видео и текстовыми описаниями. При обучении использовались 32 кадра на видео с разрешением 224×224; на UCF101 указана точность top-1 83,4%. Модель предназначена для общего распознавания действий и видео-текстового поиска. Её обучение на UCF101 и коротких видеоклипах ограничивает перенос результатов на другие домены и форматы видео; качество для конкретного сценария следует оценивать отдельно.
architecture-tuned-model — модель генерации изображений по текстовому описанию, доступная через сервис ModelsLab и API stablediffusionapi. Карточка демонстрирует запрос на создание реалистичного изображения с заданными параметрами и негативным промптом, а метаданные указывают на совместимость с StableDiffusionPipeline и форматами Diffusers, PyTorch и Safetensors. Модель предназначена для генерации архитектурных изображений по текстовым запросам. README также показывает пример портрета в киберпанк-стиле, поэтому её можно использовать для создания реалистичных иллюстраций и концептов. В примере заданы разрешение 512×512, 30 шагов инференса и guidance scale 7,5; это параметры запроса, а не подтверждённые ограничения модели. Лицензия — CreativeML OpenRAIL-M.
BigLove XL2 SDXL — модель преобразования текста в изображение, опубликованная на Hugging Face пользователем John6666 и созданная SubtleShader. Она предназначена для генерации изображений по текстовым описаниям, прежде всего в реалистичном и фотореалистичном стилях. Модель относится к семейству Stable Diffusion XL и запускается через библиотеку Diffusers с конвейером StableDiffusionXLPipeline. Она поддерживает англоязычные текстовые запросы и ориентирована на создание реалистичных изображений, включая сценарии, связанные с эстетикой Pony. В метаданных размер модели и длина контекста не указаны. Для использования применяется лицензия FAIPL-1.0-SD; условия следует учитывать при генерации и распространении изображений. Качество результата зависит от содержания и формулировки запроса, а модель может создавать визуальные артефакты или неточно интерпретировать сложные описания.
Instruction-tuning-sd/cartoonizer — модель преобразования изображений на основе Stable Diffusion v1.5, дообученная авторами репозитория от чекпойнтов InstructPix2Pix. Она принимает исходное изображение и текстовую инструкцию, чтобы преобразовать изображение, в частности стилизовать его под мультфильм. Модель рассчитана на сценарии редактирования изображений по запросу и распространяется в формате Diffusers/PyTorch; для работы используется StableDiffusionInstructPix2PixPipeline. Модель может быть полезна для мультяшной стилизации фотографий и других преобразований изображений, заданных текстом. README не приводит размер модели, длину контекста или сведения о поддерживаемых естественных языках. Репозиторий распространяется по лицензии MIT.
SargeZT/controlnet-sd-xl-1.0-softedge-dexined — модель ControlNet, разработанная SargeZT на базе Stability AI Stable Diffusion XL Base 1.0. Она предназначена для управляемой генерации изображений по текстовому описанию с сохранением структуры и контуров входного изображения, обработанного методом dexined soft edge. Модель подходит для сценариев text-to-image, где требуется направлять композицию, позы или геометрию объектов с помощью карты мягких границ. Она интегрируется с экосистемой Diffusers и использует архитектуру управления генерацией поверх Stable Diffusion XL. В README не указаны размер весов, точные параметры архитектуры, поддерживаемые языки, максимальная длина контекста и другие количественные характеристики. Сильная сторона модели — возможность сочетать текстовые инструкции с управлением структурой изображения через soft-edge preprocessing. Ограничения и специальные требования к качеству входных карт в README подробно не описаны. Указана лицензия SDXL 1.0 License; в метаданных также обозначена CreativeML Open RAIL-M.
FLUX.1 [dev] — модель генерации изображений по текстовому описанию, представленная в карточке репозитория rayonlabs/FLUX.1-dev. Это трансформер rectified flow с 12 млрд параметров, обученный с помощью дистилляции guidance; доступна в формате Diffusers и весах Safetensors. Модель подходит для создания изображений по промптам в творческих и исследовательских рабочих процессах, включая локальный запуск через ComfyUI или Diffusers. README заявляет высокое качество генерации и конкурентное следование промпту, однако результат зависит от формулировки запроса и может ему не соответствовать. Модель не предназначена для предоставления фактической информации и может усиливать социальные предубеждения. Лицензия указана как other; README ссылается на лицензию FLUX.1 [dev] Non-Commercial License и описывает разрешённое использование результатов для личных, научных и коммерческих целей. Саму модель и её производные запрещено использовать для ряда незаконных и вредоносных сценариев, перечисленных в карточке.
FLUX.1 [dev] — модель генерации изображений по текстовому описанию, представленная в карточке Black Forest Labs и опубликованная пользователем camenduru. Это трансформер rectified flow с 12 млрд параметров; веса доступны в формате Diffusers и SafeTensors. Модель обучена с guidance distillation и предназначена для локальной генерации изображений, творческих рабочих процессов и экспериментов с текстовыми запросами. Модель рассчитана на англоязычные запросы и заявляет высокое качество изображений и хорошее следование промпту, хотя результат зависит от формулировки запроса и может ему не соответствовать. Она не предназначена для предоставления фактической информации и может усиливать общественные предубеждения. Лицензия указана как Other; README описывает условия FLUX.1 [dev] Non-Commercial License, поэтому перед использованием следует проверить её ограничения, особенно для коммерческих сценариев.
FLUX.1-Krea-dev-gguf — это прямое преобразование модели black-forest-labs/FLUX.1-Krea-dev в формат GGUF, выполненное пользователем markury. Модель предназначена для генерации изображений по текстовому описанию и может использоваться в сценариях text-to-image через совместимые инструменты, включая пользовательский узел ComfyUI-GGUF для ComfyUI. Это квантованная версия исходной модели, а не результат дообучения, поэтому её возможности и ограничения соответствуют FLUX.1-Krea-dev. В предоставленных данных не указаны архитектура, размер, поддерживаемые языки, длина контекста, набор модальностей и конкретные характеристики квантования. Для использования файлы модели необходимо разместить в каталоге ComfyUI/models/unet и установить необходимые компоненты ComfyUI-GGUF. Модель распространяется по лицензии flux-1-dev-non-commercial-license; ссылка на текст лицензии указана как LICENSE.md. Поскольку это преобразованная и квантованная версия, на неё распространяются те же ограничения и условия исходной лицензии.
XLabs-AI/flux-controlnet-collections — коллекция контрольных сетей ControlNet для модели генерации изображений FLUX.1-dev, разработанной Black Forest Labs. Набор предназначен для управляемой генерации изображений по текстовым описаниям с использованием структурных ориентиров из входных изображений. В коллекцию входят три варианта ControlNet: Canny для управления по выделенным контурам, HED для управления по картам границ и Depth на основе глубины, вычисленной моделью MiDaS. Все варианты обучены и рассчитаны на разрешение 1024×1024. Доступны версии v3, которые, согласно README, ориентированы на более реалистичные результаты и могут использоваться напрямую в ComfyUI. Для запуска также предлагаются официальный репозиторий XLabs-AI, ComfyUI с пользовательскими узлами и демонстрация на Gradio. Модель подходит для сценариев, где важно сохранять композицию, контуры или пространственную структуру исходного изображения при генерации нового контента. README не содержит сведений о точной архитектуре базовой модели, размере весов, максимальном контексте, поддерживаемых языках промптов, количественных оценках качества или ограничениях по вычислительным ресурсам. Веса распространяются по некоммерческой лицензии FLUX.1-dev Non-Commercial License, поэтому коммерческое использование не разрешено условиями указанной лицензии.
Kiel-2-Image-HD — созданная KielTech LoRA для Stable Diffusion XL Base 1.0. Модель предназначена для генерации кинематографичных изображений персонажей по текстовому описанию и преобразования исходного изображения с помощью нового описания. Она ориентирована на детализированную текстуру кожи, выразительное освещение и единый стиль; в README указано стандартное для SDXL разрешение обучения 1024×1024. Репозиторий содержит веса LoRA, объединённый чекпойнт в формате safetensors и 4-битную квантизированную версию GGUF Q4_K_M. Для использования LoRA требуется базовая модель SDXL; доступны сценарии с Diffusers. Лицензия — CreativeML OpenRAIL-M.
LLaVA-NeXT-Video-34B-DPO-hf — мультимодальный чат-ассистент семейства LLaVA-NeXT-Video, опубликованный командой llava-hf. Он дообучен на основе LLaVA-NeXT на наборах изображений и видео для следования инструкциям и понимания визуального содержимого; версия DPO дополнительно указывает на оптимизацию предпочтений. Модель принимает текст и визуальные данные, включая видео, равномерно представленные 32 кадрами на клип, и генерирует текстовые ответы. Её можно использовать для описания сцен и ответов на вопросы об изображениях и видео, в том числе в диалоге. Карточка приводит базовую языковую модель lmsys/vicuna-7b-v1.5 и сообщает о сильных результатах семейства на бенчмарке VideoMME. В метаданных указаны архитектура LlavaNextVideoForConditionalGeneration, формат safetensors и библиотека Transformers; точный размер этой версии и длина контекста не приведены. Для запуска карточка рекомендует Transformers версии 4.42.0 или новее. Лицензия указана как llama2; условия её применения следует сверять с лицензией модели и базовой модели.
Open Diffusion V3 (OD-v3) — модель генерации изображений по текстовому описанию, разработанная OpenSkyML и предназначенная для использования через Diffusers. Пользователь передаёт текстовый запрос, а модель выдаёт изображение; карточка приводит пример генерации сцены с астронавтом на лошади. В метаданных указаны форматы Diffusers, PyTorch и safetensors, а также языки en, fr и ru. Модель опубликована под лицензией CreativeML-OpenRAIL-M. Сведения о размере модели, длине контекста и конкретных ограничениях качества в карточке и метаданных отсутствуют.
Sa2VA-1B — мультимодальная модель ByteDance для диалога с изображениями и видео, визуального понимания и сегментации объектов. Она объединяет возможности языковой модели с визуальным компонентом Sa2VA; в описании семейства указаны InternVL2.5-1B как базовая мультимодальная модель и Qwen2.5-0.5B-Instruct как языковая часть. Метаданные связывают репозиторий с OpenGVLab/InternVL2.5-1B отношением merge. Модель предназначена для ответов на вопросы по изображениям и видео, понимания визуальных подсказок, локализации объектов и плотной сегментации. По данным авторов, она показывает сопоставимые с Qwen2-VL и InternVL2.5 результаты на бенчмарках ответов на вопросы и высокие результаты в задачах визуальной локализации и сегментации. Репозиторий создан в январе 2025 года, веса опубликованы в формате safetensors, запуск описан через Transformers. Модель принимает изображения и видео вместе с текстовыми запросами и генерирует текстовые ответы, а также результаты сегментации. Указана лицензия Apache-2.0. README не приводит сведения о длине контекста или конкретных поддерживаемых языках; тег multilingual указывает на многоязычность, но не уточняет набор языков.
nousr/sd-v1-5-ema — модель Stable Diffusion для создания изображений по текстовым описаниям. Репозиторий содержит веса в форматах Diffusers и PyTorch и предназначен для использования с StableDiffusionPipeline. Модель подходит для генерации иллюстраций и других изображений по англоязычным запросам. В карточке указана лицензия CreativeML Open RAIL-M, условия которой распространяются на использование модели.
thibaud/sdxl_dpo_turbo — слияние SDXL Turbo и SDXL DPO для генерации изображений по текстовому описанию. Модель распространяется в формате Diffusers и Safetensors и предназначена для использования с AUTOMATIC1111, ComfyUI, InvokeAI или библиотекой Diffusers. Пример в карточке показывает генерацию изображения за два шага инференса с использованием GPU и FP16. Это указывает на сценарии быстрого получения изображений по запросу. Перед использованием следует ознакомиться с лицензиями исходных моделей; в метаданных модели указана лицензия other.
sdxl-unstable-diffusers-y — модель генерации изображений по текстовому описанию, опубликованная под аккаунтом stablediffusionapi. Карточка демонстрирует вызов модели через API ModelsLab и указывает модельный идентификатор sdxl-unstable-diffusers-y; в метаданных отмечена архитектура StableDiffusionXLPipeline и формат Diffusers на PyTorch. Модель предназначена для создания изображений по запросу, в том числе фотореалистичных портретов и сцен с детально заданными стилем, освещением и композицией. Пример API также показывает параметры отрицательного запроса, размера изображения, числа шагов генерации и guidance scale. Репозиторий распространяется по лицензии CreativeML Open RAIL-M. Карточка не сообщает о специальной настройке для конкретных предметных областей или языков; приведённый пример использует англоязычный запрос. Качество результата зависит от формулировки запроса, а сведения о конкретных ограничениях и сравнительных оценках модели в карточке отсутствуют.
Stable Audio Open Small — модель Stability AI для генерации аудио по текстовому описанию. Она создаёт стереозвук с частотой 44,1 кГц длительностью до 11 секунд. Модель состоит из автокодировщика, который сжимает аудиосигнал, текстового кодировщика на базе T5 и трансформерной модели диффузии, работающей в латентном пространстве. Для запуска предназначена библиотека stable-audio-tools. Модель подходит для создания звуковых эффектов, полевых записей и музыкальных фрагментов по англоязычным промптам, а также для экспериментов с генерацией аудио. Лучше справляется со звуковыми эффектами и полевыми записями, чем с музыкой; реалистичный вокал генерировать не умеет. Качество может различаться в зависимости от музыкального стиля и культурного контекста, а для подходящего результата может потребоваться настройка промпта. Модель обучалась на аудиозаписях Freesound и Free Music Archive; для текстового кондиционирования используется предварительно обученная T5-base. Лицензия — Stability AI Community License; коммерческое использование требует отдельной проверки условий лицензии.
Stable Diffusion 3.5 Medium Alchemist — модель Yandex, дообученная на датасете Alchemist на основе Stability AI Stable Diffusion 3.5 Medium. Она создаёт изображения по текстовым запросам; дообучение нацелено на улучшение эстетики и сложности генерируемых изображений. Модель использует архитектуру MMDiT-X и запускается через библиотеку Diffusers, веса представлены в форматах Diffusers и safetensors. Модель подходит для создания иллюстраций и сложных визуальных сцен по текстовому описанию. Карточка указывает английский язык. Лицензия — Apache-2.0. Количество параметров и длина контекста в предоставленных данных не указаны.
lovis93/testllm — репозиторий с весами FLUX.1 [dev], модели Black Forest Labs для генерации изображений по текстовому описанию. Это трансформер rectified flow с 12 млрд параметров, распространяемый в форматах Diffusers и safetensors и запускаемый через FluxPipeline. Модель предназначена для создания изображений по промптам, в том числе в локальных творческих и экспериментальных рабочих процессах. В карточке заявлены высокое качество изображений, хорошее следование промптам и обучение с guidance distillation для повышения эффективности. Основной язык карточки — английский. Модель не предназначена для выдачи фактической информации; результат может не соответствовать промпту, а стиль промпта заметно влияет на генерацию. Возможна передача общественных предубеждений в результатах. Указана лицензия FLUX.1 [dev] Non-Commercial License; README также приводит ограничения на отдельные виды использования.
Video-MTR — дообученная Phoebe13 модель на базе Qwen2.5-VL-7B-Instruct, разработанная для многошагового анализа длинных видео. Она использует политику извлечения кадров, обученную методом PPO, и рассчитана на обработку до 80 кадров из одного видео; архитектура — плотная Qwen2.5-VL с 7,1 млрд параметров и контекстом 128 000 токенов. Модель предназначена для ответов на вопросы о содержании видео и рассуждений, требующих последовательного поиска нужных кадров. Метаданные указывают поддержку английского языка и визуально-текстовый режим работы. Модель распространяется под лицензией Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о данных обучения.
MLbackup/9_2025 — модель преобразования текста в изображение, опубликованная пользователем или организацией MLbackup. Она предназначена для генерации изображений по текстовым описаниям на английском языке и работает через библиотеку Diffusers. Модель указана как дообученная версия OnomaAIResearch/Illustrious-xl-early-release-v0 и связана с набором EarthnDusk/XL_PDXL_Embeddings. В доступных данных нет сведений о размере модели, архитектурных деталях, поддерживаемой длине контекста или результатах сравнительных оценок. Модель можно использовать для создания иллюстраций и концептуальных изображений по англоязычным промптам. Условия использования определяются лицензией creativeml-openrail-m; перед применением в коммерческих или публичных проектах следует проверить её ограничения.
Cosmos-Reason2-2B-W4A16 — мультимодальная модель Embedl, полученная квантизацией NVIDIA Cosmos-Reason2-2B. Она принимает текст вместе с изображениями или видео и формирует текстовые ответы с рассуждениями по визуальному содержимому. Модель предназначена для мультимодального диалога и анализа изображений и видео, в том числе для сценариев инференса на периферийных устройствах. Квантизация W4A16 хранит веса в INT4, а активации — в FP16, что сокращает потребление памяти и рассчитано на повышение эффективности инференса. Для работы с vLLM README приводит пример контейнера NVIDIA для Jetson Orin; для доступа к оптимизациям Embedl требуется патч vLLM, который на момент карточки ещё не выпущен. Лицензия указана как other, поэтому условия следует уточнять в материалах репозитория.
CuriousMerge2.5D_v40E — модель генерации изображений по текстовому описанию в формате Stable Diffusion Diffusers. В карточке модели нет сведений о разработчике, архитектуре, размере, поддерживаемых языках или контексте; метаданные подтверждают задачу text-to-image и формат safetensors. Модель предназначена для создания изображений по текстовым запросам. Лицензия указана как other, поэтому конкретные условия использования следует сверять с файлами репозитория. README не сообщает об ограничениях качества или целевых сценариях.
Dreamshaper 7 — модель Stable Diffusion для генерации изображений по текстовому описанию, разработанная Lykon и дообученная на runwayml/stable-diffusion-v1-5. Она предназначена для создания художественных изображений, в том числе в стилях аниме и реализма, а также поддерживает использование LoRA. Модель распространяется в форматах Diffusers и Safetensors и предназначена для работы через StableDiffusionPipeline. В версии 7 улучшена поддержка LoRA, генерация реалистичных изображений и NSFW-контента. Лицензия — CreativeML Open RAIL-M.