IV.9Медиа, журналистика, культура, архивы и игры
В разделе собраны самостоятельные задачи, где AI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
14 938 моделейSwinV2 Small Window16 256 ms in1k — модель классификации изображений и извлечения признаков из семейства Swin Transformer V2. Опубликована авторами статьи и предоставлена в репозитории timm; предобучена на ImageNet-1k. Модель содержит 49,7 млн параметров и рассчитана на изображения размером 256 × 256 пикселей. Модель подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений. Она принимает изображения и выдаёт предсказания классов либо признаки для последующей обработки в компьютерном зрении. В карточке указаны вычислительная стоимость 12,8 GMACs и 66,3 млн активаций. Весовые файлы доступны в форматах PyTorch и safetensors. Лицензия — MIT. Модель обучалась на ImageNet-1k, поэтому её классификация ориентирована на категории и распределение данных этого набора; результаты на других типах изображений могут отличаться.
TinyViT-11M — компактная модель семейства Vision Transformer для классификации изображений и извлечения визуальных признаков. Модель опубликована авторами TinyViT и доступна в библиотеке timm; в репозитории представлены веса PyTorch и safetensors. Модель предварительно обучена на ImageNet-22k с дистилляцией, затем дообучена на ImageNet-1k. Она содержит 11 млн параметров, рассчитана на изображения размером 224 × 224 и имеет вычислительную сложность 1,9 GMAC. Подходит для классификации изображений, извлечения карт признаков и эмбеддингов, а также для использования в качестве визуального бэкбона. Лицензия — Apache-2.0. Модель предназначена для задач компьютерного зрения общего назначения; качество может зависеть от предметной области и отличаться от результатов на ImageNet.
TinyViT 11M 224.in1k — модель классификации изображений семейства TinyViT, опубликованная авторами статьи и обученная на ImageNet-1k. Она предназначена для определения объектов и категорий на изображениях, а также может использоваться как компактная визуальная основа для извлечения карт признаков и эмбеддингов. Модель содержит 11 млн параметров, рассчитана на изображения размером 224 × 224 пикселя и требует около 1,9 GMACs вычислений. Это небольшой vision transformer для задач компьютерного зрения; веса доступны в форматах PyTorch и safetensors. Модель распространяется по лицензии Apache-2.0.
TinyViT — компактная модель для классификации изображений, распространяемая в библиотеке timm. Версия tiny_vit_21m_384.dist_in22k_ft_in1k содержит 21,2 млн параметров и принимает изображения размером 384 × 384 пикселя. Модель предварительно обучена на ImageNet-22k с дистилляцией, затем дообучена авторами статьи на ImageNet-1k. Модель предназначена для определения классов на изображениях и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В карточке приведены показатели вычислительной сложности: 11,9 GMACs и 46,8 млн активаций. Доступна в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Карточка не описывает поддержку языкового ввода или генерации.
vit_base_r50_s16_224.orig_in21k — гибридная модель компьютерного зрения ResNet–Vision Transformer из библиотеки timm. Её предварительно обучили на ImageNet-21k авторы исходной работы в JAX, а Ross Wightman перенёс веса в PyTorch. В репозитории опубликованы веса в форматах PyTorch и safetensors; лицензия — Apache-2.0. Модель содержит 97,9 млн параметров и обрабатывает изображения размером 224 × 224 пикселя. Классификационная голова отсутствует: модель предназначена для извлечения признаков и эмбеддингов изображений, а также для дообучения под конкретную задачу. Её можно использовать как визуальную основу для классификаторов и других систем компьютерного зрения. Модель принимает изображения и выдаёт векторные признаки. Карточка не описывает поддержку языковых входов или конкретные ограничения качества.
Модель timm/vit_relpos_base_patch32_plus_rpn_256.sw_in1k — вариант Vision Transformer для классификации изображений и извлечения признаков, распространяемый в библиотеке timm. Архитектура использует относительные позиционные эмбеддинги, блоки с residual post-normalization, не содержит class token и формирует итоговое представление глобальным усреднением токенов. Модель обучена на ImageNet-1k и рассчитана на обработку изображений размером 256 × 256 пикселей. В карточке указано 119,4 млн параметров и вычислительная сложность 7,6 GMACs. Её можно применять для предсказания классов изображений и получения визуальных эмбеддингов для последующих задач компьютерного зрения. В качестве ориентиров при обучении использовались рецепты Swin Transformer, DeiT и ConvNeXt. Лицензия — Apache-2.0. Качество и надёжность модели за пределами ImageNet-подобных данных карточкой не охарактеризованы; для прикладного использования в других доменах может потребоваться дополнительная оценка или дообучение.
ROPE-ViT — модель семейства Vision Transformer для классификации изображений и извлечения признаков. Эта версия с архитектурой ViT-Small, патчами 16×16 и смешанным rotary position embedding с обучаемыми частотами создана авторами работы и обучена на ImageNet-1k. В модели около 22 млн параметров; исходное разрешение изображений — 224×224 пикселя. Модель подходит для классификации изображений по классам ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений. В карточке описана способность семейства ROPE-ViT сохранять или повышать точность при проверке на разрешении 320×320, однако приведённые численные результаты относятся к вариантам ViT-Large и не подтверждают конкретную точность этой версии ViT-Small. Модель принимает изображения и выдаёт предсказанные классы, признаки или эмбеддинги в зависимости от используемого режима. Она предназначена для изображений, а не для понимания текста или других модальностей. Лицензия — Apache-2.0.
Bisher/wav2vec2_ASV_deepfake_audio_detection — дообученная модель классификации аудио на базе facebook/wav2vec2-base с архитектурой Wav2Vec2ForSequenceClassification. Она предназначена для определения поддельной аудиоречи и различения классов аудио. Модель содержит 113,3 млн параметров, использует библиотеку Transformers и распространяется в формате safetensors. В README приведены результаты оценки: accuracy 0,8999, precision 0,9057, F1 0,8612 и ROC AUC 0,9372. Данные обучения в карточке обозначены как неизвестный датасет, а дополнительные сведения о назначении и ограничениях не приведены. Модель опубликована под лицензией Apache-2.0.
AX-3.1-Light-sft_v3_1_E_format_safe — корейская диалоговая модель на 6,8 млрд параметров, созданная дообучением SKT A.X-3.1-Light. Разработчик провёл SFT с адаптером LoRA, затем объединил его с базовыми весами; модель поставляется как самостоятельный чекпойнт BF16 в формате safetensors. Используются архитектура Llama и официальный шаблон чата A.X. Модель принимает текст и генерирует текст; контекст — до 32 768 токенов. Модель предназначена для исследовательских задач и контролируемой оценки на корейском языке, особенно на коротких и структурированных ответах. В обучающих данных были инструкции по гражданскому, уголовному и административному праву, корпоративному учёту, базовым медицинским знаниям, пониманию новостных статей и оценке технологий. Лицензия репозитория — Apache-2.0. Модель экспериментальная и может допускать фактические ошибки. Её не следует использовать вместо профессиональной юридической, бухгалтерской, медицинской или финансовой консультации; исходные данные AI Hub сохраняют собственные условия доступа.
BEiT Large — модель классификации изображений и визуальный backbone, опубликованный timm. Она использует архитектуру Vision Transformer с патчами 16×16 и входным размером 224×224 пикселя. Модель содержит около 304,4 млн параметров и может применяться как для классификации, так и для извлечения признаковых представлений изображений. Предобучение выполнено на ImageNet-22k методом masked image modeling с визуальным токенизатором DALL-E dVAE, после чего модель дообучили на ImageNet-22k и ImageNet-1k. Основной сценарий — распознавание категорий объектов на изображениях; признаки модели также подходят для последующих задач компьютерного зрения. Репозиторий предоставляет веса в форматах PyTorch и Safetensors для библиотеки timm. Лицензия — Apache-2.0.
Модель deepset/bert-base-german-cased-hatespeech-GermEval18Coarse — немецкоязычная модель BERT v1, разработанная deepset и дообученная для классификации текстов с целью выявления языка ненависти. Она предназначена для анализа немецких текстов и определения наличия hate speech в сценариях модерации и исследования онлайн-коммуникации. Модель содержит 136,3 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Доступны веса в форматах PyTorch и Flax, включая safetensors. Лицензия — CC BY 4.0. Карточка не сообщает метрики качества и подробности о классах классификации.
CaiT M36 с входным разрешением 384×384 — модель классификации изображений и визуальный backbone семейства Class-Attention in Image Transformers. Репозиторий timm содержит веса, предварительно обученные авторами статьи на ImageNet-1k с дистилляцией. Модель включает 271,2 млн параметров и может использоваться для классификации изображений и получения их признаковых представлений. Модель принимает изображения и выдаёт метки классов; признаки можно использовать в задачах компьютерного зрения. Доступна через библиотеку timm, веса представлены в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
CoaT Lite Small — модель классификации изображений семейства CoaT (Co-Scale Conv-Attentional Transformer), обученная авторами статьи на ImageNet-1k. Её также можно использовать как основу для извлечения признаков изображений. Модель содержит 19,8 млн параметров, имеет вычислительную сложность 4,0 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Репозиторий предоставляет веса в формате PyTorch; лицензия — Apache-2.0. Модель подходит для классификации изображений общего назначения и получения их признаковых представлений. Её обучение на ImageNet-1k задаёт ориентацию на классы этого набора данных; для иных предметных областей может потребоваться дополнительная адаптация.
CoAtNet Nano RW 224 SW IN1K — модель классификации изображений из библиотеки timm, разработанная Ross Wightman. Она обучена на ImageNet-1k и предназначена для отнесения изображений к классам, а также может использоваться как визуальный backbone для извлечения признаковых карт и эмбеддингов. Архитектура CoAtNet сочетает блоки MBConv на ранних этапах с блоками self-attention на последующих. Модель содержит около 15,1 млн параметров, рассчитана на изображения размером 224 × 224 и требует около 2,41 GMAC на изображение. В приведённой таблице для неё указаны точность top-1 81,70% и top-5 95,64% на ImageNet-1k. Модель принимает изображения и выдаёт метки классов либо визуальные признаки в зависимости от способа использования. Карточка не описывает поддержку естественных языков. Лицензия репозитория — Apache-2.0; официальные веса CoAtNet от авторов исходной статьи не выпускались, а эта версия является конфигурацией timm.
ConvFormer B36 — модель классификации изображений семейства MetaFormer, опубликованная авторами статьи и доступная через библиотеку timm. Она предварительно обучена на ImageNet-22k, затем дообучена на ImageNet-1k; модель также подходит как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Веса содержат около 99,9 млн параметров; указан размер входного изображения 224 × 224 пикселя и вычислительная сложность 22,7 GMACs. Модель предназначена для распознавания объектов и категорий на изображениях, а также для использования в компьютерном зрении как основа для последующей обработки признаков. Репозиторий предоставляет веса в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Карточка не описывает поддержку текстовых или иных языков; применимые ограничения качества и области применения отдельно не указаны.
convnext_atto.d2_in1k — компактная модель классификации изображений из библиотеки timm, обученная Россом Уайтманом на ImageNet-1k. Она основана на архитектуре ConvNeXt, описанной в работе «A ConvNet for the 2020s», и содержит около 3,7 млн параметров. Модель предназначена для присвоения изображениям меток из набора ImageNet-1k. Её также можно использовать как визуальный backbone для извлечения карт признаков и эмбеддингов. Размер изображения при обучении составляет 224 × 224 пикселя, при тестировании — 288 × 288. Для запуска доступны веса PyTorch и safetensors; в метаданных указана лицензия Apache-2.0. Компактный размер делает модель подходящей для классификации изображений при ограниченных вычислительных ресурсах и для построения визуальных систем на основе извлечённых признаков. Модель обучена на ImageNet-1k, поэтому её классы и качество за пределами этого набора могут не соответствовать конкретной прикладной задаче; для специализированных категорий может потребоваться дополнительная настройка.
ConvNeXT Base — сверточная модель компьютерного зрения, разработанная авторами статьи «A ConvNet for the 2020s» и опубликованная в репозитории Facebook. Архитектура модернизирует ResNet, используя идеи Vision Transformer и Swin Transformer. Модель предобучена на ImageNet-22k, затем дообучена на ImageNet-1k для классификации изображений с разрешением 384×384. Модель предназначена для отнесения изображения к одному из 1000 классов ImageNet и может служить основой для специализированных версий. Для работы с весами доступны форматы PyTorch и TensorFlow. Лицензия — Apache-2.0. Карточка описывает применение для классификации изображений; других задач или языковых возможностей не заявлено.
ConvNeXt Small — модель компьютерного зрения для классификации изображений из библиотеки timm. Авторы статьи «A ConvNet for the 2020s» предварительно обучили её на ImageNet-22k и дообучили на ImageNet-1k. В модели около 50,2 млн параметров; размер изображений при обучении — 224×224 пикселя, при оценке — 288×288. Модель предсказывает класс изображения и может использоваться как визуальный backbone для извлечения признаков и эмбеддингов. В README приведены метрики на ImageNet-1k, но подробные значения для этой модели в доступной части таблицы отсутствуют. Репозиторий содержит веса PyTorch и Safetensors; лицензия — Apache-2.0.
timm/convnext_tiny.fb_in1k — свёрточная модель ConvNeXt Tiny для классификации изображений и извлечения признаков. Она обучена авторами архитектуры на ImageNet-1k и распространяется через библиотеку timm в форматах PyTorch и safetensors по лицензии Apache-2.0. Модель содержит около 28,6 млн параметров и требует примерно 4,5 GMACs на изображение. В карточке указаны размер изображения 224 × 224 для обучения и 288 × 288 для тестирования. Модель можно использовать для предсказания классов ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Она предназначена для задач компьютерного зрения общего назначения, включая классификацию и работу с изображениями как с признаками для последующих систем. Область распознавания ограничена классами и распределением данных ImageNet-1k; карточка не описывает специализированную адаптацию к другим областям.
timm/convnextv2_base.fcmae_ft_in1k — сверточная модель классификации изображений семейства ConvNeXt-V2, представленная в библиотеке timm. Она предварительно обучена методом FCMAE и дообучена на ImageNet-1k. Модель содержит 88,7 млн параметров; размер изображений при обучении — 224 × 224 пикселя, при тестировании — 288 × 288. Модель предназначена для классификации изображений по категориям ImageNet-1k. Её также можно применять как визуальный backbone для извлечения карт признаков и эмбеддингов в задачах компьютерного зрения. В приведённом сравнении для варианта указаны точность top-1 88,848% и top-5 98,742%; для других размеров и вариантов ConvNeXt-V2 результаты отличаются. Модель принимает изображения и выдаёт оценки классов. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение.
NVIDIA C-RADIOv2-G — модель извлечения визуальных признаков на архитектуре Vision Transformer. Она преобразует RGB-изображения в тензорные эмбеддинги для последующего использования в приложениях компьютерного зрения. Модель предназначена для разработчиков систем анализа изображений и может служить источником признаков для классификации, сегментации, оценки глубины и интеграции в vision-language-модели. Модель возвращает сводный вектор для представления изображения целиком и пространственные признаки для локализованного анализа. Поддерживаются изображения размером до 2048×2028 пикселей с шагом 16. В семействе C-RADIOv2 есть варианты разных размеров; для G в карточке приведено 1,8 млрд параметров. Обучение проводилось на 700 млн изображений из NV-CC-Img-Text-Dataset, оценка — на ImageNet. Для применения эмбеддингов требуется downstream-модель или приложение. Карточка сообщает о готовности к коммерческому и некоммерческому использованию, а также указывает лицензию other и необходимость соблюдать NVIDIA Open Model License Agreement.
timm/crossvit_15_dagger_240.in1k — модель классификации изображений семейства CrossViT, обученная авторами исследования на ImageNet-1k. Она использует многомасштабный Vision Transformer с перекрёстным вниманием и может применяться как классификатор или как визуальная основа для извлечения признаков. Модель содержит 28,2 млн параметров, требует изображение размером 240 × 240 пикселей и имеет вычислительную сложность 6,1 GMAC. Её можно использовать для присвоения изображениям классов ImageNet-1k и получения эмбеддингов изображений. Доступны веса PyTorch и SafeTensors; библиотека модели — timm. Лицензия — Apache-2.0. Модель рассчитана на задачи компьютерного зрения общего назначения, однако обучение на ImageNet-1k ограничивает применимость классификации набором классов и распределением данных этого датасета. Для других предметных областей может потребоваться дообучение или отдельная проверка качества.
DaViT Base — модель классификации изображений и визуальный backbone на архитектуре Dual Attention Vision Transformer, обученная авторами статьи на ImageNet-1k и опубликованная в библиотеке timm. Вариант содержит около 88 млн параметров и рассчитан на изображения размером 224 × 224 пикселя. Модель присваивает изображениям классы ImageNet-1k; её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. В карточке указана точность Top-1 84,634% и Top-5 97,014% на ImageNet-1k. Веса доступны в форматах PyTorch и safetensors. Модель принимает изображения и выдаёт метки классов либо визуальные признаки и эмбеддинги в зависимости от способа использования. Она обучена на ImageNet-1k, поэтому её качество и набор классов ориентированы на эту задачу и могут не подходить для изображений из иных областей без дополнительной адаптации. Лицензия — Apache-2.0.
Hate-speech-CNERG/dehatebert-mono-arabic — модель для выявления разжигающих ненависть высказываний на арабском языке. Её разработчики дообучили многоязычную модель BERT на арабоязычных данных; архитектура классификатора — BertForSequenceClassification, размер — 194,6 млн параметров, контекст — до 512 токенов. Модель предназначена для классификации арабских текстов по признаку hate speech и подходит для анализа пользовательских публикаций и других текстовых сообщений. В README сообщается, что лучший результат на валидации составил 0,877609 при learning rate 2e-5; метрика не уточнена. Доступны версии PyTorch и Flax. Лицензия — Apache-2.0.
DeiT base patch16 384 — модель классификации изображений семейства Data-efficient Image Transformers (DeiT), разработанная авторами соответствующей научной работы и обученная на ImageNet-1k. Она предназначена для классификации изображений и может использоваться как визуальный backbone для получения признаковых представлений. Модель содержит 86,9 млн параметров, обрабатывает изображения размером 384 × 384 и доступна через библиотеку timm. Репозиторий включает веса PyTorch и safetensors. Лицензия — Apache-2.0. Обучение на ImageNet-1k ориентирует модель на распознавание объектов и категорий из этого набора данных. Возможности и качество на других предметных областях или при других размерах изображений в карточке не описаны.
Facebook DINOv2 — базовая модель Vision Transformer, обученная методом DINOv2 на большом наборе изображений без учителя. Архитектура состоит из трансформерного энкодера, который разбивает изображение на патчи и формирует представление изображения; модель содержит 113,2 млн параметров и выпущена в формате PyTorch. Модель предназначена для классификации изображений по 1000 классам ImageNet, а также для извлечения визуальных признаков и дальнейшей адаптации к задачам компьютерного зрения. Веса не содержат дообученной классификационной головы, поэтому для прикладной классификации может потребоваться отдельный классификатор, обученный поверх представлений модели. Модель выпущена по лицензии Apache-2.0.
ClimateBERT — дообученная языковая модель на базе RoBERTa с классификационной головой, разработанная для анализа климатических текстов. Модель относит абзацы о климате к одному из трёх классов тональности: возможность, нейтральная позиция или риск. Модель создана дообучением climatebert/distilroberta-base-climate-f на наборе данных climatebert/climate_sentiment. Она принимает текст и выдаёт метку класса; размер составляет 95,4 млн параметров, контекст — до 514 токенов. Поддерживаемый язык — английский. Модель подходит для разметки климатических абзацев при анализе публикаций и документов. В README отмечено, что обучение проводилось на абзацах, поэтому качество на отдельных предложениях может быть ниже. Лицензия — Apache-2.0.
ECA-ResNet-D pruned — сверточная модель классификации изображений из библиотеки timm, оснащённая механизмом Efficient Channel Attention. Модель содержит 19,9 млн параметров и требует около 2,5 GMACs; в карточке указаны размеры изображений 224×224 для обучения и 288×288 для проверки. Она также может служить основой для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для присвоения изображениям меток классов и получения визуальных признаков в прикладных системах компьютерного зрения. Карточка связывает её с работами по остаточным сетям, эффективному канальному вниманию и практическим приёмам обучения классификаторов. Распространяется по лицензии Apache-2.0.
EfficientFormerv2_s2.snap_dist_in1k — модель классификации изображений семейства EfficientFormer-V2, представленная в библиотеке timm. Она предварительно обучена на ImageNet-1k с дистилляцией и предназначена для классификации изображений, а также может использоваться как компактная основа для извлечения признаков и эмбеддингов. Модель содержит 12,7 млн параметров, требует входные изображения размером 224 × 224 и имеет вычислительную сложность 1,3 GMACs. Веса доступны в форматах PyTorch и safetensors; лицензия — Apache-2.0. Компактный размер и ориентация семейства на скорость делают её подходящей для классификации изображений в приложениях с ограниченными вычислительными ресурсами. Обучение на ImageNet-1k задаёт область распознавания объектов этого набора классов; качество на иных типах изображений и задачах может отличаться. Модель принимает изображения и выдаёт классовые оценки либо признаки при использовании соответствующих интерфейсов timm.
efficientnetv2_rw_m.agc_in1k — модель компьютерного зрения семейства EfficientNetV2, опубликованная командой timm. Она обучена на ImageNet-1k и предназначена для классификации изображений; её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Вариант архитектуры и рецепт обучения специфичны для timm. Модель содержит около 53,2 млн параметров. Размер изображения при обучении составлял 320 × 320 пикселей, при оценке — 416 × 416. Для обучения использовались рецепт ResNet Strikes Back C, оптимизатор SGD с Nesterov и адаптивное ограничение градиента AGC, а также косинусное расписание скорости обучения с разогревом. Для загрузки доступны веса PyTorch и Safetensors; библиотека модели — timm. Модель подходит для классификации изображений в сценариях, близких к классам ImageNet-1k, а также для получения признаков и эмбеддингов в качестве компонента компьютерного зрения. README не описывает показатели точности или расширение классов за пределы ImageNet-1k. Лицензия — Apache-2.0.