I.8Изображения и компьютерное зрение
В разделе собраны самостоятельные задачи, где AI помогает извлекать визуальные признаки, изменять изображения и создавать новые визуальные материалы. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
6 331 модельseresnext101d_32x8d.ah_in1k — модель классификации изображений и извлечения признаков из семейства SE-ResNeXt-D, опубликованная разработчиками timm. Она обучена на ImageNet-1k по рецепту A1 из ResNet Strikes Back с оптимизатором LAMB, аугментацией RandAugment и расписанием скорости обучения с разогревом. Архитектура включает групповые свёртки 3×3 в bottleneck-блоках, трёхслойный свёрточный stem и механизм Squeeze-and-Excitation для внимания к каналам. Модель содержит 93,6 млн параметров; для тестирования указано разрешение 288×288 пикселей. Модель предназначена для классификации изображений по классам ImageNet-1k, извлечения карт признаков и построения эмбеддингов изображений. Она принимает изображения и выдаёт метки классов или векторные представления. В репозитории представлены веса PyTorch и safetensors. Модель распространяется по лицензии Apache-2.0; для задач вне ImageNet-1k может потребоваться адаптация или дополнительная проверка качества.
SE-ResNeXt-D — сверточная модель классификации изображений из библиотеки timm, разработанная Россом Уайтманом. Она предварительно обучена на ImageNet-12k и дообучена на ImageNet-1k. Архитектура сочетает блоки ResNeXt с групповыми свёртками, механизм внимания каналов Squeeze-and-Excitation и антиалиасинговое уменьшение разрешения Rectangle-2. Модель содержит 93,6 млн параметров; в карточке приведены результаты оценки при тестовом разрешении 288 × 288 пикселей. Она также может использоваться как основа для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для классификации изображений общего назначения. Лицензия — Apache-2.0.
timm/skresnet34.ra_in1k — модель классификации изображений и выделения признаков семейства Selective-Kernel ResNet, разработанная Ross Wightman и обученная в библиотеке timm на ImageNet-1k. Вариант использует рецепт обучения RA с конфигурацией ResNet strikes back B. Модель содержит 22,3 млн параметров, требует изображения размером 224 × 224 пикселя и имеет вычислительную стоимость 3,7 GMACs. Модель предназначена для классификации изображений по классам ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Её можно использовать как визуальный backbone в задачах компьютерного зрения. Репозиторий предоставляет веса PyTorch в формате Safetensors; лицензия — Apache-2.0.
Talk2DINO-ViTB — модель для сегментации изображений по произвольным текстовым понятиям, разработанная авторами исследования Talking to DINO, представленного на ICCV 2025. Она объединяет пространственные признаки патчей DINOv2 и языковые представления CLIP: обученная функция отображает текстовые эмбеддинги CLIP в пространство признаков DINOv2, не дообучая сами базовые энкодеры. Модель предназначена для open-vocabulary сегментации: пользователь задаёт текстовые категории, а модель выделяет соответствующие области изображения без ограничения заранее заданным набором классов. В README заявлены более точная локализация объектов, естественные и менее шумные маски, а также способность различать передний план и фон; авторы сообщают о высоких результатах на нескольких несупервизируемых бенчмарках. Для вывода принимается изображение и текстовые категории, результатом служат сегментационные маски. Репозиторий содержит веса в формате safetensors и использует PyTorch. Лицензия — Apache-2.0.
tf_efficientnet_b3.aa_in1k — свёрточная модель EfficientNet для классификации изображений и извлечения визуальных признаков. Её обучили авторы статей на ImageNet-1k с политикой аугментации AutoAugment; Ross Wightman перенёс веса в PyTorch. Модель доступна в библиотеке timm и распространяется по лицензии Apache-2.0. Модель содержит около 12,2 млн параметров, требует изображение размером 300 × 300 пикселей и может использоваться как классификатор, основа для извлечения карт признаков или получения представлений изображений. В README приведены вычислительные характеристики: 1,9 GMACs и 23,8 млн активаций. Обучение на ImageNet-1k определяет её назначение для распознавания объектов из набора классов ImageNet; качество на других наборах данных может отличаться.
timm/tf_efficientnetv2_b3.in1k — модель семейства EfficientNetV2 для классификации изображений и извлечения визуальных признаков. Её обучили авторы EfficientNetV2 на ImageNet-1k в TensorFlow, а Ross Wightman перенёс веса в PyTorch; в репозитории доступны веса PyTorch и Safetensors. Модель содержит около 14,4 млн параметров и требует изображения размером 300 × 300 пикселей при тестировании; размер обучения составлял 240 × 240 пикселей. Модель подходит для определения объектов и категорий на изображениях, а также как визуальная основа для извлечения карт признаков и эмбеддингов. Она ориентирована на ImageNet-1k и не описана как специализированная для конкретной области или языка. Лицензия — Apache-2.0. Карточка не приводит численных метрик качества; применение на изображениях существенно отличающихся от ImageNet-1k может потребовать дополнительной адаптации.
tf_efficientnetv2_b3.in21k — модель классификации изображений семейства EfficientNetV2, обученная авторами статьи на ImageNet-21k в TensorFlow и перенесённая в PyTorch Россом Уайтменом. Она может использоваться как готовый классификатор или как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Модель содержит 46,4 млн параметров и около 2,0 GMACs. Размер изображения при обучении — 240 × 240 пикселей, рекомендуемый размер при тестировании — 300 × 300. Репозиторий предоставляет веса PyTorch в формате safetensors; библиотека для работы — timm. Модель предназначена для классификации по классам ImageNet-21k и может служить основой для задач компьютерного зрения. Лицензия — Apache-2.0. Качество классификации зависит от соответствия входных изображений обучающим данным; карточка не описывает отдельную специализацию на конкретной предметной области.
TinyViT 21M 512 — модель семейства TinyViT для классификации изображений и использования в качестве визуального backbone. Её разработали авторы статьи TinyViT: Fast Pretraining Distillation for Small Vision Transformers. Модель предварительно обучена на ImageNet-22k с дистилляцией и дообучена на ImageNet-1k. Модель содержит 21,3 млн параметров, обрабатывает изображения размером 512 × 512 и доступна через библиотеку timm. Помимо классификации, её можно использовать для извлечения карт признаков и эмбеддингов изображений. В репозитории представлены веса PyTorch и Safetensors; лицензия — Apache-2.0.
TResNet-M — модель классификации изображений, обученная авторами статьи TResNet на ImageNet-1k. Репозиторий timm содержит веса, преобразованные из оригинальных: InplaceABN заменён на стандартный BatchNorm для совместимости и производительности в современных режимах PyTorch. Модель насчитывает 31,4 млн параметров, рассчитана на изображения размером 448 × 448 и может использоваться как классификатор, основа для извлечения признаков и получения эмбеддингов изображений. Она предназначена для распознавания объектов и сцен по изображениям общего назначения. Весам соответствует лицензия Apache-2.0. Модель обучена на ImageNet-1k, поэтому её классификация ориентирована на набор классов этого датасета; качество на специализированных или существенно отличающихся данных может быть ниже.
timm/twins_svt_base.in1k — модель классификации изображений и извлечения визуальных признаков из семейства Twins-SVT, обученная авторами статьи на ImageNet-1k. Архитектура Vision Transformer использует пространственное внимание; модель содержит 56,1 млн параметров, выполняет 8,6 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для классификации изображений по категориям ImageNet-1k и получения эмбеддингов изображений как визуального бэкбона для последующих задач компьютерного зрения. Она принимает изображения и возвращает классовые предсказания либо признаки. Репозиторий содержит веса PyTorch и Safetensors и предназначен для использования с библиотекой timm. Лицензия — Apache-2.0.
VGG16 — сверточная модель классификации изображений из библиотеки timm с оригинальными весами torchvision, обученная на ImageNet-1k. Она предназначена для классификации изображений, а также может использоваться как базовая сеть для извлечения карт признаков и визуальных эмбеддингов. Модель содержит около 138,4 млн параметров, требует изображение размером 224 × 224 пикселя и имеет вычислительную стоимость 15,5 GMACs. Репозиторий предоставляет веса в форматах PyTorch и Safetensors; для использования указана лицензия BSD-3-Clause. Карточка не уточняет список классов и количественные показатели качества.
Это визуальный энкодер семейства CLIP из набора timm, подготовленный на основе DFN и рассчитанный на извлечение признаков изображений. Он преобразует изображение в векторное представление для последующего поиска по сходству, кластеризации или использования в мультимодальных системах. В репозитории размещены веса PyTorch в формате Safetensors. Модель содержит только визуальный энкодер CLIP: текстовый энкодер и генерация текста в карточке не заявлены. Лицензия указана как other, поэтому условия использования следует сверить с исходной лицензией модели и данными репозитория.
Это визуальный энкодер ViT-Base с патчами 16×16, обученный как часть CLIP на данных LAION-2B. Модель распространяется через timm; в репозитории находятся только веса image encoder, без текстового энкодера CLIP. Она предназначена для извлечения признаковых векторов из изображений, например для поиска похожих изображений, кластеризации и построения визуальных представлений для последующих моделей. Доступны веса в форматах PyTorch и safetensors; лицензия — Apache-2.0. Энкодер принимает изображения и выдаёт векторы признаков. Для сравнения изображений с текстом или вычисления CLIP-сходства потребуется отдельно получить совместимый текстовый энкодер. Размер модели и точный входной размер в предоставленных сведениях не приводятся.
Модель timm/vit_base_patch16_siglip_256.webli_i18n — визуальный энкодер SigLIP на основе Vision Transformer с патчами 16×16 и входным разрешением 256 пикселей. Это image encoder only с исходным attention pooling; модель предназначена для извлечения признаковых представлений изображений и их использования в последующих задачах машинного зрения. Разработчик в карточке не назван; веса распространяются через timm. Модель принимает изображения и выдаёт признаки-векторы. В метаданных указана задача image-feature-extraction, библиотека timm и лицензия Apache-2.0. Карточка связывает вариант с WebLI и i18n, но не приводит конкретный перечень языков или подробности обучения.
vit_base_patch16_siglip_gap_224.v2_webli — модель семейства SigLIP 2, опубликованная в библиотеке timm. Это визуальный энкодер ViT с патчами 16×16 и входным разрешением 224 пикселя; текстовый энкодер отсутствует. Вариант gap использует глобальное усреднение признаков и не содержит головы attention pooling. Модель обучена на WebLI и предназначена для извлечения признаков изображений. Полученные представления можно использовать для поиска и сопоставления изображений, кластеризации и других задач компьютерного зрения, где нужны визуальные признаки. Метаданные указывают задачу image-feature-extraction и форматы PyTorch и safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или дополнительных сведений об ограничениях применения.
Это модель семейства SigLIP, опубликованная timm: визуальный энкодер ViT-Base с патчами 16×16 и глобальным усреднением признаков. Она преобразует изображения в векторные представления и предназначена для извлечения признаков в системах компьютерного зрения и мультимодальных конвейерах. В названии указаны размер изображения 256 и обучение на WebLI с поддержкой нескольких языков; текстовый энкодер в эту модель не входит. Модель доступна в форматах PyTorch и Safetensors и распространяется по лицензии Apache-2.0. Метаданные указывают задачу image-feature-extraction.
Модель timm/vit_base_patch32_clip_224.laion2b_ft_in1k — визуальный трансформер (ViT) для классификации изображений и извлечения признаков. Её разработали авторы библиотеки timm на основе OpenCLIP: модель предварительно обучена на парах изображение–текст из LAION-2B, затем дообучена на ImageNet-1k. Веса доступны в форматах PyTorch и Safetensors по лицензии Apache-2.0. Модель содержит 88,2 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Её можно применять для классификации изображений по категориям ImageNet-1k, а также получать визуальные эмбеддинги для поиска похожих изображений и других задач компьютерного зрения. Карточка не описывает языковые возможности или ограничение контекста; модель работает с изображениями, а не с текстовыми запросами.
Модель timm/vit_base_patch32_clip_384.openai_ft_in12k_in1k — Vision Transformer для классификации изображений и извлечения визуальных признаков. Она основана на CLIP-модели OpenAI, предварительно обученной на парах изображение–текст WIT-400M, а затем дообученной в timm на ImageNet-12k и ImageNet-1k. Архитектура ViT-Base использует патчи 32×32 и принимает изображения размером 384×384; модель содержит 88,3 млн параметров. Модель подходит для классификации изображений и получения эмбеддингов изображений, например, как визуальная основа для прикладных систем компьютерного зрения. В репозитории указаны веса PyTorch и Safetensors. Лицензия — Apache-2.0.
vit_giant_patch14_reg1_tipsv2.webli — визуальный энкодер семейства Vision Transformer, опубликованный в библиотеке timm. Модель предварительно обучена по рецепту TIPSv2, сочетающему выравнивание изображений и текста с самоконтролируемым обучением iBOT++. Для обучения использован отфильтрованный набор из 116 млн изображений WebLI с альтернативными подписями и синтетическими описаниями. Архитектура включает register-токен и содержит около 1,136 млрд параметров; входной размер изображения — 448 × 448 пикселей. Модель извлекает признаки и эмбеддинги изображений, а также карты признаков для последующей классификации и других задач компьютерного зрения. Её можно применять для представления изображений в векторном виде, поиска и сравнения изображений или как визуальный энкодер в прикладном конвейере. Репозиторий содержит веса safetensors и использует лицензию Apache-2.0. Модель предназначена для изображений; поддержка текстового ввода или генерации не заявлена.
belfner/vit_giant_patch16_lingbot.robbyant — преобразованная версия энкодера изображений LingBot-Vision ViT-Giant/16, опубликованная авторами исходной модели. Модель содержит около 1,13 млрд параметров и предназначена для извлечения признаков и эмбеддингов изображений. Она использует патчи размером 16 пикселей, CLS-токен, четыре register-токена и патч-токены; стандартная конфигурация усредняет признаки патчей. Указанный размер изображения — 512 × 512. Энкодер предварительно обучен методом masked boundary modeling на курируемом веб-корпусе из 161 млн изображений. Веса преобразованы для реализации Eva/DINOv3 в timm; автор README сообщает о точном совпадении выходов fp32 с эталонной реализацией для проверенных размеров изображений. Модель подходит для получения визуальных признаков, карт признаков и эмбеддингов, в том числе как основы для классификации и задач плотного пространственного восприятия. Репозиторий распространяется по лицензии Apache 2.0; запись архитектуры в timm на момент создания карточки ожидала включения в библиотеку.
Это веса визуального энкодера ViT-Huge/14 из семейства DFN CLIP, опубликованные timm. Модель предназначена для извлечения признаковых представлений изображений, которые можно использовать для поиска по изображениям, сравнения визуального сходства и построения мультимодальных систем. Это только энкодер изображений, а не полная модель CLIP с текстовым энкодером.
Модель timm/vit_large_patch14_clip_336.laion2b_ft_in1k — Vision Transformer для классификации изображений и извлечения признаков. Она создана на основе OpenCLIP: предварительно обучена на парах изображение–текст из LAION-2B, затем дообучена в timm на ImageNet-1k. Модель содержит около 304,5 млн параметров и рассчитана на изображения размером 336 × 336 пикселей. Модель подходит для классификации изображений по категориям ImageNet-1k и получения векторных представлений изображений. Её можно использовать как визуальный backbone в задачах компьютерного зрения. Карточка указывает на работу с изображениями; текстовый ввод и контекстная длина для этой версии не описаны. Репозиторий распространяется по лицензии Apache-2.0.
belfner/vit_large_patch16_lingbot.robbyant — визуальный энкодер LingBot-Vision на базе ViT-Large/16, подготовленный авторами статьи и преобразованный для реализации Eva/DINOv3 в timm. Модель содержит 303,1 млн параметров и рассчитана на изображения размером 512 × 512 пикселей. Она выдаёт признаки CLS, четырёх register-токенов и патчей; конфигурация по умолчанию усредняет признаки патчей, а режим global_pool='token' позволяет получить представление CLS. Энкодер предназначен для извлечения признаков и эмбеддингов изображений, в том числе для классификации и получения карт признаков. Он дистиллирован из ViT-Giant/16, предварительно обученного с masked-boundary objective, на корпусе из 161 млн отобранных веб-изображений. В README заявлено точное совпадение выходов fp32 с эталонной реализацией на двух проверенных разрешениях. Лицензия — Apache 2.0.
Это модель семейства SigLIP 2, разработанная для библиотеки timm: визуальный энкодер ViT-Large с патчами 16×16 и входным разрешением 256 пикселей. Она соответствует только визуальной башне мультимодальной модели и обучена на наборе WebLI; в репозитории доступны веса PyTorch и SafeTensors. Основное назначение — извлечение признаковых представлений изображений для последующего поиска и других задач компьютерного зрения. Энкодер принимает изображения и выдаёт векторные признаки. Его можно использовать как компонент систем поиска изображений и сопоставления визуального содержимого, однако эта версия сама не принимает текст и не генерирует описания. Лицензия — Apache 2.0.
Это визуальный энкодер SigLIP из библиотеки timm с архитектурой ViT-Large, патчами 16×16 и входным разрешением 384 пикселя. Модель преобразует изображение в признаки для последующего сравнения, поиска или использования в других системах машинного обучения; применяется глобальное усреднение признаков (global average pooling). Веса доступны в форматах PyTorch и Safetensors. Модель предназначена для извлечения визуальных признаков, а не для генерации текста или изображений. Карточка не сообщает о поддерживаемых естественных языках или специализированных предметных областях. Лицензия Apache-2.0 разрешает использование и модификацию на её условиях.
Это Vision Transformer (ViT) для извлечения признаков из изображений. Модель предварительно обучена авторами статьи на ImageNet-21k в JAX, а затем перенесена в PyTorch Россом Уайтманом. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Модель содержит 305,5 млн параметров, обрабатывает изображения размером 224 × 224 и не имеет классификационной головы. Её используют как визуальный backbone для получения признаков и эмбеддингов, а также как основу для дальнейшего дообучения под задачи классификации изображений. Карточка указывает на высокие вычислительные затраты: 15,3 GMACs на изображение.
Perception Encoder Core B/16 — разработанная Meta модель визуального энкодера, представленная в репозитории в виде remapped-варианта весов только для обработки изображений в библиотеке timm. Это базовая модель семейства Perception Encoder, обученная на изображениях с контрастивным предобучением и дополнительно настроенная на данных, созданных синтетическим видеодвижком. Архитектура включает vision-трансформер с патчами 16×16, 12 слоями и шириной 768; размер изображения — 224 пикселя. Визуальная башня имеет около 90 млн параметров, а для глобального представления используется блок attention pooling и class token. Модель предназначена для извлечения визуальных признаков, которые можно использовать в классификации изображений, поиске и сопоставлении изображений, а также как представления для последующих задач компьютерного зрения. В карточке семейства также приведены результаты для классификации и поиска по видео, но этот репозиторий содержит только энкодер изображений. Веса опубликованы в форматах PyTorch и safetensors; лицензия — Apache-2.0.
Это вариант визуального энкодера Perception Encoder (PE), разработанного Meta и опубликованного в формате timm соображениями автора timm. Модель предназначена для извлечения признаков из изображений; её можно использовать как основу для последующих задач компьютерного зрения, включая классификацию и поиск по изображениям. Репозиторий включает веса для архитектуры Vision Transformer large с размером входа 448 × 448 и выходным вектором признаков размерности 1024. Это image-only вариант весов PE Spatial; карточка указывает, что веса преобразованы для timm и не работают с исходным кодом моделирования. Вход модели — изображение, выход — признаки изображения. Репозиторий распространяется по лицензии Apache-2.0. Языковая поддержка для этого энкодера не заявлена.
Это модель Vision Transformer (ViT) для классификации изображений из семейства timm. Её обучили авторы исследований на ImageNet-21k с дополнительной аугментацией и регуляризацией в JAX; Ross Wightman перенёс веса в PyTorch. Модель содержит около 30,1 млн параметров, использует изображения размером 224 × 224 и имеет вычислительную стоимость около 4,3 GMACs. Модель предназначена для классификации изображений и может использоваться как визуальный backbone для извлечения признаков и эмбеддингов. Она подходит для распознавания объектов и категорий на изображениях, а также для построения систем компьютерного зрения на базе предобученных признаков. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Модель принимает изображения и выдаёт классы либо признаки изображения; карточка не приводит сведений о точности на конкретных прикладных наборах данных.
timm/vit_small_patch16_dinov3_qkvb.lvd1689m — визуальный энкодер семейства DINOv3 от команды PyTorch Image Models (timm). Это ViT-S/16 с 21,6 млн параметров, обученный дистилляцией на наборе LVD-1689M от модели DINOv3 ViT-7B. Он принимает изображения; размер изображения в карточке — 256 × 256. Модель выдаёт признаки и эмбеддинги изображений, которые можно использовать как основу для классификации, извлечения карт признаков и других задач компьютерного зрения. Карточка описывает вариант с включёнными смещениями QKV, значения которых равны нулю; он сохраняет поведение исходной модели. Модель предназначена для извлечения визуальных признаков и пригодна для downstream-задач, включая классификацию и плотные задачи вроде сегментации. В карточке приведены результаты сравнительных оценок DINOv3, однако часть таблиц относится к другим размерам моделей, поэтому их нельзя считать прямой оценкой этого чекпойнта. Репозиторий содержит веса PyTorch в формате safetensors и доступен через библиотеку timm. Лицензия указана как other, а в карточке названа лицензия DINOv3; точные условия использования следует сверить с текстом лицензии модели.