I.8Изображения и компьютерное зрение
В разделе собраны самостоятельные задачи, где AI помогает извлекать визуальные признаки, изменять изображения и создавать новые визуальные материалы. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
6 331 модельVeritone/siglip2-base-patch16-384-vision — копия зрительной башни SigLIP 2 Base от Google, подготовленная Veritone. Репозиторий содержит только vision tower базовой модели google/siglip2-base-patch16-384: она кодирует изображения и видеокадры в общее пространство эмбеддингов, а текстовая башня размещена отдельно в Veritone/siglip2-base-patch16-384-text. Модель построена на архитектуре SigLIP и предназначена для загрузки отдельно при индексации, что позволяет загружать только нужную часть модели. Энкодер подходит для классификации изображений по кандидатным текстовым меткам, поиска изображений по текстовому запросу и использования в качестве визуального энкодера для мультимодальных моделей. SigLIP 2 улучшает семантическое понимание, локализацию и плотные визуальные признаки; предварительное обучение проводилось на наборе WebLI. Для работы с текстовыми запросами или совместной обработкой изображения и текста потребуется текстовая башня либо другая совместимая текстовая модель. Репозиторий распространяется по лицензии Apache-2.0.
Карточка модели Veritone/siglip2-base-patch16-512 на Hugging Face совпадает с карточкой google/siglip2-base-patch16-512, поэтому описание составлено по ней. SigLIP 2 Base — базовая модель семейства SigLIP 2, разработанная Google. Она обучена на наборе данных WebLI и предназначена для сопоставления изображений и текста: модель поддерживает классификацию изображений по заданным текстовым меткам без дополнительного обучения и поиск изображений по текстовым запросам или текста по изображениям. Её также можно использовать как визуальный энкодер для мультимодальных языковых моделей и других задач компьютерного зрения. Модель принимает изображение и текстовые описания-кандидаты и оценивает их соответствие; визуальный энкодер формирует представления изображений для дальнейшего использования. В карточке указана архитектура SigLIP, библиотека Transformers и формат весов safetensors. Модель доступна по лицензии Apache-2.0. README не приводит сведений о размере параметров и длине контекста.
Veritone/siglip2-large-patch16-256-vision — облегчённая копия зрительной башни SigLIP 2 Large от Google, опубликованная Veritone. Модель кодирует изображения и видеокадры в общее пространство эмбеддингов; её можно загружать отдельно для индексирования, экономя память и время загрузки, когда текстовая башня не нужна. Текстовая башня для поиска находится в Veritone/siglip2-large-patch16-256-text. Модель подходит для классификации изображений по кандидатным текстовым меткам без дообучения, поиска изображений по тексту и использования в качестве визуального энкодера мультимодальных моделей. SigLIP 2 обучалась на наборе WebLI и рассчитана на обработку изображений с размером патча 16 и разрешением 256. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия — Apache-2.0.
Карточка модели Veritone/siglip2-large-patch16-384 на Hugging Face совпадает с карточкой google/siglip2-large-patch16-384, поэтому описание составлено по ней. SigLIP 2 Large — модель компьютерного зрения и языка от Google на архитектуре SigLIP. Она обучена на наборе WebLI и предназначена для сопоставления изображений с текстом: модель выполняет классификацию изображений по заданным текстовым меткам и поиск изображений по текстовым запросам. Её также можно использовать как визуальный энкодер в мультимодальных языковых моделях и других системах компьютерного зрения. Модель принимает изображения и текстовые описания или метки, а на выходе формирует оценки соответствия между ними. Вариант Large с патчами 16×16 рассчитан на обработку изображений с разрешением 384 пикселя; веса опубликованы в формате Safetensors и доступны для Transformers. Лицензия Apache-2.0.
Карточка модели AndreasAtlasio/siglip2-so400m-embed на Hugging Face совпадает с карточкой google/siglip2-so400m-patch14-384, поэтому описание составлено по ней. SigLIP 2 So400m — модель визуального кодировщика от Google, обученная для совместного понимания изображений и текста. Она развивает подход SigLIP, объединяя несколько методов предобучения; в карточке Hugging Face указана архитектура семейства SigLIP и библиотека Transformers. Модель предварительно обучена на наборе WebLI. Модель подходит для классификации изображений по текстовым меткам без специального обучения, поиска соответствий между изображениями и текстом, а также для использования в качестве визуального энкодера в мультимодальных языковых моделях и других задачах компьютерного зрения. Она принимает изображения и текстовые описания или метки и формирует представления, используемые для сопоставления и классификации. Модель распространяется по лицензии Apache-2.0. Оценочные результаты приведены в README со ссылкой на исследовательскую работу; конкретные ограничения и показатели качества для отдельных сценариев в доступных материалах не описаны.
Veritone/siglip2-so400m-patch16-256-vision — облегчённая копия модели Google SigLIP 2 So400m, содержащая только визуальный энкодер. Она преобразует изображения и кадры видео в эмбеддинги общего пространства и предназначена для независимой загрузки визуальной части при индексации, что сокращает расход памяти и время загрузки. Текстовая часть для работы с запросами опубликована отдельно как Veritone/siglip2-so400m-patch16-256-text. Модель поддерживает классификацию изображений без дообучения по заданным текстовым меткам, поиск по изображениям и использование в качестве визуального энкодера мультимодальных моделей. SigLIP 2 обучена на наборе WebLI и, согласно карточке, улучшает семантическое понимание, локализацию и извлечение плотных признаков. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. В этой копии отсутствует текстовый энкодер, поэтому для сценариев сопоставления изображений с текстовыми запросами потребуется отдельная текстовая башня.
Карточка модели Veritone/siglip2-so400m-patch16-384 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-384, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google и предназначенная для сопоставления изображений и текста. Её применяют для классификации изображений по произвольным текстовым меткам, поиска изображений по текстовому запросу и как визуальный энкодер для мультимодальных моделей и других задач компьютерного зрения. Модель использует плотную архитектуру SigLIP и представлена в формате safetensors; работать с ней можно через Transformers. Предобучение проведено на наборе WebLI. SigLIP 2 развивает подход к предобучению SigLIP, объединяя его с ранее разработанными методами для улучшения семантического понимания, локализации и извлечения плотных признаков. Лицензия — Apache 2.0. Модель обрабатывает изображения и текстовые метки и выдаёт оценки соответствия; качество зависит от формулировок меток и характеристик изображений. README не приводит конкретных ограничений применения.
Карточка модели m-toman/siglip2-so400m-patch16-512 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-512, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google. Это визуальный энкодер, обученный на WebLI и предназначенный для сопоставления изображений с текстовыми описаниями. Модель поддерживает классификацию изображений по произвольным текстовым меткам без отдельного обучения и поиск изображений по тексту или текста по изображению; её также можно использовать как визуальную часть мультимодальных систем и в других задачах компьютерного зрения. Модель принимает изображения и текстовые описания, кодирует их для сравнения и выдаёт оценки соответствия. Архитектура SigLIP, вариант So400m; доступные веса представлены в формате safetensors и используются через Transformers. В README отмечены улучшенное семантическое понимание, локализация и плотные визуальные признаки. Лицензия — Apache-2.0. Размер модели и длина контекста в предоставленных данных не указаны.
alwold/stable-diffusion-2-inpainting — репозиторий модели Stable Diffusion 2 для дорисовки и редактирования изображений по текстовому запросу и маске. Разработчики исходной модели — Robin Rombach и Patrick Esser. Это латентная диффузионная модель, использующая предварительно обученный текстовый энкодер OpenCLIP-ViT/H; веса продолжили обучать от stable-diffusion-2-base ещё 200 тысяч шагов. Репозиторий содержит модель в форматах Diffusers, PyTorch и safetensors. Модель предназначена для заполнения выбранных областей изображения и творческого редактирования с помощью текстового описания. При обработке используются стратегия генерации масок LAMA и латентные представления изображения с замаскированной областью. Основной язык запросов — английский; качество подсказок на других языках ниже. Лицензия — CreativeML Open RAIL++-M. Ограничения исходной карточки Stable Diffusion 2 применимы и здесь: модель может ошибаться в композиционно сложных сценах и изображении людей, не гарантирует фотореализм и не умеет надёжно создавать читаемый текст. Данные обучения включали отфильтрованные подмножества LAION-5B, но модель может воспроизводить смещения и нежелательное содержание; её не следует использовать для фактических изображений людей и событий или вредоносных целей.
Это модель CLIP семейства ViT, обученная командой Stability AI с OpenCLIP на наборе DataComp-1B, содержащем около 1,4 млрд примеров. Она сопоставляет изображения и текстовые описания в общем пространстве представлений и предназначена прежде всего для классификации изображений без дообучения по заданным текстовым меткам, а также для поиска изображений по тексту и текстов по изображению. Модель можно применять в исследованиях и экспериментах с классификацией по произвольной таксономии, линейными пробами и дообучением для задач компьютерного зрения. В карточке указана точность zero-shot top-1 79,2% на ImageNet-1k и оценка на 38 наборах данных. Обучение на неотфильтрованных веб-данных может приводить к смещениям и нестабильному качеству в зависимости от набора меток; карточка не рекомендует развёртывание без тщательной проверки и исключает наблюдение и распознавание лиц. Лицензия репозитория — MIT.
CLIP ViT-B/32 — модель сопоставления изображений и текста, обученная Romain Beaumont с помощью OpenCLIP на англоязычной подвыборке из 2 млрд пар LAION-5B. В репозитории представлены веса PyTorch и safetensors; модель использует архитектуру CLIP с визуальным энкодером ViT-B/32. Модель предназначена для классификации изображений по произвольным текстовым меткам без отдельного обучения, а также для поиска изображений по текстовому запросу и поиска текста по изображению. Её можно применять в исследованиях, при настройке классификаторов и для управления генерацией изображений. В README указана точность zero-shot классификации ImageNet-1k 66,6% top-1. Модель ориентирована на английский язык и не оценивалась специально на других языках. README не рекомендует развёртывание в продуктах и неконтролируемое применение без тщательной проверки на конкретных данных и фиксированном наборе классов; распознавание лиц и задачи наблюдения обозначены как недопустимые сценарии. Обучающие данные собраны из интернета и не были полностью отфильтрованы, поэтому возможны смещения и нежелательные результаты. Лицензия репозитория — MIT.
CLIP ViT-bigG/14 — модель сопоставления изображений и текста, обученная LAION с использованием OpenCLIP. Обучение проводилось на англоязычной подвыборке из 2 млрд пар LAION-5B; модель также частично дообучалась на LAION-A. В метаданных указаны архитектура CLIPModel, библиотека open_clip и форматы PyTorch и safetensors. Модель предназначена для классификации изображений по текстовым описаниям без дополнительного обучения, а также для поиска изображений по тексту и поиска текстов по изображению. Её можно использовать как основу для дообучения задач компьютерного зрения и для управления генерацией изображений. README приводит точность top-1 80,1% на ImageNet-1k. Модель обучалась на английских данных, поэтому предназначена для англоязычных сценариев. Лицензия — MIT. Карточка рекомендует исследовательское применение и не рекомендует развёртывание без тщательной проверки на конкретной задаче и фиксированном наборе классов; распознавание лиц и наблюдение указаны как недопустимые сценарии. Данные LAION не курировались и могут содержать нежелательный контент.
Uminosachi/dreamshaper_8Inpainting — модель для дорисовки и изменения изображений по текстовому описанию. Согласно карточке, это конвертированная версия dreamshaper_8Inpainting, предназначенная для сценариев inpainting: пользователь задаёт область изображения для изменения и описывает желаемый результат текстом. Модель относится к семейству Stable Diffusion и распространяется в форматах Diffusers, PyTorch и Safetensors. Лицензия — CreativeML OpenRAIL-M. Данные карточки не уточняют размер модели, поддерживаемые языки, длину контекста и конкретные ограничения качества.
Mage-Flow-Edit — модель генерации и редактирования изображений из семейства Mage-Flow, представленная в карточке как модель для редактирования по инструкции. Семейство разработано как компактный стек примерно на 4 млрд параметров: в его основе лежат латентный токенизатор Mage-VAE и общий мультимодальный диффузионный трансформер NR-MMDiT, обученный методом rectified flow matching. Репозиторий использует Diffusers и формат safetensors. Модель принимает исходное изображение и текстовую инструкцию, чтобы менять содержимое и внешний вид, преобразовывать сцену, восстанавливать изображение и создавать структурно согласованные варианты. Семейство поддерживает работу с разрешениями от 512 до 2048 пикселей и разными соотношениями сторон. В README описаны базовая, согласованная с предпочтениями и ускоренная четырёхшаговая версии семейства; точный вариант этого репозитория не уточнён. README заявляет компактность и высокую скорость, а для Turbo-варианта приводит время редактирования около 1,02 секунды на изображение 1024×1024 на одном A100. Эти показатели относятся к указанной конфигурации и не гарантируют такую же скорость на другом оборудовании. Модель распространяется по лицензии MIT.
PP-OCRv6_tiny_det_onnx — модель обнаружения текстовых строк на изображениях из семейства PaddleOCR, разработанная PaddlePaddle. Она предназначена для OCR-конвейеров: выделения областей и строк с текстом на изображениях перед последующим распознаванием, включая обработку документов и других изображений с печатным текстом. Модель поставляется в формате ONNX и ориентирована на компактное и эффективное развертывание. В README модель обозначена как tiny-вариант PP-OCRv6 с архитектурой для textline detection; точный размер и число параметров, максимальный контекст, поддерживаемые разрешения и детальные характеристики производительности не указаны. В метаданных заявлены английский и китайский языки, а основная модальность — изображение. Модель подходит для сценариев, где важны скорость и небольшие вычислительные затраты, однако качество обнаружения может зависеть от качества изображения, масштаба, фона и ориентации текста; сама модель отвечает за обнаружение, а не за полное распознавание содержимого. Лицензия — Apache 2.0.
Карточка модели fzy18604561133/Qwen-Image-2.1 на Hugging Face совпадает с карточкой unsloth/Qwen-Image-2.1, поэтому описание составлено по ней. Qwen-Image-2.1 — модель семейства Qwen для генерации изображений по тексту и редактирования изображений; в карточке она представлена как версия, опубликованная unsloth. Визуальный генератор содержит 7 млрд параметров и использует 32 слоя одно-поточного DiT. Модель рассчитана на создание изображений, в том числе с прозрачностью RGBA, и редактирование изображений по текстовым инструкциям. Среди заявленных возможностей — работа с десятью референсными изображениями, локальные правки по маскам и нарисованным пометкам, сохранение внешнего вида людей и товаров, а также извлечение объектов из фотографий. Разработчики отмечают улучшения в отрисовке текста, освещении портретов и детализации. Для работы требуются PyTorch, Transformers и Diffusers; конкретные требования к видеопамяти в карточке не приведены. Лицензия указана как other, поэтому условия использования следует сверить с исходной карточкой модели.
alimama-creative/SD3-Controlnet-Inpainting — дообученная модель ControlNet для редактирования изображений по маске, основанная на Stable Diffusion 3 Medium. Она принимает текстовое описание и изображение с областью для заполнения, чтобы генерировать содержимое в замаскированной части и сохранять детали за её пределами. Модель работает с разрешением 1024×1024 и использует 16-канальный VAE SD3; заявлены генерация текста внутри заполняемой области и хорошие результаты для портретов. Модель обучали 20 тысяч шагов на изображениях LAION-2B и внутренних данных, используя Flow Matching и FP16. Она предназначена для inpainting-сценариев через библиотеку Diffusers. Лучше всего работает при разрешении 1024×1024; на других размерах результаты могут быть хуже. Репозиторий распространяется по лицензии с меткой other, конкретные условия лицензии следует проверять отдельно.
matei-dorian/segformer-b5-finetuned-human-parsing — дообученная модель сегментации изображений на основе NVIDIA SegFormer MiT-B5. Она выполняет семантический разбор людей на изображении, присваивая пикселям классы частей тела и предметов одежды, включая лицо, волосы, руки, ноги, головные уборы, очки, верхнюю одежду, юбки, брюки, обувь, сумки и шарфы. Модель подходит для анализа изображений людей и выделения отдельных частей тела и одежды. В README приведены результаты оценки: mean IoU 0,6258 и общая точность 0,8256. Метрики заметно различаются по классам: например, IoU лица составляет 0,8294, а шарфа — 0,2956; для фона указана нулевая IoU. Модель распространяется в форматах PyTorch и Safetensors. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в репозитории; сведения о датасете обучения в README не раскрыты.
Карточка модели Veritone/siglip2-base-patch16-384 на Hugging Face совпадает с карточкой google/siglip2-base-patch16-384, поэтому описание составлено по ней. SigLIP 2 Base — базовая модель семейства SigLIP 2 от Google, предназначенная для сопоставления изображений и текста. Это плотная vision-архитектура; вариант patch16-384 принимает изображения с разрешением 384 пикселя и обучен на датасете WebLI с использованием объединённой схемы предобучения SigLIP и ранее разработанных методов. Модель подходит для классификации изображений по произвольным текстовым меткам без дополнительного обучения, поиска изображений по тексту и текста по изображению, а также как визуальный энкодер для VLM и других компьютерно-зрительных задач. В README отмечены улучшенное семантическое понимание, локализация и извлечение плотных признаков. Модель распространяется под лицензией Apache-2.0. README не приводит численный размер модели или результаты оценки, поэтому их нельзя уточнить по доступным сведениям.
SigLIP 2 Base — модель компьютерного зрения от Google, предназначенная для сопоставления изображений с текстовыми описаниями. Она использует архитектуру SigLIP и обучена на наборе WebLI. Вариант patch32-256 принимает изображения и текстовые метки-кандидаты для классификации без дообучения; модель также подходит для поиска изображений по тексту и как визуальный энкодер для мультимодальных моделей. Модель рассчитана на задачи семантического понимания изображений, локализации и получения плотных визуальных признаков. Для её использования доступны веса в формате safetensors и библиотека Transformers. Лицензия Apache-2.0 разрешает свободное использование и распространение при соблюдении её условий.
SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google и предназначенная для сопоставления изображений и текста. Её применяют для классификации изображений по произвольным текстовым меткам, поиска изображений по текстовому запросу и как визуальный энкодер для мультимодальных моделей и других задач компьютерного зрения. Модель использует плотную архитектуру SigLIP и представлена в формате safetensors; работать с ней можно через Transformers. Предобучение проведено на наборе WebLI. SigLIP 2 развивает подход к предобучению SigLIP, объединяя его с ранее разработанными методами для улучшения семантического понимания, локализации и извлечения плотных признаков. Лицензия — Apache 2.0. Модель обрабатывает изображения и текстовые метки и выдаёт оценки соответствия; качество зависит от формулировок меток и характеристик изображений. README не приводит конкретных ограничений применения.
Карточка модели Veritone/siglip2-so400m-patch16-512 на Hugging Face совпадает с карточкой google/siglip2-so400m-patch16-512, поэтому описание составлено по ней. SigLIP 2 So400m — модель семейства SigLIP 2, разработанная Google. Это визуальный энкодер, обученный на WebLI и предназначенный для сопоставления изображений с текстовыми описаниями. Модель поддерживает классификацию изображений по произвольным текстовым меткам без отдельного обучения и поиск изображений по тексту или текста по изображению; её также можно использовать как визуальную часть мультимодальных систем и в других задачах компьютерного зрения. Модель принимает изображения и текстовые описания, кодирует их для сравнения и выдаёт оценки соответствия. Архитектура SigLIP, вариант So400m; доступные веса представлены в формате safetensors и используются через Transformers. В README отмечены улучшенное семантическое понимание, локализация и плотные визуальные признаки. Лицензия — Apache-2.0. Размер модели и длина контекста в предоставленных данных не указаны.
TIPS — g/14 low-res (v1) — контрастивная модель «изображение—текст» семейства TIPS, разработанная авторами TIPS (Text-Image Pre-training with Spatial Awareness). Репозиторий содержит конверсию официальных чекпойнтов. Модель сочетает визуальный кодировщик ViT-g/14 с 40 слоями и текстовый трансформер с 12 слоями; визуальная часть содержит 1,1 млрд параметров, текстовая — 389 млн. Модель формирует признаки изображений и текстовые эмбеддинги в общем пространстве. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах, а также для извлечения сопоставимых признаков изображения и текста. Визуальный энкодер работает с нативным разрешением 224 пикселя; поддерживаются и другие разрешения, кратные размеру патча, с интерполяцией позиционных эмбеддингов. Для изображений ожидаются значения пикселей в диапазоне [0, 1] без нормализации ImageNet; текст обрабатывается регистронезависимым SentencePiece-токенизатором с пределом 64 токена. Модель может быть полезна для поиска изображений по текстовому описанию и классификации по пользовательским меткам. README сообщает, что признаки пространственно насыщенные, однако не приводит количественных оценок качества. Модель распространяется по лицензии Apache-2.0.
TIPS So400m/14 (v1) — контрастивная модель «изображение–текст» семейства TIPS, представленная в карточке как конверсия официальных чекпойнтов. Она объединяет визуальный энкодер ViT-So400m/14 с 27 слоями и текстовый трансформер с 27 слоями; размерность эмбеддингов — 1024, нативное разрешение — 448 пикселей. Визуальные признаки учитывают пространственную структуру изображения и сопоставляются с текстовыми эмбеддингами. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на заданных классах, а также для извлечения сопоставимых признаков изображений и текста. Можно кодировать изображения с разрешением 448 и другими размерами, кратными размеру патча, с интерполяцией позиционных эмбеддингов. Для изображений требуется диапазон значений [0, 1] без нормализации ImageNet; текст обрабатывается токенизатором SentencePiece в нижнем регистре, максимум 64 токена. В README также приведены варианты S/14, B/14 и L/14; данная карточка относится к варианту So400m/14, для которого README указывает 413 млн визуальных и 448 млн текстовых параметров. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.
TIPSv2 g/14 — крупная контрастивная модель компьютерного зрения и языка от Google. Она формирует пространственно насыщенные признаки изображений и текстовые эмбеддинги, выровненные в общем пространстве, и предназначена, в частности, для классификации изображений по текстовым описаниям без дообучения. Модель использует визуальный энкодер ViT из 40 слоёв и текстовый Transformer из 12 слоёв; размер визуальной части — 1,1 млрд параметров, текстовой — 389 млн. Для изображений применяется разбиение на патчи 14×14 пикселей; вход можно масштабировать до произвольного разрешения и подавать в диапазоне [0, 1] без нормализации ImageNet. Текст обрабатывается токенизатором SentencePiece: строчные символы, до 64 токенов. Модель подходит для поиска соответствия между изображениями и текстовыми метками, а пространственные признаки также могут использоваться в сценариях сегментации. Карточка описывает семейство как контрастивное и показывает пример zero-shot-классификации. В репозитории указаны Transformers и формат safetensors. Лицензия — Apache-2.0. Ограничения: текстовый ввод ограничен 64 токенами; качество и перечень поддерживаемых языков в карточке не уточняются.
UVDoc — модель семейства UVDoc от PaddlePaddle, предназначенная для геометрической коррекции изображений документов. Она преобразует искажённые снимки, исправляя деформацию, наклон и перспективу, чтобы улучшить точность последующего распознавания текста. В карточке указана оценка CER 0,179 на тестовом наборе DocUNet; подробности методики измерения не приведены. Модель распространяется в формате safetensors и рассчитана на обработку изображений с текстом. Метаданные указывают английский и китайский языки, библиотеку PaddleOCR и лицензию Apache-2.0. Размер модели и длина контекста не относятся к указанному сценарию и в доступных данных не описаны.
Это модель CLIP с архитектурой ViT-B-32, обученная на данных LAION-2B и доступная для использования через open_clip и timm. Она сопоставляет изображения и текстовые описания в общем пространстве признаков, поэтому подходит для классификации изображений по текстовым меткам без дополнительного дообучения и поиска изображений по описанию. Модель принимает изображения и текст, а выдаёт векторные представления и оценки сходства; размер входного изображения соответствует варианту CLIP 224. Модель предназначена для сценариев, где классы можно задать текстовыми формулировками: например, для быстрой классификации изображений или прототипа поиска по визуальному содержимому. Лицензия — MIT. Ограничение: качество зависит от формулировок текстовых меток и распределения данных; сведения о поддерживаемых естественных языках в карточке модели не приведены.
andro-flock/Clarity-Clarity-v3-inpainting — вариант модели Clarity v3 для заполнения и перерисовки заданных областей изображения по текстовому описанию. Модель распространяется в формате Diffusers и использует архитектуру Stable Diffusion с конвейером StableDiffusionInpaintPipeline. Модель предназначена прежде всего для редактирования изображений: пользователь задаёт изображение, маску области для изменения и текстовую подсказку, чтобы заполнить или заменить выделенную часть. В карточке также приведён пример генерации изображения по текстовому запросу, а метаданные каталога отмечают поддержку задач image-to-image и text-to-image. Репозиторий содержит веса в формате safetensors для библиотеки Diffusers. Модель распространяется по лицензии CreativeML OpenRAIL-M. В README заявлено использование только для inpainting; конкретные сведения о размере модели, контексте и поддерживаемых языках не приведены.
Это модель сопоставления изображений и текста семейства CLIP, разработанная LAION и обученная Россом Уайтманом с помощью OpenCLIP. Визуальная часть основана на ConvNeXt-Large с MLP-головой, текстовая часть имеет 16 слоёв и размерность эмбеддингов 768. Обучение проводилось на английской части LAION-2B; модель принимает изображения и текстовые описания и предназначена прежде всего для классификации изображений без дообучения по заданным текстовым классам. Модель также подходит для поиска изображений по тексту и текста по изображению, а её представления можно использовать для последующего дообучения классификаторов и в задачах генерации изображений. При разрешении обучения 256×256 она показала 75,9% top-1 точности в zero-shot классификации ImageNet. Поддержка языков, кроме английского, не подтверждена; качество зависит от набора текстовых классов и предметной области. Автор карточки рекомендует ограничить применение исследованиями и не использовать модель в развёрнутых сценариях без тщательной проверки на конкретной фиксированной таксономии. Распознавание лиц и наблюдение отнесены к недопустимым сценариям. Лицензия — MIT.
Это модель CLIP ViT-B/16, разработанная LAION с использованием OpenCLIP и обученная на наборе DataComp-1B из 1,4 млрд примеров. Она сопоставляет изображения и текст, чтобы классифицировать изображения по текстовым описаниям без дообучения; также подходит для поиска изображений по запросу и поиска текста по изображению. Модель можно применять в экспериментах с классификацией и извлечением признаков, а также для дообучения задач компьютерного зрения. Модель принимает изображения и текст и выдаёт оценки соответствия между ними. В README сообщается о точности zero-shot классификации 73,5% на ImageNet-1k. Обучающие данные собраны из общедоступного интернета и не прошли полную модерацию, поэтому возможны смещения и нежелательные ассоциации. README не рекомендует развёртывание модели и указывает на необходимость тщательного тестирования для фиксированной таксономии классов; распознавание лиц и наблюдение отнесены к недопустимым сценариям. Лицензия — MIT.