Модель CLIP на базе Vision Transformer сопоставляет изображения с текстовыми метками для классификации без дополнительного обучения.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это визуальный энкодер из семейства CLIP, обученный на датасете MetaCLIP-400M и опубликованный в формате, совместимом с open_clip и timm. В open_clip модель называется ViT-L-14-quickgelu, а в timm — vit_large_patch14_clip_224.metaclip_400m. Архитектура объединяет визуальную часть на основе Vision Transformer с текстовым энкодером CLIP и предназначена для классификации изображений по текстовым описаниям без дополнительного обучения: модель сопоставляет изображение с предложенными вариантами текста.
Подходит для прототипирования классификаторов с произвольными текстовыми метками, поиска изображений по описанию и оценки соответствия изображения подписи. Репозиторий содержит веса PyTorch в формате safetensors и поддерживает работу через open_clip и timm. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но некоммерческое.
Лицензия CC BY-NC 4.0 ограничивает коммерческое использование и требует атрибуции. Результаты зависят от формулировок текстовых меток и могут наследовать смещения обучающих данных.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is a dual use open_clip and timm model. Model name in OpenCLIP is ViT-L-14-quickgelu, and timm name is vit_large_patch14_clip_224.metaclip_400m.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · open_clip
Модели OpenCLIP требуют отдельного рантайма.