/ Модель

Характеристики

Лицензия
apple-amlr
Библиотека
timm
Опубликована
6 июн 2024

mobileclip_s0_timm

Классификация изображенийИзображение → label3 профессии

Компактная мультимодальная модель Apple для быстрой классификации изображений и zero-shot сопоставления изображений с текстовыми категориями.

745скачиваний за 30 дней12лайковвеса обновлены28 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MobileCLIP-S0 — компактная модель Apple, представленная в работе MobileCLIP: Fast Image-Text Models through Multi-Modal Reinforced Training на CVPR 2024. Эта версия репозитория содержит контрольную точку для TIMM в формате PyTorch. Модель объединяет обработку изображений и текста для сопоставления их представлений и классификации изображений по текстовым описаниям.

Модель предназначена для классификации изображений, в том числе zero-shot: пользователь задаёт возможные категории текстом, а модель оценивает соответствие изображения каждой категории. В README указано, что MobileCLIP-S0 примерно в 4,8 раза быстрее и в 2,8 раза меньше OpenAI ViT-B/16 при близких результатах zero-shot; для неё приведены 67,8% точности top-1 на ImageNet в zero-shot режиме и средний результат 58,1% на 38 наборах данных. Таблица указывает 11,4 млн параметров визуальной части и 42,4 млн параметров текстовой части.

Модель принимает изображения и текстовые описания и выдаёт оценки их соответствия; карточка Hugging Face помечает её задачей image-classification. Она рассчитана на сценарии, где важны скорость и небольшой размер, например мобильное распознавание категорий. Лицензия репозитория — Apple AMLR. В README не указаны поддерживаемые языки текста, поэтому языковую универсальность по этим данным подтвердить нельзя.

Сценарии применения

  • классификация изображений по заданным категориям
  • zero-shot распознавание объектов по текстовым описаниям
  • поиск подходящей подписи для изображения
  • мобильная классификация изображений с ограниченными ресурсами

Ограничения

Приведённые показатели относятся к оценкам из README и могут отличаться на других данных и аппаратуре. Поддерживаемые языки текстового энкодера в предоставленных материалах не перечислены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MobileCLIP: Fast Image-Text Models through Multi-Modal Reinforced Training

MobileCLIP was introduced in MobileCLIP: Fast Image-Text Models through Multi-Modal Reinforced Training (CVPR 2024), by Pavan Kumar Anasosalu Vasu, Hadi Pouransari, Fartash Faghri, Raviteja Vemulapalli, Oncel Tuzel.

This repository contains the MobileCLIP-S0 checkpoint compatible with TIMM.

MobileCLIP Performance Figure

Highlights

  • Our smallest variant MobileCLIP-S0 obtains similar zero-shot performance as OpenAI's ViT-B/16 model while being 4.8x faster and 2.8x smaller.
  • MobileCLIP-S2 obtains better avg zero-shot performance than SigLIP's ViT-B/16 model while being 2.3x faster and 2.1x smaller, and trained with 3x less seen samples.
  • MobileCLIP-B(LT) attains zero-shot ImageNet performance of 77.2% which is significantly better than recent works like DFN and SigLIP with similar architectures or even OpenAI's ViT-L/14@336.

Checkpoints

Model# Seen Samples (B)# Params (M) (img + txt)Latency (ms) (img + txt)IN-1k Zero-Shot Top-1 Acc. (%)Avg. Perf. (%) on 38 datasets
MobileCLIP-S01311.4 + 42.41.5 + 1.667.858.1
MobileCLIP-S11321.5 + 63.42.5 + 3.372.661.3
MobileCLIP-S21335.7 + 63.43.6 + 3.374.463.7
MobileCLIP-B1386.3 + 63.410.4 + 3.376.865.2
MobileCLIP-B (LT)3686.3 + 63.410.4 + 3.377.265.8

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · timm · image-classification

Можно запустить

Подбираем GPU…

Ревизия весов
7628ba9

0 моделей