Характеристики

Параметры: 113 млн
Архитектура: clip_vision_model · dense
Базовая модель: clip-vit-base-patch32
Опубликована: 28 апр 2024

Ссылки

Hugging Face

clip-vit-base-patch32_mnist

tanganke

ЭмбеддингиТекст → embedding3 профессии

Дообученная на MNIST визуальная модель CLIP ViT-B/32 для извлечения признаков изображений рукописных цифр.

19 196скачиваний за 30 дней1лайквеса обновлены28 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это дообученная на наборе MNIST модель CLIP ViT-Base с размером патча 32, опубликованная пользователем tanganke. Она основана на openai/clip-vit-base-patch32 и содержит 113,2 млн параметров. Модель предназначена для извлечения признаков изображений; карточка приводит оценку 0,9957 после дообучения на MNIST против 0,4759 до него.

Модель принимает изображения и выдаёт визуальные признаки, поэтому может использоваться в экспериментах с представлениями рукописных цифр и компьютерным зрением на MNIST. В метаданных указан формат safetensors. Лицензия в предоставленных данных не указана.

Сценарии применения

извлечение признаков изображений рукописных цифр MNIST
создание векторных представлений изображений цифр
эксперименты с переносом признаков CLIP на MNIST

Ограничения

Дообучение ориентировано на MNIST, поэтому применимость к другим типам изображений не установлена. Лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.8Универсальные способностиИзображения и компьютерное зрениеAI помогает извлекать визуальные признаки, изменять изображения и создавать новые визуальные материалы.17 задач6 331модель I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card: tanganke/clip-vit-base-patch32_mnist

Model Details

Architecture: ViT-Base with patch size 32
Training Data: MNIST dataset

Training Details

Adam Optimizer with a constant learning rate 1e-5 for 4000 steps training (batch_size=32). Only the vision encoder is fine-tuned.

Evaluation Results

pre-trained: 0.4759327471256256
fine-tuned: 0.9957262277603149

Usage

load vision model

from transformers import CLIPVisionModel

vision_model = CLIPVisionModel.from_pretrained('tanganke/clip-vit-base-patch32_mnist')

substitute the vision encoder of clip

from transformers import CLIPModel

clip_model = CLIPModel.from_pretrained("openai/clip-vit-base-patch32")
clip_model.vision_model.load_state_dict(vision_model.vision_model.state_dict())

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: CLIPVisionModel
Ревизия весов: 28dca29