/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
timm
Опубликована
21 фев 2025

vit_so400m_patch16_siglip_384.v2_webli

Эмбеддинги изображенийИзображение → embedding8 профессий

Визуальный энкодер SigLIP 2 на базе ViT извлекает признаки изображений для поиска и мультимодальных приложений.

1 906скачиваний за 30 дней1лайквеса обновлены21 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это визуальный энкодер timm/vit_so400m_patch16_siglip_384.v2_webli из семейства SigLIP 2 на архитектуре ViT, предназначенный для извлечения признаков изображений. Модель соответствует визуальной части SigLIP 2 и обучена на наборе данных WebLI.

Энкодер преобразует изображение в признаки для дальнейшего использования в поиске по изображениям, сопоставлении изображений с текстом и других мультимодальных системах. Репозиторий распространяет веса в форматах PyTorch и safetensors, библиотека для работы — timm. Лицензия Apache-2.0.

Сценарии применения

  • извлечение признаков изображений для поиска
  • поиск изображений по текстовым запросам в мультимодальной системе
  • сопоставление изображений и текстовых описаний
  • подготовка визуальных признаков для классификации или кластеризации

Ограничения

Это только визуальный энкодер: сам по себе он не принимает текст и не генерирует текстовые ответы; для сопоставления с текстом требуется совместимый текстовый компонент или система.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model card for vit_so400m_patch16_siglip_384.v2_webli

A SigLIP 2 ViT (image encoder only) for timm. Equivalent to image tower from https://huggingface.co/timm/ViT-SO400M-16-SigLIP2-384.

Model Details

Citation

@article{tschannen2025siglip,
          title={SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features},
          author={Tschannen, Michael and Gritsenko, Alexey and Wang, Xiao and Naeem, Muhammad Ferjad and Alabdulmohsin, Ibrahim and Parthasarathy, Nikhil and Evans, Talfan and Beyer, Lucas and Xia, Ye and Mustafa, Basil and H'enaff, Olivier and Harmsen, Jeremiah and Steiner, Andreas and Zhai, Xiaohua},
          year={2025},
          journal={arXiv preprint arXiv:2502.14786}
        }
        
@inproceedings{zhai2023sigmoid,
          title={Sigmoid loss for language image pre-training},
          author={Zhai, Xiaohua and Mustafa, Basil and Kolesnikov, Alexander and Beyer, Lucas},
          booktitle={Proceedings of the IEEE/CVF International Conference on Computer Vision},
          pages={11975--11986},
          year={2023}
        }
        

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · timm · image-feature-extraction

Можно запустить

Подбираем GPU…

Ревизия весов
5269a45

0 моделей