Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
CLIP-FlanT5-XL (VQAScore) — дообученная Zhiqiu Lin и соавторами генеративная модель «зрение—язык» на основе Google Flan-T5-XL. Она предназначена для задач сопоставления изображений и текста и оценки соответствия изображения текстовому описанию в сценариях поиска и ранжирования.
Модель использует архитектуру T5 и содержит 1,5 млрд параметров. Она принимает текстовые инструкции; в задачах VQAScore также использует изображения и формирует текстовый ответ или оценку соответствия. Указанный в метаданных контекст — 512 токенов, основной язык карточки — английский. Лицензия — Apache-2.0.
Сценарии применения
оценка соответствия изображения текстовому описанию
ранжирование текстовых описаний по релевантности изображению
поиск изображений по текстовому запросу
сравнение нескольких подписей к одному изображению
Ограничения
README и метаданные не описывают точность на бенчмарках или ограничения применения. Контекст модели ограничен 512 токенами; язык карточки указан как английский.
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель