FaRL checkpoint converted for huggingface transformer lib (CLIP)
FaRL-Base-Patch16-LAIONFace20M-ep64
FaRL — CLIP-подобная визуально-языковая модель для анализа лиц и предварительная основа для задач выравнивания и сегментации лица.
4 986скачиваний за 30 дней1лайквеса обновлены6 сен 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
FaRL-Base-Patch16-LAIONFace20M-ep64 — преобразованный для библиотеки Transformers чекпойнт FaRL от исследовательской команды FacePerceiver. Это визуально-языковой CLIP-подобный трансформер базового размера с патчами 16×16; версия ep64 обучалась 64 эпохи на LAION Face 20M. Модель предназначена для анализа лиц и как предварительно обученная основа для последующего дообучения на задачах распознавания и сегментации лиц. Репозиторий Hugging Face также предоставляет её для классификации изображений без примеров по текстовым меткам.
Модель использует совместное контрастивное обучение изображений и текста, а также masked image modeling. В официальных материалах описаны применения к выравниванию лиц и разбору лиц на области; для использования как FaceCLIP доступны визуальный и текстовый энкодеры. Карточка указывает около 0,1 млрд параметров и лицензию MIT. Качество зависит от домена и последующей настройки; это специализированный лицевой энкодер, поэтому его не следует трактовать как универсальную модель для произвольных изображений или генерации текста.
Сценарии применения
- классификация изображений лиц по заданным текстовым категориям
- дообучение энкодера для определения ключевых точек лица
- дообучение модели для сегментации областей лица
- извлечение визуальных признаков лиц для downstream-задач
Ограничения
Модель специализирована на лицевых изображениях и для конкретных задач анализа лица требует подходящей downstream-настройки. Входной текстовый энкодер описан в официальных материалах, но метаданные не подтверждают конкретный набор поддерживаемых естественных языков.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.1Отраслевые задачиРитейл, электронная коммерция и fashion-techAI помогает управлять ассортиментом, покупательским опытом и эффективностью торговых операций.29 задач5 934модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · zero-shot-image-classification
Подбираем GPU…
- Класс архитектуры
- CLIPModel
- Ревизия весов
- 660bf20