CLIPSeg — модель сегментации изображений по текстовому запросу или визуальному примеру в zero-shot и one-shot сценариях.
10 883скачиваний за 30 дней3лайкавеса обновлены6 ноя 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
CIDAS/clipseg-rd64 — модель для сегментации изображений по текстовым или визуальным подсказкам. Она основана на CLIPSeg с уменьшением размерности до 64 и реализована архитектурой CLIPSegForImageSegmentation. Модель предназначена для zero-shot и one-shot сценариев: можно выделять области изображения, задавая текстовое описание или пример изображения.
Модель подходит для интерактивного поиска и выделения объектов без обучения на конкретных классах, а также для сегментации по одному примеру. Карточка ссылается на статью «Image Segmentation Using Text and Image Prompts» Лүддеке и соавторов. Доступны веса PyTorch и Safetensors; лицензия — Apache 2.0. Для работы требуются изображения и текстовые или визуальные подсказки.
Сценарии применения
выделение объекта на изображении по текстовому описанию
сегментация объекта по изображению-примеру
интерактивная сегментация без обучения на целевых классах
Ограничения
Качество сегментации зависит от точности текстовой или визуальной подсказки; в карточке не приведены результаты оценки качества или сведения о поддерживаемых наборах категорий.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель