/ Модель

Характеристики

Архитектура
miewid · dense
Библиотека
transformers
Опубликована
2 июл 2024

miewid-msv2

ЭмбеддингиТекст → embedding3 профессии

MiewID-msv2 извлекает признаки изображений диких животных для сопоставления и повторной идентификации особей разных видов.

3 400скачиваний за 30 дней4лайкавеса обновлены15 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiewID-msv2 — модель извлечения признаков изображений для повторной идентификации диких животных. Она обучена контрастивным методом на объединённых данных по 54 наземным и водным видам; в примерах — тигры, белухи и синие киты. Модель сопоставляет изображения особей по характерным частям тела, включая плавники, хвостовые плавники, бока и морды.

Модель предназначена прежде всего для поиска той же особи в базе размеченных изображений. Полученные признаки также можно использовать для классификации видов методом поиска похожих примеров. Архитектура — MiewIdNet; размер модели составляет 51,11 млн параметров, расчётная сложность — 24,38 GMACs, рекомендуемый размер входного изображения — 440 × 440 пикселей. Репозиторий использует формат safetensors и библиотеку Transformers.

В README сообщается об улучшении результатов по сравнению с моделями, обученными на одном виде, и о хорошей обобщающей способности для большинства видов при проверке с исключением одного вида из обучения. Качество заметно зависит от вида и набора данных: приведённые результаты различаются, поэтому их нельзя считать гарантией для конкретной популяции или условий съёмки. Лицензия в предоставленных данных не указана.

Сценарии применения

  • поиск повторных снимков одной и той же особи в базе наблюдений
  • идентификация диких животных по плавникам, хвостам, бокам или мордам
  • поиск похожих изображений для определения вида животного
  • сопоставление фотографий из мониторинговых и природоохранных исследований

Ограничения

Результаты различаются между видами и наборами данных; качество для конкретных условий съёмки не гарантировано. Для применения нужна база размеченных изображений особей и отдельная процедура поиска или сопоставления признаков.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Model Description

MiewID-msv2 is a feature extractor trained for re-identification using contrastive learning on a large, high-quality dataset of 54 wildlife species - terrestrial and aquatic - including fins, flukes, flanks, faces.

  • Model Type: Wildlife re-identification feature backbone
  • Model Stats:
    • Params (M): 51.11
    • GMACs: 24.38
    • Activations (M): 91.11
    • Image size: 440 x 440

Model Sources [optional]

Usage

Intended use is re-identification of individuals from different species by matching against a database of grount-truth samples. Model features can also be used for species classification by retrieval.

Embedding Extraction

import numpy as np
from PIL import Image
import torch
import torchvision.transforms as transforms
from transformers import AutoModel

model_tag = f"conservationxlabs/miewid-msv2"
model = AutoModel.from_pretrained(model_tag, trust_remote_code=True)

def generate_random_image(height=440, width=440, channels=3):
    random_image = np.random.randint(0, 256, (height, width, channels), dtype=np.uint8)
    return Image.fromarray(random_image)

random_image = generate_random_image()

preprocess = transforms.Compose([
    transforms.Resize((440, 440)),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
])

input_tensor = preprocess(random_image)
input_batch = input_tensor.unsqueeze(0) 

with torch.no_grad():
    output = model(input_batch)

print(output)
print(output.shape)

More Examples

View more usage examples at https://github.com/WildMeOrg/wbia-plugin-miew-id/tree/main/wbia_miew_id/examples

Training Details

Training Data

The dataset used for these experiments was a combination of data from Wildbook platforms (multiple users), Happywhale Kaggle competitions multi-species dataset and multiple publicly available datasets. A small subset of data from Wildbook platforms is available at https://lila.science/datasets.

Example images

image/jpg

Evaluation Results

The multi-species model shows improvements over models trained on single species. Moreover the model shows strong generalization ability for majority of the species when trained and evaluated in a leave-one-out fashion.

Detailed results

Sourcegroupmaprank-1rank-5rank-10rank-20viewpointsn_test_annotsn_test_namesn_train_annotsn_train_names
Wildbookamur_tiger91.8100.0100.0100.0100.0['left', 'right']2334769175
Wildbookbeluga_whale61.3671.8581.6385.5189.28['up']8492282767354
Happywhaleblue_whale36.9838.6855.1161.5269.04['unknown']9983921185339
Wildbookbottlenose_dolphin85.6993.9996.1896.8597.52['right', 'left']4911838116071062
Happywhalebrydes_whale69.9680.9592.8695.24100.0['unknown']4298115
Lomas Capuchincapuchin34.847.9768.5876.6985.14['front']29635170829
Wildbookcheetah57.3771.1584.9287.8792.13['left', 'right']6241391522144
Wildbookchimpanzee94.7100.0100.0100.0100.0['unknown']5281389
C-Taichimpanzee_ctai51.6769.6483.6889.1894.12['front']52763268044
C-Zoochimpanzee_czoo77.6686.6793.3397.599.17['front']24024125817
Happywhalecommersons_dolphin0.00.00.00.00.0['unknown']10572
Happywhalecuviers_beaked_whale52.8955.7175.7182.8690.0['unknown']70288921
DogFaceNetdog82.9687.3894.7896.7497.99['unknown']183854457501088
Happywhaledusky_dolphin85.8283.5493.0494.394.94['unknown']1586815441
Wildbookeurasianlynx58.867.8283.7888.8392.02['left', 'right']7261992251285
Happywhalefin_whale67.6576.9287.1890.1193.04['unknown']2737153355
Happywhalefrasiers_dolphin0.00.00.00.00.0-1-1-1-1
Wildbookgiraffe99.1899.0899.08100.0100.0['right', 'front', 'left', 'back']4231622540426
Wildbookhorse_wild+face0.00.00.00.00.0['front']17717453
Wildbookhorse_wild_tunisian+face79.5998.5399.51100.0100.0['unknown']2043999937
Wildbookhyena64.1779.3289.2293.1496.41['right', 'left']12313011154201
Wildbookhyperoodon_ampullatus91.1496.1198.1298.3498.84['left', 'right']193035424952759
Wildbookjaguar67.4581.7291.0492.9194.4['left', 'right']540124980103
PrimFacejapanese_monkey89.0593.8598.4698.46100.0['unknown']651221914
Happywhalekiller_whale62.8277.1385.4888.8191.82['unknown']5991451379177
Wildbookleopard65.0382.6490.2392.8394.46['right', 'left']5951084261381
Wildbooklion87.1293.86100.0100.0100.0['front', 'unknown', 'frontright', 'frontleft', 'upfront', 'right', 'upleft', 'left', 'upright', 'backleft', 'back']13642423981241
Happywhalelong_finned_pilot_whale99.0698.11100.0100.0100.0['unknown']53213310
Wildbooklynx_pardinus48.2257.6873.4477.1884.96['left', 'right']4671421376259
MacaqueFacesmacaque_face89.8795.8897.9499.12100.0['front']34034348025
Happywhalemelon_headed_whale90.893.4296.0596.7198.68['unknown']1525518043
Wildbooknyala64.6470.6590.0594.0397.01['left', 'right']418991303149
Happywhalepantropic_spotted_dolphin78.1585.1990.7494.4496.3['unknown']5411558
Happywhalepygmy_killer_whale89.0784.62100.0100.0100.0['unknown']2610325
PrimFacerhesus_monkey78.1289.1397.2898.91100.0['unknown']1842847824
Happywhalerough_toothed_dolphin0.00.00.00.00.0['unknown']6372
SealIDseal37.9359.5180.086.191.71['unknown']41041144836
Happywhalesei_whale67.8671.5587.0793.195.69['unknown']1163510629
Wildbookshort_fin_pilot_whale+fin_dorsal92.4992.3198.08100.0100.0['right', 'left']272641290137
Happywhaleshort_finned_pilot_whale94.3994.9695.895.897.48['unknown']119576717
Wildbooksnow_leopard62.4382.4588.9192.1594.53['left', 'right']927144230799
Happywhalespinner_dolphin99.88100.0100.0100.0100.0['left', 'right']335971562251
Happywhalespotted_dolphin84.9283.6789.895.9297.96['unknown']492212828
Wildbookturtle_green100.0100.0100.0100.0100.0['left', 'right', 'up', 'front']543109509776
Wildbookturtle_green+head95.196.02100.0100.0100.0['left', 'right', 'up', 'front']544108573776
Wildbookturtle_hawksbill78.8481.1588.3792.5695.81['up', 'left', 'right', 'front']506106539771
Wildbookturtle_hawksbill+head86.7891.7495.4596.6998.35['right', 'left', 'up', 'front']589109703371
SeaTurtleIDturtle_loggerhead_ext63.6775.4386.6190.1792.87['unknown', 'left', 'top', 'right']8152176573355
SeaTurtleIDturtle_loggerhead_ext+head94.1494.63100.0100.0100.0['left', 'right', 'topright', 'top', 'topleft', 'below', 'front']7782096361348
Wildbookwhale_fin+fin_dorsal82.1285.1293.8795.0495.75['left', 'right']3941101629186
Wildbookwhale_grey90.9791.5595.5496.1896.82['right', 'left']3811035662758
Wildbookwhale_humpback+fin_dorsal80.384.0790.0891.695.42['right', 'left']5091943734541
Wildbookwhale_humpback+fluke97.1196.67100.0100.0100.0['back']150641151356
Wildbookwhale_orca97.0198.3699.18100.0100.0['right', 'left']249492790435
Wildbookwhale_orca+fin_dorsal95.4195.8797.5297.5299.17['right', 'left']6231873978430
Wildbookwhale_sperm+fluke96.1497.8798.3398.4899.09['back']65812525849558
Wildbookwhaleshark57.6172.2579.9682.2787.21['left', 'right']9972125713376
Wildbookwhite_shark+fin_dorsal91.494.8997.8798.5499.27['left', 'right']322881067162
Happywhalewhite_sided_dolphin81.8276.088.088.0100.0['unknown']2511134
Wildbookwilddog73.485.1190.9392.3894.07['left', 'right']34608484217656
Wildbookzebra_grevys91.7996.7997.5797.7498.04['right']16843328927362

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
MiewIdNet
Ревизия весов
74201a3

0 моделей