/ Модель

Характеристики

Архитектура
miewid · dense
Библиотека
transformers
Опубликована
15 окт 2024

miewid-msv3

ЭмбеддингиТекст → embedding3 профессии

MiewID-msv3 извлекает признаки из фотографий для повторной идентификации особей 64 видов животных и поиска похожих изображений.

94 838скачиваний за 30 дней5лайковвеса обновлены13 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiewID-msv3 — модель извлечения визуальных признаков для повторной идентификации отдельных животных по фотографиям. Она разработана для сопоставления изображений с образцами известных особей в базе данных и может также использоваться для классификации видов поиском по сходству. Модель обучена контрастивным обучением на наборе данных высокого качества, охватывающем 64 вида наземных и водных животных; среди различаемых признаков — плавники, хвостовые плавники, бока и лица.

Архитектура модели — MiewIdNet, около 51,11 млн параметров. Для извлечения признаков используются изображения размером 440 × 440 пикселей; веса опубликованы в формате safetensors. В README приведены результаты оценки на нескольких группах видов, включая амурских тигров и китов.

Для применения нужны фотографии животных и база образцов для сопоставления. Точность может различаться между видами и наборами данных; опубликованные результаты для отдельных групп заметно отличаются. Сведения о лицензии в предоставленных источниках отсутствуют.

Сценарии применения

  • идентификация тигра по фотографии
  • поиск особи кита в базе фотографий
  • сопоставление изображений животных с известными образцами
  • поиск вида животного по сходству визуальных признаков

Ограничения

Качество сопоставления зависит от вида и данных: в приведённых результатах метрика mAP варьируется, например, от 37,8 для синих китов до 88,9 для амурских тигров. Для идентификации требуется база образцов известных особей.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Model Description

MiewID-msv3 is a feature extractor trained for re-identification using contrastive learning on a large, high-quality dataset of 64 wildlife species - terrestrial and aquatic - including fins, flukes, flanks, faces.

  • Model Type: Wildlife re-identification feature backbone
  • Model Stats:
    • Params (M): 51.11
    • GMACs: 24.38
    • Activations (M): 91.11
    • Image size: 440 x 440

Model Sources [optional]

Usage

Intended use is re-identification of individuals from different species by matching against a database of grount-truth samples. Model features can also be used for species classification by retrieval.

Embedding Extraction

import numpy as np
from PIL import Image
import torch
import torchvision.transforms as transforms
from transformers import AutoModel

model_tag = f"conservationxlabs/miewid-msv3"
model = AutoModel.from_pretrained(model_tag, trust_remote_code=True)

def generate_random_image(height=440, width=440, channels=3):
    random_image = np.random.randint(0, 256, (height, width, channels), dtype=np.uint8)
    return Image.fromarray(random_image)

random_image = generate_random_image()

preprocess = transforms.Compose([
    transforms.Resize((440, 440)),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
])

input_tensor = preprocess(random_image)
input_batch = input_tensor.unsqueeze(0) 

with torch.no_grad():
    output = model(input_batch)

print(output)
print(output.shape)

More Examples

View more usage examples at https://github.com/WildMeOrg/wbia-plugin-miew-id/tree/main/wbia_miew_id/examples

Training Details

Training Data

The dataset used for these experiments was a combination of data from Wildbook platforms (multiple users), Happywhale Kaggle competitions multi-species dataset and multiple publicly available datasets. A small subset of data from Wildbook platforms is available at https://lila.science/datasets.

Example Images

image/jpg

Evaluation Results

groupmaprank-1rank-5rank-10rank-20source
amur_tiger88.997.499.699.6100.0lila.science (cleaned)
beluga_whale60.672.081.584.887.9lila.science
blue_whale37.839.556.363.069.7Kaggle (HappyWhale)
bottlenose_dolphin83.592.495.296.397.0Flukebook.org
brydes_whale65.971.490.595.2100.0Kaggle (HappyWhale)
capuchin32.249.063.974.084.1Susan Perry\UCLA
cheetah53.570.881.185.989.3African Carnivore Wildbook
chimp33.950.866.170.776.0Chimpanzee CTai & CZoo
chimpanzee66.680.788.891.695.6PrimFace
chimpanzee_chimpface71.083.289.792.895.4ChimpFace
cuviers_beaked_whale50.151.472.985.791.4Kaggle (HappyWhale)
dog70.978.787.590.592.9DogFaceNet
dolphin_humpback+fin_dorsal48.656.579.287.792.9Flukebook.org
dusky_dolphin88.887.393.094.995.6Kaggle (HappyWhale)
eurasianlynx57.769.879.384.288.7Whiskerbook.org
finwhale68.178.388.992.794.6Flukebook.org
giraffe (Reticulated)98.798.899.199.199.1GiraffeSpotter.org
giraffe_whole (Masai)67.381.086.988.690.3GiraffeSpotter.org
golden_monkey75.789.895.997.097.7GoldenMonkeyFace
green_turtle74.589.092.894.196.4iot.wildbook.org
greywhale84.090.895.097.198.4Flukebook.org
grouper_nassau/potato_cod80.984.096.097.3100.0REEF/Rowan Watt-Pringle/GrouperSpotter.org
hawksbill_turtle70.385.290.993.395.5iot.wildbook.org
horse_wild_tunisian+face78.598.599.5100.0100.0THoDBRL2015
humpbackwhale70.570.383.388.292.1Flukebook.org
hyena65.880.989.892.994.8African Carnivore Wildbook
hyperoodon_ampullatus86.895.096.897.497.7Flukebook.org
jaguar64.778.589.191.193.9Whiskerbook.org
japanese_monkey83.990.892.396.998.5PrimFace
lemur77.491.896.797.998.4LemurFace
leopard59.177.688.690.693.3African Carnivore Wildbook
leopard_shark82.992.195.596.097.1Sharkbook.ai
lion77.993.296.397.697.9African Carnivore Wildbook
loggerhead_turtle58.682.490.192.494.4iot.wildbook.org
lynx_pardinus47.157.470.276.483.3lynx.wildbook.org
macaque_face86.894.797.498.5100.0MacaqueFaces
melon_headed_whale89.792.195.497.498.0Flukebook.org
mobula_birostris79.988.993.394.595.5MantaMatcher.org
nyala47.463.979.787.890.9wildlife-datasets
orca77.786.091.493.694.8Flukebook.org
pilotwhale90.092.696.897.397.7Flukebook.org
pygmy_killer_whale90.484.6100.0100.0100.0Kaggle (HappyWhale)
rhesus_monkey73.686.495.197.398.9PrimFace
salamander_fire_adult97.598.199.499.4100.0Amphibian-Reptile Wildbook
salamander_fire_juvenile73.667.684.386.388.2Amphibian-Reptile Wildbook
seadragon_leafy95.197.1100.0100.0100.0SeadragonSearch
seadragon_leafy+head92.892.195.298.498.4SeadragonSearch
seadragon_weedy83.889.897.798.398.3SeadragonSearch
seadragon_weedy+head91.397.098.598.599.0SeadragonSearch
seal38.964.678.885.690.5seals.wildme.org
sei_whale69.575.987.991.496.6Kaggle (HappyWhale)
snow_leopard55.575.786.790.193.4Whiskerbook.org
spinner_dolphin98.898.8100.0100.0100.0Flukebook.org
spotteddolphin78.580.691.394.298.1Flukebook.org
whale_sperm+fluke94.897.498.098.298.8Flukebook.org
whaleshark44.065.276.479.684.2Sharkbook.ai
white_shark+fin_dorsal87.190.496.397.598.8Sharkbook.ai
white_sided_dolphin84.284.088.092.0100.0Flukebook.org
wilddog74.686.190.792.894.0African Carnivore Wildbook
zebra_grevys91.196.197.397.697.8zebra.wildme.org

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
MiewIdNet
Ревизия весов
4f1d7f2

0 моделей