/ Модель

Характеристики

Лицензия
CC BY 4.0
Опубликована
5 окт 2026

mosquito-mtrcnn-dg

Классификация аудиоАудио → label

Компактный аудиоклассификатор MTRCNN определяет один из девяти видов комаров по записи полётного тона.

0скачиваний за 30 дней0лайковвеса обновлены6 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

jgalego разработал компактный классификатор MTRCNN для определения вида комара по записи его полётного тона. Модель обучена на 213 647 аудиоклипах обучающей части BioDCASE 2026 Task 5 и различает девять видов. В архитектуре используются три ветви с разным временным разрешением и 32-мерное встраивание; для классификации скользящих окон применяются средние классов и расстояние Махаланобиса. Репозиторий содержит веса PyTorch и код обучения и оценки.

Модель предназначена для анализа биоакустических записей и экспериментов по классификации видов при смене условий записи. На тестовых клипах из знакомых доменов сбалансированная точность составила 74,90%, а на клипах из не встречавшихся при обучении сочетаний вида и домена — 28,25%. Лицензия — CC BY 4.0. Авторы предупреждают, что качество на новых условиях записи низкое, поэтому модель не подходит для решений в области общественного здравоохранения и борьбы с переносчиками заболеваний.

Сценарии применения

  • Определение вида комара по аудиозаписи его полёта
  • Классификация аудиоклипов комаров в исследовательских наборах данных
  • Сравнение распознавания видов комаров при смене оборудования или условий записи

Ограничения

На невиданных при обучении сочетаниях вида и домена сбалансированная точность составляет 28,25%; модель также часто не распознаёт отдельные виды. Результаты получены на тестовой выборке разработки и могут быть несколько завышены для новых записей; модель не предназначена для решений в области общественного здравоохранения или борьбы с переносчиками.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mosquito-mtrcnn-dg

A compact MTRCNN classifier that names the mosquito species in a flight-tone recording, trained for cross-domain generalization on the BioDCASE 2026 Task 5 development data. It knows 9 species.

[!WARNING] Research aid only. Not for public-health or vector-control decisions. Accuracy on recordings from unseen setups is low; see Results.

🚀 Usage

hf download jgalego/mosquito-mtrcnn-dg mtrcnn.py --local-dir .
uv run mtrcnn.py predict clip.wav

predict downloads model.pt, resamples each WAV file to 8 kHz, splits it into 2-second windows, averages their embeddings, and prints the species whose class mean is nearest in Mahalanobis distance. It takes any number of files. mtrcnn.py also holds the training and evaluation code.

Species: Aedes aegypti, Aedes albopictus, Culex quinquefasciatus, Anopheles gambiae, Anopheles arabiensis, Anopheles dirus, Culex pipiens, Anopheles minimus, Anopheles stephensi.

🏋️ Training

DataAll 213,647 clips of the official training split of BioDCASE 2026 Challenge: Cross-Domain Mosquito Species Classification (Hou et al., Zenodo, 10.5281/zenodo.20478577, CC BY 4.0)
ModelMTRCNN with three temporal-resolution branches and a 32-dimensional embedding
Domain generalizationFourierMix and MixStyle across recording domains, a gradient-reversal domain classifier, class-conditional domain losses, supervised contrastive loss
Input2-second crops, 64-bin log-mel up to 4 kHz
SamplingBalanced over species-domain cells, logit adjustment with the sampler's species priors
Schedule12 epochs, AdamW, learning rate 0.001, batch size 128, cosine decay; the last epoch is kept
InferenceMahalanobis distance to class means of 20,000 training clips with one shared covariance matrix
Seed42

📊 Results

Balanced accuracy (%) on all 27,217 clips of the official development test split. Unseen clips (4,202) come from species-domain pairs that do not occur in training.

This modelSeenUnseen
Mahalanobis74.9028.25
Softmax69.3225.47

Mean ± standard deviation over training seeds:

ConfigurationInferenceSeedsSeenUnseen
2-second cropsSoftmax367.04 ± 2.4025.15 ± 0.53
2-second cropsMahalanobis373.76 ± 1.1427.74 ± 0.45
0.625-second crops, RMS-normalized, mel from 200 HzSoftmax376.77 ± 0.2320.57 ± 0.50
0.625-second crops, RMS-normalized, mel from 200 HzMahalanobis378.09 ± 0.3320.72 ± 0.69
2-second crops, liftered log-melSoftmax374.60 ± 0.4521.70 ± 0.49
2-second crops, liftered log-melMahalanobis375.78 ± 0.9621.76 ± 1.03

For reference, on the same split:

SystemSeenUnseen
Official MTRCNN baseline, 10 seeds (task page)88.06 ± 1.0817.51 ± 1.97
Fine-tuned WavLM-Large23.7417.25
Probes on frozen Perch v2 embeddings, per seed †31-35
Our probes on Perch v2 embeddings, 8 seeds82.3328.78
Our probes on harmonic features, 8 seeds72.4919.08
Our probes on background-whitened features, 8 seeds74.2118.34
Equal-weight ensemble of the three probes and this model81.1724.41
Agreement-gated Perch, harmonic, BirdMAE and background-whitened ensemble †36.16

† Reported in aptemvs/mosquitoes-biodcase2026-task5 (legacy/final/) and not reproduced here. The checkpoints only accept precomputed Perch v2 and BirdMAE embeddings, the inference script depends on code that is not in that repository, and the ensemble's design was compared against this same test split, so these figures are likely optimistic.

Our probes use the precomputed features from the same dataset, with domain-balanced sampling and domain alignment losses. They did not reproduce the † figures, and averaging them with this model did not beat it, so we kept the model as is. Aedes aegypti stays at 0% for every system.

This model generalizes better than the MTRCNN baseline but gives up about 14 points of seen-domain accuracy.

Unseen recall per species, Mahalanobis:

SpeciesRecall
Aedes aegypti0%
Aedes albopictus59%
Culex quinquefasciatus5%
Anopheles gambiae0%
Anopheles arabiensis0%
Anopheles dirus0%
Culex pipiens94%
Anopheles minimus74%
Anopheles stephensi22%

⚠️ Limitations

  • 99.4% of the training audio comes from one recording domain. Anopheles gambiae and Anopheles arabiensis have no training clips from any other domain.
  • On unseen domains the model tends to predict a species that the training data has in the same domain, so several species are almost never recognized there.
  • The configurations above were compared on this development test split, so the numbers are slightly optimistic for new recordings.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
0efe2eb

0 моделей