/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
pytorch
Опубликована
3 окт 2026

perch-v2-pytorch

Классификация аудиоАудио → label

PyTorch-перенос Perch v2 классифицирует звуки птиц и диких животных и позволяет получать аудиоэмбеддинги.

0скачиваний за 30 дней1лайквеса обновлены3 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

matijama/perch-v2-pytorch — неофициальный перенос Perch v2 на PyTorch, модели Google DeepMind для биоакустики, специализирующейся на звуках птиц и диких животных. Веса напрямую преобразованы из официальной версии TensorFlow perch_v2 версии 2; PyTorch-модель воспроизводит её выходы с точностью до округления с плавающей точкой.

Модель использует энкодер EfficientNet-B3 и классификатор на 14 795 классов-прототипов для классификации аудиозаписей. Энкодер можно загрузить отдельно для получения аудиоэмбеддингов; для него указаны веса объёмом 41 МБ, а полная модель в формате fp32 занимает 388 МБ. Репозиторий содержит веса safetensors и таблицу меток с кодами eBird. Лицензия — Apache-2.0.

Сценарии применения

  • классификация видов птиц по аудиозаписям
  • распознавание звуков диких животных
  • анализ биоакустических записей природы
  • извлечение эмбеддингов аудиозаписей для последующего анализа

Ограничения

Модель ориентирована на звуки птиц и диких животных; README не описывает её применимость к другим типам аудио. PyTorch-порт неофициальный, хотя его выходы заявлены как воспроизводящие выходы оригинальной TensorFlow-модели с точностью до округления.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Perch v2 (PyTorch)

An unofficial PyTorch port of Perch v2 (Perch 2.0), Google DeepMind's bioacoustics model for bird and wildlife sounds. The weights are a direct conversion of Google's official TensorFlow release (perch_v2, version 2, Apache 2.0), and the PyTorch model reproduces the TensorFlow outputs to float round-off.

Code, examples and documentation: https://github.com/matijama/perch-v2-pytorch

Usage

pip install git+https://github.com/matijama/perch-v2-pytorch
from perchv2_pytorch import PerchV2, load_audio, frame_audio

model = PerchV2.from_pretrained()                       # downloads these weights once, then cached
windows = frame_audio(load_audio("recording.wav"))      # any sample rate -> 5 s windows at 32 kHz
out = model(windows)

out["embedding"]           # [windows, 1536]
out["label"]               # [windows, 14795]  logits; class names in model.labels
out["spatial_embedding"]   # [windows, 16, 4, 1536]
out["spectrogram"]         # [windows, 500, 128]

model.predict(windows, top_k=3)[0]

For embeddings only, PerchV2.from_pretrained(embeddings_only=True) downloads just the 41 MB encoder. Half precision on a GPU needs no separate weights:

with torch.inference_mode(), torch.autocast("cuda", dtype=torch.float16):
    out = model.cuda()(windows.cuda())

The GitHub repository also has a fine-tuning example (train Perch's own head for your classes, a new head, or the whole model).

Files

filecontent
model.safetensorsfull model: EfficientNet-B3 encoder + 14,795-class prototype classifier (388 MB, fp32)
encoder.safetensorsencoder only, for embeddings (41 MB)
labels.csvindex, label, ebird_code for the 14,795 output classes

Citation

@article{vanmerrienboer2025perch2,
  title   = {Perch 2.0: The Bittern Lesson for Bioacoustics},
  author  = {van Merri{\"e}nboer, Bart and Dumoulin, Vincent and Hamer, Jenny and Harrell, Lauren and Burns, Andrea and Denton, Tom},
  journal = {arXiv preprint arXiv:2508.04665},
  year    = {2025}
}

Licence

Apache License 2.0, the same as the original model. The weights are a format conversion of Google's release: the values are unchanged, and only the storage format and tensor layout differ.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · pytorch · audio-classification

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
f1171a2

0 моделей