/ Модель

Характеристики

Лицензия
MIT
Опубликована
4 июл 2026

doppelganger

ЭмбеддингиТекст → embedding

Набор обученных голов и аудиоэнкодеров для сопоставления синтетических звуковых эффектов с исходными реальными записями по эмбеддингам.

0скачиваний за 30 дней0лайковвеса обновлены7 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

elliottash/doppelganger содержит обученные MLP-головы и дообученные аудиоэнкодеры для бенчмарка Doppelganger. Модель предназначена для сопоставления синтетического звукового эффекта с реальной записью, из которой он был создан, а также для оценки устойчивости такого сопоставления на разных энкодерах и наборах данных.

Головы имеют архитектуру d → 512 → 256 с batch normalization, ReLU и L2-нормализацией и применяются поверх эмбеддингов замороженного энкодера. В README приведены варианты обучения по экземплярам и классам, разбиения по классам, объёму данных и генератору. Репозиторий также содержит чекпойнты дообученных энкодеров BEATs и M2D; замороженные базовые энкодеры CLAP, PANNs, AST и AudioMAE берутся из оригинальных релизов.

Лицензия репозитория — MIT. Для применения голов нужны эмбеддинги совместимого замороженного энкодера; README не описывает модель как самостоятельную систему для обработки аудиофайлов.

Сценарии применения

  • поиск исходной записи для синтетического звукового эффекта
  • сопоставление синтетических и реальных аудиособытий
  • оценка обобщения аудиосопоставления на неизвестные классы событий
  • сравнение эмбеддингов аудиоэнкодеров в задаче сопоставления звуков

Ограничения

Головы принимают эмбеддинги замороженного энкодера, поэтому для их применения необходим совместимый backbone и отдельное получение эмбеддингов. Классовая голова хуже обобщает на ранее не встречавшиеся звуковые события, чем замороженный энкодер.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Doppelganger — trained heads and fine-tuned encoders

Models for the Doppelganger benchmark (matching a synthetic sound effect to the real recording it was generated from). Paper: https://arxiv.org/abs/2607.04337 · Code: https://github.com/elliottash/doppelganger · dataset: https://huggingface.co/datasets/elliottash/doppelganger

Contents

  • heads/ — trained MLP heads (*.head.pt), the paper's models. Each is a compact head (d → 512 → 256, batch-norm, ReLU, ℓ2-normalized) on top of a frozen encoder. Naming: <encoder>_ucs_paired[_<variant>]_<objective>.head.pt, with objective ∈ {instance, class} and per-fold leave-classes-out (kf0..kf4), data-efficiency (sub250..sub4000), and cross-generator (aldm) variants.
    • instance head — the generalizing one (learns the synthetic→real instance correspondence).
    • class head — class-supervised control (collapses below frozen on unseen events).
  • ckpts/ — fine-tuned encoder checkpoints (BEATs, M2D) used in the six-encoder robustness study.

Use

import torch
head = torch.load("heads/clap_general_ucs_paired_instance.head.pt", map_location="cpu")
# apply to frozen encoder embeddings (see src/apply_head.py in the code repo)

The heads consume frozen-encoder embeddings; the frozen backbones (CLAP, PANNs, AST, AudioMAE) come from their original releases, and the BEATs/M2D fine-tunes are in ckpts/.

License

MIT (heads and fine-tunes). Frozen backbones follow their original licenses.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
028f0b1

0 моделей