/ Модель

Характеристики

Параметры
113 млн
Лицензия
BSD 3-Clause
Архитектура
audio-spectrogram-transformer · dense
Опубликована
14 ноя 2022

ast-finetuned-audioset-10-10-0.4593

Классификация аудиоАудио → label3 профессии

AST — дообученная на AudioSet модель на основе Vision Transformer для классификации звуковых событий в аудио.

1,1 млнскачиваний за 30 дней379лайковвеса обновлены6 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки21

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • JamAltArtistA2ARetrieval

    main_score

    Результат

    0,9018

    MTEB

    Публичная таблицаревизия совпадает

  • AmbientAcousticContextClustering

    main_score

    Результат

    0,4676

    MTEB

    Публичная таблицаревизия совпадает

  • SIBFLEURS

    main_score

    Результат

    0,1423

    Общий результат 0,2055Общий результат 0,2043Общий результат 0,1877
    MTEB

    Публичная таблицаревизия совпадает

  • GunshotTriangulation

    main_score

    Результат

    0,9882

    MTEB

    Публичная таблицаревизия совпадает

  • BirdCLEF

    main_score

    Результат

    0,452

    MTEB

    Публичная таблицаревизия совпадает

  • AmbientAcousticContext

    main_score

    Результат

    0,4886

    MTEB

    Публичная таблицаревизия совпадает

  • ESC50Clustering

    main_score

    Результат

    0,9136

    MTEB

    Публичная таблицаревизия совпадает

  • LibriCount

    main_score

    Результат

    0,4215

    MTEB

    Публичная таблицаревизия совпадает

  • FSD2019Kaggle

    main_score

    Результат

    0,7268

    MTEB

    Публичная таблицаревизия совпадает

  • IEMOCAPEmotion

    main_score

    Результат

    0,2049

    MTEB

    Публичная таблицаревизия совпадает

  • VoxPopuliAccentID

    main_score

    Результат

    0,2361

    MTEB

    Публичная таблицаревизия совпадает

  • VoxCelebClustering

    main_score

    Результат

    0,0101

    MTEB

    Публичная таблицаревизия совпадает

  • VocalSound

    main_score

    Результат

    0,8211

    MTEB

    Публичная таблицаревизия совпадает

  • MInDS14

    main_score

    Результат

    0,1043

    Общий результат 0,0966Общий результат 0,0576
    MTEB

    Публичная таблицаревизия совпадает

  • NSynth

    main_score

    Результат

    0,5626

    MTEB

    Публичная таблицаревизия совпадает

  • CREMADPairClassification

    main_score

    Результат

    0,5426

    MTEB

    Публичная таблицаревизия совпадает

  • UrbanSound8KAudioReranking

    main_score

    Результат

    0,7591

    MTEB

    Публичная таблицаревизия совпадает

  • VoxLingua107_Top10

    main_score

    Результат

    0,1995

    MTEB

    Публичная таблицаревизия совпадает

  • CREMA_D

    main_score

    Результат

    0,3784

    MTEB

    Публичная таблицаревизия совпадает

  • GTZANGenreClustering

    main_score

    Результат

    0,616

    MTEB

    Публичная таблицаревизия совпадает

  • VoxCelebSA

    main_score

    Результат

    0,2833

    MTEB

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Audio Spectrogram Transformer (AST) — модель классификации аудио, разработанная командой AST и дообученная на AudioSet. Она преобразует аудиосигнал в спектрограмму и обрабатывает её архитектурой Vision Transformer; модель насчитывает 113,2 млн параметров и доступна в форматах PyTorch и Safetensors.

Модель предназначена для отнесения аудио к классам AudioSet, например для распознавания звуковых событий в аудиозаписях. В карточке заявлены высокие результаты на нескольких бенчмарках классификации аудио. Лицензия — BSD 3-Clause.

Сценарии применения

  • классификация звуковых событий в аудиозаписях
  • распознавание звуков из набора классов AudioSet
  • анализ аудиозаписей для выявления характерных звуков

Ограничения

Модель предсказывает классы AudioSet и не предназначена для транскрибирования речи. README не приводит подробностей о точности или ограничениях по типам аудиозаписей.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Audio Spectrogram Transformer (fine-tuned on AudioSet)

Audio Spectrogram Transformer (AST) model fine-tuned on AudioSet. It was introduced in the paper AST: Audio Spectrogram Transformer by Gong et al. and first released in this repository.

Disclaimer: The team releasing Audio Spectrogram Transformer did not write a model card for this model so this model card has been written by the Hugging Face team.

Model description

The Audio Spectrogram Transformer is equivalent to ViT, but applied on audio. Audio is first turned into an image (as a spectrogram), after which a Vision Transformer is applied. The model gets state-of-the-art results on several audio classification benchmarks.

Usage

You can use the raw model for classifying audio into one of the AudioSet classes. See the documentation for more info.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · audio-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
ASTForAudioClassification
Ревизия весов
f826b80

0 моделей