Характеристики

Параметры: 113 млн
Лицензия: BSD 3-Clause
Архитектура: audio-spectrogram-transformer · dense
Опубликована: 14 ноя 2022

Ссылки

Hugging Face arXiv 2104.01778

ast-finetuned-audioset-16-16-0.442

MIT

Классификация аудиоАудио → label3 профессии

AST, дообученный на AudioSet, классифицирует аудиозаписи по категориям звуковых событий.

1 052скачиваний за 30 дней1лайквеса обновлены12 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель Audio Spectrogram Transformer (AST), разработанная авторами статьи Gong и соавторами и дообученная на наборе AudioSet. Она предназначена для классификации аудио по категориям AudioSet, например для распознавания звуковых событий в аудиозаписях.

Архитектура AST адаптирует Vision Transformer (ViT) для аудио: сигнал преобразуется в спектрограмму, которая подаётся в трансформер. Модель содержит 113,2 млн параметров и распространяется в форматах PyTorch и Safetensors.

Модель подходит для категоризации звуковых событий и других сценариев аудиоклассификации. Карточка заявляет высокие результаты на нескольких тестах классификации аудио, но не приводит конкретных метрик. Лицензия — BSD 3-Clause. Поддерживаемые языки в карточке не заявлены; задача модели связана с аудиосигналом, а не с распознаванием речи.

Сценарии применения

классификация аудио по категориям AudioSet
распознавание звуковых событий в аудиозаписях
автоматическая категоризация звуковых фрагментов

Ограничения

Модель классифицирует аудио по классам AudioSet и не предназначена для распознавания речи или генерации аудио. Карточка не приводит конкретных метрик качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Audio Spectrogram Transformer (fine-tuned on AudioSet)

Audio Spectrogram Transformer (AST) model fine-tuned on AudioSet. It was introduced in the paper AST: Audio Spectrogram Transformer by Gong et al. and first released in this repository.

Disclaimer: The team releasing Audio Spectrogram Transformer did not write a model card for this model so this model card has been written by the Hugging Face team.

Model description

The Audio Spectrogram Transformer is equivalent to ViT, but applied on audio. Audio is first turned into an image (as a spectrogram), after which a Vision Transformer is applied. The model gets state-of-the-art results on several audio classification benchmarks.

Usage

You can use the raw model for classifying audio into one of the AudioSet classes. See the documentation for more info.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · audio-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: ASTForAudioClassification
Ревизия весов: bf4d03f