/ Модель
Каталог

Характеристики

Параметры
403 млн
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense
Опубликована
8 июл 2022

Ссылки

Hugging Face

ai-light-dance_singing3_ft_wav2vec2-large-xlsr-53-v1

gary109
Распознавание речиАудио → текст3 профессии

Дообученная Wav2Vec2 модель для распознавания слов в вокале и пении.

46скачиваний за 30 дней0лайковвеса обновлены19 июл 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель автоматического распознавания речи на архитектуре Wav2Vec2ForCTC, дообученная автором gary109 на наборе ONSET-SINGING3 из GARY109/AI_LIGHT_DANCE. Веса содержат около 402,7 млн параметров и распространяются в формате PyTorch. По названию набора данных модель предназначена для распознавания вокала и пения.

В карточке приведены результаты оценки: loss 0,5459 и WER 0,2463. Модель принимает аудио и выдаёт распознанный текст. Лицензия — Apache-2.0. Описание не раскрывает поддерживаемые языки, условия записи и подробности оценки, поэтому результаты нельзя уверенно переносить на другие жанры, языки или акустические условия.

Сценарии применения

  • распознавание слов в песнях
  • расшифровка вокальных партий
  • подготовка текстовых субтитров к пению

Ограничения

В карточке не указаны поддерживаемые языки и условия записи; приведённый WER 0,2463 относится только к описанному тестовому набору. Надёжность на обычной речи и вокале вне этого набора не установлена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.9Универсальные способностиАудио и музыкаAI помогает анализировать, очищать, преобразовывать и создавать звук и музыку.15 задач4 835моделейI.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ai-light-dance_singing3_ft_wav2vec2-large-xlsr-53-v1

This model is a fine-tuned version of gary109/ai-light-dance_singing3_ft_wav2vec2-large-xlsr-53-v1 on the GARY109/AI_LIGHT_DANCE - ONSET-SINGING3 dataset. It achieves the following results on the evaluation set:

  • Loss: 0.5459
  • Wer: 0.2463

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 1e-06
  • train_batch_size: 2
  • eval_batch_size: 2
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 1000
  • num_epochs: 50.0
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossWer
0.39091.023090.56150.2459
0.40942.046180.56540.2439
0.3263.069270.55680.2470
0.45774.092360.57950.2474
0.36285.0115450.54590.2463
0.31356.0138540.55820.2473
0.50587.0161630.56770.2439
0.31888.0184720.56460.2445
0.35899.0207810.56260.2479
0.402110.0230900.57220.2452
0.436211.0253990.56590.2431
0.321512.0277080.56580.2445
0.364613.0300170.57850.2459
0.375714.0323260.57570.2418
0.331115.0346350.56720.2455
0.370916.0369440.56690.2434
0.334217.0392530.56100.2455
0.323618.0415620.56520.2436
0.356619.0438710.57730.2407
0.291220.0461800.57640.2453
0.365221.0484890.57320.2423
0.378522.0507980.56960.2423
0.396823.0531070.56900.2429
0.296824.0554160.58000.2427
0.42825.0577250.57040.2441
0.38326.0600340.57390.2450
0.369427.0623430.57910.2437
0.344928.0646520.57800.2451
0.300829.0669610.57490.2418
0.393930.0692700.57370.2424
0.345131.0715790.58050.2402
0.351332.0738880.56700.2379
0.386633.0761970.57060.2389
0.383134.0785060.56350.2401
0.364135.0808150.57080.2405
0.334536.0831240.56990.2405
0.290237.0854330.57110.2373
0.286838.0877420.57130.2389
0.323239.0900510.57020.2392
0.327740.0923600.56580.2393
0.323441.0946690.57320.2412
0.362542.0969780.57400.2396
0.407543.0992870.57330.2389
0.347344.01015960.57350.2394
0.315745.01039050.57210.2391
0.386646.01062140.57150.2381
0.406247.01085230.57110.2380
0.387148.01108320.57160.2380
0.292449.01131410.57230.2374
0.365550.01154500.57090.2379

Framework versions

  • Transformers 4.21.0.dev0
  • Pytorch 1.9.1+cu102
  • Datasets 2.3.3.dev0
  • Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
c8a4dda

0 моделей

    Создать бенчмарк