/ Модель

Характеристики

Параметры
403 млн
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense
Базовая модель
wav2vec2-large-xlsr-53
Опубликована
24 апр 2024

wav2vec2-Phoneme

Распознавание речиАудио → текст

Дообученная wav2vec2-модель для автоматического распознавания речи по аудио.

304скачиваний за 30 дней3лайкавеса обновлены27 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Bluecast/wav2vec2-Phoneme — модель автоматического распознавания речи, дообученная на основе facebook/wav2vec2-large-xlsr-53. Она использует архитектуру wav2vec2 с CTC-декодированием и содержит около 402,7 млн параметров. Название указывает на фонемное представление распознанной речи, однако README не уточняет формат выхода и обучающие данные.

Модель принимает аудио и предназначена для распознавания речи. В README приведены результаты оценки: loss 0,2842 и WER 0,1281; описание набора данных и условий оценки отсутствует, поэтому эти показатели нельзя уверенно сопоставить с другими моделями. Лицензия — Apache-2.0.

Сценарии применения

  • распознавание речи в аудиозаписях
  • транскрибирование устной речи
  • оценка распознавания речи по WER

Ограничения

Язык и обучающий набор данных не указаны. Метрики loss и WER приведены без описания набора оценки и условий измерения.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

wav2vec2-Phoneme

This model is a fine-tuned version of facebook/wav2vec2-large-xlsr-53 on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.2842
  • Wer: 0.1281

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 0.0001
  • train_batch_size: 16
  • eval_batch_size: 8
  • seed: 42
  • gradient_accumulation_steps: 2
  • total_train_batch_size: 32
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 500
  • num_epochs: 30
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossWer
2.17690.29541002.14630.9564
2.12850.59082002.09590.9575
1.89890.88633001.59970.9022
1.11231.18174000.67820.4093
0.6181.47715000.35480.1544
0.49931.77256000.30390.1331
0.44252.06797000.26880.1169
0.3632.36348000.24190.1108
0.35072.65889000.22200.1039
0.32822.954210000.19990.1001
0.28873.249611000.20440.0974
0.31043.545112000.19500.0994
0.29763.840513000.20050.0969
0.26174.135914000.19070.0962
0.27834.431315000.18860.0936
0.25334.726716000.18450.0938
0.25015.022217000.17590.0926
0.22615.317618000.17890.0896
0.21125.613019000.18240.0891
0.21625.908420000.17150.0886
0.20986.203821000.17610.0902
0.21336.499322000.17470.0896
0.21746.794723000.17530.0892
0.20337.090124000.17290.0886
0.21677.385525000.17490.0889
0.20017.680926000.16500.0874
0.18747.976427000.16560.0872
0.18468.271828000.16740.0873
0.19278.567229000.15950.0863
0.16728.862630000.15520.0849
0.17419.158131000.16590.0868
0.17539.453532000.16150.0862
0.18259.748933000.16230.0862
0.16610.044334000.15840.0865
0.176210.339735000.15730.0850
0.174410.635236000.15370.0863
0.178610.930637000.15220.0840
0.173111.226038000.16450.0851
0.192911.521439000.17850.0851
0.204711.816840000.18440.0860
0.25512.112341000.23050.0911
0.277112.407742000.23110.0886
0.274212.703143000.26050.0901
0.387912.998544000.28860.0965
0.365513.293945000.28970.0933
0.369313.589446000.29360.0960
0.399913.884847000.29050.1059
0.428614.180248000.34240.1025
0.57414.475649000.38910.1135
0.575314.771050000.39120.1276
0.522515.066551000.42480.1151
0.478515.361952000.33320.1287
0.573315.657353000.39990.1261
0.547115.952754000.41440.1293
0.552716.248255000.35800.1160
0.632216.543656000.51580.1794
0.686716.839057000.47310.1411
0.60617.134458000.38120.1305
0.537617.429859000.35050.1206
0.503517.725360000.32510.1199
0.46918.020761000.30920.1172
0.454418.316162000.30300.1185
0.428818.611563000.29150.1183
0.445718.906964000.28340.1203
0.40819.202465000.27650.1212
0.418219.497866000.27410.1205
0.411719.793267000.27050.1209
0.413120.088668000.27250.1230
0.403420.384069000.27130.1218
0.404820.679570000.27070.1226
0.419920.974971000.26950.1221
0.428621.270372000.27090.1239
0.396821.565773000.26990.1230
0.407121.861274000.27050.1254
0.417822.156675000.27010.1252
0.39622.452076000.27020.1252
0.425522.747477000.27010.1249
0.423923.042878000.27160.1254
0.415323.338379000.27290.1264
0.426523.633780000.27260.1264
0.422123.929181000.27370.1266
0.426824.224582000.27510.1269
0.420724.519983000.27610.1273
0.387224.815484000.27640.1273
0.400425.110885000.27860.1276
0.409625.406286000.27980.1276
0.454225.701687000.28030.1274
0.436125.997088000.28180.1276
0.445426.292589000.28260.1277
0.420426.587990000.28420.1281
0.442326.883391000.28410.1280
0.433327.178792000.28450.1282
0.403627.474293000.28440.1281
0.420327.769694000.28440.1281
0.432128.065095000.28420.1281
0.425128.360496000.28420.1281
0.412228.655897000.28410.1281
0.42428.951398000.28410.1280
0.440429.246799000.28420.1281
0.417429.5421100000.28420.1281
0.443229.8375101000.28420.1281

Framework versions

  • Transformers 4.40.0
  • Pytorch 2.2.1+cu121
  • Datasets 2.19.1.dev0
  • Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
7b8748a

0 моделей