/ Модель

Характеристики

Параметры
1,3 млрд
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense
Базовая модель
wav2vec2-xls-r-1b
Библиотека
transformers
Опубликована
11 янв 2025

wav2vec2-xls-r-1b-scandinavian-251h-30-epochs-20250111_v9

Распознавание речиАудио → текст10 профессий

Дообученная wav2vec2 модель для преобразования речи из аудио в текст.

13скачиваний за 30 дней0лайковвеса обновлены12 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель davidilag/wav2vec2-xls-r-1b-scandinavian-251h-30-epochs-20250111_v9 — дообученная на неизвестном наборе данных версия facebook/wav2vec2-xls-r-1b для автоматического распознавания речи. Она принимает аудио и преобразует его в текст; архитектура — Wav2Vec2ForCTC семейства wav2vec2, размер — 1,3 млрд параметров. В README приведены результаты оценки: WER 22,6884 и CER 5,8380.

Модель предназначена для транскрибирования речи. Карточка не сообщает, на каких языках и наборах данных она обучалась, поэтому пригодность для конкретного скандинавского языка и качество в отдельных сценариях по имеющимся сведениям установить нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Сценарии применения

  • транскрибирование аудиозаписей
  • распознавание речи в голосовых сообщениях
  • автоматическая расшифровка интервью
  • создание текстовых стенограмм

Ограничения

Обучающий набор данных и поддерживаемые языки в карточке не раскрыты. На указанной оценочной выборке WER составляет 22,6884, CER — 5,8380; качество на других данных может отличаться.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

wav2vec2-xls-r-1b-scandinavian-251h-30-epochs-20250111_v9

This model is a fine-tuned version of facebook/wav2vec2-xls-r-1b on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.2085
  • Wer: 22.6884
  • Cer: 5.8380

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 16
  • eval_batch_size: 8
  • seed: 42
  • gradient_accumulation_steps: 2
  • total_train_batch_size: 32
  • optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: cosine
  • lr_scheduler_warmup_steps: 3000
  • num_epochs: 30
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossWerCer
2.76190.350210001.050579.750027.7494
1.58830.700420000.554252.522316.3287
1.13561.050430000.571452.206816.0785
1.01341.400640000.490948.956814.9144
1.0491.750850000.465846.314014.0887
0.80852.100960000.427444.099512.9620
0.7252.451170000.397041.941012.1666
0.8052.801380000.376340.284611.4667
0.68763.151390000.380440.384711.7141
0.64243.5015100000.376139.658711.3674
0.68573.8517110000.351137.711411.1336
0.62354.2017120000.356537.674110.7539
0.61654.5519130000.321236.053310.1479
0.59644.9021140000.303134.77869.6009
0.61455.2521150000.319835.33249.8529
0.66625.6023160000.300634.10689.5917
0.6635.9525170000.300733.65399.4145
0.66036.3026180000.304433.96529.3871
0.67546.6528190000.287333.17909.0868
0.65197.0028200000.267231.90348.8680
0.64127.3530210000.275932.18418.8061
0.60287.7032220000.285331.83648.7611
0.57098.0532230000.283832.54549.1492
0.5718.4034240000.251231.24958.6213
0.68128.7536250000.269832.69899.2092
0.50079.1037260000.272631.56928.6188
0.45189.4539270000.260030.01468.3456
0.51559.8041280000.249430.09948.2447
0.405510.1541290000.250229.62618.0922
0.396310.5043300000.251230.06468.2523
0.458110.8545310000.240528.94177.8634
0.355411.2045320000.254729.53038.0054
0.361311.5547330000.245228.40747.7358
0.379811.9049340000.237329.28188.0558
0.34712.2549350000.235428.16147.6554
0.340112.6051360000.221627.27947.2458
0.324212.9553370000.231526.95377.1938
0.339313.3054380000.231327.38887.3823
0.371713.6556390000.221826.57717.0449
0.366214.0056400000.235727.63907.5118
0.354114.3558410000.226526.17516.8972
0.368614.7060420000.221526.19376.9842
0.383215.0560430000.224226.00466.9059
0.415.4062440000.223926.03266.9814
0.425415.7564450000.219225.64086.8145
0.396316.1065460000.215425.69336.8087
0.345716.4567470000.217726.49657.1219
0.360916.8069480000.219625.66457.0066
0.305517.1569490000.221726.02676.8638
0.29617.5071500000.209425.08786.5902
0.287617.8573510000.224425.57636.7381
0.235618.2073520000.220524.92926.5937
0.280118.5575530000.220324.80286.5381
0.262618.9077540000.207624.44576.3823
0.22419.2577550000.208024.42626.4048
0.219619.6079560000.216925.10396.6133
0.234119.9582570000.207224.22696.3431
0.189920.3082580000.208024.15066.3084
0.184820.6584590000.207624.32116.3481
0.181621.0084600000.206823.80036.1728
0.20721.3586610000.212623.65276.1666
0.193521.7088620000.210423.35506.0682
0.226822.0588630000.212223.50096.0946
0.223622.4090640000.208223.26016.0101
0.211822.7592650000.207123.41956.0859
0.260823.1093660000.202323.39756.0759
0.212223.4595670000.210223.39586.0669
0.219223.8097680000.204622.91065.9151
0.249224.1597690000.210622.94455.9293
0.22924.5099700000.207722.88775.9126
0.218824.8601710000.212722.97595.9271
0.220325.2101720000.208022.75635.8728
0.273225.5603730000.208322.85555.9057
0.235525.9105740000.206522.67485.8377
0.174226.2605750000.206822.67235.8282
0.171726.6108760000.208122.63075.8337
0.194426.9610770000.206922.63415.8331
0.152627.3110780000.206722.64605.8402
0.189427.6612790000.206722.63675.8324
0.135828.0112800000.208022.66385.8319
0.134628.3614810000.207722.64865.8285
0.131828.7116820000.208222.66475.8406
0.158429.0616830000.208522.68765.8403
0.149129.4118840000.208522.68085.8377
0.134729.7620850000.208522.68845.8380

Framework versions

  • Transformers 4.47.1
  • Pytorch 2.5.1+cu124
  • Datasets 3.2.0
  • Tokenizers 0.21.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
9f47c1d

0 моделей