/ Модель
Каталог

Характеристики

Архитектура
joint_aed_ctc_speech-encoder-decoder · dense
Опубликована
15 июн 2024

Ссылки

Hugging Face

DeCRED_small_cv_2

Lakoc
Языковая модель8 профессий

Дообученная на Common Voice 13.0 модель для распознавания речи и преобразования аудио в текст.

8скачиваний за 30 дней0лайковвеса обновлены15 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Lakoc/DeCRED_small_cv_2 — дообученная модель распознавания речи на базе архитектуры JointCTCAttentionEncoderDecoder. Модель обучена на Common Voice 13.0 и предназначена для преобразования речи в текст. В карточке приведены результаты оценки: CER 0,0663 и WER 0,1563.

Репозиторий содержит веса в формате safetensors. Описание сценариев применения, языков, условий лицензии и ограничений в карточке отсутствует, поэтому их нельзя уточнить. Модель опубликована 15 июня 2024 года.

Сценарии применения

  • транскрибация записей речи
  • автоматическая расшифровка аудиозаписей
  • оценка ошибок распознавания речи

Ограничения

В карточке не описаны языки, для которых предназначена модель, условия лицензии и ограничения применения. Метрики оценки приведены без подробностей о тестовой выборке и методике.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиI.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953моделиII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.9Универсальные способностиАудио и музыкаAI помогает анализировать, очищать, преобразовывать и создавать звук и музыку.15 задач4 835моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DeCRED_small_cv_2

This model is a fine-tuned version of on the common_voice_13_0 dataset. It achieves the following results on the evaluation set:

  • Loss: 1.0669
  • Cer: 0.0663
  • Wer: 0.1563
  • Mer: 0.1532
  • Wil: 0.2546
  • Wip: 0.7454
  • Hits: 128002
  • Substitutions: 17367
  • Deletions: 2812
  • Insertions: 2975

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 0.002
  • train_batch_size: 128
  • eval_batch_size: 64
  • seed: 42
  • distributed_type: multi-GPU
  • num_devices: 2
  • total_train_batch_size: 256
  • total_eval_batch_size: 128
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 10000
  • num_epochs: 50.0

Training results

Training LossEpochStepCerDeletionsHitsInsertionsValidation LossMerSubstitutionsWerWilWip
1.61445.0148850.1526570110763668561.44270.3057348440.31990.47650.5235
1.55526.0178620.1438540110984565881.39680.2903329350.30320.45490.5451
1.51027.0208390.1327522711207358901.35780.2726308810.28340.43050.5695
1.45048.0238160.1256451211384157581.32620.2605298280.27060.41470.5853
1.40989.0267930.1195458011542654411.29180.2486281750.25780.39670.6033
1.371710.0297700.1146466611605248691.27770.2417274630.24970.38750.6125
1.357311.0327470.1123419311705852681.26280.2372269300.24560.38040.6196
1.343312.0357240.1085481411756742931.24550.2289258000.23560.36830.6317
1.328113.0387010.1068378911897254021.23330.2254254200.23360.36230.6377
1.306814.0416780.1019407611943446221.21590.2184246710.22520.35270.6473
1.284715.0446550.1017404211960846831.20810.2176245310.22440.35130.6487
1.275316.0476320.1007421111992843041.20230.2135240420.21970.34540.6546
1.279317.0506090.0950366012109343651.18620.2062234280.21230.33540.6646
1.267618.0535860.0927381312119842071.18430.2047231700.21050.33280.6672
1.225619.0565630.0936394812125740331.17950.2034229760.20890.33080.6692
1.223820.0595400.0932363412186443721.17360.2012226830.20710.32700.6730
1.220621.0625170.0892386212233337321.16230.1947219860.19960.31780.6822
1.201822.0654940.0893403712205137031.16140.1964220930.20130.32000.6800
1.179123.0684711.15100.08680.19530.19060.31140.68861229432147937593708
1.195824.0714481.14380.08550.19310.18830.30780.69221233562121536103784
1.167225.0744251.14200.08630.19400.18910.30880.69121232892126636263861
1.159526.0774021.13580.08430.18980.18520.30260.69741237842074336543735
1.180327.0803791.13430.08380.19010.18560.30410.69591235952096636203580
1.148828.0833561.12620.08100.18550.18090.29720.70281244412051132293746
1.130329.0863331.12330.08010.18370.17930.29460.70541246002030232793636
1.126630.0893101.12030.07910.18180.17770.29180.70821246872000734873447
1.1431.0922871.11790.07900.18130.17690.29050.70951249381992533183616
1.115132.0952641.11150.07760.17940.17520.28850.71151251371984731973534
1.104333.0982411.10800.07730.17850.17440.28660.71341252531962433043522
1.115734.01012181.10390.07620.17500.17100.28170.71831257051930231743458
1.091135.01041951.10040.07470.17400.17000.28000.72001258691916031523466
1.072236.01071721.09780.07430.17190.16840.27760.72241258191895234103111
1.09237.01101491.09530.07420.17140.16760.27630.72371261421887831613362
1.076338.01131261.09140.07220.16860.16510.27260.72741263771861731873181
1.066739.01161031.09180.07290.16900.16540.27280.72721263661860232133224
1.065140.01190801.08450.07180.16620.16270.26900.73101267491837330593191
1.076141.01220571.08360.07030.16480.16140.26730.73271269111827129993156
1.050942.01250341.08280.07090.16470.16150.26700.73301267141817732902942
1.040943.01280111.07980.07070.16400.16070.26580.73421269461810331323070
1.052544.01309881.07600.06880.16080.15750.26140.73861274511787028603100
1.035945.01339651.07450.06800.16010.15680.26020.73981275711777128393115
1.014446.01369421.07380.06810.16070.15740.26140.73861275031788827903139
1.05447.01399191.06910.06720.15860.15540.25780.74221277451757528613062
1.042748.01428961.06810.06670.15730.15420.25620.74381278511747328572981
1.006749.01458731.06820.06680.15680.15370.25530.74471279061740128742957
1.005450.01488501.06690.06630.15630.15320.25460.74541280021736728122975

Framework versions

  • Transformers 4.40.0.dev0
  • Pytorch 2.2.0+rocm5.6
  • Datasets 2.18.0
  • Tokenizers 0.15.2

Wandb run

https://wandb.ai/butspeechfit/decred_commonvoice_en/runs/DeCRED_small_cv_2_continue

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
JointCTCAttentionEncoderDecoder
Ревизия весов
715bc2e

0 моделей

    Создать бенчмарк