/ Модель
Каталог

Характеристики

Архитектура
joint_aed_ctc_speech-encoder-decoder · dense
Опубликована
12 июн 2024

Ссылки

Hugging Face

DeCRED_small_cv

Lakoc
Языковая модель4 профессии

Модель распознавания речи, дообученная на Common Voice 13.0 и оцениваемая по метрикам CER и WER.

9скачиваний за 30 дней0лайковвеса обновлены12 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Lakoc/DeCRED_small_cv — модель распознавания речи на базе архитектуры joint AED-CTC speech encoder-decoder, дообученная на наборе Common Voice 13.0. В README приведены результаты оценки: CER 0,0855 и WER 0,1935, а также значения потерь, замен, удалений и вставок.

Модель предназначена для преобразования речи в текст. Карточка не уточняет язык аудиозаписей и сценарии применения; по названию датасета можно установить только источник обучения. Репозиторий содержит веса в формате Safetensors. Лицензия и ограничения применения в предоставленных данных не описаны.

Сценарии применения

  • распознавание речи из аудиозаписей
  • транскрибирование записей для оценки качества ASR
  • эксперименты с распознаванием речи на Common Voice

Ограничения

В карточке не указаны поддерживаемые языки, лицензия и практические ограничения. На оценочном наборе указаны WER 0,1935 и CER 0,0855; качество на других данных не сообщается.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиI.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953моделиII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.9Универсальные способностиАудио и музыкаAI помогает анализировать, очищать, преобразовывать и создавать звук и музыку.15 задач4 835моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DeCRED_small_cv

This model is a fine-tuned version of on the common_voice_13_0 dataset. It achieves the following results on the evaluation set:

  • Cer: 0.0855
  • Deletions: 4133
  • Hits: 123172
  • Insertions: 3671
  • Loss: 1.1174
  • Mer: 0.1889
  • Substitutions: 20876
  • Wer: 0.1935
  • Wil: 0.3069
  • Wip: 0.6931

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 0.002
  • train_batch_size: 256
  • eval_batch_size: 128
  • seed: 42
  • distributed_type: multi-GPU
  • num_devices: 2
  • total_train_batch_size: 512
  • total_eval_batch_size: 256
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 10000
  • num_epochs: 20.0

Training results

Training LossEpochStepCerDeletionsHitsInsertionsValidation LossMerSubstitutionsWerWilWip
1.34595.074450.1676727710270568301.51930.3374381990.35300.51820.4818
1.30066.089340.1584638110548570741.47790.3206363150.33590.49560.5044
1.75497.0104230.1620696710430765571.48740.3259369070.34030.50310.4969
1.56218.0119120.1361520311100264891.36870.2823319760.29470.44370.5563
1.49889.0134010.1298502511230361361.33080.2723308530.28350.42990.5701
1.449510.0148900.1212550511395750631.29010.2564287190.26510.40680.5932
1.409211.0163790.1158516211524849101.26250.2472277710.25540.39410.6059
1.363812.0178680.1088440811731451731.23360.2350264590.24320.37640.6236
1.33513.0193570.1060486811778344671.21770.2284255300.23530.36650.6335
1.296614.0208460.1006456111938545991.19450.2186242350.22540.35110.6489
1.282615.0223350.0969445511998341111.17670.2122237430.21800.34290.6571
1.252916.0238240.0954422912062743121.16640.2090233250.21500.33770.6623
1.210317.0253130.0907421812171139981.14580.2002222520.20560.32440.6756
1.1818.0268020.0891415312213938831.13550.1968218890.20190.31940.6806
1.152919.0282910.0864413212286036811.12360.1910211890.19570.31050.6895
1.134220.0297800.0855413312317236711.11740.1889208760.19350.30690.6931

Framework versions

  • Transformers 4.40.0.dev0
  • Pytorch 2.2.0+rocm5.6
  • Datasets 2.18.0
  • Tokenizers 0.15.2

Wandb run

https://wandb.ai/butspeechfit/decred_commonvoice_en/runs/DeCRED_small_cv_restart

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
JointCTCAttentionEncoderDecoder
Ревизия весов
b60921a

0 моделей

    Создать бенчмарк