/ Модель

Характеристики

Параметры
1,3 млрд
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense

wav2vec2-xls-r-1b-arabic

Распознавание речиАудио → текст4 профессии

Дообученная wav2vec2-модель для распознавания арабской речи и преобразования её в текст.

37скачиваний за 30 дней1лайквеса обновлены1 фев 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AndrewMcDowell/wav2vec2-xls-r-1b-arabic — модель распознавания арабской речи, дообученная на базе facebook/wav2vec2-xls-r-1b на арабской части набора Mozilla Common Voice 8.0. Это плотная архитектура wav2vec2 с головой CTC, содержащая 1,3 млрд параметров и распространяемая в формате PyTorch.

Модель принимает аудио и предназначена для преобразования арабской речи в текст. В карточке указаны результаты оценки на тестовой выборке: loss 1,1373 и WER 0,8607; высокий WER указывает на существенные ошибки распознавания. Лицензия — Apache-2.0.

Сценарии применения

  • транскрибация арабской речи
  • распознавание арабских записей Common Voice
  • создание черновых субтитров для арабской речи

Ограничения

На оценочной выборке указан WER 0,8607, что свидетельствует о существенной доле ошибок. Оценка приведена для арабской части Common Voice 8.0 и может не отражать качество на других типах речи и аудио.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is a fine-tuned version of facebook/wav2vec2-xls-r-1b on the MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - AR dataset. It achieves the following results on the evaluation set:

  • Loss: 1.1373
  • Wer: 0.8607

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 6.5e-05
  • train_batch_size: 16
  • eval_batch_size: 8
  • seed: 42
  • gradient_accumulation_steps: 4
  • total_train_batch_size: 64
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 2000
  • num_epochs: 30.0
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossWer
2.24160.845001.28670.8875
2.30891.6710001.83360.9548
2.36142.5115001.59370.9469
2.52343.3520001.97650.9867
2.53734.1925001.90620.9916
2.57035.0330001.97720.9915
2.46565.8635001.80830.9829
2.43396.740001.75480.9752
2.3447.5445001.61460.9638
2.26778.3850001.51050.9499
2.20749.2155001.41910.9357
2.376810.0560001.66630.9665
2.380410.8965001.65710.9720
2.323711.7270001.60490.9637
2.31712.5675001.58750.9655
2.298813.480001.53570.9603
2.290614.2485001.56370.9592
2.284815.0890001.53260.9537
2.238115.9195001.56310.9508
2.207216.75100001.45650.9395
2.19717.59105001.43040.9406
2.19818.43110001.42300.9382
2.166819.26115001.39980.9315
2.149820.1120001.39200.9258
2.124420.94125001.35840.9153
2.095321.78130001.32740.9054
2.076222.61135001.29330.9073
2.058723.45140001.25160.8944
2.036324.29145001.22140.8902
2.030225.13150001.20870.8871
2.007125.96155001.19530.8786
1.988226.8160001.17380.8712
1.977227.64165001.16470.8672
1.958528.48170001.14590.8635
1.94429.31175001.14140.8616

Framework versions

  • Transformers 4.17.0.dev0
  • Pytorch 1.10.2+cu102
  • Datasets 1.18.2.dev0
  • Tokenizers 0.11.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
1adf2a3

0 моделей