/ Модель
Каталог

Характеристики

Параметры
1,3 млрд
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense
Базовая модель
wav2vec2-xls-r-1b
Опубликована
2 мар 2022

Ссылки

Hugging Face

wav2vec2-xls-r-1b-hebrew

imvladikon
Распознавание речиАудио → текст6 профессий

Дообученная XLS-R модель для преобразования речи на иврите в текст.

763скачиваний за 30 дней2лайкавеса обновлены12 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

imvladikon/wav2vec2-xls-r-1b-hebrew — модель распознавания речи на базе wav2vec 2.0 XLS-R, дообученная разработчиком imvladikon на основе facebook/wav2vec2-xls-r-1b. Она принимает аудио и преобразует речь на иврите в текст; подходит, например, для транскрибирования записей и аудиоматериалов на этом языке. Модель содержит 1,3 млрд параметров, использует архитектуру Wav2Vec2ForCTC и опубликована в форматах PyTorch и Safetensors.

В оценке указаны loss 0,3533 и WER 0,2251. Датасет дообучения в карточке обозначен как None, поэтому по этим результатам нельзя судить о поведении на иных источниках и условиях записи. Лицензия — Apache-2.0.

Сценарии применения

  • транскрибирование записей на иврите
  • распознавание иврита в аудиоматериалах
  • получение текстовых расшифровок речи на иврите

Ограничения

В карточке не описаны датасет обучения и ограничения применения; указан WER 0,2251 на оценочном наборе, но условия оценки не раскрыты.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиI.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953моделиI.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

wav2vec2-xls-r-1b-hebrew

This model is a fine-tuned version of facebook/wav2vec2-xls-r-1b on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 0.3533
  • Wer: 0.2251

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 0.0003
  • train_batch_size: 6
  • eval_batch_size: 6
  • seed: 42
  • distributed_type: multi-GPU
  • gradient_accumulation_steps: 4
  • total_train_batch_size: 24
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 400
  • num_epochs: 20.0
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossWer
3.35870.474001.18830.8392
1.83770.958000.88310.6852
1.71181.4212000.80310.6566
1.67411.8916000.75180.6104
1.61632.3620000.68880.5591
1.57822.8424000.65800.5165
1.55483.3128000.65060.5184
1.52493.7832000.61980.5028
1.50784.2636000.59920.4932
1.48364.7340000.57050.4651
1.45055.244000.54890.4508
1.44815.6748000.55770.4562
1.41366.1552000.54520.4371
1.38616.6256000.51010.4087
1.37727.0960000.49330.3951
1.34787.5664000.48490.3922
1.33948.0468000.48050.3892
1.30958.5172000.48390.3834
1.3068.9876000.46110.3587
1.27079.4680000.45450.3730
1.26269.9384000.45160.3524
1.241210.488000.43140.3310
1.245610.8792000.44010.3459
1.208111.3596000.43990.3356
1.199811.82100000.41950.3215
1.182612.29104000.42210.3178
1.157312.77108000.40980.3084
1.141613.24112000.40860.3119
1.117413.71116000.38540.2910
1.104814.18120000.38590.2824
1.074814.66124000.38540.2757
1.069715.13128000.37400.2724
1.047715.6132000.36930.2643
1.035616.08136000.37270.2561
1.008316.55140000.36520.2501
1.017.02144000.36410.2457
0.977917.49148000.35680.2409
0.959617.97152000.35580.2376
0.94618.44156000.35910.2311
0.938918.91160000.35400.2283
0.917319.39164000.35520.2265
0.912219.86168000.35350.2250

Framework versions

  • Transformers 4.16.0.dev0
  • Pytorch 1.10.1+cu102
  • Datasets 1.17.1.dev0
  • Tokenizers 0.11.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Wav2Vec2ForCTC
Ревизия весов
d67afbc

0 моделей

    Создать бенчмарк