Характеристики

Параметры: 1,3 млрд
Лицензия: Apache 2.0
Архитектура: wav2vec2 · dense
Опубликована: 2 мар 2022

Ссылки

Hugging Face

xls-r-1b-cv_8-fr

Plim

Распознавание речиАудио → текст8 профессий

Модель wav2vec2 для транскрибирования французской речи, дообученная на Common Voice 8.0.

14скачиваний за 30 дней0лайковвеса обновлены24 мар 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Plim/xls-r-1b-cv_8-fr — акустическая модель распознавания французской речи, дообученная на датасете Mozilla Foundation Common Voice 8.0, конфигурация fr. Она основана на facebook/wav2vec2-xls-r-1b и использует архитектуру wav2vec2 с CTC-декодированием; число параметров — около 1,3 млрд. Модель принимает аудио и выдаёт текстовую транскрипцию.

Модель предназначена для автоматической транскрипции французской речи, в том числе записей, похожих на данные Common Voice. В README приведены результаты оценки: на тестовой выборке Common Voice WER составляет 18,33 без языковой модели и 15,40 с ней; на dev-выборке speech-recognition-community-v2 — 31,33 и 25,05 соответственно. Лицензия — Apache-2.0. Показатели зависят от набора данных и декодирования, а результатов для тестовой выборки audio в карточке нет.

Сценарии применения

транскрибация записей французской речи
распознавание французской речи из пользовательских аудиозаписей
подготовка текстовых субтитров к французской речи

Ограничения

Качество зависит от характеристик записи и декодирования; на приведённой dev-выборке показатели WER хуже, чем на тесте Common Voice. Результаты для тестовой выборки speech-recognition-community-v2 в README отсутствуют.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей I.9Универсальные способностиАудио и музыкаAI помогает анализировать, очищать, преобразовывать и создавать звук и музыку.15 задач4 835моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model description

This model is a fine-tuned version of facebook/wav2vec2-xls-r-1b on the MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - FR dataset.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 7.5e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
gradient_accumulation_steps: 8
total_train_batch_size: 128
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_steps: 2000
num_epochs: 6.0
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Wer
0.9827	0.29	1000	inf	0.2937
1.0203	0.57	2000	inf	0.2711
1.0048	0.86	3000	inf	0.2620
0.9858	1.15	4000	inf	0.2522
0.9709	1.43	5000	inf	0.2365
0.9347	1.72	6000	inf	0.2332
0.9256	2.01	7000	inf	0.2261
0.8936	2.29	8000	inf	0.2203
0.877	2.58	9000	inf	0.2096
0.8393	2.87	10000	inf	0.2017
0.8156	3.15	11000	inf	0.1936
0.8015	3.44	12000	inf	0.1880
0.774	3.73	13000	inf	0.1834
0.8372	4.01	14000	inf	0.1934
0.8075	4.3	15000	inf	0.1923
0.8069	4.59	16000	inf	0.1877
0.8064	4.87	17000	inf	0.1955
0.801	5.16	18000	inf	0.1891
0.8022	5.45	19000	inf	0.1895
0.792	5.73	20000	inf	0.1854

It achieves the best result on the validation set on STEP 13000:

Wer: 0.1834

Some problem occurs when calculating the validation loss.

Framework versions

Transformers 4.17.0.dev0
Pytorch 1.10.2+cu102
Datasets 1.18.3.dev0
Tokenizers 0.11.0

Evaluation Commands

To evaluate on mozilla-foundation/common_voice_8 with split test

python eval.py --model_id Plim/xls-r-1b-cv_8-fr --dataset mozilla-foundation/common_voice_8_0 --config fr --split test

To evaluate on speech-recognition-community-v2/dev_data

python eval.py --model_id Plim/xls-r-1b-cv_8-fr --dataset speech-recognition-community-v2/dev_data --config fr --split validation --chunk_length_s 5.0 --stride_length_s 1.0

Evaluation Results

Without LM:

Dataset	WER	CER
TEST CV	18.33	5.60
DEV audio	31.33	13.20
TEST audio	/	/

With LM:

Dataset	WER	CER
TEST CV	15.40	5.36
DEV audio	25.05	12.45
TEST audio	/	/

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: Wav2Vec2ForCTC
Ревизия весов: 14d95db