/ Модель

Характеристики

Лицензия
CC BY-NC 4.0
Базовая модель
stt_en_conformer_ctc_large
Библиотека
nemo
Опубликована
12 ноя 2024

titu_stt_bn_conformer_large

Распознавание речиАудио → текст5 профессий

Conformer-модель Hishab распознаёт бенгальскую речь и преобразует аудио в текст.

118скачиваний за 30 дней0лайковвеса обновлены26 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

titu_stt_bn_conformer_large — модель распознавания речи на архитектуре Conformer, разработанная Hishab для транскрибации аудио на бенгальском языке. Она обучена примерно на 4,4 тыс. часов открытых нетелефонных аудиоданных и предназначена для распознавания речи, а также может служить отправной точкой для дообучения на пользовательских наборах данных с помощью NeMo.

В оценке на тестовых наборах из использованных датасетов модель показала средний WER 7,9%. В метаданных указана связь дообучения с nvidia/stt_en_conformer_ctc_large. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Сценарии применения

  • транскрибация записей на бенгальском языке
  • распознавание речи в аудио на бенгальском языке
  • подготовка исходной модели для дообучения на пользовательских аудиоданных

Ограничения

Средний WER 7,9% получен на указанных тестовых наборах; качество на других данных может отличаться. Лицензия CC BY-NC 4.0 не разрешает коммерческое использование.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Summary

titu_stt_bn_conformer_large is a conformer based model trained on ~4.4K Hours Non-Telephony open datasets.

Using method

This model can be used for transcribing Bangla audio and also can be used as pre-trained model to fine-tuning on custom datasets using NeMo framework.

Installation

To install NeMo check NeMo documentation.

pip install -q 'nemo_toolkit[asr]'

Inferencing

Download test_bn_conformer.wav

# pip install -q 'nemo_toolkit[asr]'

import nemo.collections.asr as nemo_asr

asr_model = nemo_asr.models.ASRModel.from_pretrained("hishab/titu_stt_bn_conformer_large")

auido_file = "test_bn_conformer.wav"
transcriptions = asr_model.transcribe([auido_file])

print(transcriptions)
# ['আজ সরকারি ছুটির দিন দেশের সব শিক্ষা প্রতিষ্ঠান সহ সরকারি আধাসরকারি
স্বায়ত্তশাসিত প্রতিষ্ঠান ও ভবনে জাতীয় পতাকা অর্ধনমিত ও কালো পতাকা উত্তোলন করা হয়েছে']

Training Datasets

DatasetHours
Google - OpenSLR 37 (BN_bd+BN_in)4.33
Google - OpenSLR 53214.9
MadASR - 23 (Train+Dev)853.79
Shrutilipi440.33
Kaggle Comp. Dataset (Macro) (Train+Validation)1180.33
indicsuperb - Kathbath (Train+Validation)107.55
Mozilla - CV (Train+Dev+Validated+Invalidated+Other)1315.72
Google - Fleurs (Train+Dev)10.42
Vasha-Bichita62.46
SUBAK.KO (Train+Validation)216.61
IndicTTS (Train+Validation)20.08
Total4426.53

Training Details

For training the model, we selected ~4.4K hours of data from aforementioned datasets. We took nvidia/stt_en_conformer_ctc_large as base model and fine-tuned on 4xH100 GPU. Below are some more training parameters.

epoch = 100
batch_size = 64

Evaluation

For evaluating the model, we used test set with transcripts available from aforementioned datasets. Below are the details. For each dataset, we calculate WER/CER in percentage. We evaluated our ASR model on 9 different datasets and we got an average 7.9% WER

Dataset [Test set only] (Duration in Hours)Google - Fleurs (2.6)indictts (0.15)Kathbath clean (5.01)Kathbath noisy (5.01)Kathbath combined (15.48)mozilla - Common Voice (16.57)SUBAK.KO (19.97)All data Combined (54.79)
Azure STT24.315.213.615.1-14.6--
Facebook MMS34.4----48--
Google STT19.418.314.316.7-20.8--
IndicWav2vec18.31512.216.2-20.2--
IndicWhisper11.47.610.312-15--
ODD-Speech29.5----23.6--
OpenAI Whisper Large v350----40.3--
titu_stt_bn_fastconformer33.53/6.8430.94/6.1227.05/5.8331.87/7.5229.27/6.6142.7/11.4424.25/6.7930.72/7.94
titu_stt_bn_fastconformer_large_od10.97/2.0810.48/1.639.39/1.7111.37/2.2910.3/1.986.21/1.16.84/1.817.81/1.68
titu_stt_bn_conformer_large10.46/1.868.74/1.548.95/1.6210.89/2.29.84/1.896.53/1.167.21/2.017.9/1.75

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · nemo

Нельзя запустить

Модели NVIDIA NeMo требуют отдельного рантайма.

Ревизия весов
4204101

0 моделей