/ Модель

Характеристики

Размер весов
523 МБ
Лицензия
MIT
Библиотека
nemo
Опубликована
5 сен 2024

indicconformer_stt_ta_hybrid_ctc_rnnt_large

Распознавание речиАудио → текст6 профессий

IndicConformer распознаёт тамильскую речь в монофонических WAV-записях и преобразует её в текст.

6 240скачиваний за 30 дней6лайковвеса обновлены4 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

IndicConformer — модель автоматического распознавания речи на тамильском языке, разработанная AI4Bharat. Она принимает монофонические WAV-записи с частотой дискретизации 16 кГц и возвращает транскрипцию в виде текста. Модель предназначена для преобразования тамильской речи в текст, например для расшифровки аудиозаписей и создания текстовых версий речевого контента.

В основе модели — Conformer-Large-энкодер примерно на 120 млн параметров с 17 блоками и размерностью 512, а декодирование реализовано гибридной схемой CTC-RNNT. Доступны варианты декодирования CTC и RNNT. Модель опубликована под лицензией MIT; для загрузки и работы README рекомендует AI4Bharat NeMo.

Сценарии применения

  • транскрибация тамильских аудиозаписей
  • создание субтитров для тамильской речи
  • преобразование тамильских голосовых сообщений в текст

Ограничения

Модель рассчитана на тамильскую речь и ожидает монофонический звук в формате WAV с частотой дискретизации 16 кГц. В README не приведены показатели точности или сведения о работе с другими языками и форматами аудио.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

IndicConformer

IndicConformer is a Hybrid CTC-RNNT conformer ASR(Automatic Speech Recognition) model.

Language

Tamil

Input

This model accepts 16000 KHz Mono-channel Audio (wav files) as input.

Output

This model provides transcribed speech as a string for a given audio sample.

Model Architecture

This model is a conformer-Large model, consisting of 120M parameters, as the encoder, with a hybrid CTC-RNNT decoder. The model has 17 conformer blocks with 512 as the model dimension.

AI4Bharat NeMo:

To load, train, fine-tune or play with the model you will need to install AI4Bharat NeMo. We recommend you install it using the command shown below

git clone https://github.com/AI4Bharat/NeMo.git && cd NeMo && git checkout nemo-v2 && bash reinstall.sh

Usage

Download and load the model from Huggingface.

import torch
import nemo.collections.asr as nemo_asr

model = nemo_asr.models.ASRModel.from_pretrained("ai4bharat/indicconformer_stt_ta_hybrid_rnnt_large")

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.freeze() # inference mode
model = model.to(device) # transfer model to device

Get an audio file ready by running the command shown below in your terminal. This will convert the audio to 16000 Hz and monochannel.

ffmpeg -i sample_audio.wav -ac 1 -ar 16000 sample_audio_infer_ready.wav

Inference using CTC decoder

model.cur_decoder = "ctc"
ctc_text = model.transcribe(['sample_audio_infer_ready.wav'], batch_size=1,logprobs=False, language_id='ta')[0]
print(ctc_text)

Inference using RNNT decoder

model.cur_decoder = "rnnt"
rnnt_text = model.transcribe(['sample_audio_infer_ready.wav'], batch_size=1, language_id='ta')[0]
print(rnnt_text)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · nemo

Нельзя запустить

Модели NVIDIA NeMo требуют отдельного рантайма.

Ревизия весов
8c31aa8

0 моделей