/ Модель

Характеристики

Контекст
1 024 токена
Параметры
153 млн
Архитектура
whisper · dense
Опубликована
4 ноя 2023

whisper-small-iban

Распознавание речиАудио → текст3 профессии

Дообученная модель Whisper Small для распознавания и расшифровки речи на языке ибан.

131скачиваний за 30 дней3лайкавеса обновлены27 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Распознавание речи» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Whisper Small for Bahasa Iban — модель распознавания речи, созданная Meisin Lee на основе openai/whisper-small и дообученная на корпусе Iban Speech Corpus. Это плотная модель Whisper с 153,1 млн параметров, предназначенная для преобразования аудио на языке ибан в текст. При дообучении также использовались знания о близком языке — малайском.

Модель подходит для расшифровки записей и устной речи на ибане. На оценочном наборе указана частота ошибок слов (WER) около 15,9%. Ибан — малообеспеченный данными язык, поэтому точность может снижаться на речи, отличающейся от обучающих данных. Модель плохо обрабатывает переключение между ибаном и английским, особенно английские фрагменты. В README лицензия не указана.

Сценарии применения

  • расшифровка аудиозаписей на ибане
  • получение текстовой версии устной речи на ибане
  • создание субтитров для речи на ибане

Ограничения

Для языка ибан доступно мало обучающих аудиоданных, поэтому точность модели ограничена. Модель плохо распознаёт английские фрагменты в речи с переключением между английским и ибаном.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Whisper Small for Bahasa Iban - Meisin Lee

This model is a fine-tuned version of openai/whisper-small on the Iban Speech Corpus. More specifically, this Iban ASR is fine-tuned from the most similar language, in this case Malay is used. It achieves the following results on the evaluation set:

  • Loss: 0.257025
  • Wer Ortho: 0.158626
  • Wer: 0.158781

How to Get Started with the Model

Use the code below to use the model in Inference Mode.

from transformers import pipeline
import torch

device = "cuda:0" if torch.cuda.is_available() else "cpu"

pipe = pipeline("automatic-speech-recognition", model="meisin123/whisper-small-iban", chunk_length_s=30, device=device,)

audio_file = "audio.mp3"   ## use your own audio here

transcribed_text = pipe(audio_file, batch_size = 16)

Training Details

Training Data

The model is trained on the Iban Speech Corpus. The dataset is available on Huggingface, more information here. Iban is one of the under-resourced languages. The Iban language (jaku Iban) is spoken by the Iban, one of the Dayak ethnic groups, who live in Brunei, the Indonesian province of West Kalimantan and in the Malaysian state of Sarawak. It belongs to the Malayic subgroup, a Malayo-Polynesian branch of the Austronesian language family.

Evaluation

Performance and Limitations

There are still a lot of room for improvement for this Iban ASR model.

  1. The accuracy of the model can be further improved with more training data. As Iban is an under-resourced languages, there are limited audio data to train on.
  2. Currently, the model is not able to handle code-switched speech. If the audio contains a combination of English and Iban, the model does poorly on the English portion.

Model Card Contact

For more information, please contact the author at meisin123@gmail.com

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
WhisperForConditionalGeneration
Ревизия весов
5ee7e29

0 моделей