/ Модель

Характеристики

Параметры
113 млн
Лицензия
Apache 2.0
Архитектура
wav2vec2 · dense
Базовая модель
wav2vec2-base
Библиотека
transformers
Опубликована
26 сен 2024

wav2vec2-base-indonesian-speech-emotion-recognition

Классификация текстаТекст → label3 профессии

Модель классифицирует индонезийскую речь по пяти эмоциям для анализа эмоциональной окраски голосовых записей.

110скачиваний за 30 дней4лайкавеса обновлены17 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

alianurrahman выпустил модель wav2vec2-base, дообученную для распознавания эмоций в индонезийской речи. Это аудиоклассификатор на архитектуре Wav2Vec 2.0 с 113,3 млн параметров, основанный на facebook/wav2vec2-base и сохранённый в формате safetensors. Модель принимает речь на индонезийском языке и относит её к одному из пяти классов: злость, отвращение, страх, радость или грусть.

Модель подходит для анализа эмоциональной окраски индонезийских голосовых записей. В README указаны точность 0,8223 и loss 0,5023 на наборе оценки. Для дообучения использовался RAVDESS, описанный в карточке как 1440 записей на индонезийском языке; подробности о методике оценки и ограничениях не приведены. Лицензия — Apache-2.0.

Сценарии применения

  • определение эмоции говорящего в индонезийской записи
  • разметка голосовых сообщений по эмоциональным классам
  • анализ эмоциональной окраски индонезийских диалогов
  • сортировка аудиозаписей по эмоциям: злость, отвращение, страх, радость и грусть

Ограничения

Модель обучалась на ограниченном наборе из 1440 актёрских записей и распознаёт только пять указанных эмоций, поэтому её качество на естественной речи может отличаться. В README не описаны условия оценки и дополнительные ограничения.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Indonesian Speech Emotion Recognition By Fine-Tuning Wav2Vec 2.0

The model is a fine-tuned version of facebook/wav2vec2-base for a Speech Emotion Recognition (SER) task.

The dataset used to fine-tune the original pre-trained model is the RAVDESS dataset. This dataset provides 1440 samples of recordings from actors performing on 5 different emotions in Bahasa Indonesia, which are:

emotions = ['angry', 'disgust', 'fear', 'happy', 'sad']

It achieves the following results on the evaluation set:

  • Loss: 0.5023
  • Accuracy: 0.8223

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 3e-5
  • train_batch_size: 32
  • eval_batch_size: 32
  • seed: 42
  • gradient_accumulation_steps: 2
  • total_train_batch_size: 10
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 10
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossAccuracy
2.07520.21302.05050.1359
2.01190.42601.93400.2474
1.80730.63901.51690.3902
1.54180.841201.23730.5610
1.14321.051501.15790.5610
0.96451.261800.96100.6167
0.88111.472100.80630.7178
0.87561.682400.73790.7352
0.82081.892700.68390.7596
0.71182.13000.66640.7735
0.42612.313300.60580.8014
0.43942.523600.57540.8223
0.45812.723900.47190.8467
0.39672.934200.50230.8223

Citation

@misc {alianur_rahman_2024,
	author       = { {Alianur Rahman} },
	title        = { wav2vec2-base-indonesian-speech-emotion-recognition (Revision 1fcfcf1) },
	year         = 2024,
	url          = { https://huggingface.co/alianurrahman/wav2vec2-base-indonesian-speech-emotion-recognition }
}

Contact

Any doubt, contact me on Twitter.

Framework versions

  • Transformers 4.45.1
  • Pytorch 2.2.2
  • Datasets 3.0.1
  • Tokenizers 0.20.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Нельзя запустить

Для архитектуры wav2vec2 нет загрузчика под задачу text-classification.

Класс архитектуры
Wav2Vec2ForSequenceClassification
Ревизия весов
7014582

0 моделей