/ Модель

Характеристики

Лицензия
Своя лицензия
Архитектура
meralion_gender · dense
Опубликована
7 янв 2026

MERaLiON-GI-v1

Классификация аудиоАудио → label3 профессии

MERaLiON-GI-v1 классифицирует речь по двум гендерным классам female и male для английского и ряда языков Юго-Восточной Азии.

270скачиваний за 30 дней0лайковвеса обновлены10 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MERaLiON-GI-v1 — модель классификации речи, разработанная командой MERaLiON для распознавания гендерного класса говорящего. Она относит аудио к одному из двух классов: female или male; модель предназначена для английской и языков Юго-Восточной Азии речи.

Модель использует 24-слойный Conformer-энкодер MERaLiON-SpeechEncoder-2, предварительно обученный с целью Best-RQ. Для адаптации применены LoRA-адаптеры в проекциях внимания ранга 16, а выходы слоёв объединяются обучаемым механизмом мягкого внимания. На вход подаётся речь с частотой дискретизации 16 кГц. В README приведены результаты тестирования на наборах для английского, китайского, синлиш, малайского и тамильского языков, а также сравнение с базовыми системами.

Модель выдаёт бинарную метку, поэтому её нельзя использовать для определения небинарной гендерной идентичности или надёжного установления личности. Лицензия в метаданных обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.

Сценарии применения

  • бинарная классификация гендерного класса говорящего по речи
  • анализ гендерных характеристик голосовых записей
  • исследование паралингвистических признаков в многоязычной речи

Ограничения

Модель ограничена бинарными метками female/male и не определяет гендерную идентичность. Входная речь должна иметь частоту дискретизации 16 кГц; конкретные условия лицензии в предоставленных сведениях не раскрыты.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MERaLiON-GR: Multi-lingual Speech Gender Recognition system that performs bi-nary classification (female / male) on English and Southeast Asian (SEA) languages.


🧠 Architecture Overview

  • Modality: Speech-only model
  • Task: Audio Classification (Gender Recognition)
  • Input Sampling Rate: 16,000 Hz
  • Output Classes: Female (0), Male (1)
ComponentDescription
BackboneMERaLiON-SpeechEncoder-2 — 24-layer Conformer transformer, pre-trained with a Best-RQ objective
AdaptationLoRA adapters in the attention projection layers (rank = 16, scaling factor = 16, rsLoRA normalization, dropout = 0.05)
Layer aggregationLearned soft-attention over all 25 hidden-state outputs (input embeddings + 24 layer outputs)
Downstream networkECAPA-TDNN — 3 SE-Res2Net blocks (dilations 1, 2, 3; SE reduction factor 8); BatchNorm replaced with GroupNorm
PoolingAttention pooling → fixed-length speaker embedding, projected to 256-d
Classification headLinear head with RMSNorm + GELU activation → 2-class output (Female / Male)

The design achieves parameter-efficient adaptation for multilingual, paralinguistic modeling.

More details on model architecture, training, and evaluation are available in the technical report: arxiv.org/abs/2608.04433


📊 Performance Overview

Public Benchmarks (Accuracy %)

LanguageTest SetVox-ProfileMERaLiON-GRAudio-LLM
EnglishFLEURS99.69100.0049.61
EnglishIEMOCAP97.3198.9097.21
EnglishCommon Voice92.6093.9052.10
ChineseCommon Voice96.1098.1064.80
MalaySMALDUSC97.6093.2057.10
TamilOpenSLR98.30100.0053.70
TamilEmoTa94.4499.1569.98
TamilCommon Voice92.3094.0051.60
ThaiTHAI-SER89.3287.2379.05
ThaiThai Elderly96.57100.0072.18
ThaiCommon Voice96.5297.8659.97
VietnameseCommon Voice96.0899.2236.08
IndonesianIndoWave95.3398.3371.00
IndonesianCommon Voice95.0097.4050.02
KhmerFLEURS99.7499.7469.80

MERaLiON-GR outperforms Vox-Profile on 12 of 15 public test sets and matches it on 1 set.

Singapore Language Performance

LanguageTest SetVox-ProfileMERaLiON-GR
ChineseSG-ECMT-Chinese89.2591.85
SinglishSG-ECMT-Singlish88.4592.10
MalaySG-ECMT-Malay86.5690.88
TamilSG-ECMT-Tamil90.5794.73

In-the-wild 10–30 second Singapore speech segments (evaluated with a 2-second sliding window), MERaLiON-GR consistently outperforms Vox-Profile, with gains up to +4.32 pp (Malay) and +4.16 pp (Tamil).

Baselines


⚙️ Usage Examples

import torch
import torch.nn.functional as F
from transformers import AutoModel, AutoFeatureExtractor

# 1. Load the model and feature extractor
model_id = "MERaLiON/MERaLiON-GR-v1"
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
feature_extractor = AutoFeatureExtractor.from_pretrained(model_id, trust_remote_code=True)
model = AutoModel.from_pretrained(model_id, trust_remote_code=True).to(device)
model.eval()

# 2. Make sure your waveformes are 16000 sampling rate
wav, sr = sf.read("sample.wav")
if wav.ndim > 1: wav = wav.mean(axis=1)
if sr != 16000:
    wav = torchaudio.functional.resample(torch.tensor(wav).unsqueeze(0), sr, 16000).squeeze(0).numpy()

inputs = feature_extractor( 
        [wav], sampling_rate=16000, return_tensors="pt", padding=True
    )
inputs = {k: v.to(device) for k, v in inputs.items()}

# inference. The model returns (hidden_states, logits)
with torch.no_grad():
    _, logits = model(**inputs)
        
probs = F.softmax(logits, dim=-1)
pred_class = torch.argmax(probs, dim=-1).item()
    
labels_map = {0: "female", 1: "male"}
print("Predicted gender: {labels_map[pred_class]}")

Citation

If you use this model, please cite the corresponding technical report:

@article{meralion2026gr,
  title={MERaLiON-GR: Speech Gender Recognition Model for English and SEA Languages},
  author={{MERaLiON Team}},
  journal={arXiv preprint arXiv:2608.04433},
  year={2026}
}

Related work referenced in this report:

@inproceedings{wang2025benchmarking,
  title={Benchmarking Contextual and Paralinguistic Reasoning in Speech-LLMs: A Case Study with In-the-Wild Data},
  author={Wang, Qiongqiong and Sailor, Hardik Bhupendra and Liu, Tianchi and Zhang, Wenyu and Huzaifah, Muhammad and Lertcheva, Nattadaporn and Sun, Shuo and Chen, Nancy F and Wu, Jinyang and Aw, AiTi},
  booktitle={Findings of EMNLP 2025},
  year={2025}
}

@inproceedings{cpqa_interspeech,
  title={Contextual Paralinguistic Data Creation for Multi-Modal Speech-LLM: Data Condensation and Spoken {QA} Generation},
  author={Wang, Qiongqiong and Sailor, Hardik B and Liu, Tianchi and Aw, Ai Ti},
  booktitle={Proc. Interspeech},
  year={2025}
}

@inproceedings{cpqa_asru,
  title={Incorporating Contextual Paralinguistic Understanding in Large Speech-Language Models},
  author={Wang, Qiongqiong and Sailor, Hardik B and Wong, Jeremy H. M. and Liu, Tianchi and Sun, Shuo and Zhang, Wenyu and Huzaifah, Muhammad and Chen, Nancy and Aw, Ai Ti},
  booktitle={Proc. IEEE Automatic Speech Recognition and Understanding Workshop (ASRU)},
  year={2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · audio-classification

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
MeralionForGenderClassification
Ревизия весов
586b458

0 моделей