/ Модель

Характеристики

Лицензия
OpenRAIL
Базовая модель
whisper-large-v3
Библиотека
transformers
Опубликована
1 сен 2026

childvox-babblecor-whisper-large

Классификация аудиоАудио → label3 профессии

Мультиязычная аудиомодель на базе Whisper large-v3 классифицирует детские вокализации по категориям зрелости речи, плача, смеха и посторонних звуков.

33скачиваний за 30 дней1лайквеса обновлены2 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель tiantiaf/childvox-babblecor-whisper-large предназначена для классификации вокализаций детей и оценки зрелости речевых звуков. Её разработала Tiantian Feng; работа описана в исследовании ChildVox, принятом на главную конференцию EMNLP 2026. Модель дообучена на корпусе BabbleCor на базе мультиязычной openai/whisper-large-v3 и использует аудио на входе.

Модель относит фрагменты к пяти категориям: Canonical — зрелые слоги с переходом от согласного к гласному; Non-Canonical — незрелые вокализации, например отдельные гласные или согласные; Crying — плач; Laughing — смех; Junk — звук, не являющийся вокализацией ребёнка, включая шум, речь взрослого или неразборчивое аудио. Она подходит для анализа и разметки детских аудиозаписей в исследовательских сценариях.

Лицензия OpenRAIL запрещает коммерческое использование. Авторы также исключают клиническую диагностику и индивидуальную оценку развития без экспертной проверки, а также наблюдение и вмешательство в частную жизнь. Для работы с записями детей необходимо соблюдать требования к согласию, этическому одобрению и защите данных.

Сценарии применения

  • разметка зрелых и незрелых детских вокализаций
  • классификация плача и смеха в детских аудиозаписях
  • отделение детских вокализаций от шума и взрослой речи
  • анализ детской речи в исследовательских корпусах

Ограничения

Модель не предназначена для клинической диагностики, индивидуальной оценки развития без экспертной проверки, наблюдения или коммерческого применения. Обработка детских записей требует соблюдения приватности, согласия и применимых этических и правовых требований.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Whisper-Large for Child Speech Maturity (BabbleCor Corpus) Classification

Model Description

This model includes the implementation of child speech maturity classification described in ChildVox: A Speech, Audio, and Large Audio-Language Model Benchmark in Understanding and Characterizing Sound across Childhood (Accepted to EMNLP 2026 Main)

Github repository: https://github.com/tiantiaf0627/childvox-release

The model is fine-tuned on the BabbleCor dataset, a large-scale corpus of child vocalizations.

The included child vocalization categories are:

[
  'Canonical',
  'Non-Canonical',
  'Crying',
  'Laughing',
  'Junk'
]

Canonical denotes mature syllables containing a consonant-vowel transition, while Non-Canonical denotes immature vocalizations such as isolated vowels or consonants. Junk covers segments that are not child vocalizations (e.g., noise, adult speech, or unintelligible audio).

How to use this model

Download repo

git clone git@github.com:tiantiaf0627/childvox-release

Install the package

conda create -n childvox python=3.10
cd childvox
pip install -e .

Load the model

# Load libraries
import torch
import torch.nn.functional as F
from src.model.childvox.whisper_audio import WhisperWrapper

# Find device
device = torch.device("cuda") if torch.cuda.is_available() else "cpu"

# Load model from Huggingface
# We provide model with different folds, and specify the fold from 1, 2, 3, 4, 5
model = WhisperWrapper.from_pretrained("tiantiaf/childvox-babblecor-whisper-large", fold_idx=1).to(device)
model.eval()

Prediction

# Label List
maturity_list = [
  'Canonical',
  'Non-Canonical',
  'Crying',
  'Laughing',
  'Junk'
]

# Load data, here just zeros as the example
# The child vocalization segments used in training are short, so we cap the input at 1 seconds
# You need to prepare your audio to a length of 1 seconds, 16kHz and mono channel
max_audio_length = 1 * 16000
data = torch.zeros([1, 160000]).float().to(device)[:, :max_audio_length]
logits, embeddings = model(data, return_feature=True)

# Probability and output
maturity_prob = F.softmax(logits, dim=1)
print(maturity_list[torch.argmax(maturity_prob).detach().cpu().item()])

Responsible Use: Child speech data is highly sensitive. Users should respect the privacy and consent of the children and families whose recordings are processed, obtain approval from the appropriate ethics/IRB body, and adhere to the relevant laws and regulations in their jurisdictions when using ChildVox.

If you have any questions, please contact: Tiantian Feng (tiantiaf@usc.edu)

❌ Out-of-Scope Use

  • Clinical or diagnostic applications (e.g., screening for developmental or language disorders)
  • Individual-level developmental assessment without expert human review
  • Surveillance
  • Privacy-invasive applications
  • No commercial use

If you like our work or use the models in your work, kindly cite the following. We appreciate your recognition!

@article{feng2026childvox,
  title={ChildVox: A Speech, Audio, and Large Audio-Language Model Benchmark in Understanding and Characterizing Sound across Childhood},
  author={Feng, Tiantian and Xu, Anfeng and Shi, Xuan and Kommineni, Aditya and Siam, Shakhrul Iman and Micheletti, Megan and Shi, Zhonghao and Tager-Flusberg, Helen and Zhang, Mi and Perry, Lynn K and others},
  journal={arXiv preprint arXiv:2605.29257},
  year={2026}
}

Please also cite the dataset used to develop this specific model:

@article{cychosz2021vocal,
  title={Vocal development in a large-scale crosslinguistic corpus},
  author={Cychosz, Margaret and Cristia, Alejandrina and Bergelson, Elika and Casillas, Marisa and Baudet, Gladys and Warlaumont, Anne S and Scaff, Camila and Yankowitz, Lisa and Seidl, Amanda},
  journal={Developmental science},
  volume={24},
  number={5},
  pages={e13090},
  year={2021},
  publisher={Wiley Online Library}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · audio-classification

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов
ffd4259

0 моделей