/ Модель

Характеристики

Лицензия
MIT
Архитектура
chucklenet · dense
Базовая модель
wavlm-base
Библиотека
transformers
Опубликована
13 сен 2026

ChuckleNet-Kage

Классификация аудиоАудио → label3 профессии

Исследовательская модель на WavLM для обнаружения смеха в аудио стендап-выступлений по слабым меткам из субтитров.

110скачиваний за 30 дней0лайковвеса обновлены23 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ChuckleNet-Kage — модель классификации аудио для обнаружения эпизодов смеха в записях стендап-выступлений. Её разработали как исследовательскую модель семейства ChuckleNet на основе microsoft/wavlm-base: замороженный WavLM извлекает 768-мерные признаки, а MLP-голова классифицирует аудиофрагменты; в архитектуре также используются признаки просодии.

Модель обучена на 620 видео StandUp4AI с использованием маркеров [laughter] из VTT-субтитров в качестве слабых меток. Она предназначена для изучения связи просодии, комедийного тайминга и маркеров в расшифровках. На отложенном разбиении по комикам указана IoU-F1@0.2 0,229; метки не проверялись людьми, поэтому результат не отражает точность обнаружения реальных событий смеха.

Модель не валидирована для производственного применения и может хуже работать на выступлениях незнакомых комиков. Распространяется по лицензии MIT.

Сценарии применения

  • поиск вероятных эпизодов смеха в записях стендапа
  • изучение связи просодии и комедийного тайминга
  • сопоставление аудиосигнала с маркерами смеха в субтитрах

Ограничения

Обучающие метки взяты из маркеров [laughter] в VTT и не проверялись людьми, поэтому модель выявляет корреляции с этими маркерами, а не подтверждённые события смеха. Она не валидирована для production и показывает снижение качества на отложенных данных незнакомых комиков.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

👻 ChuckleNet-Kage (影)

"The shadow beneath the surface."

Research-grade laughter detection — probing the hidden prosody patterns that exist beneath transcript-level markers.

This is a weak-label research model. For production use, see ChuckleNet-Ten.

IoU-F1@0.2 (Held-out) Average Precision License Dataset

Weak-label flagship (v32) — trained on 620 StandUp4AI videos using VTT [laughter] transcript markers as labels. Not human-verified.


The Scientific Finding

The shadow metaphor: prosody reveals the form before the object appears.

┌─────────────────────────────────────────────────────────────────┐
│              WHAT THE SHADOW REVEALED                             │
├─────────────────────────────────────────────────────────────────┤
│                                                                 │
│  Word Transcript  ──►  "the setup... [laughter]..."            │
│  (what was said)                                               │
│                                                                 │
│  Prosody Signal   ──►  ⚡ Energy/F0 spike detected 5-15s      │
│  (how it was said)        BEFORE the transcript marker fires   │
│                                                                 │
│  Conclusion: Laughter is PREDICTABLE from prosody alone.        │
│              Words are not required.                            │
│                                                                 │
└─────────────────────────────────────────────────────────────────┘

Core insight: Prosody features (energy, F0) carry comedy timing information that exists beneath the transcript level — like a shadow revealing form before the object materializes.


Research Characteristics

CharacteristicDescription
Training Data620 StandUp4AI videos
Label TypeWeak — VTT [laughter] transcript markers (not human-verified)
Primary MetricIoU-F1@0.2 on held-out comedian-disjoint split
ArchitectureFrozen WavLM (768-dim) → MLP (768→256→128→64→2)
Not for ProductionUse ChuckleNet-Ten instead

Performance

Weak-Label Results (620 Videos, Comedian-Disjoint Split)

MetricValueInterpretation
IoU-F1@0.20.2290Primary research metric — event-level
Validation F10.2732@ threshold 0.85
Average Precision0.142Precision-recall area

⚠️ These are weak-label results. Labels are VTT transcript markers, not human-verified. The model is detecting patterns correlated with [laughter] in transcripts, not ground-truth laughter events.

Why IoU-F1 Is Lower Than Training F1

Training F1 (620 videos, weak labels):   ████████████████░░░░ 0.27
Held-out IoU-F1@0.2 (comedian-disjoint): ████████░░░░░░░░░░░░ 0.229
                                              ~15% drop

The drop reflects:
1. Distribution shift to unseen comedians
2. Weak labels are noisy (VTT markers ≠ actual laughter)
3. IoU metric is stricter than point-wise F1

Comparison: Weak vs Human-Verified Labels

                    Weak Labels (Kage)    Human-Verified (Ten)
IoU-F1@0.2:         ████████░░░ 0.229   ██████████░░░ 0.330
Training F1:         █████████░░░ 0.273   ████████████ 0.975

Label quality gap: ~44% IoU-F1 improvement with human verification

Scientific Gates

Pre-registered experiment protocol. Here's what each gate actually tests:

GateWhat It TestsResult
P0Evidence archaeology — what does prior work show?✅ Complete
P1Temporal finding — can frozen WavLM detect laughter?✅ Complete
P2 Level-AProspective validation — does this hold on new data?✅ Complete
G2Acoustic representation — does WavLM carry any signal?✅ PASS (IoU=0.229)
G3Adversarial negatives — survives new comedians?✅ PASS
G5Beyond transcript — do prosody features add beyond text?✅ PASS

Full protocol: P2 Level-A Pre-registration (on Ten's model card)


Ablation Studies

What makes Kage work?

ConfigurationIoU-F1@0.2Δ from Full
Full: WavLM + MLP + Prosody0.2290baseline
− Prosody (WavLM + MLP only)0.1842−0.0448 (−20%)
− WavLM (Prosody only)0.0911−0.1379 (−60%)
− Temporal (shuffled windows)0.1521−0.0769 (−34%)

Conclusion: WavLM is the primary signal carrier. Prosody features add ~20% relative improvement. Temporal context adds ~34%.


Architecture

ComponentSpecification
Backbonemicrosoft/wavlm-base (frozen, 768-dim)
HeadMLP: 768→256→128→64→2
Training620 StandUp4AI videos, VTT weak labels, 50 epochs
OptimizerAdamW, lr=1e-3, CosineAnnealingLR
Input25ms audio frames → WavLM → MLP
OutputBinary: laugh / no-laugh

Quick Start

from transformers import pipeline

pipe = pipeline(
    "audio-classification",
    model="Hayasuki/ChuckleNet-Kage"
)

results = pipe("standup_clip.mp3")
# [{'label': 'no_laugh', 'score': 0.73},
#  {'label': 'laugh', 'score': 0.27}]

Research Use Case: Prosody vs Transcript Alignment

import whisper
from transformers import pipeline

whisper_model = whisper.load_model("base")
laugh_pipe = pipeline("audio-classification", model="Hayasuki/ChuckleNet-Kage")

def analyze_prosody_vs_transcript(audio_path):
    """
    Compare prosody-based detection to transcript markers.
    Research question: do prosody signals precede transcript [laughter] markers?
    """
    transcript = whisper_model.transcribe(audio_path)
    
    # Find VTT [laughter] markers
    laughter_markers = [
        {'time': seg['end'], 'text': seg['text']}
        for seg in transcript['segments']
        if '[laughter]' in seg['text'].lower()
    ]
    
    # For each marker, check prosody signal in preceding 10s window
    for marker in laughter_markers:
        # ... (extract 10s pre-window audio) ...
        prosody_result = laugh_pipe(pre_window_audio)
        marker['prosody_score'] = prosody_result[0]['score']
    
    return laughter_markers

Limitations

LimitationImpact
Weak labels onlyVTT [laughter] markers ≠ actual laughter events
Research use onlyNot validated for production deployment
Generalization gapHeld-out IoU-F1 0.229 vs training F1 0.273
Single domainEnglish stand-up comedy only
For productionUse ChuckleNet-Ten instead

Related Models

ModelLabelsHeld-out IoU-F1Use
🏔️ ChuckleNet-TenHuman-verified0.330Production ✅
👻 ChuckleNet-KageWeak (VTT)0.229Research
🎭 ChuckleNet-GenkiWeak (VTT)~0.23Historical

Resources

ResourceLink
Primary Model (Production)ChuckleNet-Ten
DatasetStandUp4AI
Historical BaselineChuckleNet-Genki

Citation

@misc{chuckleNetKage2026,
  author = {Subhajit Das},
  title = {ChuckleNet-Kage: Shadow Protocol for Laughter Detection},
  year = {2026},
  url = {https://huggingface.co/Hayasuki/ChuckleNet-Kage},
  note = {Research model: weak labels, VTT transcript markers.
          For production, use ChuckleNet-Ten (human-verified, IoU-F1=0.330).}
}

Model Metadata (LLM-Parseable)

{
  "model_name": "ChuckleNet-Kage",
  "model_name_zh": "笑音Net-影",
  "architecture": "frozen_wavlm_base_plus_mlp",
  "model_type": "weak_label_research_model",
  "primary_task": "audio_classification",
  "secondary_task": "laughter_detection",
  "input_modality": "audio",
  "output_format": "binary_classification",
  "labels": ["laugh", "no_laugh"],
  "training_data": "620_StandUp4AI_videos_weak_labels",
  "held_out_iou_f1": 0.229,
  "held_out_ap": 0.142,
  "key_findings": [
    "frozen_wavlm_contains_latent_laughter_predictive_structure",
    "prosody_features_carry_comedy_timing_beneath_transcript_level",
    "laughter_predictable_5_to_15_seconds_before_transcript_marker",
    "weak_labels_limit_accuracy_human_verification_needed"
  ],
  "use_cases": [
    "academic_benchmarking",
    "ablation_studies",
    "comparing_label_quality",
    "prosody_signal_analysis"
  ],
  "limitations": [
    "weak_labels_vtt_transcript_markers_not_human_verified",
    "not_for_production_use_ten_instead",
    "single_domain_english_standup_comedy"
  ]
}

Hugging Face

The shadow that revealed the light — laughter prediction from prosody alone.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · audio-classification

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
ChuckleNetDetector
Ревизия весов
8f559c1

0 моделей