/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Опубликована
7 июл 2026

fdt-disfluency-distilbert-66m-v2

Разметка токеновТекст → label5 профессий

Модель на базе DistilBERT размечает слова в транскриптах живой речи, чтобы удалять речевые запинки и получать очищенный текст.

11скачиваний за 30 дней0лайковвеса обновлены7 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

stillerman/fdt-disfluency-distilbert-66m-v2 — модель разметки токенов на основе DistilBERT, обученная для удаления речевых запинок из транскриптов живой речи. Она помечает каждое слово тегом KEEP, DELETE, KEEP_STRIP_COMMA или KEEP_CAPITALIZE, после чего простая реконструкция собирает очищенный текст. Модель предназначена для автоматической очистки разговорных транскриптов, в том числе в браузере через ONNX и transformers.js.

Модель содержит 65,8 млн параметров, использует архитектуру distilbert-base-cased и имеет контекст до 512 токенов. По описанию, обучение проводилось на синтетически искажённых разговорных корпусах; указаны exact-match 0,9755 и F1 для DELETE 0,9934. Подход ограничен удалением и простыми изменениями регистра и пунктуации: модель не перефразирует текст и не предназначена для исправления произвольных ошибок распознавания речи. Опубликованы веса Safetensors и квантованный ONNX. Лицензия репозитория — Apache-2.0, однако модель обучалась в том числе на DailyDialog с лицензией CC BY-NC-SA, поэтому автор рекомендует не использовать её для коммерческого развёртывания без дополнительной проверки условий.

Сценарии применения

  • удаление слов-паразитов из расшифровки разговора
  • очистка транскриптов живой речи в браузере
  • сохранение или удаление запятых при очистке расшифровки
  • восстановление заглавной буквы после удаления запинок

Ограничения

Модель рассчитана на удаление запинок и ограниченные правки пунктуации и регистра, а не на перефразирование или исправление произвольных ошибок транскрипции. Из-за обучения на DailyDialog с лицензией CC BY-NC-SA автор рекомендует не использовать модель для коммерческого развёртывания без дополнительной проверки условий.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

stillerman/fdt-disfluency-distilbert-66m-v2

Disfluency deletion tagger for live speech transcripts: tags every whitespace word KEEP / DELETE / KEEP_STRIP_COMMA / KEEP_CAPITALIZE, then a ~15-line reconstruction turns tags into cleaned text. Deletion-only by construction — it cannot rephrase, hallucinate, or alter names and numbers.

  • Architecture: distilbert-base-cased (65.8M params), v2 data mix (substitution repairs, collisions, doubled fillers)
  • Val metrics: exact-match 0.9755, DELETE-F1 0.9934
  • Training data: synthetic disfluency injection over conversational corpora — see stillerman/fdt-disfluency-synthetic
  • onnx/model_quantized.onnx (int8) is ready for transformers.js (device: "webgpu", dtype: "q8"); runs at ~10–50 ms per utterance in-browser.
  • ⚠️ Trained partly on DailyDialog (CC BY-NC-SA): treat as research artifact, not for commercial deployment as-is.

Trained on a DGX Spark as part of the FluencyAI digital-twin project.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модель выложена для браузера (ONNX / transformers.js).

Класс архитектуры
DistilBertForTokenClassification
Ревизия весов
c939f02

0 моделей