Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Опубликована: 4 авг 2026

Ссылки

fdt-disfluency-distilbert-66m-v4

Разметка токеновТекст → label6 профессий

Модель на базе DistilBERT удаляет слова-паразиты и повторы из расшифровок речи, сохраняя остальные слова и формулировки.

12скачиваний за 30 дней0лайковвеса обновлены4 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

stillerman/fdt-disfluency-distilbert-66m-v4 — модель разметки токенов на базе DistilBERT, разработанная Stillerman для очистки расшифровок живой речи. Она помечает каждое слово тегом KEEP, DELETE, KEEP_STRIP_COMMA или KEEP_CAPITALIZE, после чего простая реконструкция собирает очищенный текст. Модель удаляет слова-паразиты и повторы, сохраняя остальную формулировку без перефразирования.

Модель содержит 65,2 млн параметров, использует архитектуру distilbert-base-cased и контекст до 512 токенов. Версия v4 обучена на синтетических внесениях речевых сбоев в разговорные корпуса; метрики на валидации: exact-match 0,9724 и DELETE-F1 0,9896. Для браузерного применения доступна квантованная ONNX-модель int8 для transformers.js, с заявленной скоростью около 10–50 мс на высказывание.

Область обработки намеренно ограничена словами-паразитами и повторами: исправления с заменой слов, в том числе конструкции «I mean», сохраняются как есть. Лицензия репозитория — Apache-2.0, однако в обучении частично использован DailyDialog под CC BY-NC-SA, поэтому README рекомендует считать модель исследовательским артефактом и не применять её в коммерческих целях без дополнительной правовой проверки.

Сценарии применения

удаление слов-паразитов из расшифровки разговора
очистка устной речи от повторов слов и фраз
предобработка живых транскриптов в браузере

Ограничения

Модель предназначена только для удаления слов-паразитов и повторов: она сохраняет исправления с заменой слов и не выполняет перефразирование. README отмечает ограничения для коммерческого применения из-за частичного использования DailyDialog с лицензией CC BY-NC-SA.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

stillerman/fdt-disfluency-distilbert-66m-v4

Disfluency deletion tagger for live speech transcripts: tags every whitespace word KEEP / DELETE / KEEP_STRIP_COMMA / KEEP_CAPITALIZE, then a ~15-line reconstruction turns tags into cleaned text. Deletion-only by construction — it cannot rephrase, hallucinate, or alter names and numbers.

Architecture: distilbert-base-cased (65.2M params), v4 core-scope mix: fillers + repetitions only; substitution repairs and 'I mean' are hard KEEPs (never fuses 'red, I mean, blue' into 'red blue'); runs of 'I mean' collapse to one
Val metrics: exact-match 0.9724, DELETE-F1 0.9896
Training data: synthetic disfluency injection over conversational corpora — see stillerman/fdt-disfluency-synthetic
onnx/model_quantized.onnx (int8) is ready for transformers.js (device: "webgpu", dtype: "q8"); runs at ~10–50 ms per utterance in-browser.
⚠️ Trained partly on DailyDialog (CC BY-NC-SA): treat as research artifact, not for commercial deployment as-is.

Trained on a DGX Spark as part of the FluencyAI digital-twin project.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модель выложена для браузера (ONNX / transformers.js).

Класс архитектуры: DistilBertForTokenClassification
Ревизия весов: 5d222a8