Характеристики
- Контекст
- 512 токенов
- Параметры
- 12,6 млн
- Архитектура
- bert · dense
- Опубликована
- 4 июн 2022
Ссылки
wwdd_tiny
Компактная BERT-модель для восстановления базовой пунктуации в последовательностях токенов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
kktoto/wwdd_tiny — компактная модель token classification, опубликованная пользователем kktoto на Hugging Face. Она построена на архитектуре BERT и предназначена для токен-классификации в задачах восстановления пунктуации в тексте.
Модель содержит около 12,6 млн параметров, использует 4 скрытых слоя, размер скрытого представления 312, 12 attention-heads и поддерживает контекст до 512 токенов. Выходные классы включают NORM, COMMA, PERIOD, QUEST_MARK и EXCLAMATION, то есть обычный текст без знаков препинания преобразуется в последовательность токенов с предсказанными знаками препинания.
Модель подходит для автоматической расстановки запятых, точек, вопросительных и восклицательных знаков, включая сценарии постобработки распознанной речи. Ограничения связаны с узким набором классов пунктуации, лимитом контекста 512 токенов и отсутствием подробной карточки модели с описанием обучающего набора, метрик и условий применения.
Сценарии применения
- автоматическая расстановка запятых в тексте
- восстановление точек в расшифровках речи
- добавление вопросительных знаков
- добавление восклицательных знаков
- постобработка результатов ASR
Ограничения
Модель предсказывает только пять классов, связанных с базовой пунктуацией, и работает с контекстом до 512 токенов. Подробные сведения об обучающих данных, метриках качества и лицензии в доступных источниках отсутствуют.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · token-classification
Подбираем GPU…
- Класс архитектуры
- BertForTokenClassification
- Ревизия весов
- 6a56d1f