/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
22 мар 2022

bert-punct-restoration-da

Разметка токеновТекст → label3 профессии

BERT-модель для восстановления пунктуации в датском тексте с классификацией токенов.

2 090скачиваний за 30 дней6лайковвеса обновлены23 мар 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Alvenir/bert-punct-restoration-da — модель на архитектуре BERT для восстановления пунктуации в датских текстах. Она классифицирует токены в последовательности, используя подход, похожий на обучение моделей распознавания именованных сущностей. Для запуска авторы предлагают пакет punctfix, построенный на TokenClassificationPipeline из Hugging Face Transformers.

Модель содержит 137,8 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для токенов, используемые для восстановления пунктуации. Она предназначена для обработки датского языка. Доступна на условиях лицензии Apache-2.0. Сведения о составе обучающих данных и результатах оценки в карточке не приведены.

Сценарии применения

  • расстановка пунктуации в датских текстах без знаков препинания
  • восстановление пунктуации в расшифровках датской речи
  • постобработка датских текстов после распознавания речи

Ограничения

Карточка не содержит сведений об обучающих данных и результатах оценки качества. Для инференса авторы указывают на необходимость дополнительного кода и предлагают пакет punctfix.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Bert Punctuation Restoration Danish

This model performs the punctuation restoration task in Danish. The method used is sequence classification similar to how NER models are trained.

Model description

TODO

How to use

The model requires some additional inference code, hence we created an awesome little pip package for inference. The inference code is based on the TokenClassificationPipeline pipeline from huggingface.

First, install the little package by running

pip install punctfix

Then restoration is as simple as the following snippet:

>>> from punctfix import PunctFixer
>>> fixer = PunctFixer(language="da")

>>> example_text = "mit navn det er rasmus og jeg kommer fra firmaet alvenir det er mig som har trænet denne lækre model"
>>> print(fixer.punctuate(example_text))
'Mit navn det er Rasmus og jeg kommer fra firmaet Alvenir. Det er mig som har trænet denne lækre model.'

>>> example_text = "en dag bliver vi sku glade for at vi nu kan sætte punktummer og kommaer i en sætning det fungerer da meget godt ikke"
>>> print(fixer.punctuate(example_text)) 
'En dag bliver vi sku glade for, at vi nu kan sætte punktummer og kommaer i en sætning. Det fungerer da meget godt, ikke?'

Training data

To Do

Training procedure

To Do

Preprocessing

TODO

Evaluation results

TODO

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
922d302

0 моделей