/ Модель

Характеристики

Контекст
512 токенов
Параметры
136 млн
Лицензия
CC BY 4.0
Архитектура
bert · dense
Опубликована
11 июл 2022

bert-restore-punctuation-ptbr

Разметка токеновТекст → label6 профессий

Дообученная BERT-модель восстанавливает пунктуацию и заглавные буквы в португальских текстах.

181скачиваний за 30 дней14лайковвеса обновлены17 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель Maicon Domingues — дообученная версия bert-base-portuguese-cased для восстановления пунктуации в текстах на португальском языке. Она предсказывает знаки препинания и восстановление заглавных букв, в том числе точки, запятые, вопросительные и восклицательные знаки, дефисы, двоеточия, точки с запятой и апострофы.

Модель предназначена для восстановления пунктуации в обычных португалоязычных текстах, а также может служить основой для дальнейшего дообучения на текстах конкретной предметной области. Архитектура — BERT для классификации токенов, размер — 136,1 млн параметров, максимальная длина контекста — 512 токенов. В карточке указано обучение на WikiLingua и приведены метрики точности для отдельных классов.

Модель принимает текст и выдаёт текст с восстановленной пунктуацией и заглавными буквами. Лицензия — CC BY 4.0.

Сценарии применения

  • восстановление пунктуации в тексте без знаков препинания
  • расстановка запятых и точек в португальской речи после распознавания
  • восстановление заглавных букв в португальских предложениях
  • подготовка расшифровок и заметок к чтению
  • дообучение восстановления пунктуации для специализированных текстов

Ограничения

Контекст ограничен 512 токенами; при обработке более длинного текста могут потребоваться разбиение и последующая сборка фрагментов. Карточка приводит метрики лишь для части классов, поэтому качество на других типах текста и знаках из этих данных оценить нельзя.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🤗 bert-restore-punctuation-ptbr

This is a bert-base-portuguese-cased model finetuned for punctuation restoration on WikiLingua.

This model is intended for direct use as a punctuation restoration model for the general Portuguese language. Alternatively, you can use this for further fine-tuning on domain-specific texts for punctuation restoration tasks.

Model restores the following punctuations -- [! ? . , - : ; ' ]

The model also restores the upper-casing of words.


🤷 Usage

🇧🇷 easy-to-use package to restore punctuation of portuguese texts.

Below is a quick way to use the template.

  1. First, install the package.
pip install respunct
  1. Sample python code.
from respunct import RestorePuncts

model = RestorePuncts()

model.restore_puncts("""
henrique foi no lago pescar com o pedro mais tarde foram para a casa do pedro fritar os peixes""")
# output:
# Henrique foi no lago pescar com o Pedro. Mais tarde, foram para a casa do Pedro fritar os peixes.


🎯 Accuracy

labelprecisionrecallf1-scoresupport
Upper - OU0.890.910.9069376
None - OO0.990.980.98857659
Full stop/period - .O0.860.930.8960410
Comma - ,O0.850.830.8448608
Upper + Comma - ,U0.730.760.753521
Question - ?O0.680.780.731168
Upper + period - .U0.660.720.691884
Upper + colon - :U0.590.630.61352
Colon - :O0.700.530.602420
Question Mark - ?U0.500.560.5336
Upper + Exclam. - !U0.380.320.3438
Exclamation Mark - !O0.300.050.08783
Semicolon - ;O0.350.040.081557
Apostrophe - 'O0.000.000.003
Hyphen - -O0.000.000.003
accuracy0.961047818
macro avg0.570.540.541047818
weighted avg0.960.960.961047818

🤙 Contact

Maicon Domingues for questions, feedback and/or requests for similar models.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
ad9b770

0 моделей