/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
Своя лицензия
Архитектура
electra · dense
Базовая модель
banglabert
Библиотека
transformers
Опубликована
4 сен 2026

bangla-punctuation-v2

Разметка токеновТекст → label5 профессий

Модель на базе BanglaBERT восстанавливает знаки препинания в бенгальском тексте, включая расшифровки речи.

82скачиваний за 30 дней0лайковвеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Bangla Punctuation Restoration v2 — модель Манжары Хасин Аль Питома (HasinManjare) для восстановления знаков препинания в бенгальском тексте. Она дообучена на BanglaBERT — дискриминаторе ELECTRA для бенгальского языка — и присваивает токенам метки пунктуации; среди меток указаны отсутствие знака, запятая и бенгальская точка «।». Размер модели — 137,8 млн параметров, максимальный контекст — 512 токенов.

Модель предназначена для пунктуации текста без знаков, в том числе расшифровок автоматического распознавания речи. README сообщает оценку macro F1 около 0,570 для пунктуации и 0,623 в целом на отложенной тестовой выборке; качество заметно различается между классами. Для производственного применения рекомендуется оценить её на данных, характерных для целевой системы распознавания речи. Модель распространяется под лицензией с меткой «other»; конкретные условия следует сверить на странице репозитория.

Сценарии применения

  • расстановка пунктуации в бенгальском тексте без знаков
  • постобработка бенгальских расшифровок ASR
  • восстановление запятых и бенгальских точек в транскриптах
  • пакетная пунктуация бенгальских текстов

Ограничения

На отложенной исходной тестовой выборке macro F1 для пунктуации составил около 0,570; качество существенно различается по классам знаков. Перед производственным использованием следует проверить модель на данных целевой ASR-системы.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Bangla Punctuation Restoration v2

An eight-class Bengali punctuation-restoration model fine-tuned from csebuetnlp/banglabert. It is intended for restoring punctuation in unpunctuated Bengali text, including ASR transcripts.

Labels

IDLabel
0O (no punctuation)
1,
2।
3?
4!
5;
6:
7…

Evaluation

On the held-out original test split, punctuation macro F1 was approximately 0.570 and overall macro F1 was approximately 0.623. Performance varies substantially by punctuation class; evaluate the model on data representative of the intended ASR system before production use.

Usage

Recommended: Python package

pip install bangla-punctuation
from bangla_punctuation import BanglaPunctuator

punctuator = BanglaPunctuator(model="base", device="auto")
text = punctuator.restore("আজ আকাশ খুব সুন্দর তুমি কি বাইরে যাবে")
print(text)

The package also supports batch processing with restore_batch(). See bangla-punctuation on PyPI for the complete Python and ASR integration documentation.

Direct Transformers loading

from transformers import AutoModelForTokenClassification, AutoTokenizer

model_id = "HasinManjare/bangla-punctuation-v2"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForTokenClassification.from_pretrained(model_id)

Token-level predictions must be converted back into text using word/subword alignment and the label mapping stored in config.json.

Model developer

Developed and fine-tuned by Manjara Hasin Al Pitom (HasinManjare).

Attribution

The encoder is BanglaBERT, introduced by Bhattacharjee et al. (NAACL 2022):

@inproceedings{bhattacharjee-etal-2022-banglabert,
  title = {BanglaBERT: Language Model Pretraining and Benchmarks for Low-Resource Language Understanding Evaluation in Bangla},
  author = {Bhattacharjee, Abhik and Hasan, Tahmid and Ahmad, Wasi and Mubasshir, Kazi Samin and Islam, Md Saiful and Iqbal, Anindya and Rahman, M. Sohel and Shahriyar, Rifat},
  booktitle = {Findings of NAACL},
  year = {2022},
  url = {https://aclanthology.org/2022.findings-naacl.98/}
}

Citing this model

If you use this fine-tuned punctuation-restoration model, please cite both this model and the upstream BanglaBERT work:

@misc{pitom2026banglapunctuation,
  author = {Manjara Hasin Al Pitom},
  title = {Bangla Punctuation Restoration v2},
  year = {2026},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/HasinManjare/bangla-punctuation-v2}}
}

License and limitations

The upstream csebuetnlp/banglabert release does not currently declare an explicit license in its Hugging Face model card or GitHub repository. Therefore this derived checkpoint is marked license: other; no broader rights to the upstream weights or training data are asserted here. Confirm the applicable permissions with the upstream authors before commercial redistribution or use.

This model may produce incorrect, excessive, or missing punctuation. It should not be treated as a grammatical authority, and performance may degrade on noisy ASR output, dialects, code-switching, or domains unlike its training data.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
ElectraForTokenClassification
Ревизия весов
a94378e

0 моделей