/ Модель

Характеристики

Контекст
32 токена
Параметры
133 млн
Лицензия
CC BY-NC 4.0
Архитектура
bert · dense
Опубликована
15 июл 2023

bert-base-arapoembert

Заполнение пропусковТекст → текст3 профессии

AraPoemBERT — BERT-модель для предсказания пропущенных фрагментов арабской поэзии.

108 тыс.скачиваний за 30 дней2лайкавеса обновлены23 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AraPoemBERT — модель семейства BERT, разработанная для работы с арабской поэзией. Она предварительно обучена на корпусе, содержащем более двух миллионов стихотворных строк, и предназначена для предсказания скрытых фрагментов текста в задаче fill-mask. Модель содержит 132,8 млн параметров, использует архитектуру BertForMaskedLM и работает с контекстом длиной до 32 токенов.

Модель подходит для восстановления пропусков в арабских стихах и анализа языковых закономерностей поэтического текста. Репозиторий содержит код и результаты. Доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Сценарии применения

  • восстановление пропущенных слов в арабских стихах
  • подстановка вариантов продолжения стихотворной строки
  • исследование языковых закономерностей арабской поэзии

Ограничения

Контекст ограничен 32 токенами, поэтому модель может не учитывать более длинные стихотворные фрагменты. Лицензия CC BY-NC 4.0 не допускает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AraPoemBERT is the first pre-trained large language model focused exclusively on Arabic poetry. The dataset used in pretraining the model contains more than 2 million verses. The code files along with the results are available on repo.

BibTex

If you use SaudiBERT model in your scientific publication, or if you find the resources in this repository useful, please cite our paper as follows (citation details to be updated):

@article{qarah2024arapoembert,
  title={AraPoemBERT: A Pretrained Language Model for Arabic Poetry Analysis},
  author={Qarah, Faisal},
  journal={arXiv preprint arXiv:2403.12392},
  year={2024}
}


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
13da1f7

0 моделей