/ Модель

Характеристики

Контекст
512 токенов
Параметры
136 млн
Лицензия
Apache 2.0
Архитектура
albert · dense

albert-fa-zwnj-base-v2

Заполнение пропусковТекст → текст3 профессии

ALBERT-Persian — персидская языковая модель для предсказания пропущенных слов и токенов в тексте.

750скачиваний за 30 дней5лайковвеса обновлены16 мар 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ALBERT-Persian — языковая модель семейства ALBERT, разработанная HooshvareLab для представления персидского языка. Это компактная по замыслу архитектура на основе BERT, обученная в режиме самоконтролируемого обучения; в репозитории заявлено 136,3 млн параметров и поддержка контекста до 512 токенов. Модель предназначена для подстановки пропущенных токенов в персидском тексте и может использоваться как основа для языкового анализа и последующей адаптации.

Модель принимает текст и предсказывает замаскированные фрагменты. Доступны веса PyTorch и TensorFlow. Поддерживаемый язык — персидский. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.

Сценарии применения

  • восстановление пропущенных слов в персидском тексте
  • подсказки при редактировании персидского текста
  • оценка вероятных замен замаскированных токенов
  • подготовка языковых признаков для персидских NLP-систем

Ограничения

Модель предназначена для персидского языка и заполнения маскированных токенов; README не заявляет другие задачи или языки. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ALBERT-Persian

A Lite BERT for Self-supervised Learning of Language Representations for the Persian Language

میتونی بهش بگی برت_کوچولو

Call it little_berty

BibTeX entry and citation info

Please cite in your publication as the following:

@misc{ALBERTPersian,
  author = {Hooshvare Team},
  title = {ALBERT-Persian: A Lite BERT for Self-supervised Learning of Language Representations for the Persian Language},
  year = {2021},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/m3hrdadfi/albert-persian}},
}

Questions?

Post a Github issue on the ALBERT-Persian repo.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
AlbertForMaskedLM
Ревизия весов
2315c0d

0 моделей