/ Модель

Характеристики

Контекст
512 токенов
Параметры
205 млн
Лицензия
CC BY 4.0
Архитектура
bert · dense
Опубликована
2 мар 2022

marathi-bert

Заполнение пропусковТекст → текст3 профессии

Маратхиязычная модель BERT для предсказания пропущенных слов и контекстного анализа текста.

103скачиваний за 30 дней0лайковвеса обновлены24 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MahaBERT — модель BERT для языка маратхи, разработанная L3Cube-Pune. Она создана на основе bert-base-multilingual-cased и дообучена на корпусе L3Cube-MahaCorpus и других общедоступных монолингвальных корпусах маратхи. Модель предназначена для задач заполнения пропусков в тексте и анализа контекста на маратхи.

Это плотная трансформерная модель с архитектурой BertForMaskedLM, примерно 205,1 млн параметров и контекстом до 512 токенов. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — CC BY 4.0; при использовании требуется соблюдать её условия атрибуции.

Сценарии применения

  • подстановка пропущенного слова в предложении на маратхи
  • проверка языковых гипотез о контексте фразы на маратхи
  • создание признаков для NLP-систем на маратхи

Ограничения

Контекст ограничен 512 токенами. Модель ориентирована на маратхи; README указывает, что доступна более новая версия.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MahaBERT

New version of this model is available here: https://huggingface.co/l3cube-pune/marathi-bert-v2

MahaBERT is a Marathi BERT model. It is a multilingual BERT (bert-base-multilingual-cased) model fine-tuned on L3Cube-MahaCorpus and other publicly available Marathi monolingual datasets. [dataset link] (https://github.com/l3cube-pune/MarathiNLP)

More details on the dataset, models, and baseline results can be found in our [paper] (https://arxiv.org/abs/2202.01159)

@InProceedings{joshi:2022:WILDRE6,
  author    = {Joshi, Raviraj},
  title     = {L3Cube-MahaCorpus and MahaBERT: Marathi Monolingual Corpus, Marathi BERT Language Models, and Resources},
  booktitle      = {Proceedings of The WILDRE-6 Workshop within the 13th Language Resources and Evaluation Conference},
  month          = {June},
  year           = {2022},
  address        = {Marseille, France},
  publisher      = {European Language Resources Association},
  pages     = {97--101}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
f3274b8

0 моделей