/ Модель

Характеристики

Контекст
512 токенов
Параметры
129 млн
Лицензия
Apache 2.0
Архитектура
roberta · dense
Опубликована
23 июн 2024

vedicberta-base

Заполнение пропусковТекст → текст3 профессии

Предобученная RoBERTa-модель для заполнения пропусков в санскритских текстах в транслитерации IAST.

108скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VedicBERTa-base — предобученный энкодерный трансформер семейства RoBERTa от mahesh27, обученный на корпусе GRETIL в формате IAST с задачей masked language modeling. Модель подходит для заполнения пропусков и получения контекстных представлений текста на основе санскритских материалов.

Веса содержат 128,6 млн параметров, поддерживают контекст до 512 токенов и опубликованы в формате PyTorch. Карточка указывает лицензию Apache-2.0. Модель обучалась на данных в транслитерации IAST; сведения о качестве на других языках и задачах не приведены.

Сценарии применения

  • Заполнение замаскированных слов в санскритских текстах IAST
  • Получение контекстных представлений санскритских фрагментов
  • Исследование языковых закономерностей на корпусе GRETIL

Ограничения

Обучение проводилось на данных GRETIL в формате IAST; надежность для других письменностей, языков и задач не подтверждена. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Pre-trained encoder transformer on GRETIL data (IAST format) on Masked Language Modeling

Citation:

@inproceedings{mahesh-bhattacharya-2023-creation,
    title = "Creation of a Digital Rig {V}edic Index (Anukramani) for Computational Linguistic Tasks",
    author = "Akavarapu, V.S.D.S.Mahesh  and
      Bhattacharya, Arnab",
    editor = "Kulkarni, Amba  and
      Hellwig, Oliver",
    booktitle = "Proceedings of the Computational {S}anskrit {\&} Digital Humanities: Selected papers presented at the 18th World {S}anskrit Conference",
    month = jan,
    year = "2023",
    address = "Canberra, Australia (Online mode)",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2023.wsc-csdh.6/",
    pages = "89--96"
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForMaskedLM
Ревизия весов
6b69768

0 моделей