Характеристики

Контекст: 514 токенов
Параметры: 79,7 млн
Лицензия: CC BY 4.0
Архитектура: roberta · dense
Библиотека: transformers
Опубликована: 27 июн 2024

Ссылки

Hugging Face arXiv 1910.09700

roberta-vedic-sanskrit-iso-base

Заполнение пропусковТекст → текст

RoBERTa-модель для работы с ведийским санскритом в латинской транслитерации ISO 15919, предназначенная для предсказания замаскированных токенов и дальнейшего дообучения.

177скачиваний за 30 дней0лайковвеса обновлены4 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель yzk/roberta-vedic-sanskrit-iso-base разработана Юдзуки Цукагоши. Это языковая модель RoBERTa с 79,7 млн параметров, обученная предсказывать замаскированные токены в текстах на ведийском санскрите. Она принимает санскритский текст, транслитерированный латиницей по ISO 15919, и предназначена для дальнейшего дообучения под конкретные задачи; для прямого применения карточка рекомендует сначала провести fine-tuning. Контекст модели составляет 514 токенов.

Модель использует архитектуру RobertaForMaskedLM и опубликована в формате safetensors. Её можно применять как основу для экспериментов с ведийским санскритом и адаптировать для восстановления пропущенных слов или последующей разработки профильных NLP-систем. Карточка не сообщает сведения о тренировочном корпусе, метриках и результатах оценки, поэтому качество и переносимость модели на разные тексты не охарактеризованы. Лицензия — CC-BY-4.0.

Сценарии применения

восстановление пропущенных слов в ведийском санскрите
дообучение языковой модели на текстах ведийского санскрита
создание NLP-инструментов для санскритских текстов в транслитерации ISO 15919

Ограничения

Модель требует дообучения для практического применения; сведения о тренировочных данных и результатах оценки в карточке отсутствуют.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

Developed by: Yuzuki Tsukagoshi

Model type: RoBERTa, MLM
Language(s) (NLP): Vedic Sanskrit
License: CC-BY-4.0

Model Sources

Repository: GitHub (will be public)
Paper [optional]: (Prepairing)

Uses

This model is for Vedic Sanskrit. Supported texts are transliterated into Latin characters according to ISO 15919

Direct Use

The model needs fine-tuning.

Recommendations

Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.

Training Details

Training Data

[More Information Needed]

Training Procedure

Preprocessing [optional]

[More Information Needed]

Training Hyperparameters

Training regime: [More Information Needed]

Speeds, Sizes, Times [optional]

[More Information Needed]

Evaluation

Testing Data, Factors & Metrics

Testing Data

[More Information Needed]

Factors

[More Information Needed]

Metrics

[More Information Needed]

Results

[More Information Needed]

Summary

Citation [optional]

BibTeX:

[More Information Needed]

APA:

[More Information Needed]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForMaskedLM
Ревизия весов: 5ce0659