/ Модель
Каталог

Характеристики

Параметры
291 млн
Лицензия
Apache 2.0
Архитектура
mt5 · dense
Базовая модель
mt5-base
Опубликована
18 ноя 2023

Ссылки

Hugging Face

mt5-base_V25775

emilstabil
Языковая модель

Дообученная версия многоязычной Google MT5-base для генерации текста по входному тексту и адаптации к NLP-задачам.

7скачиваний за 30 дней0лайковвеса обновлены19 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

emilstabil/mt5-base_V25775 — дообученная модель Google MT5-base с 291,2 млн параметров, реализованная как MT5ForConditionalGeneration и сохранённая в формате PyTorch. Она предназначена для преобразования текста в текст; карточка сообщает о дообучении на наборе данных, название которого не приведено, и оценке на тестовой выборке по метрикам Loss и ROUGE.

Модель может служить основой для генеративных NLP-задач, где из входного текста формируется текстовый ответ или преобразованный текст. Данных о целевой задаче и поддерживаемых языках именно этой версии нет, поэтому назначение специализированного сценария по карточке определить нельзя. Базовая MT5 — многоязычная модель Google для дообучения под прикладные задачи обработки естественного языка.

Модель распространяется по лицензии Apache-2.0. В карточке приведены результаты оценки: Loss 2,1251, ROUGE-1 28,2174, ROUGE-2 10,5032, ROUGE-L 19,8511, ROUGE-Lsum 23,3756 и средняя длина генерации 72,3391 токена; без сведений о датасете и целевой задаче эти показатели не позволяют судить о качестве для конкретного применения.

Сценарии применения

  • генерация текста по текстовому запросу
  • преобразование текста в заданный формат
  • адаптация базовой MT5 к прикладным NLP-задачам

Ограничения

Целевая задача, обучающий набор данных и языки этой версии не описаны; метрики оценки без сведений о датасете и протоколе не показывают пригодность для конкретного сценария.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mt5-base_V25775

This model is a fine-tuned version of google/mt5-base on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 2.1251
  • Rouge1: 28.2174
  • Rouge2: 10.5032
  • Rougel: 19.8511
  • Rougelsum: 23.3756
  • Gen Len: 72.3391

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 3
  • eval_batch_size: 3
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 20

Training results

Training LossEpochStepValidation LossRouge1Rouge2RougelRougelsumGen Len
6.83960.815002.515815.74466.486712.604313.896731.1588
3.17831.6110002.367321.00318.211915.909717.995846.0086
3.00942.4215002.309120.59038.139415.735417.69644.7339
2.87543.2320002.265222.31298.668116.468718.875548.9485
2.76434.0325002.232022.66758.884616.725819.094848.6781
2.74.8430002.219024.14099.436217.719720.251252.8498
2.63735.6535002.210024.5949.429618.018220.639855.0687
2.61826.4540002.201625.07639.43218.111320.675257.4549
2.55527.2645002.176726.614310.135719.00422.037262.6738
2.53198.0650002.166527.034910.380919.347222.587664.7167
2.51458.8755002.170526.63239.95618.999422.11962.3176
2.49239.6860002.149927.005210.035119.288722.455964.2747
2.436710.4865002.141827.013410.125319.261422.464865.2661
2.431211.2970002.150327.16559.950119.176822.396766.6953
2.418612.175002.137026.64229.797119.006522.044465.9571
2.397712.980002.139527.520410.309519.418922.749769.0901
2.359613.7185002.130227.68510.147919.452122.789270.0644
2.395114.5290002.129827.838910.249319.667122.93370.7897
2.343315.3295002.123827.909510.3319.642822.972170.4206
2.378916.13100002.127128.075510.581919.953523.260569.97
2.333116.94105002.124028.136210.465619.819823.185770.9485
2.339517.74110002.124528.145910.480319.80123.246971.1288
2.323818.55115002.127328.215610.443719.85823.345773.485
2.318119.35120002.125128.217410.503219.851123.375672.3391

Framework versions

  • Transformers 4.32.1
  • Pytorch 2.1.0
  • Datasets 2.12.0
  • Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
MT5ForConditionalGeneration
Ревизия весов
e215a9a

0 моделей

    Создать бенчмарк