/ Модель
Каталог

Характеристики

Контекст
512 токенов
Параметры
124 млн
Лицензия
Apache 2.0
Архитектура
t5 · dense
Опубликована
21 сен 2022

Ссылки

Hugging Face

arxiv-summarization-t5-base-2022-09-21

farleyknight
Языковая модель4 профессии

Дообученная на статьях arXiv модель T5-base для создания кратких изложений научных текстов.

24скачиваний за 30 дней3лайкавеса обновлены24 сен 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

farleyknight/arxiv-summarization-t5-base-2022-09-21 — модель T5-base, дообученная разработчиком farleyknight на наборе ccdv/arxiv-summarization для суммаризации научных статей arXiv. Она принимает текст и генерирует краткое изложение; архитектура — T5ForConditionalGeneration, размер — 123,7 млн параметров, формат весов — PyTorch, контекст — до 512 токенов. В README приведены результаты оценки на тестовом наборе: ROUGE-1 40,68, ROUGE-2 14,72 и ROUGE-L 26,64.

Модель подходит для подготовки кратких изложений научных текстов из области arXiv. Контекст в 512 токенов ограничивает длину обрабатываемого входа. Лицензия — Apache-2.0.

Сценарии применения

  • составление краткого изложения научной статьи
  • быстрый просмотр содержания публикаций arXiv
  • подготовка черновика аннотации научного текста

Ограничения

Контекст ограничен 512 токенами, поэтому длинную статью целиком модель может не обработать за один вход. Приведённые метрики относятся к оценке на наборе arXiv-summarization и не гарантируют качество на других типах текстов.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

arxiv-summarization-t5-base-2022-09-21

This model is a fine-tuned version of t5-base on the ccdv/arxiv-summarization dataset. It achieves the following results on the evaluation set:

  • Loss: 1.8650
  • Rouge1: 40.6781
  • Rouge2: 14.7167
  • Rougel: 26.6375
  • Rougelsum: 35.5959
  • Gen Len: 117.1969

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 1
  • eval_batch_size: 1
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 3.0

Training results

Training LossEpochStepValidation LossRouge1Rouge2RougelRougelsumGen Len
2.32910.05100002.190618.65717.134114.834716.954519.0
2.24540.1200002.154918.50377.190814.714116.823318.9997
2.21070.15300002.101318.76387.32614.943717.07219.0
2.14860.2400002.084518.68797.244114.883516.98319.0
2.1580.25500002.069918.83147.371215.016617.121519.0
2.14760.3600002.042418.97837.413815.112117.277818.9981
2.11640.34700002.034918.92577.464915.033517.181919.0
2.0790.39800002.020818.6437.409614.892716.978618.9994
2.1010.44900002.011319.38817.701215.398117.651619.0
2.05760.491000002.002218.99857.54215.115717.297218.9992
2.09830.541100001.994118.76917.462515.025617.114619.0
2.0530.591200001.985519.0027.560215.149717.296319.0
2.04340.641300001.978619.23857.653315.309417.543918.9994
2.03540.691400001.974619.1847.730715.289717.49118.9992
2.03470.741500001.963919.24087.69315.335717.529719.0
2.02360.791600001.959019.07817.625615.193217.348618.9998
2.01870.841700001.953219.03437.679215.188417.351919.0
1.99390.891800001.948518.82477.500515.024617.148518.9998
1.99610.941900001.950419.06957.655915.213917.381419.0
2.01970.992000001.939919.28217.668515.302917.537418.9988
1.94571.032100001.935019.0537.650215.212317.379319.0
1.95521.082200001.931719.18787.723515.327217.525218.9998
1.97721.132300001.930519.08557.630315.194317.394218.9997
1.91711.182400001.929119.07117.643715.217517.389318.9995
1.93931.232500001.923019.2767.72515.382617.58618.9995
1.92951.282600001.919719.29997.795815.396117.605618.9975
1.97251.332700001.917319.29587.712115.365917.58419.0
1.96681.382800001.912919.0897.684615.239517.387918.9998
1.9411.432900001.913219.21277.733615.31117.474218.9995
1.94271.483000001.910819.2177.759115.33417.5318.9998
1.95211.533100001.904119.12857.673615.262517.45819.0
1.93521.583200001.904119.16567.72315.303517.481818.9991
1.93421.633300001.900419.25737.776615.355817.538219.0
1.96311.683400001.897819.2367.758415.340817.499318.9998
1.89871.723500001.896819.17167.723115.283617.465518.9997
1.94331.773600001.892419.26447.829415.401817.580818.9998
1.91591.823700001.891219.18337.826715.317517.491818.9995
1.95161.873800001.885619.30777.743215.372317.611519.0
1.92181.923900001.888019.26687.823115.383417.570118.9994
1.91591.974000001.886019.22247.790315.348817.499218.9997
1.87412.024100001.885419.25727.74115.340517.535119.0
1.86682.074200001.885419.36587.859315.441817.65618.9995
1.86382.124300001.883119.3057.821815.384317.586118.9997
1.83342.174400001.881719.32697.824915.423117.595818.9994
1.88932.224500001.880319.29497.788515.394717.58518.9997
1.89292.274600001.878319.2917.834615.42817.579718.9997
1.8612.324700001.876619.42847.883215.474617.694618.9997
1.87192.374800001.875119.15257.764115.334817.4718.9998
1.88892.414900001.874219.17437.76815.329217.466518.9998
1.88342.465000001.872319.30697.793515.398717.591318.9998
1.85642.515100001.869519.32177.829215.406317.608119.0
1.87062.565200001.869719.2947.821715.396417.58118.9998
1.8832.615300001.870319.27847.863415.40417.594218.9995
1.86222.665400001.867719.31657.837815.425917.606418.9988
1.87812.715500001.867619.32377.795415.399517.600819.0
1.87932.765600001.868519.21417.760515.334517.526818.9997
1.87952.815700001.867519.26947.808215.399617.583119.0
1.84252.865800001.865919.28867.798715.400517.585918.9997
1.86052.915900001.865019.27787.793415.393117.580918.9997
1.84482.966000001.865519.28847.808715.402517.585619.0

Framework versions

  • Transformers 4.23.0.dev0
  • Pytorch 1.12.0
  • Datasets 2.5.1
  • Tokenizers 0.13.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
T5ForConditionalGeneration
Ревизия весов
e5d31ed

0 моделей

    Создать бенчмарк