This is the base version (274MB) of the summarization model for the Spanish language presented in the SEMANTiCS 2022 conference (paper entitled "esT5s: A Spanish Model for Text Summarization"). This model was created in 17 hours (using a single GPU, specifically an NVIDIA v100 16GB) from the multilingual T5 model using the XL-Sum dataset. It achieves a ROUGE-1 value of 25.30 (mT5 achieves 26.21 after a 96h training using 4 GPUs), ROUGE-2 8.21 (mT5 achieves 8.74), and ROUGE-l 20.29 (mT5 achieves 21.06).
Характеристики
- Параметры
- 119 млн
- Лицензия
- CC BY-NC 4.0
- Архитектура
- mt5 · dense
- Опубликована
- 15 сен 2022
Ссылки
esT5s-base
Языковая модель3 профессии
esT5s-base — дообученная на XL-Sum модель mT5 для автоматической суммаризации текстов на испанском языке.
24скачиваний за 30 дней0лайковвеса обновлены21 фев 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
oeg/esT5s-base — базовая версия модели для суммаризации текстов на испанском языке, представленная на конференции SEMANTiCS 2022 в работе «esT5s: A Spanish Model for Text Summarization». Модель создана дообучением многоязычной mT5 на наборе XL-Sum; её архитектура — MT5ForConditionalGeneration, размер — 118,8 млн параметров.
Модель предназначена для автоматического составления краткого содержания испанских текстов. В опубликованном сравнении она достигла ROUGE-1 25,30, ROUGE-2 8,21 и ROUGE-L 20,29; авторы приводят для mT5 соответственно 26,21, 8,74 и 21,06 после более длительного обучения на нескольких GPU. Репозиторий содержит веса PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Сценарии применения
- составление краткого содержания испанских статей
- суммаризация испанских новостных материалов
- подготовка кратких аннотаций испанских документов
Ограничения
В опубликованном сравнении показатели ROUGE модели немного ниже приведённых результатов mT5. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.
- Класс архитектуры
- MT5ForConditionalGeneration
- Ревизия весов
- 0923673