Характеристики

Контекст: 1 024 токена
Параметры: 95,2 млн
Лицензия: Apache 2.0
Архитектура: bart · dense
Базовая модель: SummarEaseFocus
Опубликована: 17 июл 2024

Ссылки

Hugging Face

SummarEaseFocusV2

notBanana

Языковая модель

Дообученная BART-модель для суммаризации текста, рассчитанная на контекст до 1024 токенов.

8скачиваний за 30 дней0лайковвеса обновлены17 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SummarEaseFocusV2 — дообученная на неизвестном наборе данных модель notBanana, основанная на notBanana/SummarEaseFocus. Это encoder-decoder модель семейства BART с 95,2 млн параметров, предназначенная для генерации текста из текста; судя по названию и метрикам оценки ROUGE, её предполагаемая задача — суммаризация. Модель принимает текст с контекстом до 1024 токенов и выдаёт текст. Данные об используемых языках и целевых сценариях не приведены.

Для Apache-2.0 лицензии разрешены использование, изменение и распространение на условиях этой лицензии. В README приведены результаты оценки: loss 1,8433, ROUGE-1 0,1827, ROUGE-2 0,0704, ROUGE-L 0,1516 и ROUGE-Lsum 0,1494. Эти значения дают ориентир для указанного набора оценки, но README не описывает его состав и не позволяет судить о качестве на других данных.

Сценарии применения

составление краткого пересказа текста
суммаризация документов в пределах контекста модели
создание кратких текстовых выжимок

Ограничения

Датасет дообучения и набор оценки не описаны, поэтому приведённые метрики нельзя надёжно переносить на другие данные. Поддерживаемые языки и подробные ограничения применения в карточке не указаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SummarEaseFocusV2

This model is a fine-tuned version of notBanana/SummarEaseFocus on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 1.8433
Rouge1: 0.1827
Rouge2: 0.0704
Rougel: 0.1516
Rougelsum: 0.1494
Gen Len: 20.0

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 4
eval_batch_size: 4
seed: 42
gradient_accumulation_steps: 16
total_train_batch_size: 64
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 4
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Rouge1	Rouge2	Rougel	Rougelsum	Gen Len
No log	1.0	1	2.0431	0.1766	0.0679	0.1479	0.1457	20.0
No log	2.0	2	1.9573	0.1766	0.0679	0.1479	0.1457	20.0
No log	3.0	3	1.8788	0.1766	0.0679	0.1479	0.1457	20.0
No log	4.0	4	1.8433	0.1827	0.0704	0.1516	0.1494	20.0

Framework versions

Transformers 4.42.4
Pytorch 2.3.1+cu121
Datasets 2.20.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: BartForConditionalGeneration
Ревизия весов: ed0c9b4