Характеристики

Контекст: 1 024 токена
Параметры: 253 млн
Лицензия: Apache 2.0
Архитектура: bart · dense

Ссылки

Hugging Face

distilbart-xsum-12-6

sshleifer

СуммаризацияТекст → текст3 профессии

Англоязычная модель BART для создания кратких пересказов текста с контекстом до 1024 токенов.

36 148скачиваний за 30 дней7лайковвеса обновлены14 июн 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

sshleifer/distilbart-xsum-12-6 — англоязычная модель суммаризации семейства BART, предназначенная для создания кратких изложений текста. Она построена на архитектуре BartForConditionalGeneration и содержит 252,8 млн параметров; размер входного контекста — до 1024 токенов. Модель обучалась для задачи XSum, также в метаданных указан датасет CNN/DailyMail.

В README приведены метрики нескольких вариантов DistilBART на скорости вывода и ROUGE, но результатов именно для варианта 12-6 в показанной части таблицы нет. Модель подходит для автоматического составления кратких пересказов англоязычных текстов. Лицензия — Apache-2.0.

Сценарии применения

краткий пересказ англоязычной статьи
автоматическое резюмирование новостной публикации
составление краткого изложения длинного текста

Ограничения

Контекст ограничен 1024 токенами. В доступной части README нет метрик именно для варианта 12-6.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Usage

This checkpoint should be loaded into BartForConditionalGeneration.from_pretrained. See the BART docs for more information.

Metrics for DistilBART models

Model Name	MM Params	Inference Time (MS)	Speedup	Rouge 2	Rouge-L
distilbart-xsum-12-1	222	90	2.54	18.31	33.37
distilbart-xsum-6-6	230	132	1.73	20.92	35.73
distilbart-xsum-12-3	255	106	2.16	21.37	36.39
distilbart-xsum-9-6	268	136	1.68	21.72	36.61
bart-large-xsum (baseline)	406	229	1	21.85	36.50
distilbart-xsum-12-6	306	137	1.68	22.12	36.99
bart-large-cnn (baseline)	406	381	1	21.06	30.63
distilbart-12-3-cnn	255	214	1.78	20.57	30.00
distilbart-12-6-cnn	306	307	1.24	21.26	30.59
distilbart-6-6-cnn	230	182	2.09	20.17	29.70

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: BartForConditionalGeneration
Ревизия весов: 5b2e376