Характеристики

Контекст: 1 024 токена
Параметры: 253 млн
Лицензия: Apache 2.0
Архитектура: bart · dense

Ссылки

Hugging Face

distilbart-xsum-12-1

sshleifer

СуммаризацияТекст → текст3 профессии

Англоязычная компактная модель на базе BART для создания кратких резюме текста, включая суммаризацию в стиле XSum.

1 093скачиваний за 30 дней7лайковвеса обновлены14 июн 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

sshleifer/distilbart-xsum-12-1 — англоязычная модель суммаризации на архитектуре BART, доступная в форматах PyTorch и Flax. Она предназначена для создания краткого резюме по входному тексту, в частности в сценариях суммаризации XSum. Модель содержит 252,8 млн параметров и рассчитана на контекст до 1024 токенов.

В README для этого варианта указаны результаты ROUGE-2 18,31 и ROUGE-L 33,37, время инференса 90 мс и ускорение в 2,54 раза относительно исходного сравнения. Чекпойнт загружается через BartForConditionalGeneration. Лицензия — Apache-2.0. Поддержка русского языка не заявлена.

Сценарии применения

составление краткого резюме англоязычной статьи
суммаризация новостных материалов
создание краткого пересказа текста в стиле XSum

Ограничения

Модель ориентирована на английский язык и имеет контекст до 1024 токенов. Для варианта 12-1 в README приведены более низкие показатели ROUGE, чем для перечисленных вариантов 6-6 и 12-3.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Usage

This checkpoint should be loaded into BartForConditionalGeneration.from_pretrained. See the BART docs for more information.

Metrics for DistilBART models

Model Name	MM Params	Inference Time (MS)	Speedup	Rouge 2	Rouge-L
distilbart-xsum-12-1	222	90	2.54	18.31	33.37
distilbart-xsum-6-6	230	132	1.73	20.92	35.73
distilbart-xsum-12-3	255	106	2.16	21.37	36.39
distilbart-xsum-9-6	268	136	1.68	21.72	36.61
bart-large-xsum (baseline)	406	229	1	21.85	36.50
distilbart-xsum-12-6	306	137	1.68	22.12	36.99
bart-large-cnn (baseline)	406	381	1	21.06	30.63
distilbart-12-3-cnn	255	214	1.78	20.57	30.00
distilbart-12-6-cnn	306	307	1.24	21.26	30.59
distilbart-6-6-cnn	230	182	2.09	20.17	29.70

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: BartForConditionalGeneration
Ревизия весов: e85cfe1