/ Модель

Характеристики

Контекст
1 024 токена
Параметры
253 млн
Лицензия
MIT
Архитектура
bart · dense
Опубликована
2 мар 2022

bart-large-cnn-samsum

СуммаризацияТекст → текст5 профессий

Англоязычная модель BART, дообученная на SAMSum для создания кратких пересказов диалогов и переписок.

78 863скачиваний за 30 дней268лайковвеса обновлены23 дек 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

philschmid/bart-large-cnn-samsum — англоязычная модель суммаризации на базе архитектуры BART, дообученная на датасете SAMSum. Она предназначена для создания кратких пересказов диалогов и сообщений; обучена с использованием Amazon SageMaker и контейнера Hugging Face Deep Learning. Модель содержит 252,8 млн параметров, принимает текст с контекстом до 1024 токенов и выдаёт текстовое резюме. В README приведены оценки ROUGE: ROUGE-1 — 42,621, ROUGE-2 — 21,9825, ROUGE-L — 33,034.

Модель подходит для суммирования англоязычных переписок и диалогов. Автор указывает, что более новая версия philschmid/flan-t5-base-samsum превосходит её по ROUGE-1 на 6 пунктов и рекомендует использовать её вместо BART-варианта. Модель распространяется по лицензии MIT.

Сценарии применения

  • краткое изложение англоязычных переписок
  • суммирование диалогов поддержки
  • создание резюме бесед и встреч
  • выделение сути из длинных текстовых разговоров

Ограничения

Модель рассчитана на английский язык и ограничена контекстом в 1024 токена. Автор отмечает, что более новая модель philschmid/flan-t5-base-samsum показывает результат ROUGE-1 выше на 6 пунктов.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bart-large-cnn-samsum

If you want to use the model you should try a newer fine-tuned FLAN-T5 version philschmid/flan-t5-base-samsum out socring the BART version with +6 on ROGUE1 achieving 47.24.

TRY philschmid/flan-t5-base-samsum

This model was trained using Amazon SageMaker and the new Hugging Face Deep Learning container.

For more information look at:

Hyperparameters

{
    "dataset_name": "samsum",
    "do_eval": true,
    "do_predict": true,
    "do_train": true,
    "fp16": true,
    "learning_rate": 5e-05,
    "model_name_or_path": "facebook/bart-large-cnn",
    "num_train_epochs": 3,
    "output_dir": "/opt/ml/model",
    "per_device_eval_batch_size": 4,
    "per_device_train_batch_size": 4,
    "predict_with_generate": true,
    "seed": 7
}

Usage

from transformers import pipeline
summarizer = pipeline("summarization", model="philschmid/bart-large-cnn-samsum")

conversation = '''Jeff: Can I train a 🤗 Transformers model on Amazon SageMaker? 
Philipp: Sure you can use the new Hugging Face Deep Learning Container. 
Jeff: ok.
Jeff: and how can I get started? 
Jeff: where can I find documentation? 
Philipp: ok, ok you can find everything here. https://huggingface.co/blog/the-partnership-amazon-sagemaker-and-hugging-face                                           
'''
summarizer(conversation)

Results

keyvalue
eval_rouge142.621
eval_rouge221.9825
eval_rougeL33.034
eval_rougeLsum39.6783
test_rouge141.3174
test_rouge220.8716
test_rougeL32.1337
test_rougeLsum38.4149

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
BartForConditionalGeneration
Ревизия весов
e49b3d6

0 моделей