/ Модель

Характеристики

Контекст
1 024 токена
Параметры
253 млн
Лицензия
Apache 2.0
Архитектура
bart · dense
Опубликована
28 мар 2023

bart-large-scientific-lay-summarisation

СуммаризацияТекст → текст4 профессии

BART-модель для подготовки кратких научных пересказов, понятных неспециалистам.

29скачиваний за 30 дней3лайкавеса обновлены28 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель для краткого пересказа научных текстов простым языком. Она основана на архитектуре BART и дообучена для задачи scientific lay summarisation; в README показано применение к научной статье о влиянии устойчивого питания на окружающую среду и здоровье. Модель разработана автором репозитория sambydlo и обучалась с использованием Amazon SageMaker и контейнера Hugging Face Deep Learning.

Модель содержит около 252,8 млн параметров, работает с текстом на английском языке и имеет контекст до 1024 токенов. Для запуска в README приведён пример с Transformers pipeline для суммаризации. В карточке приведены метрики ROUGE на оценочном наборе, но они не гарантируют качество на иных темах и типах текстов. Лицензия — Apache-2.0.

Сценарии применения

  • краткий пересказ научных статей простым языком
  • объяснение выводов научного исследования широкой аудитории
  • суммаризация публикаций о питании и устойчивом развитии

Ограничения

Контекст ограничен 1024 токенами; метрики ROUGE из карточки не гарантируют качество на текстах за пределами оценочного набора. Поддержка других языков в предоставленных данных не заявлена.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bart-large-tomasg25/scientific_lay_summarisation

This model was trained using Amazon SageMaker and the new Hugging Face Deep Learning container. For more information look at:

Hyperparameters

{
"cache_dir": "opt/ml/input",
"dataset_config_name": "plos",
"dataset_name": "tomasg25/scientific_lay_summarisation",
"do_eval": true,
"do_predict": true,
"do_train": true,
"fp16": true,
"learning_rate": 5e-05,
"model_name_or_path": "facebook/bart-large",
"num_train_epochs": 1,
"output_dir": "/opt/ml/model",
"per_device_eval_batch_size": 4,
"per_device_train_batch_size": 4,
"predict_with_generate": true,
"seed": 7

}

Usage

from transformers import pipeline
summarizer = pipeline("summarization", model="sambydlo/bart-large-tomasg25/scientific_lay_summarisation")
article = "Food production is a major driver of greenhouse gas (GHG) emissions, water and land use, and dietary risk factors are contributors to non-communicable diseases. Shifts in dietary patterns can therefore potentially provide benefits for both the environment and health. However, there is uncertainty about the magnitude of these impacts, and the dietary changes necessary to achieve them. We systematically review the evidence on changes in GHG emissions, land use, and water use, from shifting current dietary intakes to environ- mentally sustainable dietary patterns. We find 14 common sustainable dietary patterns across reviewed studies, with reductions as high as 70–80% of GHG emissions and land use, and 50% of water use (with medians of about 20–30% for these indicators across all studies) possible by adopting sustainable dietary patterns. Reductions in environmental footprints were generally proportional to the magnitude of animal-based food restriction. Dietary shifts also yielded modest benefits in all-cause mortality risk. Our review reveals that environmental and health benefits are possible by shifting current Western diets to a variety of more sustainable dietary patterns."
summarizer(article)

Results

keyvalue
eval_rouge141.3889
eval_rouge213.3641
eval_rougeL24.3154
eval_rougeLsum36.612
test_rouge141.4786
test_rouge213.3787
test_rougeL24.1558
test_rougeLsum36.7723

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
BartForConditionalGeneration
Ревизия весов
c32a6bc

0 моделей