/ Модель

Характеристики

Контекст
1 024 токена
Параметры
95 млн
Лицензия
Apache 2.0
Архитектура
mbart · dense
Опубликована
11 дек 2022

AraBART-summ

СуммаризацияТекст → текст3 профессии

AraBART-summ — арабоязычная модель на архитектуре mBART для автоматического суммирования текстов и новостей.

28скачиваний за 30 дней3лайкавеса обновлены2 янв 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AraBART-summ — модель для автоматического суммирования текста на арабском языке, представленная пользователем abdalrahmanshahrour. Она основана на архитектуре mBART и содержит около 95 млн параметров. Модель предназначена для создания краткого изложения исходного текста; карточка также связывает её с датасетом XLSum и задачей суммирования арабских новостей. Максимальная длина контекста составляет 1024 токена.

Модель принимает текст и генерирует текстовое резюме. Опубликована в формате PyTorch по лицензии Apache-2.0. В README приведены метрики Loss и ROUGE, но не описаны условия обучения и оценки, поэтому по этим значениям нельзя надёжно судить о качестве на конкретных данных.

Сценарии применения

  • составление кратких резюме арабских новостей
  • сжатие арабских статей для быстрого чтения
  • подготовка кратких выжимок из арабских текстовых документов

Ограничения

README не описывает условия обучения и оценки, а приведённые метрики ROUGE не сопровождаются методикой, поэтому качество на конкретных типах текста по карточке оценить нельзя. Контекст ограничен 1024 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AraBART-summ

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 4
  • eval_batch_size: 4
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 1

Validation Metrics

  • Loss: 2.3417
  • Rouge1: 2.353
  • Rouge2: 1.103
  • RougeL: 1.176
  • RougeLsum: 1.521

Training results

Training LossEpochStepValidation Loss
2.75551.093802.3417

Framework versions

  • Transformers 4.25.1
  • Pytorch 1.13.0+cu116
  • Datasets 2.7.1
  • Tokenizers 0.13.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MBartForConditionalGeneration
Ревизия весов
b546907

0 моделей