Арабоязычная модель на архитектуре BART для заполнения пропусков и абстрактивного суммирования текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
AraBART — арабоязычная модель семейства BART, разработанная для обработки арабского текста. Её кодировщик и декодировщик предварительно обучались сквозным образом; архитектура соответствует BART-Base и включает 6 слоёв кодировщика, 6 слоёв декодировщика и скрытое измерение 768. В README указано 139 млн параметров, тогда как метаданные Hugging Face указывают 95 млн; точный размер поэтому неоднозначен. Контекст модели — до 1024 токенов.
Модель предназначена прежде всего для абстрактивного суммирования: в README сообщается о высоких результатах на нескольких наборах данных суммирования на арабском языке относительно ряда сильных базовых моделей. Метаданные Hugging Face классифицируют репозиторий как fill-mask, поэтому этот тег указан как основная задача каталога; описанные в README результаты суммирования не подтверждены соответствующим pipeline-тегом. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
README приводит размер 139 млн параметров, а метаданные — 95 млн. Основное назначение суммирования описано в README, но pipeline-тег Hugging Face указывает fill-mask.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
AraBART is the first Arabic model in which the encoder and the decoder are pretrained end-to-end, based on BART. AraBART follows the architecture of BART-Base which has 6 encoder and 6 decoder layers and 768 hidden dimensions. In total AraBART has 139M parameters.
AraBART achieves the best performance on multiple abstractive summarization datasets, outperforming strong baselines including a pretrained Arabic BERT-based models and multilingual mBART and mT5 models.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…