Чекпойнт BERT с числовым предобучением для заполнения маскированных токенов и поддержки решения текстовых математических задач.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
MWP-BERT-en — модель семейства BERT, представленная в работе MWP-BERT: Numeracy-Augmented Pre-training for Math Word Problem Solving, опубликованной в NAACL 2022 Findings. Это чекпойнт на 136,7 млн параметров для заполнения замаскированных токенов. Авторы ориентировали подход на поддержку решения текстовых математических задач за счёт предобучения с учётом числовой информации.
Модель использует архитектуру BertForMaskedLM, работает с текстом и принимает последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch; лицензия — AFL-3.0. Карточка не уточняет результаты на конкретных наборах задач или практические рекомендации по применению.
Карточка не приводит метрик качества или результатов на конкретных наборах данных. Заполнение маскированных токенов само по себе не гарантирует получение численного ответа или полного решения задачи.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
NAACL 2022 Findings Paper: MWP-BERT: Numeracy-Augmented Pre-training for Math Word Problem Solving
Github link: https://github.com/LZhenwen/MWP-BERT/
@inproceedings{liang2022mwp,
title={MWP-BERT: Numeracy-Augmented Pre-training for Math Word Problem Solving},
author={Liang, Zhenwen and Zhang, Jipeng and Wang, Lei and Qin, Wei and Lan, Yunshi and Shao, Jie and Zhang, Xiangliang},
booktitle={Findings of NAACL 2022},
pages={997--1009},
year={2022}
}
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…