Дообученная BERT-base-uncased модель для классификации английских пар предложений и распознавания текстового следствия.
5 235скачиваний за 30 дней3лайкавеса обновлены20 мая 2021
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель textattack/bert-base-uncased-RTE — версия BERT-base-uncased, дообученная командой TextAttack для классификации текстовых последовательностей на задаче распознавания текстового следствия (RTE) из набора GLUE. Она принимает текстовые последовательности и относит их к классам задачи; подходит для определения, следует ли гипотеза из посылки.
Модель имеет архитектуру BERT для классификации последовательностей и содержит 136,7 млн параметров. В карточке указаны максимальная длина последовательности 128 токенов при обучении и точность 0,726 на проверочной выборке; метаданные указывают нативный контекст до 512 токенов. Доступны веса PyTorch и Flax.
Модель предназначена для английского языка, что следует из базовой версии bert-base-uncased и англоязычной задачи GLUE RTE. Лицензия в предоставленных источниках не указана. Результат на RTE ограничивает её применимость к другим задачам без дополнительной настройки.
Сценарии применения
проверка, следует ли гипотеза из заданного текста
классификация пар посылка—гипотеза по отношению следования
эксперименты и оценка моделей на задаче GLUE RTE
Ограничения
На проверочной выборке GLUE RTE указана точность около 0,726; это специализированная модель, и качество на других задачах не подтверждено. При обучении использовалась максимальная длина 128 токенов.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This bert-base-uncased model was fine-tuned for sequence classification using TextAttack
and the glue dataset loaded using the nlp library. The model was fine-tuned
for 5 epochs with a batch size of 8, a learning
rate of 2e-05, and a maximum sequence length of 128.
Since this was a classification task, the model was trained with a cross-entropy loss function.
The best score the model achieved on this task was 0.7256317689530686, as measured by the
eval set accuracy, found after 2 epochs.