Англоязычная модель BERT для классификации текстовых пар и распознавания логического следования, противоречия или нейтрального отношения.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это англоязычная модель классификации последовательностей на базе BERT, созданная Ишаном дообучением bert-base-uncased на наборе MultiNLI. Она предназначена для классификации отношений между парами текстов, в частности для определения логического следования, противоречия или нейтрального отношения между посылкой и гипотезой. Модель содержит 136,7 млн параметров, принимает текстовые входные данные и поддерживает контекст до 512 токенов. Доступны версии весов для PyTorch и Flax.
В описанной оценке на MultiNLI точность составила 0,8456 на matched и 0,8484 на mismatched. Модель подходит для распознавания текстовых отношений и задач классификации, основанных на них; карточка не сообщает об оценке на других наборах данных. Лицензия в предоставленных данных не указана.
Оценка приведена только на MultiNLI, поэтому качество на других наборах данных не установлено. Поддерживает английский язык и ограничена контекстом в 512 токенов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
We used the pretrained model from bert-base-uncased and finetuned it on MultiNLI dataset.
The training parameters were kept the same as Devlin et al., 2019 (learning rate = 2e-5, training epochs = 3, max_sequence_len = 128 and batch_size = 32).
The evaluation results are mentioned in the table below.
| Test Corpus | Accuracy |
|---|---|
| Matched | 0.8456 |
| Mismatched | 0.8484 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…