Дообученная BERT-модель классифицирует тональность англоязычных отзывов о фильмах.
434скачиваний за 30 дней1лайквеса обновлены20 мая 2021
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель TextAttack — это дообученная версия bert-base-uncased для классификации англоязычных отзывов о фильмах из набора rotten_tomatoes. Она определяет тональность текста, обучена на задаче классификации последовательностей с функцией потерь cross-entropy; в карточке указана точность 0,875 на оценочной выборке. Модель содержит 136,7 млн параметров, использует архитектуру BERT и принимает последовательности длиной до 512 токенов по метаданным; при дообучении максимальная длина была 128 токенов.
Модель подходит для автоматической разметки отзывов на положительные и отрицательные. Доступны веса PyTorch и Flax. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
Сценарии применения
Определение положительной или отрицательной тональности отзыва о фильме
Автоматическая разметка отзывов из Rotten Tomatoes
Сортировка отзывов на положительные и отрицательные
Анализ тональности коротких англоязычных рецензий
Ограничения
Модель дообучена на отзывах Rotten Tomatoes и может хуже работать на других тематиках или стилях текста. Для дообучения использовалась длина последовательности до 128 токенов; заявленная точность относится к оценочной выборке.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This `bert-base-uncased` model was fine-tuned for sequence classificationusing TextAttack
and the rotten_tomatoes dataset loaded using the `nlp` library. The model was fine-tuned
for 10 epochs with a batch size of 16, a learning
rate of 2e-05, and a maximum sequence length of 128.
Since this was a classification task, the model was trained with a cross-entropy loss function.
The best score the model achieved on this task was 0.875234521575985, as measured by the
eval set accuracy, found after 4 epochs.
For more information, check out [TextAttack on Github](https://github.com/QData/TextAttack).
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров