Модель на основе DistilBERT классифицирует английский текст по эмоциональным меткам GoEmotions.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
bhadresh-savani/bert-base-go-emotion — модель классификации текста на основе DistilBERT, дообученная для распознавания эмоций по набору GoEmotions. Она предназначена для присвоения тексту эмоциональных меток и подходит для анализа эмоциональной окраски коротких фрагментов текста. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch.
В README указано обучение на 169 208 примерах в течение трёх эпох. Карточка связывает модель с английским языком и датасетом GoEmotions. Лицензия — Apache-2.0. Оценочные результаты и перечень распознаваемых меток в предоставленном README не приведены.
Модель обучена на GoEmotions и ориентирована на английский текст; её качество на других языках и доменах не подтверждено. В предоставленном README нет оценочных результатов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Num examples = 169208
Num Epochs = 3
Instantaneous batch size per device = 16
Total train batch size (w. parallel, distributed & accumulation) = 16
Gradient Accumulation steps = 1
Total optimization steps = 31728
'train_loss': 0.12085497042373672,
'eval_accuracy_thresh': 0.9614765048027039,
'eval_loss': 0.1164659634232521
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…