Характеристики

Контекст: 512 токенов
Параметры: 137 млн
Архитектура: bert · dense
Опубликована: 17 мая 2022

Ссылки

Hugging Face

mental-bert-base-uncased-masked_finetuned-0517

YeRyeongLee

Классификация текстаТекст → label3 профессии

Дообученная на базе mental/mental-bert-base-uncased модель BERT для классификации текстовых последовательностей.

11скачиваний за 30 дней0лайковвеса обновлены17 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

YeRyeongLee/mental-bert-base-uncased-masked_finetuned-0517 — дообученная модель классификации текстов на базе BERT, созданная на основе mental/mental-bert-base-uncased. В репозитории указано 136,7 млн параметров; модель использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов.

Модель предназначена для классификации текстовых последовательностей. В карточке приведены результаты оценки на тестовой выборке: accuracy 0,917 и F1 0,9171. Датасет и конкретные классы классификации не описаны, поэтому оценить применимость к определённой теме или сценарию нельзя.

Модель представлена в формате PyTorch. Лицензия в предоставленных данных не указана.

Сценарии применения

Классификация текстовых последовательностей
Оценка тональности или категории текста после адаптации под соответствующие классы
Исследовательская оценка классификатора на тестовых данных

Ограничения

Датасет, целевые классы и назначение классификации в карточке не раскрыты, поэтому модель нельзя уверенно рекомендовать для конкретной прикладной области. В описании нет сведений о лицензии.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mental-bert-base-uncased-masked_finetuned-0517

This model is a fine-tuned version of mental/mental-bert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.5217
Accuracy: 0.917
F1: 0.9171

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 4

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	F1
No log	1.0	3000	0.2922	0.8993	0.8997
No log	2.0	6000	0.3964	0.9063	0.9069
No log	3.0	9000	0.4456	0.9197	0.9197
No log	4.0	12000	0.5217	0.917	0.9171

Framework versions

Transformers 4.11.3
Pytorch 1.9.0
Datasets 1.16.1
Tokenizers 0.10.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: e077c2b