Характеристики

Контекст: 512 токенов
Параметры: 136 млн
Лицензия: Apache 2.0
Архитектура: bert · dense
Базовая модель: bert-base-cased
Опубликована: 6 фев 2024

Ссылки

Hugging Face

bert-cola-finetuned

StatsGary

Классификация текстаТекст → label

Дообученная на неизвестных данных модель BERT для классификации текстовых последовательностей.

662скачиваний за 30 дней0лайковвеса обновлены6 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

StatsGary/bert-cola-finetuned — модель классификации последовательностей на основе BERT, дообученная StatsGary на неизвестном наборе данных. Она предназначена для классификации текста; карточка сообщает оценку Matthews Correlation 0,5645 на наборе оценки, но не описывает метки и целевой сценарий подробнее. Модель содержит 135,5 млн параметров, использует формат safetensors и принимает текст длиной до 512 токенов.

Модель основана на google-bert/bert-base-cased и распространяется по лицензии Apache-2.0. В README приведены значения Loss 0,8043 и Matthews Correlation 0,5645; состав обучающих и оценочных данных не раскрыт.

Сценарии применения

Классификация текста по заданным меткам
Оценка тональности или категории текста при наличии подходящих меток модели
Классификация коротких текстовых последовательностей длиной до 512 токенов

Ограничения

Набор данных, метки классов и целевой сценарий дообучения не описаны, поэтому применимость к конкретной задаче неясна. В README приведена Matthews Correlation 0,5645, но не указаны подробности протокола оценки.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-cola-finetuned

This model is a fine-tuned version of bert-base-cased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.8043
Matthews Correlation: 0.5645

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss	Matthews Correlation
0.4536	1.0	1069	0.4716	0.5449
0.3125	2.0	2138	0.6611	0.5528
0.1922	3.0	3207	0.8043	0.5645

Framework versions

Transformers 4.35.2
Pytorch 2.1.0+cu121
Datasets 2.16.1
Tokenizers 0.15.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: 6fd0507