/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Базовая модель
bert-base-uncased
Опубликована
29 ноя 2024

bert-sst2-sentiment

Классификация текстаТекст → label4 профессии

Англоязычная BERT-модель для классификации тональности коротких текстов и отзывов.

1 707скачиваний за 30 дней0лайковвеса обновлены4 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mavinsao/bert-sst2-sentiment — модель классификации текста на основе BERT, дообученная на google-bert/bert-base-uncased. Она предназначена для определения тональности английских текстов в сценариях анализа отзывов и коротких высказываний. В README указаны результаты оценки: accuracy и F1 — 0,9197, precision — 0,9201, recall — 0,9197; в метаданных указан набор данных Stanford Sentiment Treebank 2 (SST-2).

Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в формате PyTorch. Распространяется по лицензии Apache-2.0. Она решает задачу классификации текста; результаты приведены для оценки на конкретном наборе данных SST-2, поэтому их нельзя считать гарантией качества на других языках, доменах или типах текстов.

Сценарии применения

  • Определение тональности коротких отзывов на английском языке
  • Классификация положительных и отрицательных высказываний
  • Анализ тональности пользовательских комментариев
  • Разметка отзывов для последующего анализа

Ограничения

В README описание обучения и ограничений не заполнено. Приведённые метрики получены на оценочном наборе SST-2 и не подтверждают аналогичное качество на других языках и типах текстов.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-sst2-sentiment

This model is a fine-tuned version of bert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.2764
  • Accuracy: 0.9197
  • F1: 0.9197
  • Precision: 0.9201
  • Recall: 0.9197

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 64
  • eval_batch_size: 64
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 3

Training results

Training LossEpochStepValidation LossAccuracyF1PrecisionRecall
0.16541.010530.21570.92430.92430.92470.9243
0.0992.021060.25330.91970.91970.91970.9197
0.07793.031590.27640.91970.91970.92010.9197

Framework versions

  • Transformers 4.28.1
  • Pytorch 2.2.1+cu121
  • Datasets 3.1.0
  • Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
8213c7f

0 моделей