/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense

presentation_sentiment_1234567

Классификация текстаТекст → label3 профессии

Дообученная на tweet_eval модель DistilBERT для классификации тональности коротких текстов и сообщений в стиле твитов.

16скачиваний за 30 дней0лайковвеса обновлены14 дек 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

presentation_sentiment_1234567 — модель классификации текста, созданная дообучением distilbert-base-uncased на наборе данных tweet_eval. Она предназначена для отнесения коротких текстов, в частности сообщений в стиле твитов, к классам настроения или тональности. На оценочном наборе указана метрика F1 0,7183. Модель использует архитектуру DistilBERT и принимает текст длиной до 512 токенов.

Модель опубликована под лицензией Apache-2.0. Карточка не уточняет классы тональности, языки данных и ограничения применимости; результаты оценки не гарантируют качество на других типах текстов.

Сценарии применения

  • классификация тональности сообщений в соцсетях
  • анализ настроений в коротких текстах
  • оценка тональности твитов
  • разметка текстов по категориям тональности

Ограничения

На оценочном наборе tweet_eval указана F1 0,7183; качество на других данных может отличаться. Карточка не уточняет набор классов и языки текстов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

presentation_sentiment_1234567

This model is a fine-tuned version of distilbert-base-uncased on the tweet_eval dataset. It achieves the following results on the evaluation set:

  • Loss: 1.0860
  • F1: 0.7183

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 7.2792011721188e-06
  • train_batch_size: 4
  • eval_batch_size: 4
  • seed: 0
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 4

Training results

Training LossEpochStepValidation LossF1
0.37471.0114040.65150.7045
0.65112.0228080.73340.7188
0.03623.0342120.94980.7195
1.05764.0456161.08600.7183

Framework versions

  • Transformers 4.12.5
  • Pytorch 1.9.1
  • Datasets 1.16.1
  • Tokenizers 0.10.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForSequenceClassification
Ревизия весов
2c8389c

0 моделей