/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
MIT
Архитектура
gpt2 · dense
Базовая модель
gpt2
Опубликована
30 окт 2023

test_trainer

Классификация текстаТекст → label3 профессии

Дообученная на отзывах Yelp модель GPT-2 классифицирует тексты отзывов.

18скачиваний за 30 дней0лайковвеса обновлены30 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

jahb57/test_trainer — дообученная модель GPT-2 для классификации текстов отзывов Yelp. Она построена на архитектуре GPT-2 и обучена на наборе yelp_review_full; контекст составляет 1024 токена. В README указаны результаты на оценочной выборке: loss 1,0617 и accuracy 0,584.

Модель предназначена для отнесения текста к классам тональности или рейтинга отзывов Yelp. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Подробности о применении и ограничениях в карточке не раскрыты.

Сценарии применения

  • классификация отзывов Yelp
  • оценка тональности отзыва
  • определение рейтинговой категории по тексту отзыва

Ограничения

На оценочной выборке указана точность 0,584; результаты могут быть недостаточны для задач, требующих высокой точности. Проверка заявлена только на данных Yelp Review Full, поэтому перенос на другие домены не установлен.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

test_trainer

This model is a fine-tuned version of gpt2 on the yelp_review_full dataset. It achieves the following results on the evaluation set:

  • Loss: 1.0617
  • Accuracy: 0.584

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 4
  • eval_batch_size: 4
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 3.0

Training results

Training LossEpochStepValidation LossAccuracy
No log1.02501.12040.515
1.24112.05001.02310.57
1.24113.07501.06170.584

Framework versions

  • Transformers 4.34.1
  • Pytorch 2.1.0+cu118
  • Datasets 2.14.6
  • Tokenizers 0.14.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2ForSequenceClassification
Ревизия весов
277e6ca

0 моделей