/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
MIT
Архитектура
roberta · dense
Базовая модель
roberta-base
Библиотека
transformers
Опубликована
20 ноя 2025

roberta-base-tqacd

Классификация текстаТекст → label3 профессии

Дообученная RoBERTa для классификации текстовых последовательностей.

11скачиваний за 30 дней0лайковвеса обновлены21 ноя 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

rendchevi/roberta-base-tqacd — дообученная модель классификации последовательностей на базе FacebookAI/roberta-base, разработанная пользователем rendchevi. Число параметров — 151,8 млн; модель использует архитектуру RoBERTa и принимает текст длиной до 514 токенов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT.

Модель предназначена для классификации текста. В README приведены результаты оценки: F1 Macro 0,2528, точность 0,2683, полнота 0,2648 и accuracy 0,3515. Эти показатели указывают на ограниченное качество на указанном наборе оценки. Датасет обозначен как None, поэтому область применения и метки классов по доступным сведениям определить нельзя.

Сценарии применения

  • Классификация текстовых последовательностей
  • Эксперименты с дообучением RoBERTa для классификации
  • Оценка качества классификатора на собственном наборе данных

Ограничения

Показатели на указанном наборе оценки невысокие: F1 Macro 0,2528 и accuracy 0,3515. README не описывает набор данных и классы, поэтому применимость к конкретной задаче неясна.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-base-tqacd

This model is a fine-tuned version of FacebookAI/roberta-base on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 2.7467
  • F1 Macro: 0.2528
  • Precision: 0.2683
  • Recall: 0.2648
  • Accuracy: 0.3515

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 16
  • eval_batch_size: 32
  • seed: 42
  • optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_ratio: 0.1
  • num_epochs: 20
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossF1 MacroPrecisionRecallAccuracy
No log1.01142.39610.04360.06030.11030.1584
No log2.02282.33810.12340.11190.14760.3564
No log3.03422.18730.20520.37730.24570.2673
No log4.04562.25240.18000.22310.20430.3267
2.2415.05702.21410.21280.23400.24940.3218
2.2416.06842.33650.22380.24800.23910.2822
2.2417.07982.47790.28050.35010.27560.3713
2.2418.09122.51940.25180.29080.26670.3416
0.97939.010262.74670.25280.26830.26480.3515

Framework versions

  • Transformers 4.57.1
  • Pytorch 2.8.0+cu128
  • Datasets 4.4.1
  • Tokenizers 0.22.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
74559f8

0 моделей