/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Базовая модель
distilbert-base-uncased
Библиотека
transformers
Опубликована
21 ноя 2025

distilbert-base-uncased-finetuned

Классификация текстаТекст → label5 профессий

Дообученная DistilBERT-модель для классификации текстовых последовательностей.

35скачиваний за 30 дней0лайковвеса обновлены5 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель tjacquot/distilbert-base-uncased-finetuned — дообученная версия DistilBERT для классификации текста. В метаданных указан класс архитектуры DistilBertForSequenceClassification, библиотека Transformers и базовая модель distilbert/distilbert-base-uncased.

Модель предназначена для отнесения текстовых последовательностей к классам. В карточке приведены результаты оценки: loss 0,2464 и precision 0,9070. Набор данных, метки классов и конкретная область применения не описаны. Контекст модели — до 512 токенов; модель принимает текст и выдаёт метки классификации.

Модель распространяется под лицензией Apache-2.0. Поскольку данные обучения и схема классов не описаны, пригодность для конкретных задач следует оценивать отдельно.

Сценарии применения

  • классификация текста по заданным категориям
  • автоматическая разметка коротких текстовых фрагментов
  • определение класса текстовой последовательности

Ограничения

В карточке не описаны датасет обучения, набор классов и конкретная область применения; заявлены только loss 0,2464 и precision 0,9070 на оценочной выборке.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

distilbert-base-uncased-finetuned

This model is a fine-tuned version of distilbert-base-uncased on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 0.2464
  • Precision: 0.9070

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 64
  • eval_batch_size: 64
  • seed: 42
  • optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: linear
  • training_steps: 240

Training results

Training LossEpochStepValidation LossPrecision
0.18610.1271150.22130.8659
0.15010.2542300.21420.8840
0.13180.3814450.22030.8858
0.08170.5085600.22230.9065
0.09420.6356750.23930.9073
0.11850.7627900.24450.8775
0.10450.88981050.23380.9128
0.06291.01691200.24710.9108
0.06711.14411350.24160.9046
0.0461.27121500.25700.8950
0.06031.39831650.27810.8787
0.0491.52541800.26700.9097
0.08161.65251950.25500.9066
0.07121.77972100.24940.9063
0.07961.90682250.24680.9079
0.09392.03392400.24640.9070

Framework versions

  • Transformers 4.57.1
  • Pytorch 2.9.1+cu128
  • Datasets 4.0.0
  • Tokenizers 0.22.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForSequenceClassification
Ревизия весов
6551db1

0 моделей