Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Базовая модель: distilbert-base-uncased
Библиотека: transformers
Опубликована: 7 окт 2026

Ссылки

Hugging Face

distilbert-query-classifier

Duck859555656

Классификация текстаТекст → label

Дообученная DistilBERT-модель для классификации текстовых запросов по заданным классам.

166скачиваний за 30 дней0лайковвеса обновлены9 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Duck859555656/distilbert-query-classifier — модель классификации последовательностей на архитектуре DistilBERT, дообученная на базе distilbert/distilbert-base-uncased. Она предназначена для отнесения текстовых запросов к классам. В карточке приведены результаты на оценочной выборке: accuracy 1,0 и loss 0,5211; состав классов и подробности набора данных не описаны.

Модель принимает текст и выдаёт метки классов. Максимальная длина контекста — 512 токенов. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. README не уточняет назначение классов, поэтому надёжность модели для конкретных категорий и сценариев по карточке оценить нельзя.

Сценарии применения

Классификация текстовых запросов по категориям
Автоматическая маршрутизация запросов по классам
Разметка пользовательских обращений для последующей обработки

Ограничения

Набор данных, перечень классов и целевая область применения не раскрыты. Показатель accuracy 1,0 приведён для оценочной выборки, но без её размера и описания его нельзя переносить на другие данные.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

distilbert-query-classifier

This model is a fine-tuned version of distilbert-base-uncased on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.5211
Accuracy: 1.0

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 15

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy
0.6723	1.0	5	0.6454	0.9
0.6278	2.0	10	0.6093	1.0
0.6014	3.0	15	0.5759	1.0
0.5738	4.0	20	0.5474	1.0
0.5411	5.0	25	0.5211	1.0

Framework versions

Transformers 5.19.0
Pytorch 2.14.1+cpu
Datasets 5.1.0
Tokenizers 0.23.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForSequenceClassification
Ревизия весов: 3f167d2