Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Базовая модель: distilbert-base-uncased
Библиотека: transformers
Опубликована: 7 июл 2026

Ссылки

Hugging Face

distilbert-banking77

aCe44

Классификация текстаТекст → label

Дообученная DistilBERT-модель для классификации банковских пользовательских запросов по категориям.

10скачиваний за 30 дней0лайковвеса обновлены16 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

aCe44 разработала дообученную модель DistilBERT для классификации текстов. По названию модели и метке text-classification она предназначена для отнесения текста к категориям; название указывает на классификацию пользовательских запросов в банковской тематике по набору Banking77. Модель основана на distilbert/distilbert-base-uncased, использует архитектуру DistilBertForSequenceClassification и принимает текст с контекстом до 512 токенов. В репозитории представлены веса Safetensors; лицензия — Apache-2.0.

В карточке приведены результаты оценки: accuracy 0,9140, precision 0,9179, recall 0,9140 и F1 0,9137. Описание обучающих данных и подробные ограничения в README отсутствуют, поэтому качество на иных наборах банковских запросов не установлено. Базовая модель uncased обучена для английского текста; данные о поддержке других языков не приведены.

Сценарии применения

определение категории обращения клиента в банк
маршрутизация банковского запроса в нужную службу
классификация вопросов о банковских услугах
автоматическая категоризация текста поддержки

Ограничения

Данные об обучающем наборе в README не раскрыты; приведённые метрики относятся только к оценочному набору и не гарантируют качество на других данных. Поддержка языков, кроме английского, не подтверждена.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

distilbert-banking77

This model is a fine-tuned version of distilbert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.3784
Accuracy: 0.9140
Precision: 0.9179
Recall: 0.9140
F1: 0.9137

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	Precision	Recall	F1
2.2111	1.0	626	1.9256	0.7045	0.7297	0.7045	0.6682
0.9497	2.0	1252	0.8453	0.8448	0.8573	0.8448	0.8334
0.5330	3.0	1878	0.5248	0.8948	0.9030	0.8948	0.8933
0.3531	4.0	2504	0.4082	0.9078	0.9127	0.9078	0.9076
0.2811	5.0	3130	0.3784	0.9140	0.9179	0.9140	0.9137

Framework versions

Transformers 5.13.1
Pytorch 2.11.0+cu128
Datasets 4.0.0
Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForSequenceClassification
Ревизия весов: 4531949