Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Базовая модель: distilbert-base-uncased
Библиотека: transformers
Опубликована: 11 окт 2024

Ссылки

Hugging Face

KA_demo

marklicata

Классификация текстаТекст → label

Дообученная на основе DistilBERT модель для классификации текстовых последовательностей.

7скачиваний за 30 дней0лайковвеса обновлены15 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KAdemo — модель классификации текста, разработанная на основе distilbert-base-uncased и дообученная с помощью Transformers. Она предназначена для присвоения тексту классов в задачах последовательной классификации. Модель использует архитектуру DistilBERT и принимает текст длиной до 512 токенов.

В карточке указано, что при оценке на тестовой выборке модель получила loss 1.4109. Набор данных и назначение классов не описаны, поэтому пригодность модели для конкретной предметной области по карточке определить нельзя. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

классификация текстовых сообщений по категориям
присвоение тексту меток в прикладном классификаторе
классификация коротких текстов длиной до 512 токенов

Ограничения

Набор данных, значения классов и конкретная область применения не описаны. В карточке приведено только значение loss 1.4109, поэтому качество модели для практических сценариев оценить нельзя.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

KA_demo

This model is a fine-tuned version of distilbert-base-uncased on the None dataset. It achieves the following results on the evaluation set:

Loss: 1.4109

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 1e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
No log	1.0	135	1.5964
No log	2.0	270	1.4747
No log	3.0	405	1.4109

Framework versions

Transformers 4.44.2
Pytorch 2.3.1+cpu
Datasets 2.20.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForSequenceClassification
Ревизия весов: 8442468