Характеристики

Контекст: 512 токенов
Параметры: 155 млн
Лицензия: MIT
Архитектура: deberta-v2 · dense
Базовая модель: deberta-v3-small
Опубликована: 30 июл 2024

Ссылки

Hugging Face

ops_tg

tangminhanh

Классификация текстаТекст → label

Компактная дообученная DeBERTa-модель для классификации текста.

9скачиваний за 30 дней0лайковвеса обновлены30 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

opstg — дообученная модель классификации текста на базе microsoft/deberta-v3-small, разработанная пользователем tangminhanh. Она предназначена для отнесения входного текста к классам; конкретная предметная область и набор меток в карточке не описаны. Модель содержит 155 млн параметров, использует архитектуру DeBERTa V2 для классификации последовательностей и принимает текст длиной до 512 токенов.

В README указаны результаты оценки: accuracy, F1, precision и recall — 0,974, loss — 0,1093; состав тестовой выборки не раскрыт. Модель распространяется по лицензии MIT.

Сценарии применения

Классификация текста по заданным категориям
Автоматическая разметка коротких текстовых сообщений
Определение класса текста в конвейере обработки данных

Ограничения

Предметная область и метки классов не описаны, поэтому пригодность для конкретного сценария требует проверки. Приведённые метрики относятся к оценочному набору, состав которого не указан.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ops_tg

This model is a fine-tuned version of microsoft/deberta-v3-small on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.1093
Accuracy: 0.9740
F1: 0.9740
Precision: 0.9740
Recall: 0.9740

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 32
eval_batch_size: 64
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 2

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	F1	Precision	Recall
No log	1.0	121	0.1322	0.9751	0.9751	0.9751	0.9751
No log	2.0	242	0.1093	0.9740	0.9740	0.9740	0.9740

Framework versions

Transformers 4.42.4
Pytorch 2.3.1+cu121
Datasets 2.20.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForSequenceClassification
Ревизия весов: 5bc8577