/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Базовая модель
distilbert-base-uncased
Опубликована
14 апр 2024

distilbert-scam-classification-v1

Классификация текстаТекст → label3 профессии

Дообученная модель DistilBERT классифицирует текст для выявления мошеннических сообщений.

9скачиваний за 30 дней0лайковвеса обновлены15 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BothBosu разработал эту модель как дообученную версию distilbert/distilbert-base-uncased для классификации текста, связанной с выявлением мошеннических сообщений. Модель построена на архитектуре DistilBERT и сохранена в формате safetensors. Она принимает текстовые последовательности длиной до 512 токенов и выдаёт метки классов.

Модель подходит для автоматической фильтрации подозрительных текстов и первичной сортировки сообщений, которые требуют проверки на мошенничество. В README указана точность 1,0 и loss 0,008 на наборе оценки, однако описание набора данных, классов и методики проверки отсутствует, поэтому эти показатели не позволяют судить о качестве на других данных. Распространяется по лицензии Apache-2.0.

Сценарии применения

  • фильтрация подозрительных сообщений о мошенничестве
  • первичная сортировка обращений для проверки на мошенничество
  • классификация текстов по признаку мошеннического содержания

Ограничения

Данные обучения, определения классов и методика оценки не описаны; заявленные метрики могут не переноситься на реальные данные. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

BothBosu/distilbert-scam-classification-v1

This model is a fine-tuned version of distilbert/distilbert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.0080
  • Accuracy: 1.0

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 16
  • eval_batch_size: 16
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 2

Training results

Training LossEpochStepValidation LossAccuracy
No log1.0440.01381.0
No log2.0880.00801.0

Framework versions

  • Transformers 4.38.2
  • Pytorch 2.2.1+cu121
  • Datasets 2.18.0
  • Tokenizers 0.15.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForSequenceClassification
Ревизия весов
5a6c0fc

0 моделей