/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Опубликована
7 мая 2023

distilbert-ft-test3

Классификация текстаТекст → label

Дообученная DistilBERT-модель для классификации текстовых описаний отходов по 50 классам.

5скачиваний за 30 дней0лайковвеса обновлены23 мая 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

distilbert-ft-test3 — модель классификации текстов, созданная Томасом Аваре (Thomas Avare) в рамках магистерской работы в Политехническом университете Турина совместно с ReLearn. Это дообученная версия distilbert-base-uncased для классификации отходов по 50 классам на наборе данных waste-classification-v2. Модель использует архитектуру DistilBERT, принимает текст и выдаёт класс; максимальная длина контекста составляет 512 токенов. Доступна в формате TensorFlow.

В README сообщается о точности 0,974, precision 0,9805, recall 0,9732 и F1 0,9725 на тестовой выборке. Модель предназначена для классификации отходов по описаниям, однако результаты на других данных могут отличаться. Лицензия — Apache-2.0.

Сценарии применения

  • классификация отходов по текстовому описанию
  • распределение отходов по категориям для сортировки
  • автоматическая разметка записей о видах отходов

Ограничения

Модель обучена на 50 классах набора waste-classification-v2, поэтому её применимость к другим категориям и данным не подтверждена. Показатели качества приведены для тестовой выборки этого набора.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

distilbert-ft-test3

This model is a fine-tuned version of distilbert-base-uncased on thomasavare/waste-classification-v2. It is part of my master thesis at Politecnico di Torino in partenership with ReLearn.

It achieves the following results on the test set:

accuracyprecisionrecallf1
0.9740.98050.97320.9725

Model description

DistilBERT finetuned for waste classification on 50 different classes as part of my master thesis at Politecnico di Torino.

Intended uses & limitations

Use for waste classification on 50 different waste classes (see dataset)

Training and evaluation data

waste-classification-v2 dataset

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • optimizer: {'name': 'Adam', 'weight_decay': None, 'clipnorm': None, 'global_clipnorm': None, 'clipvalue': None, 'use_ema': False, 'ema_momentum': 0.99, 'ema_overwrite_frequency': None, 'jit_compile': True, 'is_legacy_optimizer': False, 'learning_rate': 5e-05, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-08, 'amsgrad': False}
  • training_precision: float32

Training results

Framework versions

  • Transformers 4.28.1
  • TensorFlow 2.12.0
  • Datasets 2.12.0
  • Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
DistilBertForSequenceClassification
Ревизия весов
2297850

0 моделей