Характеристики

Контекст: 512 токенов
Архитектура: distilbert · dense
Базовая модель: distilbert-base-uncased-fibe-v5
Библиотека: transformers
Опубликована: 27 сен 2024

Ссылки

Hugging Face

distilbert-base-uncased-fibe-v8-finetuned

pilotj

Классификация текстаТекст → label5 профессий

Дообученная модель DistilBERT для классификации текстов по заданным классам.

17скачиваний за 30 дней0лайковвеса обновлены27 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

pilotj/distilbert-base-uncased-fibe-v8-finetuned — дообученная модель семейства DistilBERT для классификации текстов. Она основана на biggy-smiley/distilbert-base-uncased-fibe-v5 и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для отнесения входного текста к классам; подробности о метках и целевых сценариях в карточке не раскрыты.

Модель работает с текстом и имеет контекстное окно до 512 токенов. В README приведены результаты оценки: eval_loss 0,7672 после примерно 1,86 эпохи обучения; название обучающего набора данных отсутствует. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Сценарии применения

Классификация коротких текстовых сообщений
Автоматическая разметка текстов по категориям
Определение класса текста в NLP-конвейере

Ограничения

Карточка не описывает набор классов, обучающие данные и целевые сценарии, поэтому пригодность для конкретной задачи требует проверки. Контекст ограничен 512 токенами.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Также подходит для

I.14Автоматизация процессов и AI-агенты

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

distilbert-base-uncased-fibe-v8-finetuned

This model is a fine-tuned version of biggy-smiley/distilbert-base-uncased-fibe-v5 on the None dataset. It achieves the following results on the evaluation set:

eval_loss: 0.7672
eval_runtime: 50.1816
eval_samples_per_second: 103.624
eval_steps_per_second: 0.817
epoch: 1.8606
step: 8888

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.0001
train_batch_size: 32
eval_batch_size: 128
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Framework versions

Transformers 4.44.2
Pytorch 2.4.0
Datasets 3.0.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForSequenceClassification
Ревизия весов: 472810c