Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Опубликована: 21 июл 2022

Ссылки

Hugging Face

distilBERT-finetuned-resumes-sections

has-abi

Классификация текстаТекст → label5 профессий

Дообученная DistilBERT классифицирует текстовые фрагменты резюме по разделам.

11скачиваний за 30 дней15лайковвеса обновлены24 авг 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

has-abi/distilBERT-finetuned-resumes-sections — дообученная модель DistilBERT для классификации фрагментов резюме по разделам. Она основана на Geotrend/distilbert-base-en-fr-cased и предназначена для автоматической разметки текста резюме, например для выделения разделов с навыками, опытом или образованием. Модель использует архитектуру DistilBertForSequenceClassification и принимает текст длиной до 512 токенов.

В README приведены результаты на тестовом наборе: F1 0,9652, ROC AUC 0,9808 и точность 0,9621. Состав набора данных, перечень классов и подробные условия оценки не описаны, поэтому эти метрики не гарантируют аналогичного качества на других данных. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

автоматическое распределение фрагментов резюме по разделам
разметка разделов резюме в кадровых системах
предварительная структуризация текста резюме перед извлечением данных

Ограничения

README не описывает обучающий набор и классы разделов; указанные метрики относятся только к оценочному набору. Контекст ограничен 512 токенами.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель III.5Корпоративные функцииУправление персоналом и организациейAI помогает поддерживать найм, развитие, организационное планирование и HR-сервисы.24 задачи4 462модели I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Также подходит для

I.14Автоматизация процессов и AI-агенты

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

distilBERT-finetuned-resumes-sections

This model is a fine-tuned version of Geotrend/distilbert-base-en-fr-cased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.0369
F1: 0.9652
Roc Auc: 0.9808
Accuracy: 0.9621

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 20

Training results

Training Loss	Epoch	Step	Validation Loss	F1	Roc Auc	Accuracy
0.0509	1.0	1173	0.0331	0.9439	0.9659	0.9356
0.024	2.0	2346	0.0274	0.9550	0.9750	0.9493
0.0148	3.0	3519	0.0290	0.9493	0.9712	0.9446
0.0089	4.0	4692	0.0324	0.9492	0.9714	0.9442
0.0071	5.0	5865	0.0317	0.9540	0.9732	0.9476
0.0064	6.0	7038	0.0324	0.9527	0.9742	0.9484
0.0036	7.0	8211	0.0320	0.9574	0.9766	0.9540
0.0042	8.0	9384	0.0367	0.9528	0.9732	0.9493
0.0052	9.0	10557	0.0342	0.9563	0.9757	0.9531
0.0027	10.0	11730	0.0294	0.9629	0.9800	0.9595
0.0017	11.0	12903	0.0355	0.9605	0.9778	0.9582
0.0022	12.0	14076	0.0338	0.9627	0.9792	0.9591
0.0012	13.0	15249	0.0358	0.9609	0.9780	0.9591
0.0011	14.0	16422	0.0360	0.9618	0.9791	0.9604
0.0009	15.0	17595	0.0358	0.9648	0.9807	0.9625
0.0007	16.0	18768	0.0373	0.9627	0.9794	0.9595
0.0006	17.0	19941	0.0397	0.9597	0.9774	0.9574
0.0008	18.0	21114	0.0369	0.9652	0.9808	0.9621
0.0007	19.0	22287	0.0377	0.9646	0.9801	0.9621
0.0005	20.0	23460	0.0381	0.9639	0.9797	0.9616

Framework versions

Transformers 4.21.1
Pytorch 1.12.1+cu113
Datasets 2.4.0
Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForSequenceClassification
Ревизия весов: d9b2c83