Характеристики

Контекст: 512 токенов
Параметры: 138 млн
Лицензия: MIT
Архитектура: bert · dense
Опубликована: 25 мая 2022

Ссылки

Hugging Face

bert-finetuned-resumes-sections

has-abi

Классификация текстаТекст → label5 профессий

Дообученная французская BERT-модель для классификации разделов и фрагментов резюме.

19скачиваний за 30 дней7лайковвеса обновлены31 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

bert-finetuned-resumes-sections — дообученная модель на основе dbmdz/bert-base-french-europeana-cased для классификации разделов резюме. Она предназначена для определения типа или раздела по текстовому фрагменту резюме. Модель использует архитектуру BERT для классификации последовательностей, содержит 137,8 млн параметров и принимает текст длиной до 512 токенов.

В README приведены результаты оценки: F1 0,9548, ROC AUC 0,9732 и accuracy 0,9493. Датасет обучения не описан, поэтому эти показатели нельзя переносить на другие наборы резюме без проверки. Модель опубликована под лицензией MIT.

Сценарии применения

определение раздела резюме по тексту
автоматическая разметка фрагментов резюме
сортировка содержания резюме по категориям

Ограничения

Датасет обучения и состав классов не описаны. Приведённые метрики относятся только к указанному оценочному набору.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей III.5Корпоративные функцииУправление персоналом и организациейAI помогает поддерживать найм, развитие, организационное планирование и HR-сервисы.24 задачи4 462модели I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей

Также подходит для

I.14Автоматизация процессов и AI-агенты

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-finetuned-resumes-sections

This model is a fine-tuned version of dbmdz/bert-base-french-europeana-cased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.0333
F1: 0.9548
Roc Auc: 0.9732
Accuracy: 0.9493

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 12

Training results

Training Loss	Epoch	Step	Validation Loss	F1	Roc Auc	Accuracy
0.1659	1.0	601	0.0645	0.9201	0.9434	0.8910
0.055	2.0	1202	0.0426	0.9407	0.9633	0.9309
0.0324	3.0	1803	0.0371	0.9450	0.9663	0.9368
0.0226	4.0	2404	0.0389	0.9402	0.9651	0.9343
0.0125	5.0	3005	0.0354	0.9433	0.9650	0.9343
0.0091	6.0	3606	0.0364	0.9482	0.9696	0.9434
0.0075	7.0	4207	0.0363	0.9464	0.9676	0.9393
0.007	8.0	4808	0.0333	0.9548	0.9732	0.9493
0.0063	9.0	5409	0.0358	0.9501	0.9698	0.9434
0.0043	10.0	6010	0.0380	0.9475	0.9707	0.9443
0.0032	11.0	6611	0.0377	0.9491	0.9712	0.9468
0.0031	12.0	7212	0.0375	0.9500	0.9716	0.9459

Framework versions

Transformers 4.19.2
Pytorch 1.11.0+cu113
Datasets 2.2.2
Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: b9a6a9c