Характеристики

Контекст: 512 токенов
Параметры: 424 млн
Лицензия: CC BY-NC-SA 4.0
Архитектура: bert · dense
Опубликована: 18 авг 2022

Ссылки

Hugging Face

test-finetuned-ner

HYM

Разметка токеновТекст → label6 профессий

Дообученная BERT-модель для классификации токенов и разметки последовательностей.

12скачиваний за 30 дней0лайковвеса обновлены18 авг 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

HYM/test-finetuned-ner — модель HYM для классификации токенов, дообученная на базе hfl/chinese-pert-large. Она подходит для разметки последовательностей, например для распознавания именованных сущностей, если метки обучающего набора соответствуют этой задаче. Модель использует архитектуру BERT с головой BertForTokenClassification, содержит 424,3 млн параметров и принимает последовательности длиной до 512 токенов.

Для обучения использовался неизвестный набор данных; в карточке приведены метрики на оценочной выборке: F1 0,7581, точность 0,7449, полнота 0,7717 и accuracy 0,9546. Лицензия CC BY-NC-SA 4.0 предусматривает некоммерческое использование и распространение производных материалов на тех же условиях.

Сценарии применения

распознавание именованных сущностей при наличии подходящих меток
разметка токенов в последовательностях текста
классификация фрагментов текста по меткам обученной модели

Ограничения

Набор данных и схема меток не описаны, поэтому конкретные классы сущностей и области применения установить нельзя. Указанные метрики относятся только к оценочной выборке; лицензия ограничивает использование некоммерческими условиями.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

test-finetuned-ner

This model is a fine-tuned version of hfl/chinese-pert-large on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.1687
Precision: 0.7449
Recall: 0.7717
F1: 0.7581
Accuracy: 0.9546

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 3
eval_batch_size: 3
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss	Precision	Recall	F1	Accuracy
0.1234	1.0	9387	0.1513	0.6954	0.7365	0.7153	0.9505
0.0841	2.0	18774	0.1462	0.7248	0.7630	0.7434	0.9533
0.0542	3.0	28161	0.1687	0.7449	0.7717	0.7581	0.9546

Framework versions

Transformers 4.13.0
Pytorch 1.8.0+cu111
Datasets 2.4.0
Tokenizers 0.10.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForTokenClassification
Ревизия весов: b0df7e3