Характеристики

Контекст: 512 токенов
Параметры: 137 млн
Лицензия: Apache 2.0
Архитектура: bert · dense
Базовая модель: bert-base-uncased
Опубликована: 16 авг 2024

Ссылки

Hugging Face

BERT-finetuned-ner-pablo-just-classifier

pabRomero

Разметка токеновТекст → label

Дообученная англоязычная BERT-модель для классификации токенов и извлечения именованных сущностей из текста.

12скачиваний за 30 дней0лайковвеса обновлены16 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

pabRomero/BERT-finetuned-ner-pablo-just-classifier — англоязычная модель на архитектуре BERT, дообученная автором на базе google-bert/bert-base-uncased для классификации токенов и извлечения именованных сущностей. Она подходит для разметки слов и фрагментов текста в задачах NER. Модель содержит 136,7 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и распространяется в формате safetensors.

В карточке приведены метрики на оценочной выборке: F1 0,6386, точность 0,6355 и полнота 0,6417; точность по метрике accuracy составляет 0,9550. Датасет указан как None, а описание назначения, обучающих данных и ограничений отсутствует, поэтому область распознаваемых сущностей по карточке определить нельзя. Лицензия — Apache-2.0.

Сценарии применения

разметка именованных сущностей в англоязычных текстах
извлечение упоминаний людей, организаций и мест из документов
классификация токенов для последующей обработки текста

Ограничения

F1 на оценочной выборке составляет 0,6386; набор сущностей и характеристики обучающих данных не описаны. Контекст ограничен 512 токенами.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

BERT-finetuned-ner-pablo-just-classifier

This model is a fine-tuned version of google-bert/bert-base-uncased on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.1826
Precision: 0.6355
Recall: 0.6417
F1: 0.6386
Accuracy: 0.9550

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.1
train_batch_size: 16
eval_batch_size: 16
seed: 42
gradient_accumulation_steps: 4
total_train_batch_size: 64
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_ratio: 0.05
num_epochs: 3
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Precision	Recall	F1	Accuracy
0.6403	0.9996	652	0.4524	0.4481	0.5957	0.5114	0.9347
0.5852	1.9992	1304	0.3430	0.4741	0.6281	0.5404	0.9373
0.3808	2.9989	1956	0.1826	0.6355	0.6417	0.6386	0.9550

Framework versions

Transformers 4.44.0
Pytorch 2.4.0+cu124
Datasets 2.21.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForTokenClassification
Ревизия весов: 82ae584