Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Опубликована: 25 мая 2022

Ссылки

Hugging Face

entity-extraction

autoevaluate

Разметка токеновТекст → label7 профессий

Дообученная на CoNLL-2003 модель DistilBERT для извлечения именованных сущностей из английского текста.

17скачиваний за 30 дней15лайковвеса обновлены21 ноя 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель autoevaluate/entity-extraction — версия distilbert-base-uncased, дообученная для классификации токенов на наборе данных CoNLL-2003. Она предназначена для извлечения именованных сущностей из текста, например распознавания имён людей, организаций и географических названий. Модель построена на архитектуре DistilBERT, принимает текст с контекстом до 512 токенов и выдаёт метки для токенов. В README приведены результаты оценки на тестовой выборке: F1 0,8972, точность 0,9775, полнота 0,9085.

Карточка не описывает ограничения и не уточняет применимость за пределами CoNLL-2003; качество на других жанрах и языках может отличаться. Базовая модель uncased и обучающие данные указывают на английский язык. Лицензия — Apache-2.0.

Сценарии применения

распознавание имён людей в англоязычных текстах
извлечение названий организаций из документов
поиск географических названий в новостях
разметка токенов для конвейера распознавания сущностей

Ограничения

Результаты приведены для оценки на CoNLL-2003; качество на других типах текста и языках может отличаться. README не описывает дополнительные ограничения.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

entity-extraction

This model is a fine-tuned version of distilbert-base-uncased on the conll2003 dataset. It achieves the following results on the evaluation set:

Loss: 0.0808
Precision: 0.8863
Recall: 0.9085
F1: 0.8972
Accuracy: 0.9775

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 1

Training results

Training Loss	Epoch	Step	Validation Loss	Precision	Recall	F1	Accuracy
0.2552	1.0	878	0.0808	0.8863	0.9085	0.8972	0.9775

Framework versions

Transformers 4.19.2
Pytorch 1.11.0+cu113
Datasets 2.2.2
Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForTokenClassification
Ревизия весов: f58d85a