Характеристики

Контекст: 512 токенов
Параметры: 424 млн
Архитектура: bert · dense
Опубликована: 18 окт 2023

Ссылки

Hugging Face

RoBERTa-ext-large-chinese-finetuned-ner

gyr66

Разметка токеновТекст → label3 профессии

Модель разметки токенов для обнаружения фрагментов, связанных с конфиденциальностью, в китайском тексте.

16скачиваний за 30 дней0лайковвеса обновлены19 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

gyr66/RoBERTa-ext-large-chinese-finetuned-ner — китайская модель разметки токенов, дообученная автором на наборе данных gyr66/privacy_detection. Она предназначена для выявления и классификации фрагментов, связанных с конфиденциальностью, в китайском тексте. Модель основана на архитектуре BERT, содержит 424,3 млн параметров и обрабатывает последовательности длиной до 512 токенов.

На оценочном наборе данных указаны F1 0,7318, точность 0,7052 и полнота 0,7606. Эти показатели отражают результаты только на упомянутом наборе данных; карточка не уточняет конкурсную задачу или классы разметки. Модель опубликована в формате PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.

Сценарии применения

поиск конфиденциальных фрагментов в китайских текстах
разметка упоминаний приватных данных
анализ китайских документов для выявления приватной информации

Ограничения

Показатели качества приведены только для оценочного набора gyr66/privacy_detection; состав классов и конкурсная задача в карточке не раскрыты. Лицензия в предоставленных источниках не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей IV.8Отраслевые задачиГосударственное управление, правосудие и чрезвычайные ситуацииAI помогает улучшать государственные услуги, управление ресурсами, правосудие и реагирование на чрезвычайные ситуации.47 задач2 517моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RoBERTa-ext-large-chinese-finetuned-ner

This model is a fine-tuned version of chinese-roberta-wwm-ext-large on the gyr66/privacy_detection dataset. It achieves the following results on the evaluation set:

Loss: 0.7697
Precision: 0.7052
Recall: 0.7606
F1: 0.7318
Accuracy: 0.9138

Model description

The model is used for competition: "https://www.datafountain.cn/competitions/472"

Training and evaluation data

The training and evaluation data is from gyr66/privacy_detection dataset.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 28
eval_batch_size: 28
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear

Framework versions

Transformers 4.27.3
Pytorch 2.0.1+cu117
Datasets 2.14.5
Tokenizers 0.13.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForTokenClassification
Ревизия весов: 66d3cf2