/ Модель

Характеристики

Контекст
8 192 токена
Параметры
149 млн
Лицензия
Apache 2.0
Архитектура
modernbert · dense
Базовая модель
ModernBERT-base
Библиотека
transformers
Опубликована
25 июн 2026

pii-layout-synth-v9

Разметка токеновТекст → label4 профессии

Дообученная ModernBERT для классификации токенов, вероятно, предназначенная для разметки персональных данных в текстах.

9скачиваний за 30 дней0лайковвеса обновлены26 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

pii-layout-synth-v9 — модель на базе encoder-архитектуры ModernBERT, дообученная для классификации токенов. По названию репозитория она, вероятно, предназначена для разметки персональных данных с учётом расположения элементов, однако README не описывает её назначение, схему меток или способ использования. Модель содержит 149 млн параметров, принимает текст и рассчитана на контекст до 8192 токенов.

В README приведены результаты оценки: F1 0,9912, precision 0,9896, recall 0,9929 и accuracy 0,9985. Датасет назван неизвестным, поэтому эти показатели нельзя независимо интерпретировать или переносить на другие данные. Лицензия — Apache-2.0.

Сценарии применения

  • поиск и разметка персональных данных в тексте
  • выделение токенов с чувствительной информацией
  • подготовка текстов к обезличиванию

Ограничения

README не раскрывает набор меток, обучающий датасет и детали оценки; приведённые метрики нельзя считать гарантией качества на других данных. Англоязычная базовая модель не подтверждает поддержку русского языка.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

pii-layout-synth-v9

This model is a fine-tuned version of answerdotai/ModernBERT-base on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.0049
  • Precision: 0.9896
  • Recall: 0.9929
  • F1: 0.9912
  • Accuracy: 0.9985

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 16
  • eval_batch_size: 32
  • seed: 42
  • gradient_accumulation_steps: 2
  • total_train_batch_size: 32
  • optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: cosine_with_restarts
  • lr_scheduler_warmup_steps: 200
  • num_epochs: 5
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossPrecisionRecallF1Accuracy
0.04630.24555000.02090.94690.97440.96050.9938
0.02460.490910000.01050.97490.98480.97980.9967
0.01910.736415000.00870.98170.99130.98650.9974
0.01440.981820000.00770.97850.98460.98150.9973
0.00931.227325000.00550.98780.99220.99000.9982
0.00901.472830000.00560.98750.99260.99000.9981
0.00801.718235000.00590.98700.99250.98970.9981
0.00891.963740000.00510.98900.99440.99170.9984
0.00452.209145000.00630.98440.99060.98750.9980
0.00622.454650000.00730.98700.98970.98840.9980
0.00352.700055000.00490.98960.99290.99120.9985

Framework versions

  • Transformers 5.12.1
  • Pytorch 2.12.1+cu130
  • Datasets 5.0.0
  • Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
ModernBertForTokenClassification
Ревизия весов
5509a57

0 моделей