Характеристики

Контекст: 514 токенов
Параметры: 152 млн
Лицензия: CC BY 4.0
Архитектура: bert · dense
Базовая модель: herbert-base-ner
Библиотека: transformers
Опубликована: 22 сен 2026

Ссылки

herbert-base-ner-clinical-pl

Разметка токеновТекст → label

Модель на базе польской HerBERT размечает имена людей, географические названия и организации в клинических заметках для псевдонимизации.

68скачиваний за 30 дней0лайковвеса обновлены22 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

supervisio/herbert-base-ner-clinical-pl — дообученная Supervisio модель распознавания сущностей в польских клинических заметках для псевдонимизации. Она основана на pczarnik/herbert-base-ner и использует архитектуру BERT с классификационной головой для токенов; содержит 151,6 млн параметров и поддерживает контекст до 514 токенов. Модель сохраняет набор меток PER, LOC и ORG, а также токенизатор базовой модели.

Дообучение на синтетических шаблонных предложениях призвано улучшить выявление польских фамилий во множественном числе и в начале предложения, уменьшительных имён, а также имён, совпадающих с нарицательными словами. Данные построены по таблицам склонения и парадигмам Morfeusz и не содержат клинических текстов. Опубликованные в карточке предварительные показатели получены на arm64-ноутбуке и требуют проверки на целевой платформе; README указывает, что решение о выпуске зависит от отдельной оценки на x86. Лицензия — CC-BY-4.0.

Сценарии применения

поиск имён пациентов в польских клинических заметках
выявление склоняемых и множественных фамилий
распознавание имён в начале предложения
поиск уменьшительных имён
выделение географических названий и организаций перед псевдонимизацией

Ограничения

Обучающие данные синтетические и не содержат клинических текстов, поэтому качество на реальных медицинских записях требует отдельной проверки. Указанные в README предварительные результаты получены на arm64 и не являются результатами целевой оценки на x86.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

supervisio/herbert-base-ner-clinical-pl

A continued fine-tune of pczarnik/herbert-base-ner at commit 8770e1d2b8c273e4dababfaa7d30a7443005ff70 for Polish clinical-note pseudonymization: plural family names (u Kowalskich, z Nowakami), sentence-initial surnames, diminutives and names that are also common nouns (Marek/marka, Lis, Kowal). Same label set (PER, LOC, ORG, BIO), same tokenizer, same head. Licence CC-BY-4.0, carried through from the base model.

Trained by therapist-copilot issue M4-18 (#596). The training data is synthetic — template sentences over declension tables and Morfeusz (SGJP) paradigms — and contains no clinical text.

Evidence status. The numbers below were taken on an arm64 laptop against this checkpoint before it was pinned. They are a candidate's numbers, not a deployment's; the x86 measurement that decides whether this checkpoint ships is recorded in the repository's docs/testing/pseudonymization-eval.md § M4-18.

Training


base	`pczarnik/herbert-base-ner` @ `8770e1d2b8c273e4dababfaa7d30a7443005ff70`
data	`scripts/gen-ner-train.py`, seed `20260916`, SGJP `pl.sgjp.sgjp-2026.06.01`
train / dev	6522 / 784 sentences (dev over disjoint names)
train sha256	`54c60fbc8ffc56cc2530073eeb30ec5be34bbca3c7cec08b2943265da62d0dc5`
held out by lemma	Kowalska, Kowalski, Nowak, Wiśniewska, Wiśniewski, Zielińska, Zieliński
frozen	embeddings + 6 encoder layers (42532615 of 123857671 parameters trainable)
optimizer	AdamW, lr 2e-05, weight decay 0.01, grad clip 1.0
schedule	3 epochs, linear warmup, linear decay, warm-up 0.1
batch / length	16 / 128
seed	20260916
hardware	Apple M3 Pro, mps, 176 s
versions	torch 2.13.0, transformers 5.14.1
synthetic dev, last epoch	PER F1 1.0, LOC F1 1.0, ORG F1 1.0
model.safetensors sha256	`e538c2498eedb5cf774844dcbf73c4ee032f89522a79ebe8bcd09e28fab8d0f1`

Files

config.json, model.safetensors, the tokenizer files and train-record.json. No pickle is published: the consuming service loads safetensors only.

Reproduce

cd services/nlp-sidecar
python scripts/gen-ner-train.py                 # the data, from the seed above
python scripts/finetune-ner.py                  # the checkpoint
python -m pl_eval --ner real --model-path .train/checkpoint

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForTokenClassification
Ревизия весов: c2ece8d