/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Базовая модель
distilbert-base-uncased
Библиотека
transformers
Опубликована
13 янв 2026

OpenMed-PII-LiteClinical-Small-66M-v1

Разметка токеновТекст → label3 профессии

Англоязычная модель OpenMed на базе DistilBERT для обнаружения и разметки персональных и клинических данных в тексте с целью деидентификации.

1 346скачиваний за 30 дней0лайковвеса обновлены13 янв 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OpenMed-PII-LiteClinical-Small-66M-v1 — англоязычная модель OpenMed на базе DistilBERT, дообученная для токенной классификации и обнаружения 54 типов персональных и чувствительных данных в тексте. Она размечает имена, адреса, контактные данные, идентификаторы, финансовые сведения и клиническую информацию; размер модели — 66 млн параметров, контекст — до 512 токенов.

Модель предназначена для поиска и последующего удаления или маскирования чувствительных данных в клинических заметках, медицинских документах и других текстовых коллекциях, а также для подготовки наборов данных и аудита конфиденциальности. В карточке приведён micro-F1 0,9485 на тестовой выборке NVIDIA Nemotron-PII из 2 000 примеров. Распространяется по лицензии Apache-2.0.

Это вспомогательный инструмент: пропуски и ошибки разметки возможны, поэтому для важных сценариев требуется проверка человеком. Модель обучена преимущественно на английском языке, а качество может меняться на специализированной терминологии; для некоторых категорий точность ниже.

Сценарии применения

  • поиск персональных данных в клинических заметках
  • обнаружение идентификаторов пациентов в медицинских документах
  • разметка контактных и финансовых данных перед маскированием
  • подготовка текстовых наборов данных к исследовательскому использованию
  • аудит коллекций документов на наличие чувствительной информации

Ограничения

Модель может пропускать чувствительные данные и ошибаться; в важных сценариях необходима проверка человеком. Она рассчитана преимущественно на английский текст, а качество зависит от терминологии и категории сущностей.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OpenMed-PII-LiteClinical-Base-66M-v1

PII Detection Model | 66M Parameters | Open Source

F1 Score Precision Recall

Model Description

OpenMed-PII-LiteClinical-Base-66M-v1 is a transformer-based token classification model fine-tuned for Personally Identifiable Information (PII) detection in text. This model identifies and classifies 54 types of sensitive information including names, addresses, SSNs, medical record numbers, and more.

Key Features

  • High Accuracy: Achieves strong F1 scores across diverse PII categories
  • Comprehensive Coverage: Detects 50+ entity types spanning personal, financial, medical, and contact information
  • Privacy-Focused: Designed for de-identification and compliance with HIPAA, GDPR, and other privacy regulations
  • Production-Ready: Optimized for real-world text processing pipelines

Performance

Evaluated on a stratified 2,000-sample test set from NVIDIA Nemotron-PII:

MetricScore
Micro F10.9485
Precision0.9554
Recall0.9418
Macro F10.9484
Weighted F10.9468
Accuracy0.9930

Top 10 PII Models

RankModelF1PrecisionRecall
1OpenMed-PII-SuperClinical-Large-434M-v10.96080.96850.9532
2OpenMed-PII-BigMed-Large-560M-v10.96040.96440.9565
3OpenMed-PII-EuroMed-210M-v10.96000.96810.9521
4OpenMed-PII-SnowflakeMed-568M-v10.95940.96400.9548
5OpenMed-PII-SuperMedical-Large-355M-v10.95920.96320.9553
6OpenMed-PII-ClinicalBGE-568M-v10.95870.96360.9538
7OpenMed-PII-mClinicalE5-Large-560M-v10.95820.96310.9533
8OpenMed-PII-ModernMed-Large-395M-v10.95790.96390.9520
9OpenMed-PII-BioClinicalModern-Large-395M-v10.95790.96560.9502
10OpenMed-PII-ClinicalE5-Large-335M-v10.95770.96040.9550

Best Performing Entities

EntityF1PrecisionRecallSupport
biometric_identifier1.0001.0001.000234
credit_debit_card0.9951.0000.991215
email0.9940.9950.993763
date_of_birth0.9930.9861.000273
health_plan_beneficiary_number0.9910.9821.000216

Challenging Entities

These entity types have lower performance and may benefit from additional post-processing:

EntityF1PrecisionRecallSupport
pin0.8620.8720.853136
time0.8590.8940.826472
gender0.8290.8060.853190
sexuality0.8240.7580.90483
occupation0.6470.7550.566724

Supported Entity Types

This model detects 54 PII entity types organized into categories:

EntityDescription
account_numberAccount Number
api_keyApi Key
bank_routing_numberBank Routing Number
certificate_license_numberCertificate License Number
credit_debit_cardCredit Debit Card
cvvCvv
employee_idEmployee Id
health_plan_beneficiary_numberHealth Plan Beneficiary Number
mac_addressMac Address
medical_record_numberMedical Record Number
...and 6 more
EntityDescription
ageAge
biometric_identifierBiometric Identifier
blood_typeBlood Type
date_of_birthDate Of Birth
education_levelEducation Level
first_nameFirst Name
last_nameLast Name
genderGender
languageLanguage
occupationOccupation
...and 4 more
EntityDescription
emailEmail
phone_numberPhone Number
fax_numberFax Number
urlUrl
EntityDescription
cityCity
coordinateCoordinate
countryCountry
countyCounty
stateState
street_addressStreet Address
EntityDescription
device_identifierDevice Identifier
ipv4Ipv4
ipv6Ipv6
EntityDescription
dateDate
date_timeDate Time
timeTime
EntityDescription
company_nameCompany Name

Usage

Quick Start

from transformers import pipeline

# Load the PII detection pipeline
ner = pipeline("ner", model="openmed/OpenMed-PII-LiteClinical-Base-66M-v1", aggregation_strategy="simple")

text = """
Patient John Smith (DOB: 03/15/1985, SSN: 123-45-6789) was seen today.
Contact: john.smith@email.com, Phone: (555) 123-4567.
Address: 456 Oak Street, Boston, MA 02108.
"""

entities = ner(text)
for entity in entities:
    print(f"{entity['entity_group']}: {entity['word']} (score: {entity['score']:.3f})")

De-identification Example

def redact_pii(text, entities, placeholder='[REDACTED]'):
    """Replace detected PII with placeholders."""
    # Sort entities by start position (descending) to preserve offsets
    sorted_entities = sorted(entities, key=lambda x: x['start'], reverse=True)
    redacted = text
    for ent in sorted_entities:
        redacted = redacted[:ent['start']] + f"[{ent['entity_group']}]" + redacted[ent['end']:]
    return redacted

# Apply de-identification
redacted_text = redact_pii(text, entities)
print(redacted_text)

Batch Processing

from transformers import AutoModelForTokenClassification, AutoTokenizer
import torch

model_name = "openmed/OpenMed-PII-LiteClinical-Base-66M-v1"
model = AutoModelForTokenClassification.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

texts = [
    "Contact Dr. Jane Doe at jane.doe@hospital.org",
    "Patient SSN: 987-65-4321, MRN: 12345678",
]

inputs = tokenizer(texts, return_tensors='pt', padding=True, truncation=True)
with torch.no_grad():
    outputs = model(**inputs)
    predictions = torch.argmax(outputs.logits, dim=-1)

Training Details

Dataset

  • Source: NVIDIA Nemotron-PII
  • Format: BIO-tagged token classification
  • Labels: 106 total (53 entity types × 2 BIO tags + O)
  • Splits: 50K train / 5K validation / 45K test

Training Configuration

  • Max Sequence Length: 384 tokens
  • Label Strategy: First token only (label_all_tokens=False)
  • Framework: Hugging Face Transformers + Trainer API

Intended Use & Limitations

Intended Use

  • De-identification: Automated redaction of PII in clinical notes, medical records, and documents
  • Compliance: Supporting HIPAA, GDPR, and privacy regulation compliance
  • Data Preprocessing: Preparing datasets for research by removing sensitive information
  • Audit Support: Identifying PII in document collections

Limitations

⚠️ Important: This model is intended as an assistive tool, not a replacement for human review.

  • False Negatives: Some PII may not be detected; always verify critical applications
  • Context Sensitivity: Performance may vary with domain-specific terminology
  • Challenging Categories: occupation, time, and sexuality have lower F1 scores
  • Language: Primarily trained on English text

Citation

@misc{openmed-pii-2026,
  title = {OpenMed-PII-LiteClinical-Base-66M-v1: PII Detection Model},
  author = {OpenMed Science},
  year = {2026},
  publisher = {Hugging Face},
  url = {https://huggingface.co/openmed/OpenMed-PII-LiteClinical-Base-66M-v1}
}

Links

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForTokenClassification
Ревизия весов
a6c3e20

0 моделей