/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
Apache 2.0
Архитектура
xlm-roberta · dense
Базовая модель
xlm-roberta-base
Опубликована
8 июн 2026

eu-pii-anonimization-multilang-v2-preview

Разметка токеновТекст → label6 профессий

Многоязычная модель XLM-RoBERTa для обнаружения и разметки персональных и чувствительных данных в тексте перед их редактированием или фильтрацией.

4 027скачиваний за 30 дней3лайкавеса обновлены11 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

bards.ai разработала EU PII Anonimization Multilingual Detector v2 Preview — модель обнаружения персональных и чувствительных данных в тексте. Она продолжает обучение модели bardsai/eu-pii-anonimization-multilang и предназначена для разметки сущностей с последующим удалением или маскированием в документах, письмах, обращениях в поддержку, чатах и наборах данных, а также для фильтрации данных перед подачей в RAG-системы и поисковые индексы.

Модель построена на XLM-RoBERTa и содержит 305,2 млн параметров; она принимает текст и возвращает BIO-разметку токенов. В версии v2 заявлено 36 классов сущностей, включая даты, контакты, идентификаторы, финансовые данные, сведения о здоровье, биометрические и генетические данные, а также специальные категории GDPR. Поддерживаются 22 языка ЕС, перечисленных в карточке модели. Максимальная длина контекста — 514 токенов. Лицензия — Apache-2.0.

Это предварительная версия с регулярно обновляемыми контрольными точками, поэтому результаты могут меняться. Качество зависит от языка, предметной области и качества текста; OCR-шум, переключение языков и необычное форматирование ухудшают полноту обнаружения. Неоднозначные сущности могут требовать постобработки и проверки человеком, а обнаружение данных само по себе не гарантирует соответствия требованиям законодательства.

Сценарии применения

  • обнаружение персональных данных в письмах и чатах
  • маскирование идентификаторов и контактов в документах
  • поиск медицинских и других чувствительных сведений GDPR
  • очистка наборов данных перед обучением или передачей
  • фильтрация PII перед подачей текста в RAG-системы

Ограничения

Это предварительная модель, выходы которой могут меняться между обновлениями. Качество снижается на шумном или необычно оформленном тексте; неоднозначные результаты требуют постобработки или проверки человеком, а модель не заменяет юридическую оценку.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

EU PII Anonimization Multilingual Detector - v2 (Preview)

Important This is preview model, wherre we will be doing rolling release of new checkpoints. It might change the output of the model as the times go.

A multilingual PII detector built for EU compliance reality: 24 official languages, GDPR special categories, AI Act high-risk data - in one model.

Zrzut ekranu 2026-05-5 o 08.47.14

Try it

🔗 Live demo in Browser

What's new in v2

v2 continues training from bardsai/eu-pii-anonimization-multilang on additional multilingual data and adds a dedicated DATE class for generic calendar dates - distinct from the existing DATE_OF_BIRTH category. This makes v2 a better fit for redacting timelines in documents, tickets, and chat logs where any date can be identifying in context. Entity coverage grows to 36 classes.

Why this exists

GDPR and the AI Act require you to detect and redact personal data across every language your users write in. Most open-source PII models were trained on English with a few translations bolted on, and they cover the basics - names, emails, phone numbers - while missing exactly the categories regulators care about: biometric data, genetic data, health information, political opinions, ethnic origin.

bardsai/eu-pii-anonimization-multilangv2 is trained end-to-end on real multilingual data (not English-translated), covers 36 entity classes mapped to GDPR Article 9 special categories and AI Act high-risk identifiers.

What's different

  • Native multilingual training. Real text in EU languages. Performance on Polish, German, French, Italian, and Spanish is comparable to the English baseline.
  • GDPR special categories covered. Health, biometric, genetic, and other Article 9 entities that most OSS PII models skip entirely.
  • Generic date detection. New DATE class on top of DATE_OF_BIRTH, so date-based identifiers in free text are caught too.

Who this is for

Compliance and privacy engineers at EU companies who need to:

  • Redact PII from documents, support tickets, emails, and chat logs before storage or analysis
  • Sanitize datasets before training, sharing, or moving across jurisdictions
  • Filter inputs to RAG pipelines and search indexes so personal data doesn't leak into prompts or logs
  • Build audit trails for what was redacted, when, and why

Quick start

from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

model_name = "bardsai/eu-pii-anonimization-multilangv2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForTokenClassification.from_pretrained(model_name)

text = "John Smith, passport AB123456, phone +48 123 456 789"
inputs = tokenizer(text, return_tensors="pt", truncation=True)

with torch.no_grad():
    outputs = model(**inputs)
    predictions = torch.argmax(outputs.logits, dim=-1)

tokens = tokenizer.convert_ids_to_tokens(inputs["input_ids"][0])
labels = [model.config.id2label[p.item()] for p in predictions[0]]

for token, label in zip(tokens, labels):
    if label != "O":
        print(label, token)

Or with a pipeline and span aggregation:

from transformers import pipeline

nlp = pipeline(
    "token-classification",
    model="bardsai/eu-pii-anonimization-multilangv2",
    aggregation_strategy="simple",
)
print(nlp("Jan Kowalski, PESEL 80010112345, born 1980-01-01, Warszawa."))

Entity coverage

36 classes across eight families, with B-/I- BIO labeling:

  • Personal identity - names, dates, dates of birth, national ID numbers
  • Contact and location - addresses, emails, phone numbers, geolocation
  • Official documents - passports, driver's licenses, tax IDs
  • Financial - IBAN, credit card, account numbers
  • Technical identifiers - IP addresses, MAC addresses, device IDs, usernames
  • Organization data - employer, institutional affiliations
  • Health, biometric, genetic (GDPR Art. 9) - medical conditions, biometric identifiers, genetic data
  • Special-category (GDPR Art. 9) - racial/ethnic origin, political opinions, religious beliefs, sexual orientation, trade union membership

Full label list in config.json (id2label / label2id).

Limitations

This is a model, not a compliance program. A few things to keep in mind:

  • Performance varies by language, domain, and input quality. OCR noise, code-switching, and unusual formatting will degrade recall.
  • Ambiguous mentions (a name that's also a place, an ID-shaped number that isn't an ID) need post-processing rules or human review.
  • Detection ≠ legal sufficiency. Use this to support a redaction workflow, not to replace your DPO's judgment.
  • Threshold tuning matters. The right operating point depends on whether you're optimizing for recall (compliance) or precision (data utility).

Files

  • model.safetensors - model weights
  • config.json - config and label mapping
  • tokenizer.json, tokenizer_config.json - tokenizer assets
  • special_tokens_map.json - special token mapping

Citation

@misc{bards.ai_2026,
	author       = { bards.ai and Karol Samorański and Michał Swędrowski and Michał Pogoda-Rosikoń },
	title        = { eu-pii-anonimization-multilang-v2-preview (Revision bea7d79) },
	year         = 2026,
	url          = { https://huggingface.co/bardsai/eu-pii-anonimization-multilang-v2-preview },
	doi          = { 10.57967/hf/9113 },
	publisher    = { Hugging Face }
}

About bards.ai

We build product ML for teams shipping AI to real users - RAG, agents, fine-tuned models, evals, and the unglamorous infrastructure that keeps them working. 16+ open models on Hugging Face, 10+ publications, production deployments at Comcast, Chili Piper, and Surfer SEO.

bards.ai

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForTokenClassification
Ревизия весов
8e0b197

0 моделей