/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense
Базовая модель
multilang-pii-ner
Библиотека
transformers.js
Опубликована
20 дек 2025

multilang-pii-ner-ONNX

Разметка токеновТекст → label6 профессий

onnx-community/multilang-pii-ner-ONNX — ONNX-версия модели Ar86Bat/multilang-pii-ner, автоматически конвертированная для использования, в частности, через Transformers.js.

2 460скачиваний за 30 дней0лайковвеса обновлены20 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана на базе XLM-RoBERTa Base и дообучена для извлечения именованных сущностей, связанных с персональными данными (PII), в англоязычных, немецких, итальянских и французских текстах.

Модель предназначена для обнаружения и маскирования персональных данных в сценариях обезличивания текста и защиты конфиденциальности. Она обучалась на датасете ai4privacy/open-pii-masking-500k-ai4privacy в формате CoNLL. Заявлены общая accuracy 99,24%, macro F1 0,954 и weighted F1 0,992; особенно высокие показатели отмечены для адресов электронной почты и дат, а также распространённых типов сущностей. Для редких или неоднозначных категорий, включая номера водительских удостоверений, паспортов, пол, фамилии и другие чувствительные типы, качество ниже, поэтому модель не предназначена для сценариев, требующих идеальной точности без дополнительного дообучения.

Модель относится к задачам token classification и поддерживает инференс в экосистеме Transformers.js. Размер контекста и точное число параметров в представленном описании не указаны. Модель распространяется по лицензии MIT.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

multilang-pii-ner (ONNX)

This is an ONNX version of Ar86Bat/multilang-pii-ner. It was automatically converted and uploaded using this Hugging Face Space.

Usage with Transformers.js

See the pipeline documentation for token-classification: https://huggingface.co/docs/transformers.js/api/pipelines#module_pipelines.TokenClassificationPipeline


Multilingual PII NER

A multilingual transformer model (xlm-roberta-base) fine-tuned for Named Entity Recognition (NER) to detect and mask Personally Identifiable Information (PII) in text across English, German, Italian, and French.

Model Description

  • Architecture: XLM-RoBERTa Base
  • Task: Named Entity Recognition (NER) for PII detection and masking
  • Languages: English, German, Italian, French
  • Training Data: ai4privacy/open-pii-masking-500k-ai4privacy (CoNLL format)
  • License: MIT

Intended Uses & Limitations

  • Intended use: Detect and mask PII entities in multilingual text for privacy-preserving applications.
  • Not suitable for: Use cases requiring perfect recall/precision on rare or ambiguous PII types without further fine-tuning.

How to Use

from transformers import AutoTokenizer, AutoModelForTokenClassification, pipeline

model_id = "Ar86Bat/multilang-pii-ner"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForTokenClassification.from_pretrained(model_id)

nlp = pipeline("ner", model=model, tokenizer=tokenizer, aggregation_strategy="simple")
text = "John Doe was born on 12/12/1990 and lives in Berlin."
results = nlp(text)
print(results)

Evaluation Results

  • Overall accuracy: 99.24%
  • Macro F1-score: 0.954
  • Weighted F1-score: 0.992

Entity-level highlights

  • High F1-scores (>0.97) for common entities: AGE, BUILDINGNUM, CITY, DATE, EMAIL, GIVENNAME, STREET, TELEPHONENUM, TIME
  • Excellent performance on EMAIL and DATE (F1 ≈ 0.999)
  • Lower F1-scores for challenging/rare entities: DRIVERLICENSENUM (F1 ≈ 0.85), GENDER (F1 ≈ 0.83), PASSPORTNUM (F1 ≈ 0.88), SURNAME (F1 ≈ 0.85), SEX (F1 ≈ 0.84)

Training & Validation

  • Preprocessing, training, and validation scripts are available in the GitHub repository.
  • All model artifacts and outputs are in the model/ directory.
  • Training hyperparameters:
    • num_train_epochs=2 # Total number of training epochs
    • per_device_train_batch_size=32 # Batch size for training
    • per_device_eval_batch_size=32 # Batch size for evaluation

Citation

If you use this model, please cite the repository:

@misc{ar86bat_multilang_pii_ner_2025,
  author = {Arif Hizlan},
  title = {Multilingual PII NER},
  year = {2025},
  howpublished = {\\url{https://huggingface.co/Ar86Bat/multilang-pii-ner}}
}

GitHub Repository

https://github.com/Ar86Bat/multilang-pii-ner

License

MIT License

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers.js

Нельзя запустить

Модель выложена для браузера (ONNX / transformers.js), для GPU-рантайма нет весов.

Класс архитектуры
XLMRobertaForTokenClassification
Ревизия весов
730c579

0 моделей