/ Модель

Характеристики

Контекст
128 000 токенов
Параметры
445 млн
Лицензия
Своя лицензия
Архитектура
lfm2 · dense
Базовая модель
LFM2.5-Encoder-350M
Библиотека
transformers
Опубликована
12 июн 2026

LFM2.5-Encoder-350M-PII-Detector

Разметка токеновТекст → label5 профессий

Дообученный энкодер Liquid AI для обнаружения и классификации 40 типов персональных данных в тексте на 16 языках.

2 776скачиваний за 30 дней45лайковвеса обновлены28 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LFM2.5-Encoder-350M-PII-Detector — дообученная Liquid AI модель для обнаружения и классификации персональных данных в тексте. Она основана на двунаправленном энкодере LFM2.5-Encoder-350M с головой token classification и распознаёт 40 типов персональных данных в 16 языках, включая имена, идентификаторы, контактные и финансовые сведения.

Модель предназначена для поиска чувствительных фрагментов в документах и их последующего удаления или маскирования, а также для других задач защиты конфиденциальности. В карточке приведены результаты сравнительных тестов на нескольких наборах данных; качество зависит от набора и принятой схемы разметки. Архитектура относится к семейству LFM2, число параметров по метаданным — 444,6 млн, длина контекста — до 128 000 токенов. Для загрузки требуется Transformers; README предупреждает, что загрузка использует пользовательский код через trust_remote_code=True.

Модель принимает текст и выдаёт разметку токенов с типами сущностей. Лицензия указана как other, без уточнения условий в доступных данных; перед использованием следует проверить лицензионные условия репозитория.

Сценарии применения

  • поиск персональных данных в документах перед публикацией
  • обнаружение и разметка адресов электронной почты и телефонов
  • выявление государственных и налоговых идентификаторов
  • поиск финансовых реквизитов и номеров банковских карт
  • подготовка текстов к удалению или маскированию чувствительных данных

Ограничения

Точность распознавания и определения типа сущности зависит от языка и набора данных; в README отмечены ошибки классификации типов. Для загрузки требуется разрешить выполнение пользовательского кода через trust_remote_code=True.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LFM2.5-Encoder-350-PII-Detector

A full fine-tune of LFM2.5-Encoder-350M with a token-classification head, covering 40 PII types across 16 languages.

Find more details about our encoders in our blog post.

[!NOTE] 💻 Demos: Try this fine-tuned model running in a CPU-only Hugging Face space: PII detection — spot and remove 40 kinds of personal information across 16 languages.

Entity types (40 PII types across 11 domains)

DomainTypes
Identityidentity.person_name, identity.ssn, identity.national_id, identity.passport, identity.drivers_license, identity.date_of_birth, identity.tax_id
Contactcontact.email, contact.phone, contact.address, contact.postal_code, contact.ip_address
Financialfinancial.credit_card, financial.iban, financial.bank_account, financial.swift_bic, financial.crypto_wallet, financial.amount
Credentialscredential.api_key, credential.password, credential.private_key, credential.jwt, credential.connection_string, developer.login_credentials
Onlineonline.username, online.url
Devicedevice.mac_address, device.imei, developer.device_id
Locationlocation.gps_coordinates
Healthcarehealthcare.medical_record, healthcare.condition, healthcare.medication, healthcare.health_plan_id
Organizationorg.company_name
Special-categoryspecial.religion, special.political, special.orientation, special.health_status
Legallegal.case_number

Benchmarks (18-locale-filtered, partial-F1, hybrid decode)

Benchmarkthis modeldetection tierSauerkrautLM GLiNERopenai/privacy-filterPiiranha-v1OpenMed privacy-filterregex + validators
SPY0.4280.5090.2800.2640.2320.2260.358
Gretel0.8800.8850.6630.4580.5530.7700.337
TAB0.8670.8880.6850.5430.2620.6720.000
ai4privacy0.7150.7740.4880.3940.9460.4320.195
Nemotron0.8550.8630.6390.5720.6580.9180.335
MAPA0.2360.2670.4160.2880.2280.1640.000

leaderboard

  • Best on every benchmark except MAPA, whose idiosyncratic date-as-date_of_birth labeling convention penalises correctly-typed predictions. Only two external scores land higher anywhere — Piiranha-v1's 0.946 on ai4privacy and OpenMed's 0.918 on Nemotron — and both are in-distribution: each model trains on that exact corpus, as did our own encoder's pretraining on those same two.
  • Detection tier is the same model and the same predictions, scored with the type label ignored — did it find the PII span at all, which is the metric that matters for redaction. The gap to exact-type is the type-confusion rate, e.g. SPY 0.428 → 0.509.

Usage

⚠️ Loads custom code via trust_remote_code=True (the model wraps a trust_remote_code encoder).

Install the required packages:

pip install torch transformers huggingface_hub

Run PII detection:

import importlib.util
import sys

from huggingface_hub import hf_hub_download
from transformers import AutoModelForTokenClassification, AutoTokenizer

model_id = "LiquidAI/LFM2.5-Encoder-350-PII-Detector"

helper_path = hf_hub_download(model_id, "pii_hybrid_decode.py")
hf_hub_download(model_id, "context_cued.py")
sys.path.insert(0, helper_path.rsplit("/", 1)[0])

spec = importlib.util.spec_from_file_location("pii_hybrid_decode", helper_path)
hd = importlib.util.module_from_spec(spec)
spec.loader.exec_module(hd)

tok = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForTokenClassification.from_pretrained(model_id, trust_remote_code=True).eval()

spans = hd.predict("Email Dr. Laura Schmidt at laura@charite.de.", tok, model)
print(spans)

📬 Contact

Citation

@article{liquidAI2026Encoders,
  author = {Liquid AI},
  title = {LFM2.5-Encoders: Fast at Long Context, Even on CPU},
  journal = {Liquid AI Blog},
  year = {2026},
  note = {www.liquid.ai/blog/lfm2-5-encoders},
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Нельзя запустить

Для архитектуры lfm2 нет загрузчика под задачу token-classification.

Класс архитектуры
Lfm2BidirP2ForTokenClassification
Ревизия весов
b8c9cf3

0 моделей