/ Модель

Характеристики

Размер весов
1,2 ГБ
Лицензия
Apache 2.0
Библиотека
gliner
Опубликована
20 апр 2024

gliner_multi_pii-v1

Разметка токеновТекст → label5 профессий

GLiNER PII — дообученная модель для обнаружения и извлечения персональных и других чувствительных сущностей из текста.

64 073скачиваний за 30 дней177лайковвеса обновлены20 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

urchade разработала GLiNER PII — модель распознавания именованных сущностей, дообученную на базе urchade/gliner_multi-v2.1 на синтетическом наборе данных с персональными данными. Она использует двунаправленный трансформерный энкодер типа BERT и предназначена для извлечения PII из текста, в том числе когда нужные типы сущностей задаются пользователем.

Модель распознаёт имена людей и организаций, телефоны, адреса, электронную почту, номера документов, банковские и страховые идентификаторы, даты рождения, медицинские сведения, IP-адреса и другие перечисленные в карточке сущности. Карточка указывает поддержку английского, французского, немецкого, испанского, португальского и итальянского языков. Модель распространяется в формате PyTorch через библиотеку GLiNER и опубликована под лицензией Apache-2.0.

GLiNER PII рассчитана на извлечение и разметку чувствительных сущностей в текстах, например для обнаружения персональных данных перед их редактированием или маскированием. Карточка не приводит количественных оценок качества, поэтому пригодность для конкретных типов документов и языков следует оценивать на собственных данных.

Сценарии применения

  • поиск имён, телефонов и адресов в текстах
  • обнаружение реквизитов банковских карт и счетов
  • выявление номеров паспортов и других документов
  • поиск медицинских сведений и страховых идентификаторов
  • разметка персональных данных перед маскированием

Ограничения

Карточка не приводит количественных оценок качества. Поддержка русского языка не заявлена; качество распознавания для конкретных типов документов и языков следует проверить на целевых данных.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for GLiNER PII

GLiNER is a Named Entity Recognition (NER) model capable of identifying any entity type using a bidirectional transformer encoder (BERT-like). It provides a practical alternative to traditional NER models, which are limited to predefined entities, and Large Language Models (LLMs) that, despite their flexibility, are costly and large for resource-constrained scenarios.

This model has been trained by fine-tuning urchade/gliner_multi-v2.1 on the urchade/synthetic-pii-ner-mistral-v1 dataset.

This model is capable of recognizing various types of personally identifiable information (PII), including but not limited to these entity types: person, organization, phone number, address, passport number, email, credit card number, social security number, health insurance id number, date of birth, mobile phone number, bank account number, medication, cpf, driver's license number, tax identification number, medical condition, identity card number, national id number, ip address, email address, iban, credit card expiration date, username, health insurance number, registration number, student id number, insurance number, flight number, landline phone number, blood type, cvv, reservation number, digital signature, social media handle, license plate number, cnpj, postal code, passport_number, serial number, vehicle registration number, credit card brand, fax number, visa number, insurance company, identity document number, transaction number, national health insurance number, cvc, birth certificate number, train ticket number, passport expiration date, and social_security_number.

Links

from gliner import GLiNER

model = GLiNER.from_pretrained("urchade/gliner_multi_pii-v1")

text = """
Harilala Rasoanaivo, un homme d'affaires local d'Antananarivo, a enregistré une nouvelle société nommée "Rasoanaivo Enterprises" au Lot II M 92 Antohomadinika. Son numéro est le +261 32 22 345 67, et son adresse électronique est harilala.rasoanaivo@telma.mg. Il a fourni son numéro de sécu 501-02-1234 pour l'enregistrement.
"""

labels = ["work", "booking number", "personally identifiable information", "driver licence", "person", "book", "full address", "company", "actor", "character", "email", "passport number", "Social Security Number", "phone number"]
entities = model.predict_entities(text, labels)

for entity in entities:
    print(entity["text"], "=>", entity["label"])
Harilala Rasoanaivo => person
Rasoanaivo Enterprises => company
Lot II M 92 Antohomadinika => full address
+261 32 22 345 67 => phone number
harilala.rasoanaivo@telma.mg => email
501-02-1234 => Social Security Number

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gliner

Нельзя запустить

Модели GLiNER требуют отдельного рантайма.

Ревизия весов
1fcf13e

0 моделей