I.4Обработка документов и форм
В разделе собраны самостоятельные задачи, где AI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 180 моделейnoczero/pii-xlmr-bilingual — дообученная модель XLM-RoBERTa для поиска и разметки персональных данных в тексте на английском и корейском языках, включая их смешанное употребление. Модель находит семь типов сущностей: людей, корейские регистрационные номера жителей (RRN), телефоны, адреса электронной почты, адреса, номера карт и организации. Архитектура — XLMRobertaForTokenClassification, около 305,2 млн параметров; базовая модель — FacebookAI/xlm-roberta-base. Максимальная длина контекста — 514 токенов. Модель предназначена для выявления фрагментов с персональными данными перед их редактированием или маскированием, в том числе в локальных системах без сетевых вызовов при инференсе. В README сообщается о строгом F1 по точным границам сущностей 0,9711 на генеративном наборе и 0,9161 на смешанном англо-корейском наборе; результаты на реальном тексте ниже — 0,7356 в целом, причём слабее всего распознаются организации. Лицензия — MIT.
PolizzeDonut-SoloPDF-3Epochs — дообученная tedad09 модель на базе naver-clova-ix/donut-base. Это архитектура vision-encoder-decoder для преобразования изображений документов в текст. В метаданных указана задача image-text-to-text, а в README сообщается о дообучении на наборе imagefolder и значении loss 1.1551 на оценочном наборе. Модель предназначена для обработки изображений документов; конкретный сценарий разбора полисов и поддерживаемые поля в карточке не описаны. Сильная сторона базовой модели Donut — работа с изображением и текстом в единой модели. Результаты оценки, кроме значения loss, и ограничения применения не приведены. Лицензия — MIT.
PP-DocBlockLayout_onnx — модель PaddlePaddle/PaddleOCR для обнаружения и локализации блоков компоновки в изображениях документов. Она предназначена для предварительного анализа китайских и англоязычных научных статей, презентаций, журналов, контрактов, книг, экзаменационных материалов, древних книг и исследовательских отчётов, а также других документов со сложной структурой. Модель принимает изображения и выявляет области типа Region, что может использоваться в OCR-конвейерах и системах структурированного разбора документов. В основе модели лежит архитектура RT-DETR-L; доступен вариант для выполнения через ONNX Runtime. В README заявлена одна категория обнаружения — Region, а показатель mAP@0.5 составляет 95,9% на собственной тестовой выборке, включающей около 1000 изображений различных типов документов. Данные о точном размере модели, максимальном контексте, поддерживаемых языках сверх китайского и английского, вычислительных требованиях и ограничениях на конкретные форматы изображений не приведены. Модель распространяется по лицензии Apache 2.0.
PaddlePaddle/PP-DocLayoutV3_safetensors — веса PP-DocLayoutV3 в формате safetensors, подготовленные PaddlePaddle для использования с Transformers. Модель предназначена для анализа структуры документов, включая изображения с искривлёнными и неплоскими поверхностями: она обнаруживает элементы макета, предсказывает для них многоугольные рамки и определяет логический порядок чтения за один проход. Модель используется как компонент PaddleOCR-VL 1.5/1.6 и GLM-OCR для разбора документов. В карточке указана поддержка английского и китайского языков, а лицензия — Apache-2.0. Ограничение области применения: модель ориентирована на анализ макета документов и сама по себе не описана как универсальная система распознавания и понимания текста.
PP-OCRv4_mobile_rec — модель распознавания строк текста из серии PP-OCRv4_rec, разработанная командой PaddleOCR. Она принимает изображения отдельных текстовых строк и возвращает распознанный текст; её можно использовать как модуль распознавания в конвейере OCR вместе с обнаружением текста и, при необходимости, коррекцией ориентации или деформации изображения. Модель рассчитана на обычные сценарии распознавания китайского и английского текста, с основным акцентом на китайский. PP-OCRv4 развивает PP-OCRv3: в серии оптимизированы данные, структура сети и стратегия обучения. В метаданных размер и численная архитектура не приведены. Модель распространяется по лицензии Apache-2.0. README отмечает, что оценка точности строки засчитывает её как ошибочную при неверном распознавании хотя бы одного символа, включая пунктуацию. Описанная модель распознаёт текстовые строки, а для полноценного OCR-конвейера нужны дополнительные модули, в частности обнаружение текста.
PP-OCRv6_tiny_det — компактная модель обнаружения текстовых областей из семейства PP-OCRv6, разработанного командой PaddleOCR. Она использует LCNetV4 в качестве backbone и RepLKFPN в качестве шеи пирамиды признаков; размер модели — 0,43 млн параметров. Это детектор, который находит текст на изображении, включая рукописный, печатный, повёрнутый, изогнутый и художественный текст. Модель предназначена для лёгких OCR-систем и сценариев развертывания на периферийных устройствах; для распознавания найденных символов нужен отдельный модуль распознавания. В карточке заявлена поддержка 48 языков для семейства PP-OCRv6; метаданные репозитория указывают английский и китайский. Веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельные метрики качества для tiny-детектора.
Vishva007/Qwen3.5-9B-W4A16-AutoRound-GPTQ — квантизированная версия модели Qwen/Qwen3.5-9B, подготовленная Vishva007 с использованием метода AutoRound от Intel. Модель предназначена для генерации текста, задач рассуждения и обработки изображений с текстом, включая визуальное понимание и OCR. Она поддерживает архитектуру и возможности базовой модели Qwen3.5-9B; точный размер контекста и перечень языков в README не указаны. Используется квантизация W4A16: веса представлены в 4-битном формате, а активации сохраняются в 16-битной точности. Применены симметричная квантизация с размером группы 32, 1200 итераций оптимизации и 512 калибровочных образцов при длине последовательности 4096. По заявлению автора, это снижает потребление памяти примерно на 50% по сравнению с FP16-версией и подходит для развёртывания на потребительских и средних GPU. Vision Tower сохранён в BF16 для сохранения качества визуального анализа и OCR, а модули Multi-Token Prediction — в исходной BF16-точности. Модель поддерживает Multi-Token Prediction и спекулятивное декодирование в совместимых серверных средах, включая vLLM, что может повысить пропускную способность. Совместимость заявлена для transformers и бэкендов, поддерживающих веса AutoRound в формате GPTQ, включая vLLM, SGLang и AutoGPTQ. Ограничения связаны с зависимостью от совместимого программного обеспечения и аппаратной поддержки квантизации; количественные результаты тестов качества в README не приведены. Лицензия — Apache-2.0.
kaiz0603/qwen3remote-2B — дообученная разработчиком kaiz0603 мультимодальная модель на архитектуре Qwen3-VL с 2 млрд параметров, созданная на базе unsloth/Qwen3-VL-2B-Instruct. Она принимает текст и изображения и предназначена для диалогов и ответов на вопросы по визуальному содержимому; базовая модель также поддерживает анализ видео, OCR и визуальное рассуждение. Модель дообучена с использованием Unsloth и библиотеки Hugging Face TRL, веса представлены в формате safetensors. Лицензия — Apache-2.0.
Карточка модели hararh/Qwen-VL на Hugging Face совпадает с карточкой Qwen/Qwen-VL, поэтому описание составлено по ней. Qwen-VL — крупная визуально-языковая модель Alibaba Cloud из семейства Qwen. Она принимает изображения, текст и ограничивающие рамки, а выдаёт текст и рамки; версия в репозитории описана как предварительно обученная модель, при этом карточка также упоминает отдельную диалоговую версию Qwen-VL-Chat. Модель содержит 11,4 млрд параметров, использует плотную архитектуру QWenLMHeadModel, работает с PyTorch и поддерживает контекст до 8192 токенов. Модель предназначена для диалога по изображениям, генерации описаний, визуальных вопросов и ответов, распознавания текста на изображениях, включая документы и диаграммы, а также поиска объектов по текстовому описанию с выдачей рамок. В карточке указаны многоязычные диалоги и многоязычная оценка на китайском и английском языках. Разрешение обработки изображений повышено до 448 пикселей, что помогает решать задачи распознавания текста и визуальных вопросов без разбиения изображения. README сообщает о сильных результатах на нескольких общих визуально-языковых бенчмарках, но они относятся к оценкам разработчика. Модель может ошибаться в распознавании деталей изображения и текста; карточка не описывает ограничения подробнее. Условия лицензии в предоставленных данных не указаны.
ResNet-152 Text Detector — модель классификации изображений на базе ResNet-152, предназначенная для быстрого определения, содержит ли изображение разборчивый текст. Её обучили как бинарный классификатор на примерно 140 тысячах изображений из COCO-Text и LLaVAR; доли изображений с текстом и без разборчивого текста в обучающем наборе были примерно равны. Модель подходит для предварительной фильтрации изображений перед OCR и для отбора изображений, содержащих читаемый текст. Она выдаёт класс изображения, а не распознанную текстовую последовательность. В карточке указана лицензия? Нет сведений об условиях использования и заявленных ограничениях.
Это версия модели roberta-base-bne-capitel-ner-plus, преобразованная в формат ONNX для запуска с совместимыми инструментами. Модель на архитектуре RoBERTa содержит 151,8 млн параметров и предназначена для классификации токенов, в частности для задач распознавания именованных сущностей на испанском языке. Контекст составляет до 514 токенов. Модель опубликована SantiMB и распространяется по лицензии Apache 2.0. Формат ONNX позволяет использовать её в средах, поддерживающих этот формат. Карточка не уточняет набор меток или результаты оценки качества.
LLAIM Legal NER — русскоязычная модель распознавания именованных сущностей, разработанная LLAIMlegal для поиска персональных данных и юридических идентификаторов в документах российской правовой практики. Это дообученная модель cointegrated/rubert-tiny2 на архитектуре BERT с примерно 29 млн параметров; она принимает текст и присваивает метки фрагментам, относящимся к 13 типам сущностей, включая имена, адреса, ИНН, ОГРН, СНИЛС, паспортные данные, банковские реквизиты и номера судебных дел. Контекст модели — до 2048 токенов. Модель предназначена для выявления данных перед псевдонимизацией договоров, исков, доверенностей, судебных актов и других юридических документов. Вместе со вспомогательной обработкой найденные значения можно заменить обратимыми токенами и восстановить по локальному словарю; сама модель выполняет обнаружение, а не шифрование или восстановление. Она компактна, работает на CPU и подходит для локального развертывания. В README приведены результаты на небольших выборках, включая overlap micro F1 около 0,94 и strict exact-match F1 около 0,83; качество требует проверки на конкретных данных. Модель выпущена под лицензией MIT.
TB-OCR-preview-0.1 — предварительная модель распознавания текстовых блоков, созданная Yifei Hu на базе Microsoft Phi-3.5-vision-instruct. Она принимает изображения отдельных блоков и преобразует их содержимое в структурированный Markdown, включая текст, математические выражения в LaTeX и заголовки. Модель рассчитана на обработку блоков, а не целых страниц; для распознавания страницы автор рекомендует сначала выделять текстовые, табличные и графические области отдельной моделью. Блоки можно обрабатывать параллельно. Модель содержит 3,7 млрд параметров, использует архитектуру Phi3VForCausalLM и формат safetensors. Контекст составляет 4096 токенов. По заявлению автора, 4-битная загрузка требует около 2,8 ГБ видеопамяти и почти не снижает качество. Это preview-чекпойнт для проверки качества синтетического датасета, обученный примерно на 250 тыс. пар изображение–текст; лицензия — MIT.
Hukyl разработала TrOCR-Large для распознавания рукописного украинского текста по изображениям отдельных строк. Модель построена на архитектуре VisionEncoderDecoderModel: энкодер ViT-L/16 принимает изображения с разрешением 384 пикселя, а декодер генерирует текст. Размер — около 558 млн параметров. Это дообучение Hukyl/trocr-large-uk-handwritten на реальных рукописях без синтетических данных; модель также подходит как начальная точка для дальнейшей настройки под конкретный почерк или область. Модель предназначена для распознавания заранее выделенных строк, например после обнаружения текста в скане или на странице. В проверке на данных, близких к обучающим, CER составил 0,0249, но на рукописных страницах набора Rukopys без дополнительной настройки CER вырос до 0,1838. Поэтому для архивных сканов и других отличающихся по распределению документов может потребоваться дообучение. Транскрипция может отличаться от оригинала регистром букв и пунктуацией. Лицензия модели — Apache-2.0; при распространении или использовании производных моделей необходимо сохранить атрибуцию набора UkrHandwritten по CC BY-SA 4.0.
UIX-Qwen2 — мультимодальная модель Neulab для понимания веб-интерфейсов, обученная в рамках работы Harnessing Webpage UIs for Text Rich Visual Understanding. Модель основана на Qwen2-7B-Instruct и обучалась с использованием LLaVA-NeXT; в каталожных метаданных указаны архитектура LlavaQwenForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для анализа изображений интерфейсов и текстовых запросов о них, а также для задач понимания документов, OCR и интерпретации диаграмм. README сообщает об обучении на датасете MultiUI и улучшении результатов на тестах веб-интерфейсов и действий веб-агента; эти результаты не гарантируют качество на произвольных данных. Указана лицензия ODC-BY.
UniNER-7B-type — модель извлечения именованных сущностей, разработанная авторами проекта UniNER и дообученная на базе LLaMA-7B. Для обучения использовались тексты Pile-NER-type с метками типов сущностей, автоматически созданными GPT-3.5-turbo-0301 без ручной разметки. Модель принимает текстовый фрагмент и возвращает найденные сущности с их типами в виде списка пар. Модель предназначена для распознавания сущностей по заданным типам и извлечения именованных сущностей из текстов. В README отмечено, что она лучше варианта UniNER-7B-definition справляется с тегами типов и показывает лучшие результаты на бенчмарке Universal NER, охватывающем 43 академических набора данных из 9 областей. Архитектура — плотная LLaMA для генерации текста, размер — 6,6 млрд параметров, контекст — 2048 токенов; в метаданных указан английский язык. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Поскольку разметка для обучения синтетическая, качество может зависеть от точности заданных типов и отличаться для текстов и категорий вне охвата обучения.
UTC-T5-large — универсальная модель классификации токенов от Knowledgator, основанная на flan-T5-large и дообученная на нескольких задачах разметки токенов и задачах, которые можно представить в таком виде. Это prompt-tuned модель с архитектурой T5EncoderForTokenClassification, примерно 385,2 млн параметров и контекстом до 512 токенов. Модель предназначена прежде всего для извлечения информации: распознавания именованных сущностей, ответов на вопросы по тексту, извлечения отношений и разрешения кореференции. README также упоминает очистку и суммаризацию текста. Многоцелевое дообучение нацелено на обобщение и zero-shot NER; авторы рекомендуют запускать модель через pipeline ner библиотеки Transformers. Модель принимает текст и выдаёт классификацию токенов. В метаданных указан английский язык. Лицензия Apache-2.0 разрешает использование, изменение и распространение с соблюдением её условий. Карточка не приводит оценок качества на конкретных наборах данных; контекст в 512 токенов ограничивает длину входного текста.
cmhyo/xlm-roberta-base-finetuned-panx-de — модель для разметки последовательностей, полученная дообучением XLM-RoBERTa Base. Архитектура XLM-RoBERTa для классификации токенов содержит 305,2 млн параметров и поддерживает контекст до 514 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии MIT. Чекпойнт обучен на наборе данных PAN-X для немецкого языка и предназначен для распознавания именованных сущностей в тексте: каждому токену присваивается метка. На оценочной выборке указан показатель F1 0,8628 и loss 0,1375. Результаты зависят от данных и сценария применения; сведения о составе обучающей выборки и подробных ограничениях в карточке отсутствуют.
akdeniz27/xlm-roberta-base-turkish-ner — модель распознавания именованных сущностей, разработанная на основе XLM-RoBERTa и дообученная для турецкого языка. Она выполняет токенную классификацию и размечает имена людей, организаций и местоположений с помощью BIO-меток. Модель содержит 305,2 млн параметров, принимает текст и имеет контекст до 514 токенов. Она подходит для извлечения сущностей из турецких текстов и может использоваться как компонент систем поиска, индексирования и анализа документов. Основа — мультиязычная XLM-RoBERTa; при дообучении использовался проверенный вариант турецкого набора данных NER. В README приведены параметры обучения: длина последовательности 512 токенов, две эпохи и скорость обучения 2e-5. Модель распространяется по лицензии MIT. Описание не приводит метрик качества, поэтому точность на конкретных текстах следует оценивать отдельно.
raulgdp/xml-roberta-large-finetuned-ner — модель распознавания именованных сущностей, созданная дообучением FacebookAI/xlm-roberta-large-finetuned-conll03-english на наборе данных CoNLL-2002. Она использует архитектуру XLM-RoBERTa-large с классификацией токенов; размер составляет 658,7 млн параметров, контекст — до 514 токенов. В карточке приведены результаты на оценочной выборке: F1 0,8851, точность 0,8806, полнота 0,8897 и accuracy 0,9806. Модель предназначена для разметки токенов и извлечения именованных сущностей из текста. Лицензия и подробности о поддерживаемых языках в предоставленных данных не указаны.
Модель Ali-0111/applied-nlp-ner-stage3-distilbert — дообученная Ali-0111 модель DistilBERT для распознавания именованных сущностей и классификации токенов. Она обучена на distilbert-base-cased на 644 примерах с разметкой BIO и использует 8 типов сущностей, включая суммы, профессии и местоположения. Выбор регистрозависимой версии помогает использовать заглавные буквы как сигнал при извлечении сущностей. Модель содержит около 65,2 млн параметров, сохранена в формате safetensors и обрабатывает последовательности длиной до 512 токенов. На тестовой выборке получен общий F1 0,803; показатели для JOB и LOCATION ниже, чем для AMOUNT. Небольшой обучающий набор и заметный разрыв между обучающей и тестовой оценками указывают на риск переобучения. Лицензия в метаданных указана как unknown.
SegeeMak/bert-finetuned-ner — модель BERT для классификации токенов, дообученная разработчиком SegeeMak на неизвестном наборе данных. Она предназначена для задач разметки последовательностей, в частности для распознавания именованных сущностей. Модель содержит 135,5 млн параметров, использует архитектуру BertForTokenClassification и принимает текст с контекстом до 512 токенов. В карточке приведены результаты на оценочном наборе: F1 0,9398, точность 0,9301, полнота 0,9497 и accuracy 0,9858. Язык данных, типы распознаваемых сущностей и состав обучающего набора не раскрыты, поэтому применимость к конкретному языку или схеме разметки требует проверки. Лицензия — Apache-2.0.
Vixez/bert-finetuned-ner — модель на архитектуре BERT, дообученная для распознавания именованных сущностей в тексте. Она предназначена для разметки токенов и может использоваться в конвейерах извлечения сущностей из текстов. Модель содержит 12,1 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате safetensors. В карточке приведены результаты оценки: precision 1,0, recall 0,9967, F1 0,9983 и accuracy 0,9999. Датасет, набор меток и языки не описаны, поэтому результаты нельзя уверенно переносить на другие данные и сценарии. Лицензия в доступных сведениях не указана.
Модель nickprock/bert-italian-finetuned-ner — дообученная для распознавания именованных сущностей версия регистрозависимого BERT для итальянского языка, разработанная на основе dbmdz/bert-base-italian-cased. Она размечает токены в итальянском тексте и предназначена прежде всего для NER — извлечения упоминаний сущностей из предложений и документов. Модель содержит 137,1 млн параметров, использует архитектуру BertForTokenClassification и принимает текст с контекстом до 512 токенов. Для обучения использован датасет WikiANN. В карточке приведены результаты оценки: F1 0,949, точность 0,9438 и полнота 0,9542; показатели относятся к указанному evaluation set и не гарантируют такое же качество на других данных. Модель распространяется по лицензии MIT.
Это модель распознавания именованных сущностей для немецкого языка, предназначенная для использования с библиотекой Flair и PyTorch. Она размечает в тексте сущности восьми классов; в карточке приведены примеры PER (имена людей), LOC (места) и ORG (организации). Заявленная оценка F1 — 95,6. Модель подходит для извлечения имен людей, мест и организаций из немецких текстов. Карточка указывает лицензию Flukes NC 1.0: использование разрешено только в некоммерческих целях; для коммерческого применения, включая использование предсказаний в продукте или услуге, требуется отдельная лицензия.
ettin-17m-nemotron-pii — компактная модель обнаружения персональных данных, созданная на основе ettin-encoder-17m и дообученная разработчиком карточки на наборе Nemotron-PII. Это энкодер ModernBERT с 16,8 млн параметров для классификации токенов; модель отмечает более 50 типов сущностей, включая адреса электронной почты, даты рождения, номера счетов и API-ключи, в структурированном и неструктурированном тексте. Она рассчитана на английский язык и может применяться в сценариях проверки документов и текстов из финансовой, медицинской, юридической и других областей. В README сообщается о F1 94,21 на тестовой выборке из 10 тысяч примеров; качество зависит от типа сущности, и для профессий отмечен более низкий F1 — 0,55. Модель принимает текст и выдаёт разметку токенов. Контекст составляет до 7 999 токенов. Репозиторий распространяется по лицензии MIT.
EXAONE-4.5-33B-GGUF — квантованная версия открытой мультимодальной модели EXAONE 4.5, разработанной LG AI Research. Модель объединяет причинную языковую модель и специализированный визуальный энкодер и предназначена для работы с текстом и изображениями, включая понимание документов, визуальные вопросы и ответы, мультимодальное рассуждение и задачи на корейском языке. Модель имеет 33 млрд параметров, из которых 31,7 млрд приходятся на языковую часть и 1,29 млрд — на визуальный энкодер. Используется плотная архитектура с 64 основными слоями и одним MTP-слоем, гибридным вниманием, включающим локальное sliding window attention и глобальное внимание, а также Grouped Query Attention в визуальном энкодере. Контекст поддерживает до 262 144 токенов, размер скрытого представления составляет 5120, словарь — 153 600 токенов. Заявлены языки: английский, корейский, испанский, немецкий, японский и вьетнамский. Дата отсечения знаний — декабрь 2024 года. Сильными сторонами модели являются мультимодальность, понимание документов, корейское контекстное рассуждение и конкурентные результаты на общих и визуально-языковых бенчмарках. Версия GGUF доступна с квантованиями языковой модели Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS; веса визуального энкодера представлены в форматах F32, F16 и BF16. Ограничения включают зависимость качества от выбранного уровня квантования и значительные требования к вычислительным ресурсам из-за размера модели. Лицензия указана как exaone; конкретные условия следует уточнять в файле LICENSE.
GLiNER2-multi-v1-wikiann — модель извлечения сущностей, созданная дообучением fastino/gliner2-multi-v1 на WikiANN (PAN-X). Она предназначена прежде всего для распознавания именованных сущностей в тексте: людей, организаций и мест. Модель использует библиотеку gliner2 и сохраняется в формате safetensors. Модель рассчитана на многоязычные сценарии; в карточке перечислены английский, немецкий, испанский, французский, русский, арабский, китайский и хинди. В README приведена оценка на отложенных тестовых данных: F1 для извлечения сущностей составляет 0,904 при строгом и 0,932 при расслабленном сопоставлении. Обучение на WikiANN ориентировано на сущности PER/ORG/LOC; результаты не подтверждают качество для извлечения отношений, событий или классификации, хотя базовая GLiNER2 поддерживает такие задачи. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.
GLiNER Multi PII Domains — модель распознавания именованных сущностей, разработанная E3-JSI путём дообучения urchade/gliner_multi_pii-v1 на синтетическом наборе E3-JSI/synthetic-multi-pii-ner-v1. Она использует двунаправленный трансформерный энкодер семейства BERT и предназначена для извлечения персональных данных и других чувствительных сущностей из текста: имён людей и организаций, контактных данных, идентификаторов документов, финансовых и медицинских сведений и других типов PII. Модель подходит для выявления чувствительных данных в медицинских текстах и других текстовых материалах, например перед их обезличиванием или проверкой. GLiNER позволяет задавать типы сущностей и служит компактной альтернативой крупным языковым моделям для сценариев с ограниченными ресурсами. Для работы требуется библиотека GLiNER. Модель распространяется по лицензии Apache-2.0. В карточке приведены примеры на английском и нидерландском языках; метаданные указывают поддержку английского, французского, немецкого, испанского, португальского, итальянского, словенского, греческого и нидерландского. Качество распознавания зависит от языка, формата текста и типов сущностей; модель может пропускать данные или ошибочно выделять фрагменты, поэтому результаты чувствительных проверок следует контролировать.
urchade разработала GLiNER PII — модель распознавания именованных сущностей, дообученную на базе urchade/gliner_multi-v2.1 на синтетическом наборе данных с персональными данными. Она использует двунаправленный трансформерный энкодер типа BERT и предназначена для извлечения PII из текста, в том числе когда нужные типы сущностей задаются пользователем. Модель распознаёт имена людей и организаций, телефоны, адреса, электронную почту, номера документов, банковские и страховые идентификаторы, даты рождения, медицинские сведения, IP-адреса и другие перечисленные в карточке сущности. Карточка указывает поддержку английского, французского, немецкого, испанского, португальского и итальянского языков. Модель распространяется в формате PyTorch через библиотеку GLiNER и опубликована под лицензией Apache-2.0. GLiNER PII рассчитана на извлечение и разметку чувствительных сущностей в текстах, например для обнаружения персональных данных перед их редактированием или маскированием. Карточка не приводит количественных оценок качества, поэтому пригодность для конкретных типов документов и языков следует оценивать на собственных данных.