II.11Кибербезопасность и приватность

Карточка модели Pq234/privacy-filter на Hugging Face совпадает с карточкой openai/privacy-filter, поэтому описание составлено по ней. OpenAI Privacy Filter — модель OpenAI для обнаружения и маскирования персональных данных в тексте. Она предназначена для высокопроизводительной очистки данных, в том числе в локальных и браузерных сценариях, и может дообучаться под особенности данных организации. Лицензия Apache 2.0 допускает коммерческое использование. Модель выполняет двунаправленную классификацию токенов и выделяет связные фрагменты в одном проходе. Архитектура — разреженный MoE-трансформер с 8 блоками, шириной скрытого представления 640 и 128 экспертами, из которых на токен выбираются 4. Модель возвращает BIOES-разметку для восьми категорий: номера счетов, частные адреса, электронные адреса, имена людей, телефоны, URL, даты и секреты. В метаданных указано 145,4 млн параметров и контекст 131 072 токена; README заявляет окно до 128 000 токенов. Доступны форматы Safetensors и ONNX. Модель подходит для предварительной фильтрации текстов перед хранением, передачей или дальнейшей обработкой. Пороговые режимы позволяют настраивать компромисс между точностью и полнотой обнаружения. Это вспомогательное средство минимизации данных, а не гарантия анонимизации или соответствия требованиям. Набор меток фиксирован, для изменения политики нужно дообучение; качество может снижаться на неанглийских текстах, нелатинских письменностях и данных вне обучающего распределения. В чувствительных областях возможны как пропуски, так и избыточное маскирование.

vtriple/Qwen-2.5-7B-Threatflux — дообученная инструкционная языковая модель, созданная Wyatt Roersma из ThreatFlux на базе Qwen/Qwen2.5-Coder-7B-Instruct. Она предназначена для генерации и анализа правил YARA, разбора признаков вредоносного ПО и поддержки задач поиска угроз. Модель имеет архитектуру Qwen2 для причинно-следственной генерации текста и кода, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступны веса в форматах Safetensors и GGUF. Модель специализируется на правилах YARA и применении знаний о безопасности, сохраняя возможности базовой модели по генерации и анализу кода. Она может помогать специалистам по безопасности при создании правил, анализе образцов и поиске угроз, однако сгенерированные правила требуют проверки человеком; качество зависит от среды развёртывания, а модель наследует ограничения базовой модели. Лицензия — Apache 2.0.

SecEBL-Rev20 — разработанная проектом EBWi11 модель для распознавания поведенческих намерений по телеметрии безопасности. Она принимает текст команд Linux или нормализованных событий Kubernetes AuditLog и ранжирует подходящие метки поведения; модель выдаёт объяснимые признаки, а не вердикт о вторжении. В словаре Rev20 — 361 метка в 12 группах. Это дообученная на Alibaba-NLP/gte-modernbert-base модель эмбеддингов на базе ModernBERT с 149 млн параметров и контекстом до 8192 токенов. Артефакты совместимы с SentenceTransformers; ранжирование строится по сходству эмбеддинга события с текстами меток. Модель ориентирована на Linux и Kubernetes, а карточка не заявляет поддержку иных естественных языков. SecEBL предназначена для исследования, оценки и применения в обнаружении угроз, расследовании и триаже событий в системах, которые организация уполномочена защищать. Она помогает находить подозрительное использование легитимных инструментов и формировать поведенческие признаки для правил или анализа сессий. Модель не определяет сама по себе, является ли событие вторжением; полноразмерные обучающие корпуса и внутренние бенчмарки не распространяются. Лицензия — Apache-2.0.

SecEmbed-base — плотная модель эмбеддингов для поиска и сравнения текстов в сфере кибербезопасности, созданная дообучением answerdotai/ModernBERT-base на наборе secembed-pairs. Она основана на encoder-архитектуре ModernBERT, содержит 149 млн параметров и предназначена для извлечения признаковых векторов и оценки сходства предложений. Модель принимает текст и выдаёт векторные представления; её обучали с максимальной длиной последовательности 256 токенов для ускорения поиска, а контекст ModernBERT может достигать 8192 токенов. Модель подходит для поиска по MITRE ATT&CK, CVE, CWE, правилам Sigma, инструкциям SOC и отчётам об угрозах, а также для определения сходства описаний уязвимостей. В карточке приведены результаты на выборке CyberSec Retrieval Benchmark: Recall@5 составляет 0,9708 в среднем; размер выборки для каждой категории — 80 примеров. Заявленные результаты следует считать оценкой на указанной выборке, а не гарантией качества на других данных. Лицензия — MIT.

Secrets Sentinel small-v1 — англоязычная модель классификации текста от hypn05, дообученная на базе microsoft/deberta-v3-small для обнаружения секретов в строках и фрагментах кода. Она определяет, содержит ли текст секретные данные, например ключ AWS, и отличает их от безопасных примеров переменных окружения и фиктивных значений. Модель предназначена для проверок кода и конфигураций в процессах DevSecOps, включая pre-commit, pre-receive hooks и GitHub Actions. Архитектура DeBERTa V3 Small с классификационной головой содержит около 155 млн параметров по метаданным и принимает до 512 токенов. README сообщает о дообучении на 37 866 размеченных примерах и сопоставимой с базовой моделью точности в девяти тестовых сценариях, а также о скорости примерно в 3,5 раза выше базовой версии. Модель распространяется по лицензии MIT. Заявленные результаты ограничены описанными тестовыми сценариями; полный набор метрик для этой версии в карточке не приведён.

Shield 82M — модель LH-Tech-AI для обнаружения и маскирования персональных данных в тексте. Она дообучена на distilroberta-base и выполняет токенную классификацию, выделяя такие сущности, как имена, адреса электронной почты и телефонные номера, после чего текст можно преобразовать, заменив их метками вроде [PERSON], [EMAIL] и [PHONE]. Модель предназначена для фильтрации PII в текстах на разных языках. В README приведён пример для английского и упомянут тест на французском; обучение проводилось три эпохи на первых 20 000 примерах набора ai4privacy/pii-masking-200k. Заявленная точность составляет около 96%. Модель имеет 95,2 млн параметров и контекст длиной 514 токенов. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

StarPII — модель распознавания именованных сущностей, разработанная BigCode для поиска персональных данных и секретов в исходном коде. Она основана на дообученном bigcode-encoder с линейной головой классификации токенов и размечает шесть категорий: имена, адреса электронной почты, ключи, пароли, IP-адреса и имена пользователей. Для обучения использованы размеченные данные и предварительно псевдоразмеченные примеры; датасеты включают код на 31 языке программирования, а базовый энкодер предварительно обучался на 88 языках программирования. Модель подходит для обнаружения потенциально чувствительных данных в исходном коде и подготовки к их маскированию при обучении моделей или обработке репозиториев. В опубликованных результатах качество различается по типам сущностей: например, F1 для электронной почты составляет 96,01%, IP-адресов — 91,61%, ключей — 56,66%; псевдоразметка улучшила показатели для имен, имен пользователей и паролей. Авторы рекомендуют постобработку, включая фильтрацию коротких значений, проверку IP-адресов и отбрасывание имен пользователей из-за ложных срабатываний и пропусков. Возможны ложноположительные и ложноотрицательные результаты, а качество зависит от типа данных и языка программирования. Лицензия в предоставленных сведениях не указана.

CrabInHoney/urlbert-tiny-v3-malicious-url-classifier — компактная модель BERT, разработанная CrabInHoney и дообученная на CrabInHoney/urlbert-tiny-base-v3 для классификации URL. Она относит ссылки к четырём категориям: benign, phishing, malware и defacement; подходит для фильтрации подозрительных ссылок и первичной сортировки URL в системах кибербезопасности. В метаданных указаны 4,8 млн параметров, контекст 64 токена и формат safetensors; README приводит размер 3,69 млн параметров и веса F32 объёмом 14,8 МБ. Модель принимает текст URL и выдаёт оценки классов. README сообщает о тестовой оценке по классам, но приведённая таблица неполная, поэтому по ней нельзя оценить все результаты. Лицензия — Apache-2.0.

CrabInHoney/urlbert-tiny-v6 — компактный энкодер URL на архитектуре ModernBERT, разработанный CrabInHoney для извлечения признаков и выявления вредоносных ссылок, включая фишинговые. Модель насчитывает около 2,03 млн параметров, имеет размерность скрытого представления 128 и контекст до 8192 токенов. Она предназначена исключительно для обработки строк URL. Энкодер выдаёт контекстные представления токенов; для последующих задач автор рекомендует объединять представление CLS со средним представлением токенов. В репозитории также есть десять предварительно обученных классификационных голов для наборов данных по кибербезопасности. По описанному автором тесту на JPxxx/url-benchmark-dataset модель показала высокие результаты при обнаружении вредоносных URL, однако качество на других источниках данных может отличаться. Модель опубликована под лицензией Apache-2.0.

MaTE X Privacy Sentinel v0.1 — дообученная модель enosislabs на основе openai/privacy-filter для локального обнаружения и разметки чувствительных фрагментов текста при фильтрации и маскировании данных. Она предназначена для сценариев приватности и безопасности, включая поиск персональных данных и секретов в строках конфигурации и других текстовых данных; карточка демонстрирует пример с адресом базы данных и учётными данными. Модель построена на архитектуре MoE, содержит 145,4 млн параметров, принимает текст и выдаёт разметку токенов. Контекст составляет до 131 072 токенов. Опубликованные веса представлены в формате Safetensors; лицензия — Apache-2.0. Модель помогает выявлять риски утечки, но не гарантирует соответствие требованиям: перед применением в production следует провести собственную проверку на контрольных примерах.

onnx-community/bert-small-pii-detection-ONNX — ONNX-версия модели gravitee-io/bert-small-pii-detection, разработанная сообществом onnx-community и автоматически конвертированная для использования с Transformers.js. Модель дообучена на базе prajjwal1/bert-small для задачи классификации токенов и обнаружения персональных и конфиденциальных данных в англоязычных текстах. Модель предназначена для выявления и последующего маскирования PII в журналах службы поддержки, тестовых и разработческих средах, API-трассировках, статьях, а также для подсказок в режиме реального времени при заполнении форм. Она распознаёт возраст, координаты, номера кредитных карт, даты и время, адреса электронной почты, финансовые данные, IBAN, IMEI, IP- и MAC-адреса, местоположения, организации, пароли, имена людей, телефоны, должности, URL и ряд американских идентификаторов. Ключевые преимущества — небольшой размер исходной BERT-модели, поддержка ONNX и удобное применение через Transformers.js, что подходит для сценариев с ограниченными ресурсами. По приведённой оценке micro F1 составляет 0,8460, macro F1 — 0,9178. Модель ориентирована преимущественно на английский язык, поэтому на других языках качество может снижаться; из-за возможного расхождения доменов необходима проверка на собственных данных. Распространяется по лицензии Apache-2.0.

Bordair Detector — классификатор второй стадии конвейера защиты Bordair от prompt injection, разработанный авторами Bordair. Это дообученная DeBERTa-v3-large для бинарной классификации текста; модель экспортирована в ONNX и квантована до INT8 для инференса на CPU. Она анализирует пользовательские сообщения, фрагменты RAG, ответы инструментов и текст, извлечённый из изображений, документов или аудио, и выдаёт оценки для классов «безопасный текст» и «попытка внедрения». Для принятия решения конвейер применяет порог к вероятности класса injection; порог можно повысить для текста после OCR или ASR. Модель рассчитана на английский язык, имеет контекст 512 токенов и предназначена для выявления попыток подменить или перенаправить задачу LLM, а не для оценки вредоносности содержания. Модель не определяет тип атаки: хотя конфигурация содержит четыре названия меток, обученная и экспортированная модель использует только два класса. Обучающие данные включают более 500 тысяч размеченных примеров из Bordair/bordair-multimodal. Лицензия — Apache-2.0.

CRP Safety Classifier — компактный классификатор текста на базе DeBERTa-v3-xsmall от AutoCyberAI, дообученный для выявления небезопасных запросов. Модель относит входной текст к классам safe или unsafe и используется как основной ML-компонент InjectionDetector в Context Relay Protocol; в общей схеме предусмотрены также быстрый фильтр на регулярных выражениях и резервный переход на него при недоступности модели. Модель предназначена для обнаружения prompt injection, jailbreak-запросов, токсичности, синтетических персональных данных и атакующих шаблонов. В README заявлены точность 0,9478 на отложенной выборке из 2416 примеров, полнота класса unsafe 0,836 и время инференса 40 мс на CPU. Контекст составляет 512 токенов; размер — 77,5 млн параметров. Лицензия указана как other.

lakshyakh93/deberta_finetuned_pii — дообученная модель на базе DeBERTa для поиска и классификации персональных данных в неструктурированном тексте. Она размечает фрагменты вроде имён учётных записей, номеров банковских карт, адресов электронной почты, телефонных номеров и адресов. Модель предназначена для выявления чувствительных сведений в документах, письмах и пользовательском контенте, например перед передачей текста на дальнейшую обработку или проверкой данных на конфиденциальность. Это модель классификации токенов на 151,8 млн параметров с контекстом до 512 токенов; для запуска README показывает использование Transformers pipeline с задачей token-classification. Модель принимает текст и выдаёт метки для фрагментов текста. В карточке указана лицензия MIT. Оценки качества и подробности о составе обучающих данных не приведены, поэтому результаты на конкретных категориях PII следует проверять на целевых данных.

deepset/deberta-v3-base-injection — модель deepset, дообученная на основе microsoft/deberta-v3-base для обнаружения попыток prompt injection. Это классификатор последовательностей на архитектуре DeBERTa-v3 с 211,6 млн параметров и контекстом до 512 токенов. Он относит входной текст к классу INJECTION или LEGIT; в карточке указаны точность 0,9914 и loss 0,0673 на оценочном наборе. Модель предназначена для фильтрации пользовательских запросов и другого текста на предмет попыток вмешательства в инструкции системы. В README отмечено, что набор данных трактует легитимные примеры как вопросы и поисковые запросы по ключевым словам; на реальном трафике возможны ложные срабатывания. Для конкретного применения карточка рекомендует собирать примеры легитимных запросов и дообучать модель. Лицензия — MIT.

Isotonic разработала эту модель как дообученную версию distilbert-base-uncased для выявления и классификации персональных данных в английском тексте. Модель относится к семейству DistilBERT и решает задачу разметки токенов; она обучена на англоязычной части наборов ai4privacy/pii-masking-65k и ai4privacy/pii-masking-43k. Контекст модели — до 512 токенов. Модель предназначена для поиска и маркировки чувствительных фрагментов текста, например перед маскированием персональных данных. В README приведены метрики на оценочной выборке: F1 0,978, точность 0,976 и полнота 0,980. Доступны веса в форматах PyTorch, Safetensors и ONNX. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Specific AI разработала компактный классификатор фишинговых писем на базе BERT, дообученный методом дистилляции от более крупной модели. Он принимает текст письма, желательно в формате с полями From и Subject и телом письма, и классифицирует его как обнаруженный фишинг или как письмо, в котором фишинг не обнаружен. Модель предназначена для почтовых агентов и рабочих процессов безопасности входящих сообщений, в том числе для быстрой оценки на CPU или устройстве пользователя. Архитектура — BertForSequenceClassification на основе google-bert/bert-base-uncased; размер — 136,7 млн параметров, контекст — до 512 токенов. Карточка сообщает об обучении примерно на 15 тысячах примеров и приводит оценку на одном тестовом наборе: точность 0,975, полнота 0,975 и precision 0,975. Поддерживается английский язык; доступны веса safetensors и артефакты GGUF. Лицензия — MIT. Модель подходит для предварительной фильтрации и вспомогательной оценки писем, но её результат не следует использовать как единственное основание для блокировки или карантина: для важных решений нужны дополнительные меры безопасности и проверка человеком или политиками организации.

Карточка модели brahim-23/eu-pii-anonimization-multilang на Hugging Face совпадает с карточкой bardsai/eu-pii-anonimization-multilang, поэтому описание составлено по ней. Многоязычная модель bards.ai для обнаружения и разметки персональных и чувствительных данных в тексте, предназначенная для последующего обезличивания. Она основана на XLM-RoBERTa-base и дообучена для классификации токенов с BIO-метками; охватывает 36 классов сущностей, включая идентификационные и контактные данные, финансовые и технические идентификаторы, сведения о здоровье, биометрические и генетические данные, а также специальные категории GDPR. Модель рассчитана на 24 официальных языка ЕС. Доступны веса Safetensors и ONNX, включая версию ONNX с INT8-квантизацией для CPU; размер модели — 305,2 млн параметров, контекст — до 514 токенов. Подходит для поиска данных перед сохранением документов, писем, обращений и переписок, очистки наборов данных и фильтрации текста в RAG-конвейерах и поисковых индексах. Лицензия — Apache-2.0. Точность зависит от языка, предметной области и качества входа; OCR-ошибки, смешение языков и неоднозначные упоминания могут ухудшать обнаружение. Для соответствия требованиям модель следует использовать как часть процесса проверки и обезличивания, а не как самостоятельную гарантию юридической достаточности.

Модель beki/flair-pii-distilbert — модель распознавания именованных сущностей для выявления персональных данных в англоязычном тексте. Разработчик обучил её в Flair на трассировках протоколов, сгенерированных набором Privy; для представлений токенов используются эмбеддинги DistilBERT. Модель размечает пять классов сущностей, включая имена людей, названия мест и организаций. Модель предназначена для поиска и разметки PII в тексте, например при проверке журналов протоколов. В README приведён показатель F1 0,9522. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Указанная в карточке совместимость пакета spaCy — версии от 3.4.1 до 3.5.0.

gheim-ch-560m — мультиязычная модель Joel Barmettler для выявления персональных данных в тексте на четырёх официальных языках Швейцарии и английском. Это дообученная на наборе joelbarmettler/gheim-ch-pii-212k модель FacebookAI/xlm-roberta-large с архитектурой XLM-RoBERTa для классификации токенов; в метаданных указано 658,7 млн параметров и контекст длиной 514 токенов. Модель размечает фрагменты текста по 33 BIOES-классам, охватывающим восемь категорий PII и метку для остальных токенов. Она предназначена для обнаружения и маскировки персональных данных перед передачей текста внешним сервисам, например API LLM. Выходные фрагменты подходят для замены или сокрытия, а не для связывания сущностей или восстановления личности. Модель обучена с приоритетом полноты обнаружения: она может помечать как PII публичные институциональные контакты и имена должностных лиц, поэтому для сценариев, требующих высокой точности, рекомендуется дополнительная фильтрация. Модель распространяется по лицензии Apache-2.0, включая коммерческое использование. Доступны веса в форматах Safetensors и ONNX.

Sharpaxis/Llama-2-7_Ethical_Guardian — дообученная с помощью QLoRA модель на базе NousResearch/Llama-2-7b-chat-hf, предназначенная для выявления конфиденциальных и чувствительных сведений в тексте. Она ищет персональные данные, API-ключи, финансовую информацию, учётные данные и конфиденциальные сведения компаний, а также может объяснять, почему фрагмент выглядит чувствительным. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Карточка описывает применение для модерации содержимого, предотвращения утечек данных, проверок соответствия требованиям и аудита текстовых коммуникаций. В метаданных указаны английский язык и лицензия Apache-2.0. Это вспомогательный инструмент для защиты данных; результаты выявления следует проверять, поскольку карточка не приводит оценок качества и не гарантирует обнаружение всех чувствительных сведений. Обучение проводилось на синтетическом наборе synapsecai/synthetic-sensitive-information.

English Anonymiser OpenPII — англоязычная модель Ai4Privacy для обнаружения и редактирования персональных данных (PII) в тексте. Это дообученная для токенной классификации модель ModernBERT-base с 149 млн параметров, рассчитанная на контекст до 8192 токенов; доступны веса Safetensors и формат ONNX. Модель обучена на английской части набора ai4privacy/open-pii-masking-500k-ai4privacy. Модель помечает фрагменты текста, содержащие PII, чтобы их можно было удалить или скрыть. В тесте на отложенной выборке исходного набора заявлены общие точность 99,17%, precision 98,82%, recall 98,83% и F1 98,82%; результаты на реальных данных могут отличаться. По карточке, модель предназначена для редактирования PII и не выполняет полноценную классификацию PII. Перед применением на собственных данных её следует проверить. Распространяется по лицензии MIT.

Multilingual Anonymiser OpenPII — модель Ai4Privacy для обнаружения, классификации и редактирования персональных данных в тексте. Это дообученная на наборе open-pii-masking-500k-ai4privacy модель ModernBERT-base с архитектурой ModernBertForTokenClassification и 149 млн параметров. Репозиторий содержит веса Safetensors и формат ONNX; максимальная длина контекста — 8192 токена. Модель размечает фрагменты текста категориями PII, например именами и фамилиями, адресами электронной почты, датами и временем, чтобы их можно было скрыть или заменить. Она предназначена для анонимизации и категоризации PII в многоязычных документах. Карточка приводит результаты оценки на тестовой части обучающего набора: F1 составляет 91,50% в целом и 84,91% при макроусреднении; качество в реальных текстах может отличаться. Заявлена поддержка французского, английского, немецкого, телугу, хинди, итальянского, испанского и нидерландского языков. В карточке отмечены более низкая точность для некоторых категорий, включая номера паспортов и водительских удостоверений, и необходимость проверять качество на собственных данных. Модель распространяется по лицензии MIT.

Llama-Primus-Merged — языковая модель Trend Micro для задач кибербезопасности. Она построена на архитектуре Llama и содержит 7,5 млрд параметров; по карточке модели, её предварительно обучали на большом корпусе по кибербезопасности, дообучали на инструкциях и объединили с Llama-3.1-8B-Instruct. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель предназначена для ответов на вопросы по кибербезопасности, анализа киберугроз и помощи в типовых задачах специалистов по информационной безопасности. В тестах из карточки она улучшила агрегированные результаты на кибербезопасностных бенчмарках относительно Llama-3.1-8B-Instruct, сохранив сопоставимые результаты в общем чате и вызове функций. Карточка также показывает уязвимость к отдельным jailbreak- и injection-тестам, а на некоторых многоязычных и длинноконтекстных оценках результаты немного ниже базовой модели. Лицензия — MIT.

Llama-Primus-Nemotron-70B-Instruct — англоязычная инструкция-ориентированная модель Trend Micro из семейства Primus, созданная для задач кибербезопасности. Это плотная causal language model на архитектуре Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, поддерживает диалоговый формат и интерфейс вызова инструментов. В метаданных указана поддержка английского и японского языков. Модель продолжает обучение Llama-Primus-Nemotron-70B-Base: после предобучения на крупных корпусах по кибербезопасности её дообучили на инструкциях и объединили с исходной Nemotron. Разработчик сообщает об улучшении совокупных результатов на публичных бенчмарках кибербезопасности при сохранении сопоставимого качества общего следования инструкциям. Модель подходит для анализа киберугроз, вопросов по уязвимостям и классификациям CVE/CWE, а также для диалоговых помощников по безопасности. Лицензия — MIT. Результаты бенчмарков не гарантируют точность в реальных инцидентах. В README приведены повышенные показатели на некоторых тестах jailbreak и prompt injection для сравниваемой модели Primus-Labor-70B; это требует осторожности при использовании в сценариях, где важны отказ от вредоносных запросов и устойчивость к инъекциям.

Карточка модели hipocap/Llama-Prompt-Guard-2-22M на Hugging Face совпадает с карточкой meta-llama/Llama-Prompt-Guard-2-86M, поэтому описание составлено по ней. Llama Prompt Guard 2 86M — классификатор Meta для обнаружения атак на LLM: prompt injection и jailbreak. Модель помечает запрос как вредоносный, если он явно пытается переопределить предыдущие инструкции; результат не оценивает, насколько атака опасна или успешна. Классификатор основан на mDeBERTa-base, содержит 86 млн параметров и предназначен для интеграции в приложения на базе Transformers. Модель принимает текст и выдаёт метку «benign» или «malicious». Контекст ограничен 512 токенами; длинные входы рекомендуется разбивать на сегменты и проверять параллельно. Модель обучена выявлять атаки на английском и других языках, а оценивалась на английском, французском, немецком, хинди, итальянском, португальском, испанском и тайском. Токенизация адаптирована для устойчивости к манипуляциям пробелами и фрагментацией токенов. Prompt Guard 2 улучшает точность обнаружения по сравнению с предыдущей версией, однако может пропускать адаптивные атаки, а качество зависит от распределения запросов в конкретном приложении. Для прикладных сценариев Meta рекомендует дообучение на соответствующих данных. В метаданных лицензия указана как other; README описывает модель как инструмент с открытым исходным кодом, но не уточняет конкретные условия лицензии.

Llama Prompt Guard 2 22M — классификатор Meta для выявления атак на LLM: попыток внедрения промпта и обхода защитных инструкций (jailbreak). Модель на 22 млн параметров основана на DeBERTa-xsmall и предназначена для проверки пользовательских запросов и недоверенных данных перед их передачей LLM. Она относит входы к классам «benign» и «malicious», оценивая намерение переопределить инструкции, а не потенциальный вред содержимого или вероятность успешной атаки. Модель использует контекст до 512 токенов; более длинные тексты рекомендуется проверять сегментами. Токенизация доработана для устойчивости к манипуляциям пробелами и фрагментацией токенов. Версия 22M рассчитана на более низкие задержки и затраты вычислений, но уступает 86M на многоязычных данных. Модель оценивалась для английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков. Лицензия указана как other; конкретные условия следует сверить с карточкой модели.

Карточка модели vllm-sr/lora_pii_detector_bert-base-uncased_model на Hugging Face совпадает с карточкой llm-semantic-router/lora_pii_detector_bert-base-uncased_model, поэтому описание составлено по ней. Это LoRA-адаптер для обнаружения персональных данных в тексте, созданный в рамках проекта semantic-router на базе BERT base uncased и настроенный для работы с библиотекой Candle на Rust. Модель выполняет токенную классификацию, чтобы находить и размечать фрагменты текста с персональными данными; метаданные также указывают поддержку классификации текста. Архитектура — BertForTokenClassification, адаптер обучен с рангом 16 и alpha 32. Размер базовой модели составляет 136,7 млн параметров, контекст — до 512 токенов; поддерживаемый язык — английский. Для использования нужны базовая модель и совместимый рантайм. Лицензия — Apache-2.0.

Masker Mini — компактный многоязычный детектор персональных данных от AMS Intelligence для локального обнаружения и маскирования PII. Это шестислойный BERT-классификатор токенов примерно на 35,6 млн параметров, полученный дистилляцией модели masker. Он размечает текст 12 типами сущностей, используя 48 BIOES-меток и метку O, и рассчитан на работу без подключения к сети на мобильных и других устройствах. Модель поддерживает 23 европейских языка. В репозитории доступны веса PyTorch fp16 и ONNX fp16, а также 4-битные варианты ONNX и Core ML; для 4-битных операций ONNX Runtime требуется версия 1.18 или новее, а Core ML-вариант предназначен для iOS 18 и macOS 15 и новее. Указанная строгая span-level F1 на синтетическом наборе openpii-1m составляет 0,965; эти результаты относятся к данным, близким к обучающим. По сравнению с полной моделью masker Mini немного хуже выявляет имена и названия мест, а также может ошибаться в границах имён на нидерландском языке. Метаданные указывают лицензию «other»; README отдельно требует сохранять атрибуцию набора данных CC-BY-4.0 и указывает, что модель masker основана на mDeBERTa с лицензией MIT.

Модель proventra/mdeberta-v3-base-prompt-injection разработана Proventra и представляет собой дообученную для классификации текста модель microsoft/mdeberta-v3-base на архитектуре DeBERTa V3. Она предназначена для обнаружения промпт-инъекций и попыток обхода инструкций, в том числе атак, встроенных в обычный текст веб-сайтов и статей. Модель содержит около 306 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метки классификации. В обучении использовались наборы jailbreak-classification и prompt-injections, а также собственные примеры известных атак и инъекций в легитимном содержимом. Модель распространяется по лицензии MIT. Ограничение длины контекста составляет 512 токенов; качество зависит от того, насколько входные атаки похожи на обучающие примеры.