II.11Кибербезопасность и приватность
В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 232 моделиGA Guard Lite — дообученная GeneralAnalysis компактная причинная языковая модель для модерации текстов и проверки запросов к языковым моделям. Она классифицирует содержимое по семи категориям риска: незаконная деятельность, ненависть и оскорбления, персональные данные и интеллектуальная собственность, атаки на промпты, сексуальный контент, дезинформация, насилие и самоповреждение. Результаты выдаются в виде специальных структурированных токенов для каждой категории. Модель принимает текст и предназначена для включения в конвейеры модерации, проверки пользовательских запросов и выявления jailbreak- и prompt-injection-атак, в том числе в длинных контекстах. По README это полное дообучение причинной языковой модели; в карточке указаны 0,6 млрд параметров и контекст до 262 144 токенов. Для сохранения результатов требуется декодировать вывод без пропуска специальных токенов. README приводит результаты на публичных наборах для модерации, длинного контекста и устойчивости к jailbreak-атакам; это оценки разработчика, и они не гарантируют качество на других данных. Модель дообучена на Qwen/Qwen3-4B-Instruct-2507; метаданные указывают формат safetensors и поддержку английского. Лицензия GA Guard Lite — CC BY-NC 4.0: некоммерческое использование разрешено, для коммерческого или производственного развертывания требуется отдельная лицензия.
GLiNER Guard — компактная мультиязычная модель-энкодер, разработанная HiveTrace на архитектуре GLiNER2 и основанная на jhu-clsp/mmBERT-small. Модель содержит 145 млн параметров и предназначена для классификации и извлечения сущностей в задачах защиты LLM-приложений; для работы не требуется генеративная LLM. За один проход модель классифицирует безопасные и вредоносные сообщения, извлекает персональные данные и обнаруживает попытки jailbreak, prompt injection и другие атаки. Также она определяет категории вредоносного контента, намерение и тон сообщения. Zero-shot-обобщение позволяет задавать собственные метки, однако для меток за пределами перечисленных в карточке таксономий результаты не оценивались. Карточка указывает поддержку английского и русского языков. Модель распространяется в формате safetensors по лицензии Apache 2.0. README отмечает, что инструкция по установке пока не завершена.
GLiNER Guard Unified Multitask Guardrail — модель-энкодер на архитектуре GLiNER2, разработанная HiveTrace для защитной фильтрации текстовых сообщений. По заявлению карточки, модель содержит 147 млн параметров и объединяет в одном проходе классификацию безопасности, извлечение персональных данных, обнаружение атак на LLM, классификацию вредоносного содержания, намерения и тона. Она поддерживает zero-shot обобщение на пользовательские метки; для извлечения сущностей и классификации доступны готовые наборы категорий. Модель дообучена на jhu-clsp/mmBERT-small и рассчитана на английский и русский языки. Модель подходит для проверки входящих запросов и текстов в системах модерации, защиты LLM и обработки персональных данных. README предупреждает, что пользовательские метки для извлечения сущностей могут работать, но не оценивались на бенчмарках. Лицензия — Apache-2.0.
HaS Text — компактная языковая модель для локальной обработки конфиденциального текста, разработанная автором репозитория maoge888888. Она дообучена на базе Qwen3-0.6B-Base и предназначена для конвейера защиты данных: распознавания именованных и чувствительных сущностей, их согласованной анонимизации и восстановления по сохранённому словарю соответствий. Модель поддерживает китайский, английский, португальский, французский, испанский, немецкий, корейский и японский языки. Модель использует плотную архитектуру Qwen3ForCausalLM и содержит около 508 млн параметров. Репозиторий содержит веса Safetensors в FP16; заявленный контекст — 32 768 токенов. Среди описанных возможностей — семантические метки для заменённых сущностей, разрешение вариантов написания одной сущности, согласованность между ходами диалога и обработка длинных документов частями. Для инференса README рекомендует локальный запуск через llama.cpp; производительность приведена для Apple M4 Pro и может отличаться на другом оборудовании. Модель рассчитана на NER и генерацию текста при анонимизации, но качество зависит от точного соблюдения обучающих шаблонов промптов: README предупреждает, что отклонения могут ухудшить результат. Указанная лицензия — MIT. В README FP16-версия названа базовой для дообучения и исследований, а для производственного развертывания рекомендованы отдельные квантованные варианты.
Карточка модели xuanwulab/HaS_Text_0209_0.6B на Hugging Face совпадает с карточкой maoge888888/HaS_Text_0209_0.6B, поэтому описание составлено по ней. HaS Text — компактная языковая модель для локальной обработки конфиденциального текста, разработанная автором репозитория maoge888888. Она дообучена на базе Qwen3-0.6B-Base и предназначена для конвейера защиты данных: распознавания именованных и чувствительных сущностей, их согласованной анонимизации и восстановления по сохранённому словарю соответствий. Модель поддерживает китайский, английский, португальский, французский, испанский, немецкий, корейский и японский языки. Модель использует плотную архитектуру Qwen3ForCausalLM и содержит около 508 млн параметров. Репозиторий содержит веса Safetensors в FP16; заявленный контекст — 32 768 токенов. Среди описанных возможностей — семантические метки для заменённых сущностей, разрешение вариантов написания одной сущности, согласованность между ходами диалога и обработка длинных документов частями. Для инференса README рекомендует локальный запуск через llama.cpp; производительность приведена для Apple M4 Pro и может отличаться на другом оборудовании. Модель рассчитана на NER и генерацию текста при анонимизации, но качество зависит от точного соблюдения обучающих шаблонов промптов: README предупреждает, что отклонения могут ухудшить результат. Указанная лицензия — MIT. В README FP16-версия названа базовой для дообучения и исследований, а для производственного развертывания рекомендованы отдельные квантованные варианты.
Jailbreak-Detector-Large — модель классификации текста, разработанная Madhur Jindal и дообученная на базе microsoft/mdeberta-v3-base с помощью AutoTrain. Она относит пользовательские запросы к двум классам: попытка jailbreak или безопасный ввод; предназначена для дополнительной проверки запросов перед передачей языковой модели, чат-боту или API, а также для фильтрации prompt injection и манипулятивных инструкций. Модель построена на архитектуре mDeBERTa-v3 и содержит 306 млн параметров. Она принимает текст, поддерживает английский язык и рассчитана на контекст до 512 токенов. README приводит метрики валидации: accuracy 97,99%, F1 0,968 и AUC-ROC 0,997; эти показатели относятся к указанной в карточке оценке и не гарантируют аналогичное качество на новых данных. Модель выдаёт метку класса, а при соответствующей настройке — оценки уверенности. Она может пропускать новые или замаскированные атаки и ошибочно помечать безопасные запросы, поэтому классификацию следует использовать как один из сигналов защиты. Лицензия — MIT.
Log Inspector — модель классификации текстовых последовательностей на базе BERT, обученная разработчиком u-haru на журналах доступа nginx. Она определяет, выглядит ли запись журнала подозрительной или безопасной: метка 0 означает подозрительную запись, метка 1 — безопасную. Модель предназначена для первичной фильтрации nginx access logs и поиска потенциально вредоносных запросов, например попыток обращения к уязвимым путям или выполнения команд. Модель содержит 135,5 млн параметров, принимает текстовые записи и выдаёт метку класса с оценкой уверенности. Максимальная длина контекста — 512 токенов; в карточке указан английский язык. Доступна в формате PyTorch и распространяется по лицензии Apache-2.0. В README указана основа bert-base-cased.
Malicious-Url-Detection — модель классификации URL, разработанная kmack и дообученная на distilbert-base-uncased с использованием набора данных kmack/Phishing_urls. Она определяет, выглядит ли переданный адрес вредоносным, например фишинговым или связанным с вредоносным ПО, либо безопасным. В описанном сценарии URL или домен передают модели как текст для классификации. Модель построена на архитектуре DistilBERT и предназначена для классификации последовательностей. Она принимает текст на английском языке, имеет контекстное окно 512 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0. Модель может служить компонентом первичной проверки ссылок в API или другом приложении. Её вывод не следует считать гарантией безопасности: карточка не приводит метрик качества, а классификация URL может ошибаться.
MALWARE-URL-DETECT — модель классификации адресов доменов, разработанная автором репозитория elftsdmr и дообученная на основе bert-base-multilingual-cased. Она определяет, относится ли переданный домен к вредоносным ссылкам, включая фишинговые, или является доброкачественным. В README указано, что модель ориентирована на вредоносные ссылки, используемые в Турции; для классификации в API предлагается передавать доменное имя, например huggingface.com. Модель использует архитектуру BERT для классификации последовательностей, содержит 205,1 млн параметров и принимает вход длиной до 512 токенов. В README приведены результаты на оценочной выборке: accuracy 0,945, precision 0,9611, recall 0,9287 и F1 0,9446. Эти показатели относятся к неизвестному датасету и не гарантируют аналогичное качество на новых данных или за пределами указанного контекста. Модель распространяется под лицензией Apache-2.0.
M.O.G.-SEC-27B-1M-CTX-BF16 — модель Qwentium из линейки Minds of Gods, разработанная Blackfrost. Это плотная мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, дообученная на материалах по наступательной и защитной кибербезопасности. Она предназначена для диалога и анализа технических материалов, включая задачи красной и синей команд, а также для анализа изображений; поддерживает интерфейс вызова инструментов. Контекст расширен до 1 млн токенов с помощью YaRN на основе исходного окна Qwen3.8-27B в 262 144 токена. README приводит результаты отдельных проверок, выполненных на квантизированной дочерней версии NVFP4, поэтому их нельзя напрямую считать оценкой BF16-чекпойнта. В README также отмечено, что постоянно включённый YaRN может ухудшать качество на коротком контексте. Модель рассчитана на специализированные сценарии кибербезопасности, включая анализ уязвимостей, подготовку обнаружений и планов эмуляции противника. README предупреждает, что модель не ориентирована на обычный потребительский чат-бот и может выдавать потенциально опасные технические инструкции. Лицензия — Apache-2.0.
Nesi1 — языковая модель Nesilabs для задач кибербезопасности, созданная дообучением семейства Qwen3. В карточке указана архитектура Qwen3.8-27B с 27 млрд параметров; модель рассчитана на генерацию текста, диалог и вызов инструментов. Контекст достигает 262 144 токенов. Веса представлены в формате safetensors с 4-битной квантизацией AWQ (W4A16). Модель предназначена для специалистов по безопасности и сценариев с агентами: тестирования на проникновение, анализа уязвимостей, разработки эксплойтов, проверки безопасного кода и автоматизации аудита. Обучение включало технические документы и пары вопросов и ответов по материалам кибербезопасности. Карточка рекомендует развёртывание через OpenAI-совместимые серверы, например SGLang или vLLM, с настройкой парсера вызова инструментов. Модель рассчитана на профессиональное и законное применение только в системах, для которых есть явное разрешение. Ответы могут быть неверными и требуют проверки. Лицензия репозитория — Apache-2.0; README также ссылается на условия использования Nesilabs и снимает гарантию точности и результатов.
mlx-community/openai-privacy-filter-5bit — конвертированная в формат MLX модель-классификатор из семейства OpenAI Privacy Filter. Она размечает в тексте фрагменты с персональными данными в формате BIOES по восьми категориям: имя человека, электронная почта, телефон, URL, адрес, дата, номер счёта и секрет. Модель предназначена для локального выявления PII, фильтрации и маскирования чувствительных данных. Модель основана на openai/privacy-filter и использует двунаправленную разреженную MoE-архитектуру. В README указано 1,5 млрд параметров и около 50 млн активных параметров; метаданные каталога сообщают 145,4 млн параметров. Для поставки использованы формат MLX и 5-битное представление. Указанная длина контекста — 131072 токена. Лицензия — Apache-2.0. Карточка описывает классификацию персональных данных в тексте; сведений о поддерживаемых естественных языках и подробной оценке качества нет. Практическое применение стоит проверять на данных и категориях, важных для конкретного сценария.
privacy-filter-mlx — адаптация OpenAI Privacy Filter для запуска на устройствах Apple Silicon через MLX и Metal, опубликованная beshkenadze. Это токен-классификатор на архитектуре MoE: 8 слоёв, 128 экспертов с выбором 4 экспертов на токен, двунаправленное скользящее внимание и контекст до 131 072 токенов. Модель размечает токены 33 BIOES-метками в восьми категориях персональных данных и секретов, чтобы последующий редактирующий компонент мог находить и маскировать целые фрагменты текста. Модель предназначена для локального обнаружения персональных данных и секретов в текстовых потоках, в том числе для фильтрации перед передачей или выводом текста. В репозитории есть полноразмерные bf16-веса и вариант q4-8emb объёмом около 0,87 ГБ; для последнего автор сообщает совпадение меток с fp32-эталоном на 99,4% в синтетической оценке. Поддерживается английский язык. Лицензия — Apache-2.0. Запуск рассчитан на MLX и Apple Silicon; результаты количественной оценки получены на синтетическом наборе и не гарантируют качество на всех текстах и типах секретов.
OpenMed разработала OpenMed/privacy-filter-multilingual-v2 — мультиязычную модель для извлечения персональных данных из текста. Это полноценно дообученная на базе openai/privacy-filter модель с архитектурой MoE и BIOES-головой классификации токенов. Она размечает фрагменты по 54 категориям PII, используя 217 меток BIOES. В метаданных указано 145,4 млн параметров и контекст до 131 072 токенов; карточка описывает исходную базовую модель как MoE на 1,4 млрд параметров с 50 млн активных параметров на токен. Модель предназначена для обнаружения и последующего маскирования персональных данных в многоязычных текстах; обёртка OpenMed также поддерживает извлечение сущностей и деидентификацию с заменой значений. Поддерживаются арабский, бенгальский, китайский, нидерландский, английский, французский, немецкий, хинди, итальянский, японский, корейский, португальский, испанский, телугу, турецкий и вьетнамский языки. Весовые файлы представлены в формате safetensors, лицензия — Apache-2.0. Качество неравномерно: карточка отмечает более слабые результаты для японского, корейского, китайского и ряда языков с низкими ресурсами. Обучающие данные преимущественно синтетические, поэтому для реальных текстов и критически важных сценариев нужны доменная оценка и калибровка; модель не является специализированным решением для клинических медицинских данных и не заменяет проверку требований законодательства.
Карточка модели aria220/privacy-filter-nemotron на Hugging Face совпадает с карточкой OpenMed/privacy-filter-nemotron, поэтому описание составлено по ней. OpenMed разработала privacy-filter-nemotron — модель токенной классификации для выявления и типизации персональных данных в тексте. Это полное дообучение openai/privacy-filter на наборе nvidia/Nemotron-PII. Модель использует архитектуру MoE и разметку BIOES: 55 категорий PII представлены 221 классом токенов. В метаданных указаны 145,4 млн параметров и контекст до 131 072 токенов; веса опубликованы в формате safetensors для Transformers. Модель предназначена для извлечения фрагментов с персональными данными и передачи их в конвейеры маскирования или деидентификации. В тестировании на отложенной выборке из Nemotron-PII заявлены macro B-F1 0,9533 и точность токенов 0,9910; для декодирования границ авторы рекомендуют Viterbi. Лицензия — Apache-2.0. Обучающие данные преимущественно англоязычные, поэтому качество для других языков не гарантируется. Категории вроде профессии, языка, пола и политических взглядов менее надёжны, чем формально записываемые идентификаторы; синтетические данные также могут отличаться от реальных медицинских, юридических и веб-текстов. Для важных сценариев нужна проверка на данных целевого домена и дополнительный контроль результатов.
OpenMed разработала privacy-filter-nemotron — модель токенной классификации для выявления и типизации персональных данных в тексте. Это полное дообучение openai/privacy-filter на наборе nvidia/Nemotron-PII. Модель использует архитектуру MoE и разметку BIOES: 55 категорий PII представлены 221 классом токенов. В метаданных указаны 145,4 млн параметров и контекст до 131 072 токенов; веса опубликованы в формате safetensors для Transformers. Модель предназначена для извлечения фрагментов с персональными данными и передачи их в конвейеры маскирования или деидентификации. В тестировании на отложенной выборке из Nemotron-PII заявлены macro B-F1 0,9533 и точность токенов 0,9910; для декодирования границ авторы рекомендуют Viterbi. Лицензия — Apache-2.0. Обучающие данные преимущественно англоязычные, поэтому качество для других языков не гарантируется. Категории вроде профессии, языка, пола и политических взглядов менее надёжны, чем формально записываемые идентификаторы; синтетические данные также могут отличаться от реальных медицинских, юридических и веб-текстов. Для важных сценариев нужна проверка на данных целевого домена и дополнительный контроль результатов.
PromptShield Flan-T5-small — небольшая модель классификации, разработанная на основе google/flan-t5-small и дообученная для обнаружения prompt injection. Она относит входной текст к одному из двух классов: BENIGN — без внедрения инструкций, или INJECTION — попытка внедрения инструкций. Модель предназначена для фильтрации пользовательских запросов и другого текста перед передачей языковой модели. Модель использует архитектуру T5ForSequenceClassification с 45,8 млн параметров и принимает последовательности длиной до 512 токенов. Карточка описывает бинарную классификацию и обучение на наборе данных PromptShield с дополнением обучающих примеров переносами строк. Лицензия — Apache-2.0.
cgoosen/prompt-tackler — дообученная модель на базе protectai/deberta-v3-small-prompt-injection-v2 для классификации текстов. Она предназначена для обнаружения атак prompt injection, например при проверке пользовательского ввода перед передачей его языковой модели. Модель использует архитектуру DeBERTa v2 и содержит 155 млн параметров; максимальная длина контекста — 512 токенов. В README указаны результаты оценки: accuracy, precision, recall и F1 равны 0,9959, однако набор данных указан как None, поэтому эти метрики трудно интерпретировать без сведений о данных и методике оценки. Лицензия — Apache-2.0.
Qwen3.8-27B-Uncensored-bughunter-v7-MLX-VLM-4bit — мультимодальная модель на базе orcarouter/Qwen3.8-27B-Uncensored, подготовленная mmp2055 в формате MLX safetensors с 4-битным квантованием. Версия оптимизирована для Apple Silicon и использует MLX/Metal; в состав включены текстовая модель, vision tower и projector. Модель имеет около 27 млрд параметров, поддерживает текст и изображения, а заявленные языки — английский и испанский. Модель предназначена прежде всего для задач bug bounty, offensive и defensive security, пентестинга, исследования уязвимостей, threat hunting, DFIR, анализа сетевого трафика и подготовки отчётов. Она обучена работать с широким спектром веб-, API-, мобильных, серверных и бизнес-логических уязвимостей, а также с практиками реагирования на инциденты и управления уязвимостями. Vision-возможности позволяют анализировать скриншоты WAF, Burp Suite, архитектурных схем, административных панелей и фрагментов кода, однако визуальная часть унаследована от базовой модели и не дообучалась специально на материалах по безопасности. Ключевое преимущество — специализированная настройка под сценарии поиска и анализа уязвимостей при сохранении мультимодальности. Сборка рассчитана на macOS с процессорами Apple M1–M5; на Apple M5 с 32 ГБ unified memory заявлены около 16 ГБ пиковой памяти и 6–9 токенов в секунду при контексте 32k, а обработка изображения добавляет примерно 2–5 секунд на первом проходе. Для Linux, Windows и Intel Mac рекомендуется GGUF-версия. Ограничения включают высокие требования к памяти, зависимость MLX-сборки от Apple Silicon и отсутствие специализированного дообучения vision-компонента. Лицензия — Apache-2.0.
SecEmbed-small — компактная плотная модель эмбеддингов для кибербезопасности, созданная Alireza Aminzadeh на основе дообучения BAAI/bge-small-en-v1.5. Она предназначена для семантического поиска и сравнения текстов по кибербезопасности: README описывает продолжение обучения на парах secembed-pairs с MultipleNegativesRankingLoss и трудными негативными примерами. В обучающих данных использованы материалы MITRE ATT&CK, Sigma, CVE, CWE и сценарии SOC. Модель основана на архитектуре BERT, содержит около 40 млн параметров, принимает текст и формирует плотные векторные представления. Контекст ограничен 512 токенами; основным языком является английский. Её можно применять для первичного поиска релевантных записей, например, извлекать кандидатов для последующего ранжирования SecReranker. Модель распространяется по лицензии MIT. Она рассчитана на специализированные англоязычные материалы по кибербезопасности; качество на других языках и за пределами этой области не подтверждено карточкой модели.
SecGPT-14B-GGUF — чат-модель семейства SecGPT, разработанная китайской компанией 云起无垠 для задач кибербезопасности. Репозиторий содержит веса в формате GGUF F16 и предназначен для генерации текста в диалоге; модель можно использовать как помощника при анализе уязвимостей, журналов и сетевого трафика, разборе команд и кода, расследовании инцидентов и ответах на вопросы по информационной безопасности. В карточке SecGPT описаны обучение на основе семейств Qwen2.5-Instruct и DeepSeek-R1 с использованием специализированных наборов задач и методов дообучения. Заявленные сценарии включают анализ атак и цепочек событий, извлечение IOC, аудит кода, реверс-инжиниринг и поддержку команд красной и синей сторон. Метаданные указывают китайский язык; модель принимает текст и выдаёт текст. Веса опубликованы под лицензией Apache-2.0. Результаты и возможности в карточке заявлены разработчиком; они не гарантируют точность в конкретной среде. Модель может ошибаться в анализе угроз, командах и рекомендациях, поэтому выводы следует проверять специалистом. Карточка не сообщает длину контекста для этой версии.
SecGPT-7B-GGUF — вариант модели SecGPT для генерации текста и диалога, ориентированный на задачи кибербезопасности. В README разработчиком названа компания 云起无垠; модель семейства SecGPT представлена как разработанная для помощи специалистам по безопасности. Репозиторий содержит веса в формате GGUF F16 и основан на SecGPT/SecGPT-7B-GGUF. Модель предназначена для ответов на вопросы по информационной безопасности, анализа уязвимостей и команд, разбора журналов и сетевого трафика, выявления угроз, анализа атакующих цепочек, аудита кода и поддержки сценариев красных и синих команд. README описывает обучение на базе семейств Qwen2.5-Instruct и DeepSeek-R1, с использованием специализированных корпусов и инструкционной настройки; параметры конкретной версии и длина контекста в доступных данных не приведены. В метаданных указан китайский язык, а README также сообщает об оценках на китайских и общих тестах. Модель может помочь структурировать расследование и подготовить рекомендации, однако результаты требуют проверки специалистом и не заменяют тестирование, анализ исходных артефактов или проверку безопасности. Репозиторий распространяется по лицензии Apache-2.0.
SecInt-SmolLM2-360M-nginx — дообученная с помощью LoRA модель Hugging FaceTB/SmolLM2-360M-Instruct от автора LeviDeHaan для классификации записей журналов nginx. Она относит отдельную запись к одному из трёх классов: атакующая активность (hack), ошибка приложения (error) или нормальный трафик (normal). Модель содержит около 361,8 млн параметров, использует архитектуру LlamaForCausalLM и рассчитана на работу через Transformers или llama.cpp; доступны веса Safetensors и GGUF. Указанный в метаданных контекст — 8192 токена, а карточка сообщает, что модель обучалась на английских логах и рекомендует записи длиной до 2048 токенов. Модель предназначена для мониторинга безопасности веб-серверов: автоматической сортировки входящих логов, выявления типовых веб-атак и ошибок, а также передачи подозрительных событий в систему оповещения или реагирования. В карточке заявлены точность свыше 99% на производственных логах и запуск на CPU, однако результаты относятся к данным автора и не гарантируют такую же точность на других источниках. Модель обучалась на nginx-логах; для Apache, IIS и других форматов может потребоваться дообучение. Для оптимальной классификации требуется рекомендуемый шаблон запроса; отдельные записи анализируются независимо, без корреляции событий между логами. Лицензия — Apache-2.0.
sudy-super/Sentinel — многоязычная модель классификации текста на базе BERT, разработанная для выявления prompt injection, утечек промптов и jailbreak-атак. Она выдаёт метку класса; в карточке указано, что LABEL_1 означает обнаруженный prompt injection. Модель содержит 205,1 млн параметров, принимает последовательности длиной до 512 токенов и опубликована в формате safetensors. Модель подходит для проверки пользовательского ввода и текстов в приложениях с LLM, чтобы выявлять попытки вмешательства в инструкции или обхода ограничений. В карточке перечислены японский, английский, испанский, китайский, корейский, хинди, немецкий, французский и русский языки. Лицензия — Apache-2.0. Подробности о точности, порогах классификации и распознавании меток для утечки и jailbreak отдельно не приведены.
Карточка модели inclusionAI/SingGuard-NSFA-2B на Hugging Face совпадает с карточкой inclusionAI/SingGuard-NSFA-0.8B, поэтому описание составлено по ней. SingGuard-NSFA-0.8B — модель-охранник для защиты агентных систем, разработанная командой SingGuard из AI Security Lab компании Ant Group. Это вариант с 0,8 млрд параметров, дообученный на базе Qwen3.5. Модель предназначена для проверки отдельных запросов пользователя и ответов агента: она выявляет prompt injection и jailbreak, запросы на вредоносный код, кражу чувствительных данных, опасное использование инструментов и ресурсов, а также утечку чувствительной информации в ответах. Модель поддерживает два режима: генеративный анализ с объяснением для аудита и классификацию для оперативного перехвата угроз. В README для классификационного режима указана задержка около 45–57 мс на одном NVIDIA A100; для семейства моделей заявлена оценка выше 94% F1 на созданных авторами многоязычных тестах. Карточка описывает модель как текстовую и одноходовую, хотя в метаданных Hugging Face указаны архитектура с поддержкой изображений и pipeline image-text-to-text; мультимодальные угрозы README относит к сценариям вне области применения. Модель заявлена для 133 языков; метаданные перечисляют языковые коды, включая английский, китайский, французский, немецкий, хинди и арабский. Распространяется по лицензии Apache 2.0. Ограничения: модель не анализирует угрозы в изображениях, аудио и видео, многоходовые траектории взаимодействия и межагентную коммуникацию; её таксономия не предназначена для общей модерации контента.
Карточка модели inclusionAI/SingGuard-NSFA-4B на Hugging Face совпадает с карточкой inclusionAI/SingGuard-NSFA-0.8B, поэтому описание составлено по ней. SingGuard-NSFA-0.8B — модель-охранник для защиты агентных систем, разработанная командой SingGuard из AI Security Lab компании Ant Group. Это вариант с 0,8 млрд параметров, дообученный на базе Qwen3.5. Модель предназначена для проверки отдельных запросов пользователя и ответов агента: она выявляет prompt injection и jailbreak, запросы на вредоносный код, кражу чувствительных данных, опасное использование инструментов и ресурсов, а также утечку чувствительной информации в ответах. Модель поддерживает два режима: генеративный анализ с объяснением для аудита и классификацию для оперативного перехвата угроз. В README для классификационного режима указана задержка около 45–57 мс на одном NVIDIA A100; для семейства моделей заявлена оценка выше 94% F1 на созданных авторами многоязычных тестах. Карточка описывает модель как текстовую и одноходовую, хотя в метаданных Hugging Face указаны архитектура с поддержкой изображений и pipeline image-text-to-text; мультимодальные угрозы README относит к сценариям вне области применения. Модель заявлена для 133 языков; метаданные перечисляют языковые коды, включая английский, китайский, французский, немецкий, хинди и арабский. Распространяется по лицензии Apache 2.0. Ограничения: модель не анализирует угрозы в изображениях, аудио и видео, многоходовые траектории взаимодействия и межагентную коммуникацию; её таксономия не предназначена для общей модерации контента.
Карточка модели inclusionAI/SingGuard-NSFA-9B на Hugging Face совпадает с карточкой inclusionAI/SingGuard-NSFA-0.8B, поэтому описание составлено по ней. SingGuard-NSFA-0.8B — модель-охранник для защиты агентных систем, разработанная командой SingGuard из AI Security Lab компании Ant Group. Это вариант с 0,8 млрд параметров, дообученный на базе Qwen3.5. Модель предназначена для проверки отдельных запросов пользователя и ответов агента: она выявляет prompt injection и jailbreak, запросы на вредоносный код, кражу чувствительных данных, опасное использование инструментов и ресурсов, а также утечку чувствительной информации в ответах. Модель поддерживает два режима: генеративный анализ с объяснением для аудита и классификацию для оперативного перехвата угроз. В README для классификационного режима указана задержка около 45–57 мс на одном NVIDIA A100; для семейства моделей заявлена оценка выше 94% F1 на созданных авторами многоязычных тестах. Карточка описывает модель как текстовую и одноходовую, хотя в метаданных Hugging Face указаны архитектура с поддержкой изображений и pipeline image-text-to-text; мультимодальные угрозы README относит к сценариям вне области применения. Модель заявлена для 133 языков; метаданные перечисляют языковые коды, включая английский, китайский, французский, немецкий, хинди и арабский. Распространяется по лицензии Apache 2.0. Ограничения: модель не анализирует угрозы в изображениях, аудио и видео, многоходовые траектории взаимодействия и межагентную коммуникацию; её таксономия не предназначена для общей модерации контента.
SOC Analyst Tool-Use Model — языковая модель команды Aria AI Security Research Team, дообученная методом QLoRA на базе Qwen/Qwen2.5-1.5B-Instruct. Модель предназначена для поддержки работы аналитиков SOC: формирует структурированные вызовы инструментов для поиска журналов событий, получения контекста узла и пользователя, поиска техник MITRE, обогащения IP-адресов, построения временной шкалы и отправки отчётов об инцидентах. Модель имеет плотную архитектуру Qwen2 и 1,5 млрд параметров, принимает текст и выдаёт текстовые ответы и вызовы инструментов. Контекстное окно составляет 32 768 токенов. Она обучалась на 84 эпизодах обучающей части SOC-AgentBench; в карточке приведены результаты бенчмарка по распознаванию техник, точности доказательств и определению первопричины. Эти результаты указывают на ограничения точности, особенно при установлении первопричин. Указана лицензия Apache-2.0.
spotproject разработала и публикует эту модель как часть NLP-анализатора платформы SPOT для выявления потенциально фишинговых писем. Это дообученная модель DistilBERT для бинарной классификации: она присваивает тексту метку «обычное письмо» или «фишинг» и выдаёт вероятности двух классов. Модель содержит около 67 млн параметров; классификационная версия DistilBERT имеет 6 слоёв, размер скрытого представления 768 и 12 голов внимания. Для токенизации используется WordPiece, максимальная длина входа — 512 токенов. Лицензия — Apache-2.0. Основной сценарий — оценка англоязычных тел писем: тему и текст письма можно объединить перед подачей модели. В SPOT её результат участвует в общем вердикте вместе с правилами, контекстными данными и, при необходимости, анализаторами на базе LLM; авторы не рекомендуют полагаться только на отдельное предсказание классификатора. Модель дообучена на SetFit/enron_spam, где положительная метка объединяет спам, маркетинговые письма и фишинг. Данные обучения отражают преимущественно деловую переписку Enron начала 2000-х годов, поэтому качество на современных атаках, потребительских сообщениях и неанглийских письмах может быть ниже. Модель анализирует текст и не гарантирует обнаружение атак, представленных только изображениями, QR-кодами или другими нетекстовыми элементами; переиначивание текста и Unicode-обфускация также могут изменить результат. Вероятность класса «фишинг» не следует трактовать как откалиброванную оценку именно фишинга.
halilneed/turkish-pii-detection-v01 — 257 млн параметров, дообученная на базе cagrigungor/pii-guard-turkish-270m модель Gemma 3 для обнаружения и маскирования персональных данных в турецком тексте. Она принимает текст и по заданной инструкции заменяет найденные данные метками, например имя — [AD], турецкий идентификационный номер — [TCKN], телефон — [TEL]. Можно задавать политику маскирования: скрывать все поля, только выбранные или все, кроме исключений. Модель предназначена для обработки текста до его передачи LLM, в хранилища журналов или третьим сторонам; поддерживает контекст до 32 768 токенов. Модель дообучена на 24 000 синтетических примерах банковских и ERP-сообщений. На синтетическом тестовом наборе из 1 000 примеров автор сообщает о точном совпадении 0,882 против 0,740 у исходной модели; тестировались также отдельные срезы данных. Эти результаты не гарантируют качество на реальных текстах. Для использования требуется соблюдать обученный формат запроса с начальным BOS-токеном; вывод может содержать метки вне заданной схемы, поэтому его следует проверять. Модель слабее работает с длинными текстами, несколькими людьми и персональными данными с суффиксами; длинный ввод рекомендуется делить на части. Лицензия — Gemma Terms of Use.