/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.11Кибербезопасность и приватность

В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
25
в этой профессии
Подходящих моделей
4 232
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

4 232 модели
Загрузки
Лайки
Дата выхода
1 141–1 170 из 4 232
Falconsai
LightDec_Arthur

LightDec_Arthur — небольшая калиброванная модель принятия решений от Falcons.ai, обученная с нуля на смеси FalconDec_V2. Она принимает состояние в виде текста, например письмо, обращение, трассу агента, журнал или запись JSON, типизированный вопрос и закрытый набор вариантов, а затем за один проход выбирает вариант и возвращает вероятности. Модель использует байтовый рекурсивный энкодер с взаимодействием вариантов, содержит около 12,3 млн параметров и не имеет предварительно обученной основы или токенизатора. Модель предназначена для классификации намерений, маршрутизации обращений, бинарных проверок вроде выявления jailbreak-промптов, сопоставления кода и порядковой оценки состояний. Она поддерживает выбор из нескольких вариантов, ответы «да/нет» и ранжированную шкалу оценок. Калиброванная вероятность позволяет задавать порог уверенности и передавать сомнительные случаи человеку или более крупной модели. Это не генеративная модель: она выбирает только из переданных вариантов и не создаёт свободный текст. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README сообщает о компромиссе между размером и точностью относительно LightDec_V2; приведённый показатель точности относится к описанному тесту и порогу уверенности. Для самостоятельного запуска репозиторий пока не содержит отдельного загрузчика: определение модели, сборка входа и температурная калибровка находятся в обучающем ноутбуке.

501сент. 2026
textapache-2.0hugging-face
QuantFactory
Llama-Guard-3-1B-GGUF

QuantFactory/Llama-Guard-3-1B-GGUF — это квантованная версия модели Llama Guard 3 объёмом 1 млрд параметров, опубликованная QuantFactory на основе модели Meta. Она предназначена для классификации и фильтрации текстового контента по категориям безопасности, например для проверки пользовательских запросов и ответов AI-систем. Модель относится к семейству Llama и рассчитана на генерацию текста; доступные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В README не указаны точная архитектура, размер контекста, перечень форматов квантования, результаты оценки качества или поддержка других модальностей, поэтому эти характеристики нельзя определить достоверно. Модель распространяется по Llama 3.2 Community License от Meta: использование, модификация и распространение разрешены на условиях лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение уведомления об авторских правах и соблюдение Acceptable Use Policy. Для продуктов с более чем 700 млн ежемесячных активных пользователей требуется отдельное разрешение Meta.

9467сент. 2024
textllama3.2hugging-face
aisingapore
Llama-SEA-Guard-8B-2602

Llama-SEA-Guard-8B-2602 — модель безопасности AI Singapore, разработанная AI Products Pillar на базе семейства SEA-LION и дообученная на 1 млн пар инструкций. Это декодерная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 128 тыс. токенов. Она принимает текст и выдаёт текстовую бинарную оценку: «safe» или «unsafe», помогая выявлять небезопасные запросы и ответы с учётом культурного контекста Юго-Восточной Азии. Модель рассчитана на английский, бирманский, индонезийский, малайский, тагальский, тамильский, тайский и вьетнамский языки. Её можно применять для классификации текста в системах модерации и проверки безопасности; README указывает поддержку быстрого инференса через vLLM. Модель может ошибаться или выдавать необоснованные оценки, поэтому результаты следует проверять, а саму классификацию не считать окончательным решением. Лицензия — Llama 3.1 Community License.

2.1K2дек. 2025ctx131.1K
textllama3.1hugging-face
AIML-TUDA
LlavaGuard-v1.2-7B-OV

LlavaGuard-v1.2-7B-OV — мультимодальная модель семейства LLaVA, разработанная исследовательской группой AIML-TUDA. Она дообучена на LlavaGuard-DS на базе lmms-lab/llava-onevision-qwen2-7b-ov и предназначена для оценки безопасности запросов и содержимого изображений в диалоговом формате с текстовыми ответами и обоснованиями. Модель содержит 7,1 млрд параметров, использует плотную архитектуру LlavaQwenForCausalLM и имеет контекстное окно 32 768 токенов. Она принимает текст и изображения; базовая модель также поддерживает работу с несколькими изображениями и видео, но README конкретно описывает LlavaGuard как оценщик безопасности. В карточке заявлено улучшение рассуждений в обоснованиях. Для запуска подходят SGLang и реализация LLaVA; README сообщает о несовместимости этой версии с реализацией Transformers. Модель допускает LoRA и полное дообучение. Условия лицензии в предоставленных данных не указаны.

8263нояб. 2024ctx32.8K
texthugging-face
cnuland
llm-d-sc-sensitivity

llm-d-sc-sensitivity — англоязычная модель эмбеддингов предложений, разработанная для проекта llm-d-sc. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 и выдаёт 384-мерный вектор, который сравнивают с размеченными опорными примерами, чтобы ранжировать уровни чувствительности текста: PUBLIC, INTERNAL и CONFIDENTIAL. Модель предназначена для маршрутизации запросов и оценки того, можно ли передать их внешнему модельному сервису; решение о применении политики остаётся за вызывающей системой. Модель использует архитектуру BERT, содержит 25,9 млн параметров и принимает текст с контекстом до 512 токенов. В проверке автора на 75 синтетических запросах она достигла точности 0,8933 и macro F1 0,8928; независимого воспроизведения результатов не было. Лицензия — Apache-2.0. Результат зависит от качества и состава anchors.json, а граница между уровнями INTERNAL и CONFIDENTIAL особенно неоднозначна. Обучающие данные синтетические и содержат трассы рассуждений генератора вместо ожидаемых примеров пользовательских запросов; человеческой разметки для проверки нет. Модель выдаёт оценку сходства, а не гарантированное решение по безопасности, поэтому её нельзя использовать как единственную защиту от утечки данных.

210авг. 2026ctx512
textembeddingapache-2.0hugging-face
prithivMLmods
Mirage-Photo-Classifier

Mirage-Photo-Classifier — модель классификации изображений, созданная на основе google/siglip2-base-patch16-224 и дообученная для бинарного определения подлинности фотографий. Она использует архитектуру SiglipForImageClassification и относит изображение к классу Real (настоящее) или Fake (сгенерированное ИИ). Разработчик в карточке модели не назван. Модель предназначена для поиска синтетических изображений в новостях, социальных сетях и наборах данных, а также для поддержки цифровой экспертизы и модерации контента. В README приведён отчёт на тестовой выборке из 10 000 изображений: точность составила 94,64%, F1 для классов Real и Fake — 0,9446 и 0,9481 соответственно. Эти результаты относятся к указанной выборке и не гарантируют такую же точность на других типах изображений. Модель принимает изображения и выдаёт метки классов. В метаданных указан английский язык карточки; другие поддерживаемые языки не заявлены. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

1352апр. 2025
imageapache-2.0hugging-face
nvidia
Nemotron-3-Content-Safety

Nemotron 3 Content Safety — мультимодальная модель-классификатор безопасности контента, разработанная NVIDIA на базе Google Gemma 3 4B IT и дообученная на многоязычных и мультимодальных наборах данных по безопасности. Она проверяет текстовый запрос, при необходимости изображение и ответ модели, возвращая текстовые метки безопасности для запроса и ответа, а по запросу — категории нарушений. Модель рассчитана на модерацию входов и ответов языковых и визуально-языковых моделей, работающих с текстом и одним изображением. Модель использует архитектуру Gemma 3 с 4 млрд параметров и визуальный энкодер SigLIP; контекст — до 128 тысяч токенов. Поддерживаются английский, арабский, немецкий, испанский, французский, хинди, японский, тайский, нидерландский, итальянский, корейский и китайский языки. Выход — текстовые метки «safe» или «unsafe» и, при запросе, категории вроде насилия, самоповреждения, угроз, мошенничества и раскрытия персональных данных. Модель дообучена методом LoRA с последующим объединением весов с базовой моделью. NVIDIA указывает, что она готова к коммерческому применению; лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить условия распространения репозитория. Для конкретного применения NVIDIA рекомендует тестирование и валидацию на профильных данных; заявлена оптимизация для систем с GPU NVIDIA.

10K21март 2026
textimageotherhugging-face
junafinity
Ornith-1.5-35B-A3B-uncensored

Ornith-1.5-35B-A3B-uncensored — мультимодальная MoE-модель junafinity на базе Ornith-1.5-35B-A3B, изменённая Abliterix для снижения числа отказов. Чекпойнт содержит 35 млрд параметров, включая зрительный модуль, и опубликован в формате bf16 в safetensors; для работы требуется transformers версии 5.12 или новее. Модель предназначена прежде всего для контролируемого red teaming и исследований защитных средств кибербезопасности. Она принимает текст и изображения и генерирует текст, что позволяет оценивать фильтры, классификаторы, защиту от prompt injection и другие механизмы модерации, а также получать примеры для разработки детекторов. В README сообщается, что на тестовом наборе отказов стало 9 из 100 против 100 из 100 у исходной модели; результат следует проверять на собственных сценариях. Abliteration снижает, но не устраняет все отказы: в частности, они могут сохраняться в многошаговом диалоге, при системных инструкциях и на зрительном пути. Модель не следует выставлять в публичный доступ без независимого слоя модерации; отвечающий за развёртывание несёт ответственность за защитные меры и соблюдение правил использования. Лицензия — Apache-2.0.

223авг. 2026
textimageapache-2.0hugging-face
jefftherover
pii-layout-synth-v5

pii-layout-synth-v5 — дообученная на неизвестном наборе данных модель answerdotai/ModernBERT-base для классификации токенов. Она использует архитектуру ModernBERT с 149 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. По названию модель связана с разметкой персональных данных и макетов, однако карточка не уточняет назначение меток и сценарии применения. В отчёте указаны результаты оценки: F1 0,9912 и точность 0,9985; набор данных и методика оценки не описаны. Модель распространяется по лицензии Apache-2.0.

190июнь 2026ctx8.2K
textapache-2.0hugging-face
ToxicityPrompts
PolyGuard-Ministral

Карточка модели ToxicityPrompts/PolyGuard-Ministral на Hugging Face совпадает с карточкой ToxicityPrompts/PolyGuard-Qwen-Smol, поэтому описание составлено по ней. ToxicityPrompts/PolyGuard-Qwen-Smol — компактная многоязычная модель для модерации безопасности ответов LLM, разработанная авторами PolyGuard. Это плотная авторегрессионная модель семейства Qwen2 с 494 млн параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. В карточке заявлена поддержка 17 языков: арабского, чешского, китайского, нидерландского, английского, французского, немецкого, хинди, тайского, итальянского, японского, корейского, польского, португальского, русского, испанского и шведского. Модель предназначена для оценки безопасности пользовательских запросов и ответов LLM, включая выявление вредоносного или токсичного содержания и отказов в ответе. PolyGuard обучена на PolyGuardMix из 1,91 млн примеров и представлена вместе с набором PolyGuardPrompts для оценки защитных механизмов. По описанию авторов, в проведённых оценках она превзошла другие открытые и коммерческие классификаторы безопасности в среднем на 5,5%. Метаданные указывают задачу text-generation и возможности чата; поэтому её можно применять в текстовых сценариях модерации и защитных цепочках LLM. Лицензия — CC BY 4.0. Карточка не уточняет ограничения по применению и ошибки классификации; результаты модерации следует проверять с учётом языка и контекста, особенно в критичных сценариях.

840янв. 2025ctx32.8K
textcc-by-4.0hugging-face
ttttonyhe
Qwen3-4B-Instruct-MetaSecAlign

Qwen3-4B-Instruct-MetaSecAlign — диалоговая языковая модель на архитектуре Qwen3, созданная ttttonyhe как неофициальное воспроизведение рецепта Meta SecAlign++ на базе Qwen/Qwen3-4B-Instruct-2507. Модель дообучена методом DPO с LoRA, чтобы лучше сопротивляться косвенным prompt injection атакам в содержимом инструментов, найденных документах, веб-страницах и письмах. Для работы с недоверенными данными приложение должно передавать их в отдельной роли `input`, сохраняя пользовательские и системные инструкции в соответствующих ролях. Модель принимает текст и выдаёт текст; её контекст составляет до 262 144 токенов, размер — около 3,7 млрд параметров. Доступны объединённые веса и LoRA-адаптер; для инференса в bf16 требуется примерно 9 ГБ видеопамяти. Лицензия — CC BY-NC 4.0. Это исследовательское воспроизведение, а не официальная модель Meta и не готовая защита для промышленной среды. Обучение снижает восприимчивость к prompt injection, но не устраняет её; устойчивость может падать при адаптивных атаках. Разделение ролей помогает только при корректной интеграции: недоверенный текст, помещённый в роль `user`, обходит предусмотренную защиту.

4020июль 2026ctx262.1K
textcc-by-nc-4.0hugging-face
PLJIANGG05
qwen3guard-gen-4b-danger-intent-opendata-qwensynth-supplement-sampled4000-v9

Qwen3Guard-Gen-4B Danger Intent — Open Data + Qwen Synthetic + Supplement — это бинарный классификатор пользовательских запросов на SAFE и UNSAFE, созданный дообучением Qwen/Qwen3Guard-Gen-4B. Модель на архитектуре Qwen3 с 3,7 млрд параметров распространяется как объединённые BF16-веса; в репозитории также сохранены исходные LoRA-тензоры. Она предназначена для классификации опасных намерений и включения в конвейеры модерации, а не для диалога общего назначения. В обучающих данных есть английский и китайский языки. Для фиксированного оценщика максимальный контекст классификации составляет 1 024 токена: длинные входы обрезаются, что может удалить важные сведения. Оценка UNSAFE — относительный балл по логитам меток SAFE и UNSAFE, а не калиброванная вероятность; SAFE не гарантирует безвредность запроса или последующего ответа. README описывает модель как исследовательский классификатор, который не является независимо сертифицированной системой безопасности. Лицензия — CC BY-NC 4.0.

1000авг. 2026ctx32.8K
textcc-by-nc-4.0hugging-face
locuslab
safety-classifier_gte-large-en-v1.5

Safety Classification — англоязычный классификатор безопасности текста, разработанный Locus Lab путём дообучения энкодерной модели Alibaba-NLP/gte-large-en-v1.5. Модель предназначена для присвоения тексту оценок безопасности и подходит для автоматической проверки пользовательских запросов или текстовых ответов. Модель использует архитектуру последовательной классификации и содержит 433,9 млн параметров. Она принимает текст, выдаёт метки или оценки классификации и поддерживает контекст до 8192 токенов. Для использования указаны Transformers и загрузка с trust_remote_code=True. Модель распространяется по лицензии Apache-2.0.

1.2K6апр. 2025ctx8.2K
textapache-2.0hugging-face
qylu4156
strongreject-15k-v1

qylu4156/strongreject-15k-v1 — дообученный PEFT-адаптер, опубликованный пользователем qylu4156 на Hugging Face. Он предназначен не для обычной генерации текста, а для автоматической оценки вредоносности ответов языковых моделей в задачах анализа jailbreak-атак и безопасности. Модель используется в StrongREJECT для оценки того, насколько ответ предоставляет полезную вредную информацию по запрещённому запросу. Адаптер применяется поверх базовой модели google/gemma-2b, поэтому использует её архитектуру causal language model и соответствующие ограничения. Согласно описаниям StrongREJECT, оцениватель анализирует пару из запрещённого запроса и ответа и выдаёт оценку вредоносности в диапазоне от 0 до 1, где большее значение означает более вредный ответ. Сильная сторона модели — ориентация на содержательную оценку вреда, а не на простое выявление ключевых слов или отсутствие отказа. Для работы требуется совместимая базовая модель Gemma 2B и загрузка адаптера через PEFT. В найденных источниках не указаны надёжные сведения о поддерживаемых языках, размере контекста, точных параметрах дообучения, лицензии и дополнительных ограничениях использования. Модель следует применять прежде всего как компонент исследовательского или оценочного конвейера безопасности, а не как самостоятельную универсальную диалоговую модель.

143K3июль 2024
texthugging-face
protectai
xlm-roberta-base-language-detection-onnx

protectai/xlm-roberta-base-language-detection-onnx — модель для автоматического определения языка текста. Она разработана как ONNX-конверсия модели papluca/xlm-roberta-base-language-detection с использованием библиотеки Hugging Face Optimum и основана на xlm-roberta-base, дообученной на наборе данных Language Identification. Проект связан с ProtectAI и LLM Guard, однако в README указано, что он архивирован и больше не поддерживается. Модель предназначена для задач классификации последовательностей и языковой идентификации, включая маршрутизацию многоязычных запросов, предварительную обработку текста и проверки в системах безопасности LLM. Архитектура представляет собой трансформер XLM-RoBERTa с классификационной головой на основе линейного слоя поверх pooled output. Поддерживаются 20 языков: арабский, болгарский, немецкий, современный греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Формат ONNX рассчитан на использование через ONNX Runtime и Optimum. Сильные стороны модели — многоязычность, готовность к эффективному инференсу в ONNX-экосистеме и специализация на определении языка. Ограничение — поддержка только перечисленных 20 языков; сведения о размере модели, максимальной длине контекста, точных показателях качества и других ограничениях в README не приведены. Модель распространяется по лицензии MIT.

88K6нояб. 2023ctx514
textmithugging-face
Yunhao-Feng
AdaGuard-8B

AdaGuard-8B — модель Yunhao-Feng для проверки пользовательских запросов и действий ИИ-агентов по заданным пользователем правилам. Она формирует объяснение, указывает идентификаторы нарушенных правил в заданном порядке или возвращает NR, если нарушений нет; вердикт не является калиброванной вероятностью риска. Модель построена на Qwen3Guard-Gen-8B с архитектурой Qwen3ForCausalLM и дообучена методом supervised fine-tuning на AdaptiveSafety с последующим SafePO. В чекпойнте 7,6 млрд параметров, контекст составляет 32 768 токенов. Для оценки передаются текстовые правила и события, включая запросы, действия агента и результаты инструментов; на выходе модель выдаёт текстовый анализ и метки вердикта. Пример запуска использует Transformers, CUDA и BF16. AdaGuard позволяет задавать от 1 до 100 правил без фиксированной таксономии рисков и связывать нарушения с локальными идентификаторами правил. В README приведены ранее полученные результаты на AdaptiveSafety и DynaBench; выпуск чекпойнта не сопровождался новым прогоном этих тестов. Длинноконтекстная производительность за пределами описанных условий оценки не установлена. Некорректный или неполный формат ответа следует считать недействительным вердиктом. Лицензия — Apache-2.0.

2490сент. 2026ctx32.8K
textapache-2.0hugging-face
prithivMLmods
AI-vs-Deepfake-vs-Real-Siglip2

AI-vs-Deepfake-vs-Real-Siglip2 — модель классификации изображений, разработанная на базе SigLIP 2 от Google и дообученная автором репозитория prithivMLmods. Она использует архитектуру SiglipForImageClassification и относит изображение к одному из трёх классов: полностью сгенерированное ИИ, дипфейк с изменённым реальным содержимым или подлинная фотография. Модель предназначена для выявления синтетических и изменённых изображений, проверки медиаматериалов и предварительной фильтрации контента. Модель принимает изображения и выдаёт метку класса. Её можно применять как вспомогательный инструмент для фактчекинга, цифровой экспертизы и модерации, но классификация сама по себе не подтверждает происхождение изображения и может ошибаться на новых способах генерации или манипуляции. Репозиторий распространяется по лицензии Apache-2.0.

9.0K2февр. 2025
imageapache-2.0hugging-face
ProCreations
auto-0.4b-2

ProCreations auto-0.4b-2 iteration 1 — классификатор на основе энкодера ModernBERT, разработанный ProCreations. Он оценивает предложенный агентом вызов инструмента с учётом запроса пользователя и истории действий и выдаёт решение approve или deny. Модель предназначена для проверки, разрешено ли действие и безопасно ли оно в данном контексте; это классификатор, а не диалоговая модель. Модель содержит около 395 млн параметров, принимает текст и поддерживает контекст до 65 536 токенов. В README приведены результаты на синтетическом бенчмарке из 3 000 примеров: точность 97,00%, 36 ложных разрешений и 54 ложных отказа. Также указаны проверки длинных входов и наборы проб для skills, MCP и пользовательских инструментов. Ложные разрешения всё ещё возможны. Модель не может анализировать скрытое содержимое файлов, определять поведение непрозрачных исполняемых файлов или предсказывать поведение URL во время выполнения. Метки синтетические, а бенчмарк использовался при выборе версии, поэтому перед применением на реальном потоке данных нужна собственная оценка. Лицензия — Apache-2.0.

1251сент. 2026ctx65.5K
textapache-2.0hugging-face
rahulshendre
deepfake-detector-model-v1

Карточка модели rahulshendre/deepfake-detector-model-v1 на Hugging Face совпадает с карточкой prithivMLmods/deepfake-detector-model-v1, поэтому описание составлено по ней. deepfake-detector-model-v1 — модель классификации изображений от prithivMLmods, дообученная на базе SigLIP для бинарного определения, является ли изображение реальным или синтетически созданным. Она использует архитектуру SiglipForImageClassification и рассчитана на проверку подлинности визуальных материалов, предварительную модерацию контента и поддержку цифровой экспертизы. В отчёте для тестовой выборки указана точность 94,44%; эта метрика сама по себе не гарантирует качество на новых источниках изображений и при иных способах генерации или манипуляции. Модель работает с изображениями и выдаёт метку класса. Лицензия репозитория — Apache-2.0.

1420апр. 2026
imageapache-2.0hugging-face
Nozim6690
hugging-face_shieldgemma-2-4b-it

Карточка модели Nozim6690/hugging-face_shieldgemma-2-4b-it на Hugging Face совпадает с карточкой google/shieldgemma-2-4b-it, поэтому описание составлено по ней. ShieldGemma 2 4B — модель Google на базе Gemma 3 4B IT для проверки безопасности изображений. Она принимает изображение и текстовую инструкцию с политикой безопасности и оценивает, нарушает ли изображение эту политику, выдавая оценки для ответов «Yes» и «No». Модель предназначена для модерации пользовательских изображений и результатов генерации, а также для фильтрации входов и выходов систем с поддержкой зрения. Она выявляет сексуально откровенный контент, опасные материалы и сцены насилия или жестокости. Модель содержит 4 миллиарда параметров и обучена на примерах с естественными и синтетическими изображениями; для синтетических данных указаны англоязычные сценарии. Результат зависит от формулировки заданной политики. Google предупреждает, что доступные наборы оценки могут не отражать реальные сценарии, а неоднозначные формулировки и языковые нюансы могут приводить к непредсказуемым оценкам. Условия использования определяются лицензией Gemma и правилами Google о запрещённом использовании.

1420окт. 2025
imagegemmahugging-face
starknet-ai
LateOn-Code-edge-EVMScout-17M

LateOn-Code-edge EVMScout 17M — компактный ретривер с архитектурой ModernBERT и поздним взаимодействием, разработанный на базе LateOn-Code-edge и дообученный для локализации уязвимых функций в репозиториях Solidity. Модель получает код и описание механизма риска, например реентерабельности или повторного использования подписи, и ранжирует функции, которые стоит проверить в первую очередь. Число параметров — около 16,95 млн, длина контекста — 7 999 токенов. Модель предназначена для приоритизации кода при авторизованном аудите Solidity и подготовки короткого списка функций для проверки человеком или отдельной reasoning-моделью. В тесте на ранее не встречавшихся семействах протоколов среднее число известных уязвимых функций в топ-10 выросло с 7 из 63 у базовой модели до 11–12 из 63 у обученных запусков. Это исследовательский чекпойнт с низким абсолютным recall: оценка модели указывает лишь на повод для проверки, а не подтверждает уязвимость или безопасность контракта. Модель не является автономным аудитором или сертификатом безопасности. Лицензия указана как other; README отмечает, что права на распространение исходного корпуса ещё проверяются.

1010авг. 2026ctx8K
textembeddingotherhugging-face
iknow-lab
llama-3.2-3B-wildguard-ko-2410

Llama-3.2-3B-wildguard-ko-2410 — корейская модель-классификатор для выявления вредоносных запросов и ответов, разработанная Хигю Кимом. Она дообучена на базе Bllossom/llama-3.2-Korean-Bllossom-3B и предназначена для проверки запросов перед обработкой, оценки ответов на вредоносность и определения отказа от выполнения запроса. Модель содержит 3,2 млрд параметров, использует архитектуру Llama и рассчитана на генерацию текста; заявленный контекст — до 131 072 токенов. В README приведены результаты на переведённых на корейский язык наборах Wildjailbreak и Wildguardmix: F1 80,116 для Wildjailbreak, 87,381 для классификации запросов и 84,653 для оценки вредоносности ответов. Для оценки отказов указан F1 60,126, поэтому качество этой функции может быть ниже. Карточка не описывает отдельные меры предосторожности при использовании классификаций. Лицензия — Llama 3.2.

455окт. 2024ctx131.1K
textllama3.2hugging-face
sumitguha13
phi-4-mini-adr-detector

Phi-4-mini ADR Detector — дообученная методом LoRA модель Microsoft Phi-4-mini-instruct, разработанная для классификации трасс выполнения AI-агентов на доброкачественные и вредоносные. Модель ориентирована на задачи безопасности агентных систем, включая обнаружение prompt injection, атак на инструменты, подмены или злоупотребления MCP-серверами, захвата управления и других угроз в журналах выполнения. Обучение проводилось на датасете sumitguha13/adr-agent-trace-detection, а оценка — на ранее не использовавшемся наборе Uber ADR-Bench. Модель относится к классу text-generation и принимает текстовые трассы, представленные строками формата role: content. Она основана на Phi-4-mini-instruct с контекстным окном 131 072 токена, что позволяет обрабатывать целиком трассы длиной до 27 932 токенов в использованном тесте. Язык README указан как английский. Дообучение выполнено с LoRA-параметрами r=32, alpha=64 и dropout 0,05; для работы рекомендуется bfloat16 и SDPA, поскольку полное внимание может исчерпывать память на длинных трассах. На ADR-Bench модель достигла accuracy 82,2%, balanced accuracy 72,7% и F1 0,481; вредоносные трассы обнаруживались с полнотой 59,5%, поэтому примерно две из пяти атак пропускаются. Она особенно хорошо выявляла injection-подобные атаки, но полностью пропустила Semantic Data Poisoning и испытывала трудности с Control-Flow Hijacking. Precision составила 0,403, что означает заметное число ложных срабатываний. Модель предназначена для помощи в триаже, а не для автономного средства защиты; обобщение на другие агентные фреймворки не проверялось. Распространяется по лицензии MIT.

1670сент. 2026ctx131.1K
textmithugging-face
cyjin-yl
Qwen3.8-27B-Uncensored-Cyber-agentic-imatrix-GGUF

Qwen3.8-27B-Uncensored-Cyber — GGUF — это квантизированная версия модели philbert440/Qwen3.8-27B-Uncensored-Cyber, опубликованная cyjin-yl. Репозиторий содержит только GGUF-квантизацию и калибровочную importance matrix, построенную на реальном трафике агентного программирования; дообучение, слияние моделей и изменения поведения не выполнялись. Лицензия — Apache-2.0. Модель предназначена прежде всего для агентного кодинга и задач кибербезопасности, включая сценарии с вызовами инструментов, JSON, командными строками, путями к файлам и точным воспроизведением идентификаторов. Это de-refusal («abliterated») модель, специализированная на offensive security. Доступны текстовые IQ4_XS-веса размером около 14,96 GiB и вариант около 15,38 GiB с совместимыми MTP-тензорами для speculative decoding; обычным GGUF-загрузчикам рекомендуется файл без MTP, если поддержка MTP не проверена. Сохраняются vision tower и MTP-head исходной модели, поэтому заявлена мультимодальная возможность image-text-to-text и поддержка MTP в совместимых средах. Указан контекст до 262K токенов для исходной модели, однако калибровка выполнялась с контекстом 512. Калибровочная матрица оптимизирована для агентных данных, включая tool-call токены, специальные chat-template токены и смешанные китайско-английские материалы, что может улучшать точность вызовов инструментов и копирования длинных литералов после квантизации. Ограничения включают зависимость от совместимости конкретного runtime с GGUF, MTP и мультимодальными компонентами, а также возможную потерю качества из-за двойной квантизации: исходные веса были получены из Q8_0, а не BF16. Модель унаследовала отсутствие отказов и кибернетическую специализацию базовой модели, поэтому требует осторожного применения.

251K235авг. 2026
textimageapache-2.0hugging-face
google
shieldgemma-2-4b-it

ShieldGemma 2 4B — модель Google на базе Gemma 3 4B IT для проверки безопасности изображений. Она принимает изображение и текстовую инструкцию с политикой безопасности и оценивает, нарушает ли изображение эту политику, выдавая оценки для ответов «Yes» и «No». Модель предназначена для модерации пользовательских изображений и результатов генерации, а также для фильтрации входов и выходов систем с поддержкой зрения. Она выявляет сексуально откровенный контент, опасные материалы и сцены насилия или жестокости. Модель содержит 4 миллиарда параметров и обучена на примерах с естественными и синтетическими изображениями; для синтетических данных указаны англоязычные сценарии. Результат зависит от формулировки заданной политики. Google предупреждает, что доступные наборы оценки могут не отражать реальные сценарии, а неоднозначные формулировки и языковые нюансы могут приводить к непредсказуемым оценкам. Условия использования определяются лицензией Gemma и правилами Google о запрещённом использовании.

8.9K179март 2025
textimagegemmahugging-face
thu-coai
ShieldLM-6B-chatglm3

ShieldLM-6B-chatglm3 — двуязычная модель команды thu-coai на архитектуре ChatGLM, инициализированная из chatglm3-6b. Она предназначена для выявления проблем безопасности в ответах языковых моделей: модель оценивает сгенерированный текст по правилам безопасности и может объяснять свои решения. Поддерживаются настраиваемые правила с детальной классификацией; заявлены результаты на четырёх тестовых наборах, включая наборы с данными вне обучающего распределения. Модель содержит 7,8 млрд параметров и поддерживает контекст до 8192 токенов. Лицензия — MIT.

2.2K4февр. 2024ctx8.2K
textmithugging-face
Sandy124
ThinkingGuard-8B

ThinkingGuard-8B — мультимодальная модель-детектор рисков, разработанная Ruochen Zhang и соавторами на базе Qwen3-VL-8B-Instruct. Она анализирует изображения вместе с текстовыми запросами и выявляет неявные опасности, возникающие из сочетания по отдельности безобидных объектов или инструкций, например легковоспламеняющегося аэрозоля рядом с горящей плитой. Модель предназначена для фильтрации входных данных и настройки защитных ограничений в приложениях с мультимодальными языковыми моделями, аудита и модерации контента, а также исследований безопасности. Она обучена на TriggerBench с пошаговым структурированным рассуждением и формирует обоснование риска перед итоговым вердиктом. Архитектура — плотная Qwen3-VL, 8 млрд параметров; репозиторий содержит веса Safetensors. Лицензия — CC BY 4.0.

550сент. 2026ctx262.1K
textimagecc-by-4.0hugging-face
allenai
wildguard

WildGuard — модель модерации и оценки безопасности от Allen Institute for AI (AI2), дообученная на базе mistralai/Mistral-7B-v0.3. Это языковая модель на 7 млрд параметров для классификации вредоносных запросов пользователей, вредных ответов LLM и отказов модели отвечать. Она охватывает риски, связанные с конфиденциальностью, дезинформацией, вредоносной речью и злонамеренным использованием, включая 13 подкатегорий. Модель предназначена для модерации диалогов с LLM и оценки поведения моделей, в том числе частоты чрезмерных отказов. В опубликованных оценках WildGuard показала высокие результаты на наборах WildGuardTest и других бенчмарках. Поддерживаемый язык — английский. Модель распространяется под лицензией Apache 2.0. WildGuard может ошибаться; при автоматической модерации это может привести к пропуску вредных запросов или ответов либо к неверной классификации.

88K66июнь 2024
textapache-2.0hugging-face
zenlm
zen-guard-stream-4b

zen-guard-stream-4b — модель для классификации текста и потоковой проверки безопасности контента, разработанная ZenLM на основе Qwen/Qwen3Guard-Stream-4B от Alibaba Qwen. Она предназначена для выявления небезопасного и спорного текста по мере его генерации, например для модерации ответов чат-бота и проверки пользовательских сообщений. Модель имеет плотную архитектуру Qwen3, около 3,7 млрд параметров и контекст до 8192 токенов; карточка указывает английский язык, а базовая модель поддерживает 119 языков и диалектов. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0, допускающая коммерческое использование. Модель заменена на zenlm/zen3-guard, но её веса сохранены для воспроизводимости.

1220июнь 2026ctx8.2K
textapache-2.0hugging-face
DKAvocadoo
antares-1b-mlx-bf16

antares-1b-mlx-bf16 — сборка модели Antares-1B от Cisco Foundation AI, подготовленная автором репозитория для запуска через MLX на Apple Silicon. Это языковая модель архитектуры GraniteMoeHybrid с 1,6 млрд параметров и контекстом до 131 072 токенов. Репозиторий сохраняет веса в формате bfloat16 без повторного обучения и квантизации; изменены настройки совместимости MLX и удалён дублирующий тензор lm_head.weight, совпадающий с весами токенных эмбеддингов. Модель предназначена для локализации потенциально уязвимых файлов в репозиториях: по идентификатору CWE и описанию категории она выдаёт ранжированный список файлов-кандидатов. Сборка рассчитана на диалоговый режим и позволяет использовать модель локально через MLX. README приводит результаты сравнения выходов MLX и Transformers, указывая, что расхождение bfloat16 укладывается в характерный для этой точности уровень. Модель не определяет номера строк, не выделяет фрагменты кода и не предлагает исправления; результаты могут различаться между запусками и требуют проверки. Лицензия — Apache-2.0.

612июль 2026ctx131.1K
textapache-2.0hugging-face

Задачи профессии

25 задач
470Обнаружение фишинговых писем и сайтов. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение фишинговых писем и сайтов», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
471Классификация вредоносных файлов и скриптов. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Входной контекст включает логи доступа, сетевой трафик и threat intelligence. Формат результата: результат «Классификация вредоносных файлов и скриптов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
472Поведенческий анализ неизвестного вредоносного ПО. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Исходные данные: логи доступа, сетевой трафик и threat intelligence. Формат результата: объяснимые выводы по задаче «Поведенческий анализ неизвестного вредоносного ПО» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
473Обнаружение аномальной сетевой активности. — AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. К исходным данным относятся сообщения, файлы, идентификаторы и политики. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение аномальной сетевой активности», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
474Выявление подозрительных входов и захвата учётной записи. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: файлы, идентификаторы, политики и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление подозрительных входов и захвата учётной записи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
475Обнаружение бокового перемещения внутри сети. — Практическая реализация: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Входной контекст включает идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение бокового перемещения внутри сети», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
476Выявление необычного поведения пользователя или устройства. — Механизм: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Исходные данные: политики, threat intelligence, сетевые события и логи доступа. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление необычного поведения пользователя или устройства», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
477Обнаружение утечки данных. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение утечки данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
478Поиск неуправляемых активов и теневых сервисов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Рабочие входы: сетевые события, логи доступа, сообщения и файлы. Формат результата: ранжированный список кандидатов по задаче «Поиск неуправляемых активов и теневых сервисов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
479Обогащение алерта контекстом об активах и угрозах. — Практическая реализация: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Входной контекст включает логи доступа, сообщения, файлы и идентификаторы. Формат результата: преобразованный материал по задаче «Обогащение алерта контекстом об активах и угрозах» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
480Сопоставление индикаторов компрометации из разных источников. — Механизм: AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Исходные данные: сообщения, файлы, идентификаторы и политики. Формат результата: карта соответствий и различий для «Сопоставление индикаторов компрометации из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Проверка: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
481Суммаризация threat intelligence. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. К исходным данным относятся логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Суммаризация threat intelligence», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
482Генерация и улучшение правил SIEM, YARA или Sigma. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Генерация и улучшение правил SIEM, YARA или Sigma», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
483Приоритизация алертов SOC. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Входной контекст включает политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Приоритизация алертов SOC» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
484Автоматизация первичного расследования. — Механизм: AI координирует инструменты и данные между этапами процесса, проверяя условия перехода перед каждым действием. Исходные данные: threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: выполненный процесс «Автоматизация первичного расследования» со статусом каждого шага, журналом действий и перечнем исключений. Проверка: по журналу шагов, корректности обработки исключений и возможности безопасного отката; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
485Построение временной шкалы атаки. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся сетевые события, логи доступа, сообщения и файлы. Формат результата: вычислительная модель или карта для «Построение временной шкалы атаки» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
486Реконструкция цепочки действий злоумышленника. — Для этой задачи система восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. Рабочие входы: логи доступа, сообщения, файлы и идентификаторы. Формат результата: вычислительная модель или карта для «Реконструкция цепочки действий злоумышленника» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
487Поиск вероятного пути атаки к критическому активу. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Входной контекст включает сообщения, файлы, идентификаторы и политики. Формат результата: ранжированный список кандидатов по задаче «Поиск вероятного пути атаки к критическому активу» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
488Приоритизация исправлений по эксплуатируемости и влиянию. — Механизм: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Исходные данные: файлы, идентификаторы, политики и threat intelligence. Формат результата: результат «Приоритизация исправлений по эксплуатируемости и влиянию» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Проверка: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
489Обнаружение мошеннических доменов и поддельных брендов. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение мошеннических доменов и поддельных брендов», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
490Классификация данных по уровню конфиденциальности. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Классификация данных по уровню конфиденциальности» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
491Выявление персональных данных в хранилищах. — Практическая реализация: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Входной контекст включает threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление персональных данных в хранилищах», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
492Автоматическое применение политики хранения и удаления данных. — Механизм: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Исходные данные: сетевые события, логи доступа, сообщения и файлы. Формат результата: преобразованный материал по задаче «Автоматическое применение политики хранения и удаления данных» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
493Оценка риска повторной идентификации обезличенных данных. — AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. К исходным данным относятся логи доступа, сообщения, файлы и идентификаторы. Формат результата: оценка по задаче «Оценка риска повторной идентификации обезличенных данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Надёжность оценивают сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
494Генерация плана реагирования и безопасных вариантов сдерживания. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Рабочие входы: сообщения, файлы, идентификаторы и политики. Формат результата: редактируемый артефакт по задаче «Генерация плана реагирования и безопасных вариантов сдерживания», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист. <a id="section-iii-1"></a>

0 моделей