/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.11Кибербезопасность и приватность

В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
25
в этой профессии
Подходящих моделей
4 232
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

4 232 модели
Загрузки
Лайки
Дата выхода
1 351–1 380 из 4 232
AgentPublic
camembert-base-toxic-fr-user-prompts

Модель AgentPublic/camembert-base-toxic-fr-user-prompts — дообученная версия CamemBERT-base, разработанная автором репозитория и настроенная для классификации пользовательских запросов на французском языке. Она присваивает запросу одну из трёх категорий: токсичный, нетоксичный или чувствительный. К токсичным относятся в том числе оскорбительные и вредоносные запросы, а также попытки обойти ограничения; чувствительная категория охватывает, например, темы суицида и агрессии. Модель содержит 137,8 млн параметров, использует архитектуру CamemBERT для классификации последовательностей и принимает текст с контекстом до 514 токенов. Её можно применять для первичной модерации запросов и выявления чувствительных тем во франкоязычных чатах. В README приведены предварительные метрики: F1 0,96 для нетоксичных, 0,98 для чувствительных и 0,88 для токсичных запросов; оценка ещё продолжается, а модель остаётся в разработке. Лицензия — Apache-2.0.

608май 2024ctx514
textapache-2.0hugging-face
Vrandan
Comment-Moderation

Vrandan/Comment-Moderation — англоязычная модель для многометочной классификации пользовательских комментариев по категориям потенциально вредного контента. Она построена на DistilBERT и дообучена на distilbert/distilbert-base-uncased; принимает текст длиной до 512 токенов и выдаёт оценки для девяти категорий модерации. Предусмотрены локальный запуск и интеграция через API, в том числе для приложений с ограниченными ресурсами. Карточка сообщает об accuracy 95,4%, однако macro F1 составляет 0,407, а macro recall — 0,349, поэтому высокая общая точность не гарантирует хорошего выявления каждой категории. Модель может пропускать контекстные нюансы и давать ложные срабатывания; результаты могут различаться с учётом культурного контекста. Лицензия репозитория — OpenRAIL.

745янв. 2025ctx512
textopenrailhugging-face
Hate-speech-CNERG
dehatebert-mono-french

Hate-speech-CNERG/dehatebert-mono-french — модель классификации французских текстов для выявления hate speech, опубликованная группой CNERG. Это монолингвальная версия модели из работы о многоязычном обнаружении языка ненависти; README сообщает, что модель дообучена на multilingual BERT, хотя также описывает обучение с использованием только англоязычных данных. Архитектура — BERT для классификации последовательностей, около 194,6 млн параметров; максимальная длина контекста — 512 токенов. Доступны версии в форматах PyTorch и Flax. Модель предназначена для автоматической модерации и анализа франкоязычных публикаций и сообщений. В README приведён лучший результат валидации 0,692094 при learning rate 3e-5, но метрика не названа, поэтому это число не позволяет оценить качество по конкретному критерию. Модель распространяется по лицензии Apache-2.0.

1116март 2022ctx512
textapache-2.0hugging-face
Blackfrost-Research
GLM-5.3-F.U-AnthraClaud-Edition-BF16

Blackfrost GLM-5.3-F.U-AnthraClaud-Edition-BF16 — текстовая диалоговая модель, созданная Blackfrost на основе zai-org/GLM-5.3-BF16. Это полноточный BF16 чекпойнт с изменениями весов для «de-risking»; методы изменения не раскрыты. В README указана архитектура GlmMoeDsaForCausalLM и Mixture-of-Experts, а метаданные каталога сообщают 30,4 млрд параметров и контекст до 1 048 576 токенов. Модель предназначена для авторизованных red team-проверок, исследований безопасности ИИ, оценки моделей, работы с защитными механизмами и корпоративных исследований в контролируемой среде. Она поддерживает диалог и генерацию текста; артефакт включает токенизатор и шаблон GLM для чата, а для развёртывания нужна среда с поддержкой GLM-5.3 и его токенов рассуждения и вызова инструментов. В карточке не приведены результаты оценки качества или частоты отказов. Лицензия в метаданных обозначена как other; README описывает модель как предоставляемую без гарантий. Указанный в README размер весов — 1,37 ТиБ, поэтому для запуска требуются значительные вычислительные ресурсы. Не следует считать модель готовым безопасным базовым чекпойнтом: для развёртывания карточка рекомендует независимые контроль доступа, журналирование, мониторинг и применение политик.

1.3K60авг. 2026ctx1M
textotherhugging-face
WariHima
hourai3-ja-toxicity-90m-v1

hourai3-ja-toxicity-90m-v1 — японская модель классификации текстов, разработанная WariHima для оценки оскорбительного и вредоносного содержания. Она предназначена для обнаружения в тексте оскорблений, сексуального содержания, незаконных высказываний и нападок на людей или организации. Модель дообучена на базе WariHima/hourai3-90m-base-ja-v1; архитектура — LFM2 MoE, размер — 47,1 млн параметров. Она принимает японский текст и выдаёт классификационный результат с тегами вредоносности. Контекст — до 128 000 токенов. Для обучения использовалась часть датасета WRIME, включающая 500 строк из Википедии; карточка также сообщает об открытой публикации обучающих данных и кода. Возможны ложноположительные и ложноотрицательные срабатывания, поэтому результат не заменяет оценку человека. Лицензия — CC BY-SA 4.0.

40авг. 2026ctx128K
textcc-by-sa-4.0hugging-face
OpenSafetyLab
MD-Judge-v0.1

MD-Judge — модель языковой оценки безопасности от OpenSafetyLab, дообученная на базе Mistral-7B. Она классифицирует пары вопрос–ответ, оценивая их безопасность, и предназначена для анализа поведения больших языковых моделей и оценки на наборах тестов безопасности, в том числе в контексте SALAD-Bench. Модель имеет плотную авторегрессионную архитектуру Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык и датасеты ToxicChat, BeaverTails и LMSYS-Chat-1M. Модель выдаёт текстовую оценку в формате генерации; для практического использования её следует применять как классификатор пар вопрос–ответ. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. README отмечает, что разработка модели продолжается.

3.6K19февр. 2024ctx32.8K
textapache-2.0hugging-face
minuva
MiniLMv2-toxic-jigsaw-onnx

MiniLMv2-toxic-jigsaw-onnx — англоязычная модель классификации токсичности текста, разработанная minuva. Она дообучена на наборе данных первого соревнования Jigsaw по классификации токсичных комментариев с использованием unitary/toxic-bert в качестве учителя. Модель предназначена для выявления токсичных, оскорбительных и содержащих hate speech комментариев, включая сценарии автоматической модерации и фильтрации пользовательского контента. В основе лежит MiniLMv2-L6-H384, дистиллированная версия BERT Large, адаптированная для sequence classification. Модель экспортирована в формат ONNX и подвергнута int8-квантизации; заявленный размер — около 23 млн параметров. Поддерживается английский язык, максимальная длина входа составляет 256 токенов. Для запуска предусмотрены Optimum с ONNX Runtime и прямое использование ONNX Runtime, включая CPU- и CUDA-выполнение. По ROC-AUC на тестовом наборе модель получила 0,98130 против 0,98636 у модели-учителя unitary/toxic-bert размером 110 млн параметров. К сильным сторонам относятся существенно меньший размер по сравнению с учителем, квантизация и возможность облегчённого развёртывания, в том числе на CPU. Ограничения включают англоязычную специализацию, ограничение длины входа и некоторое снижение качества относительно teacher-модели; README не содержит подробностей о точности на других доменах и языках. Модель распространяется по лицензии Apache-2.0.

2.1K2дек. 2023ctx512
textapache-2.0hugging-face
dancinlab
Qwen3.8-27B-Uncensored

Карточка модели dancinlab/Qwen3.8-27B-Uncensored на Hugging Face совпадает с карточкой orcarouter/Qwen3.8-27B-Uncensored, поэтому описание составлено по ней. Qwen3.8-27B-Uncensored — дообученная модель OrcaRouter на базе Qwen/Qwen3.8-27B с удалённым направлением отказа (abliteration). Это плотная мультимодальная модель на 27 млрд параметров с архитектурой Qwen3_5ForConditionalGeneration: 64 слоя, гибридное внимание Gated DeltaNet и полное внимание, визуальная башня и голова MTP. Репозиторий содержит веса BF16 без квантизации; доступны диалог, анализ изображений, OCR, рассуждения и вызов инструментов. Модель предназначена для исследований механизмов отказа и выравнивания, контролируемого red teaming и оценки устойчивости, а также как основа для дальнейшего дообучения и квантизации. В карточке указаны английский и китайский языки; базовая модель также описана как подходящая для анализа видео, но README отдельно подтверждает работу зрения и OCR. Автор приводит результаты тестов, близкие к базовой модели по нескольким показателям, однако показатели отказов на вредоносные запросы резко снижены. Защитные ограничения существенно удалены: модель может выдавать вредный, незаконный, предвзятый или оскорбительный контент. README не рекомендует развёртывание для конечных пользователей без собственных механизмов безопасности и модерации. Лицензия — Apache 2.0, унаследованная от базовой модели.

410авг. 2026ctx262.1K
textimageapache-2.0hugging-face
100rab25
swin-tiny-patch4-window7-224-fraud_number_classification

Это модель компьютерного зрения 100rab25, полученная дообучением Swin-Tiny microsoft/swin-tiny-patch4-window7-224 на наборе данных формата imagefolder. Она предназначена для классификации изображений, связанных с обнаружением мошеннических номеров. Архитектура Swin Transformer содержит около 33 млн параметров; веса представлены в формате PyTorch. На указанном в карточке наборе оценки модель достигла accuracy 0,9963 и loss 0,0107. Модель принимает изображения и выдаёт метку класса. Лицензия Apache-2.0. Карточка не раскрывает состав классов и данные обучения, поэтому результаты нельзя переносить на другие данные без отдельной проверки.

60окт. 2023
imageapache-2.0hugging-face
nicholasKluge
ToxiGuardrail

ToxiGuardrail — англоязычная модель классификации текста, созданная Nicholas Kluge дообучением RoBERTa для оценки токсичности и потенциального вреда предложения. Она различает примеры вредоносной и безвредной речи и предназначена для фильтрации пользовательского текста и работы в составе систем модерации или защитных механизмов. Модель использует архитектуру RoBERTa для классификации последовательностей; в метаданных указано 151,8 млн параметров и контекст до 514 токенов. Для обучения использован набор Harmful-Text Dataset. В README приведены точности 92,05% на wiki_toxic и 91,63% на toxic_conversations_50k. Модель рассчитана на английский язык. Показатели из README относятся к указанным наборам данных и сами по себе не гарантируют качество на иных типах текстов. Лицензия — Apache-2.0.

1.6K15июнь 2023ctx514
textapache-2.0hugging-face
socialmediaie
TRAC2020_IBEN_B_bert-base-multilingual-uncased

Модель socialmediaie/TRAC2020_IBEN_B_bert-base-multilingual-uncased — дообученная авторами исследования Mishra, Prasad и Mishra модель BERT для классификации текстов с целью выявления троллинга, агрессии и кибербуллинга. Она представлена как модель для экспериментов и повторной настройки на собственных наборах данных; связана с работой для семинара TRAC 2020. Модель имеет архитектуру BertForSequenceClassification и содержит 194,6 млн параметров. Она принимает текст, поддерживает контекст до 512 токенов и доступна в форматах Flax, PyTorch и safetensors. В README задача названа многоязычной, но конкретные поддерживаемые языки не перечислены. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя. Авторы отмечают, что загруженные версии были переобучены после подачи работы, и результаты оценки могут немного отличаться от опубликованных в статье.

100март 2022ctx512
texthugging-face
tarudesu
ViHateT5-base-HSD

ViHateT5-base-HSD — модель семейства T5, разработанная для выявления языка ненависти во вьетнамских текстах. Это дообученная версия ViHateT5-base, обученная на нескольких вьетнамских наборах данных для обнаружения языка ненависти. Модель принимает текст и выполняет классификацию; она представлена как модель text-classification на базе PyTorch, с 123,7 млн параметров и контекстом до 512 токенов. Модель предназначена для анализа пользовательских публикаций и другого вьетнамского текста на предмет языка ненависти. В README отмечено, что примеры в связанной научной работе взяты из социальных сетей и могут содержать токсичный или оскорбительный контент. README просит цитировать работу при публикации результатов или интеграции модели в программное обеспечение. Сведения о лицензии в предоставленных данных отсутствуют.

1129февр. 2024ctx512
texthugging-face
prithivMLmods
VisionGuardrail-9B

VisionGuardrail-9B — мультимодальный классификатор визуальной безопасности от prithivMLmods, дообученный на Qwen/Qwen3.5-9B с использованием датасета ImageShield-Guardrail-Pro. Модель анализирует изображения и относит их к категориям Safe или Unsafe; особое внимание уделяет чувственному контенту NSFW и другим потенциально чувствительным материалам. Модель оценивает одежду и степень её открытости, позы, кадрирование и контекст изображения. Она рассчитана на фильтрацию визуального контента, модерацию и исследование мультимодальных защитных механизмов; выдаёт структурированный JSON с подписью, классификацией и обоснованием. Архитектура — плотная Qwen3.5 для условной генерации, размер базовой модели — 9 млрд параметров; поддерживаются изображения и текстовые инструкции, язык карточки — английский. Лицензия — Apache-2.0. Это экспериментальная модель: возможны ложные срабатывания и пропуски, а результат зависит от качества изображения, контекста и инструкции. Консервативный порог может помечать безопасные изображения как небезопасные; классификация не является окончательным юридическим или безопасностным заключением.

1013сент. 2026ctx262.1K
textimageapache-2.0hugging-face
drowzeys
DeepSeek-V4-Flash-DSpark-Abliterated-Uncensored-v1.1-alpha-Mida-Brikie

DeepSeek-V4-Flash-DSpark-Abliterated-Uncensored v1.1 alpha — текстовая генеративная модель на базе DeepSeek-V4-Flash-DSpark, изменённая Mida и Brikie методом abliteration. В модели ослаблены отказы: проекция wo_b обработана в слоях 10–42, тогда как слои 0–9 и MTP draft heads оставлены без изменений. Это вариант v1.1, веса которого отличаются от v1.0 alpha. Модель предназначена для локального ассистирования без стандартных отказов, red teaming, исследований безопасности и оценки поведения моделей. README сообщает о контексте 1 048 576 токенов и скорости около 50 токенов в секунду на двух DGX Spark GB10 с tensor parallelism 2. Модель принимает текст и генерирует текст; сведений о поддерживаемых естественных языках в предоставленных данных нет. Удаление защитных отказов означает, что модель может выдавать опасный или нежелательный контент; автор требует самостоятельно обеспечить фильтрацию, контроль доступа и проверку человеком. Доступ к весам gated: для запроса требуется указать предполагаемое использование и согласиться с условиями. Репозиторий указывает лицензию MIT; README также требует соблюдать ограничения upstream-лицензии DeepSeek и предоставляет веса без гарантий.

845июль 2026
textmithugging-face
Hate-speech-CNERG
english-abusive-MuRIL

Модель Hate-speech-CNERG/english-abusive-MuRIL предназначена для выявления оскорбительной речи на английском языке. Это дообученная для классификации последовательностей модель семейства BERT на основе MuRIL, обученная на датасете английской оскорбительной речи. Она относит текст к одному из двух классов: обычный или оскорбительный. Модель подходит для автоматической модерации англоязычных сообщений и анализа текстов на оскорбления. Архитектура содержит около 264,8 млн параметров, контекст ограничен 512 токенами. Репозиторий предоставляет веса PyTorch и Safetensors. Лицензия — AFL-3.0.

556апр. 2022ctx512
textafl-3.0hugging-face
Hate-speech-CNERG
hindi-codemixed-abusive-MuRIL

Hate-speech-CNERG/hindi-codemixed-abusive-MuRIL — модель классификации текста, разработанная авторами карточки и дообученная на MuRIL для обнаружения оскорбительной речи в код-смешанном хинди. Она относит текст к одному из двух классов: нормальная речь или оскорбительная. Модель построена на архитектуре BERT и содержит 264,8 млн параметров; максимальная длина контекста составляет 512 токенов. Модель предназначена для анализа сообщений и другого пользовательского текста на код-смешанном хинди, в том числе в исследованиях низкоресурсного выявления оскорбительной речи. Веса опубликованы в формате PyTorch. Лицензия — AFL-3.0. Карточка связывает модель с исследованием о методах расширения данных для выявления оскорбительного языка в индийских языках.

500апр. 2022ctx512
textafl-3.0hugging-face
QiYuan-tech
LLM-Detector-Small-zh

LLM-Detector-Small-zh — модель семейства Qwen с 2,3 млрд параметров, предназначенная для выявления текста на китайском языке, сгенерированного ИИ. Карточка связывает модель с проектом LLM-Detector, посвящённым улучшению обнаружения ИИ-текстов с помощью больших языковых моделей. Модель опубликована QiYuan-tech 24 января 2024 года. В метаданных указаны архитектура QWenLMHeadModel, контекст до 8192 токенов и формат PyTorch. Основной сценарий — анализ китайского текста для определения вероятности его генерации языковой моделью. Метаданные указывают задачу feature-extraction, тогда как каталог также относит модель к text-generation; назначение карточки — обнаружение ИИ-текста. Подробности о лицензии, обучающих данных и оценках качества в предоставленных материалах отсутствуют.

351янв. 2024ctx8.2K
texthugging-face
Blablablab
multilingual-style-representation

Multilingual Style Representation — модель Sentence Transformer, разработанная авторами исследования «Leveraging Multilingual Training for Authorship Representation: Enhancing Generalization across Languages and Domains». Она дообучена на основе FacebookAI/xlm-roberta-large и кодирует документы в векторы размерностью 1024; документы одного автора должны располагаться близко в пространстве представлений. Модель принимает текст, поддерживает последовательности длиной до 512 токенов и сравнивает представления с помощью косинусного сходства. Модель предназначена для атрибуции авторства, сравнения стиля текстов и выявления машинно-сгенерированного текста. Её можно применять для поиска документов, вероятно написанных одним автором, и построения мультиязычных систем анализа авторского стиля. Репозиторий предоставляет веса в формате safetensors и рассчитан на использование с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

6.4K3сент. 2025ctx514
textembeddinghugging-face
youngggggg
ToxiGen-ConPrompt

ToxiGen-ConPrompt — англоязычная модель представлений текста на архитектуре BERT, разработанная для выявления неявной речи ненависти. Она создана на основе BERT-base-uncased и предварительно обучена методом ConPrompt на машинно сгенерированных примерах набора ToxiGen. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате PyTorch. Модель предназначена для извлечения признаков, которые можно использовать при разработке систем обнаружения неявной речи ненависти, например для построения классификаторов или поиска похожих высказываний. В README указано, что обучение на токсичных высказываниях может привести к генерации таких текстов через MLM-голову или к поиску похожих токсичных примеров. Авторы рекомендуют тщательно обращаться с моделью и анонимизировать личные данные в машинно сгенерированных обучающих материалах. Лицензия — MIT.

223дек. 2023ctx512
textembeddingmithugging-face
PKU-Alignment
beaver-dam-7b

Beaver-Dam-7B — модель для модерации пар «вопрос—ответ», разработанная командой PKU-Alignment и дообученная на базе Llama-7B на классификационном наборе PKU-Alignment/BeaverTails. Это плотная модель семейства Llama с примерно 6,6 млрд параметров, реализованная для PyTorch; контекст составляет 2048 токенов. Модель оценивает совместный риск вопроса и ответа, классифицируя пару как вредоносную или безопасную с учётом того, может ли безвредный ответ нейтрализовать риск потенциально опасного вопроса. Модель предназначена для модерации QA-систем и отнесения примеров к категориям риска: она анализирует токсичность по 14 категориям, помогая не блокировать вопросы автоматически только из-за их формулировки, если ответ безопасен. Карточка указывает английский язык и некоммерческую лицензию. Практическое применение ограничено классификацией безопасности QA-пар; сведений о точности или независимой оценке качества в карточке нет.

9.4K17июль 2023ctx2K
texthugging-face
pysentimiento
bert-it-hate-speech

pysentimiento/bert-it-hate-speech — модель классификации текста на основе BERT, разработанная проектом pysentimiento для выявления ненавистнических высказываний на итальянском языке. Она предназначена для анализа сообщений и другого текста, в том числе публикаций в социальных сетях. Модель содержит 137,1 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель выдаёт метки классификации для входного текста. В карточке указаны PyTorch и задача text-classification; сведения о лицензии и конкретных классах в доступных источниках не подтверждены. Как классификатор, модель может ошибочно интерпретировать контекст, и её результаты требуют проверки в целевом сценарии.

14K0февр. 2023ctx512
texthugging-face
intelliway
deberta-v3-guardrail-mapa-V2

intelliway разработала DeBERTa v3 Guardrail, модель DeBERTa V2 с 211,6 млн параметров, дообученную для выявления prompt injection и jailbreak в запросах на бразильском португальском языке, особенно в тематике сельскохозяйственного кредитования. Она классифицирует текстовые последовательности; максимальная длина входа — 512 токенов. В README описан сценарий гибридной проверки: модель быстро пропускает или блокирует очевидные случаи, а запросы с промежуточной оценкой передаются судье на базе Gemini 2.5 Flash. На отдельном наборе из 500 доброкачественных запросов и 555 jailbreak-примеров гибридная система показала F1 98,1%; 3% примеров потребовали проверки LLM-судьёй. Эти результаты относятся к описанной конфигурации вместе с Gemini и не характеризуют DeBERTa отдельно. Модель может применяться как фильтр безопасности для запросов о кредитовании в сельском хозяйстве, но ошибки классификации возможны, а перенос результатов на другие тематики и данные не подтверждён. Лицензия — Apache 2.0.

310окт. 2025ctx512
textapache-2.0hugging-face
windowsxp811203
DeepSeek-V4-Flash-0731-Abliterated

DeepSeek-V4-Flash-0731-Abliterated — производная модель на основе DeepSeek-V4-Flash-0731, созданная автором репозитория windowsxp811203. Это вариант с удалённым поведением отказа: веса проекций выходов внимания изменены закрытой формулой без обучения, а эксперты, нормализации и эмбеддинги сохранены. По заявлению автора, модель сохраняет близкие к базовой версии результаты на GSM8K и MMLU и поддерживает вызов инструментов. Модель предназначена для генерации текста и диалогов, в том числе для внутренних исследований и red teaming. README сообщает о нулевой частоте отказов на описанных наборах вредоносных запросов; это особенность модели, а не мера точности или безопасности. Модель может выдавать опасные ответы, поэтому для внешнего доступа требуется отдельный слой модерации. Репозиторий содержит веса safetensors и лицензирован по MIT.

1103авг. 2026
textmithugging-face
athifatharmn
keras-duplicate-weights-backdoor-poc

Это proof-of-concept модель на Keras, демонстрирующая скрытый бэкдор через неоднозначность архива .keras с дублирующимися записями model.weights.h5. В CNN используются стандартные слои Conv2D, Flatten и Dense; триггером служит патч размером 2×2 в правом нижнем углу изображения. При загрузке Keras выбирает более позднюю запись с весами, содержащую бэкдор, хотя первая запись и метаданные могут выглядеть безвредно. Модель предназначена для исследования безопасности файлов моделей и проверки средств обнаружения и загрузчиков Keras: README сообщает, что архив загружается без предупреждения, safe_mode=True его не отклоняет, а ModelScan не находит проблем. Повторное сохранение модели скрывает свидетельства дублирования, но бэкдор остаётся активным. Это демонстрационный образец для задач безопасности, а не обычная модель классификации изображений; лицензия указана как other.

1360май 2026
imageotherhugging-face
FrontiersMind
Nandi-Mini-150M-GuardRails

Nandi-Mini-150M-GuardRails — компактная дообученная модель FrontiersMind на архитектуре Nandi для генерации текста в диалоговом режиме. Согласно README, её назначение — выявлять небезопасное содержимое и нарушения политик в пользовательских запросах и ответах ИИ по нескольким категориям вреда. Метаданные указывают 236,4 млн параметров, контекст до 2048 токенов и поддержку английского и хинди; модель работает с текстом и распространяется в формате Safetensors для Transformers. Модель может использоваться как компонент проверки запросов и ответов в диалоговых системах. Однако карточка не описывает категории классификации, точность, пороговые значения или способ интерпретации результата; метаданные классифицируют её как text-generation, поэтому возможность непосредственной выдачи меток безопасности ими не подтверждается. Лицензия — Apache-2.0.

21819май 2026ctx2K
textapache-2.0hugging-face
qiuhuachuan
NSFW-detector

qiuhuachuan/NSFW-detector — модель для выявления порнографического текста в диалогах человек–машина. В карточке она связана с проектом CensorChat и работой о дистилляции больших языковых моделей для обнаружения такого контента. Модель основана на BERT, имеет 135,5 млн параметров и принимает текст длиной до 512 токенов; основная задача — классификация текста на английском языке. Модель предназначена для фильтрации откровенного текста в открытых диалоговых системах и мониторинга переписки. Она распространяется в формате PyTorch по лицензии MIT. README не описывает классы меток и результаты оценки качества.

18810сент. 2023ctx512
textmithugging-face
Shabeer990
nsfw_image_detection

Карточка модели Shabeer990/nsfw_image_detection на Hugging Face совпадает с карточкой GBDA/nsfw_image_detection, поэтому описание составлено по ней. GBDA/nsfw_image_detection — модель классификации изображений на базе Vision Transformer (ViT), дообученная для различения двух классов: обычный контент и NSFW. В основе лежит google/vit-base-patch16-224-in21k, предварительно обученная на ImageNet-21k; модель содержит 113,2 млн параметров и рассчитана на изображения, приводимые к разрешению 224×224 пикселя. Модель предназначена для фильтрации изображений и модерации контента в приложениях, где нужно выявлять материалы для взрослых. В README указано, что дообучение проводилось на 80 000 изображениях из закрытого набора данных. Модель распространяется по лицензии Apache-2.0. Карточка заявляет высокую точность, но не приводит метрик или независимой оценки; качество классификации и применимость к конкретному контенту следует проверять отдельно.

670июнь 2026
imageapache-2.0hugging-face
Vulcora
protora-mbd-challenge-1

Vulcora/protora-mbd-challenge-1 — один из шести контрольных чекпойнтов на основе SmolLM2, подготовленных для конкурса Protora Model-Backdoor Challenge. Модель дообучена на HuggingFaceTB/SmolLM2-135M-Instruct; её плотная архитектура семейства Llama содержит 215 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Карточка указывает английский язык, генерацию текста и диалоговый режим. Чекпойнт предназначен для исследования безопасности моделей и поиска скрытого бэкдора: по описанию конкурса ровно один из шести чекпойнтов имеет триггер, вызывающий заданный ответ, а остальные служат приманками. Сам факт наличия бэкдора именно в этой модели не подтверждён. README рекомендует загружать веса в float32, поскольку снижение точности может нарушить точное срабатывание механизма. Модель распространяется по лицензии Apache-2.0.

280июль 2026ctx8.2K
textapache-2.0hugging-face
OS-Software
Qwen3.8-27B-MTP-heretic-ja

OS-Software/Qwen3.8-27B-MTP-heretic-ja — производная от Qwen/Qwen3.8-27B модель, прошедшая abliteration: в ней существенно ослаблено исходное выравнивание безопасности. В карточке указано, что тестирование отказов проводилось на японских наборах данных; суффикс ja указывает на японскую направленность этой версии, хотя отдельные сведения о языковой поддержке не приведены. Базовая Qwen3.8-27B описана как плотная причинная языковая модель с энкодером изображений, способная работать с текстом, изображениями и видео. Она рассчитана на диалоги, анализ визуальных материалов, программирование, исследования и многошаговые агентные задачи. Размер составляет 27 млрд параметров, нативная длина контекста — 262 144 токена с возможностью расширения до 1 млн. Архитектурные сведения и характеристики контекста относятся к базовой модели. Ослабленное выравнивание повышает вероятность вредных, неточных, предвзятых и оскорбительных ответов. Разработчик предназначает эту версию для исследований безопасности, изучения выравнивания и red teaming, а не для публичных пользовательских сервисов. Лицензия — Apache-2.0.

872авг. 2026ctx262.1K
textimageapache-2.0hugging-face
haywoodsloan
ai-image-detector-deploy

haywoodsloan/ai-image-detector-deploy — модель классификации изображений, обученная автором с помощью AutoTrain на архитектуре SwinV2. В репозитории указано 132,1 млн параметров; веса сохранены в формате safetensors. Модель предназначена для определения классов на изображениях. По названию репозитория её можно использовать для распознавания изображений, созданных ИИ, однако карточка не описывает классы и набор данных, поэтому конкретную область применения нельзя подтвердить. В карточке приведены метрики валидации: точность 98,15%, F1 98,76%, precision 98,17%, recall 99,35% и AUC 99,54%. Эти показатели относятся к валидационному набору автора и сами по себе не гарантируют аналогичного качества на других данных. Лицензия — Apache-2.0.

7.1K26нояб. 2024
imageapache-2.0hugging-face

Задачи профессии

25 задач
470Обнаружение фишинговых писем и сайтов. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение фишинговых писем и сайтов», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
471Классификация вредоносных файлов и скриптов. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Входной контекст включает логи доступа, сетевой трафик и threat intelligence. Формат результата: результат «Классификация вредоносных файлов и скриптов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
472Поведенческий анализ неизвестного вредоносного ПО. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Исходные данные: логи доступа, сетевой трафик и threat intelligence. Формат результата: объяснимые выводы по задаче «Поведенческий анализ неизвестного вредоносного ПО» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
473Обнаружение аномальной сетевой активности. — AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. К исходным данным относятся сообщения, файлы, идентификаторы и политики. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение аномальной сетевой активности», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
474Выявление подозрительных входов и захвата учётной записи. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: файлы, идентификаторы, политики и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление подозрительных входов и захвата учётной записи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
475Обнаружение бокового перемещения внутри сети. — Практическая реализация: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Входной контекст включает идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение бокового перемещения внутри сети», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
476Выявление необычного поведения пользователя или устройства. — Механизм: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Исходные данные: политики, threat intelligence, сетевые события и логи доступа. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление необычного поведения пользователя или устройства», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
477Обнаружение утечки данных. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение утечки данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
478Поиск неуправляемых активов и теневых сервисов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Рабочие входы: сетевые события, логи доступа, сообщения и файлы. Формат результата: ранжированный список кандидатов по задаче «Поиск неуправляемых активов и теневых сервисов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
479Обогащение алерта контекстом об активах и угрозах. — Практическая реализация: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Входной контекст включает логи доступа, сообщения, файлы и идентификаторы. Формат результата: преобразованный материал по задаче «Обогащение алерта контекстом об активах и угрозах» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
480Сопоставление индикаторов компрометации из разных источников. — Механизм: AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Исходные данные: сообщения, файлы, идентификаторы и политики. Формат результата: карта соответствий и различий для «Сопоставление индикаторов компрометации из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Проверка: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
481Суммаризация threat intelligence. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. К исходным данным относятся логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Суммаризация threat intelligence», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
482Генерация и улучшение правил SIEM, YARA или Sigma. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Генерация и улучшение правил SIEM, YARA или Sigma», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
483Приоритизация алертов SOC. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Входной контекст включает политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Приоритизация алертов SOC» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
484Автоматизация первичного расследования. — Механизм: AI координирует инструменты и данные между этапами процесса, проверяя условия перехода перед каждым действием. Исходные данные: threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: выполненный процесс «Автоматизация первичного расследования» со статусом каждого шага, журналом действий и перечнем исключений. Проверка: по журналу шагов, корректности обработки исключений и возможности безопасного отката; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
485Построение временной шкалы атаки. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся сетевые события, логи доступа, сообщения и файлы. Формат результата: вычислительная модель или карта для «Построение временной шкалы атаки» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
486Реконструкция цепочки действий злоумышленника. — Для этой задачи система восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. Рабочие входы: логи доступа, сообщения, файлы и идентификаторы. Формат результата: вычислительная модель или карта для «Реконструкция цепочки действий злоумышленника» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
487Поиск вероятного пути атаки к критическому активу. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Входной контекст включает сообщения, файлы, идентификаторы и политики. Формат результата: ранжированный список кандидатов по задаче «Поиск вероятного пути атаки к критическому активу» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
488Приоритизация исправлений по эксплуатируемости и влиянию. — Механизм: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Исходные данные: файлы, идентификаторы, политики и threat intelligence. Формат результата: результат «Приоритизация исправлений по эксплуатируемости и влиянию» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Проверка: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
489Обнаружение мошеннических доменов и поддельных брендов. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение мошеннических доменов и поддельных брендов», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
490Классификация данных по уровню конфиденциальности. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Классификация данных по уровню конфиденциальности» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
491Выявление персональных данных в хранилищах. — Практическая реализация: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Входной контекст включает threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление персональных данных в хранилищах», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
492Автоматическое применение политики хранения и удаления данных. — Механизм: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Исходные данные: сетевые события, логи доступа, сообщения и файлы. Формат результата: преобразованный материал по задаче «Автоматическое применение политики хранения и удаления данных» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
493Оценка риска повторной идентификации обезличенных данных. — AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. К исходным данным относятся логи доступа, сообщения, файлы и идентификаторы. Формат результата: оценка по задаче «Оценка риска повторной идентификации обезличенных данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Надёжность оценивают сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
494Генерация плана реагирования и безопасных вариантов сдерживания. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Рабочие входы: сообщения, файлы, идентификаторы и политики. Формат результата: редактируемый артефакт по задаче «Генерация плана реагирования и безопасных вариантов сдерживания», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист. <a id="section-iii-1"></a>

0 моделей