/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.11Кибербезопасность и приватность

В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
25
в этой профессии
Подходящих моделей
4 232
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

4 232 модели
Загрузки
Лайки
Дата выхода
1 321–1 350 из 4 232
Kirosama
medical-guardrail-mmbert-V4

Kirosama/medical-guardrail-mmbert-V4 — мультиметочная модель классификации текста для маршрутизации медицинских запросов и проверки защитных правил. По README, она создана на основе jhu-clsp/mmBERT-base и дообучена для быстрого инференса. Архитектура — ModernBERT для классификации последовательностей; размер составляет 306,9 млн параметров, контекст — до 8192 токенов. Модель оценивает шесть классов: попытки prompt injection, экстренные медицинские ситуации, оскорбительное или вредоносное содержание, логически некорректные и корректные медицинские запросы, а также обычный диалог. Результаты представлены логитами; для получения вероятностей README рекомендует применять sigmoid, а не softmax. Доступны веса Safetensors и варианты ONNX в FP32 и INT8; INT8 предназначен для быстрого CPU-инференса. Модель подходит для маршрутизации медицинских обращений, эскалации экстренных случаев и фильтрации небезопасных запросов. Она классифицирует содержание, а не ставит диагнозы и не заменяет медицинского специалиста. README и метаданные не сообщают лицензию или поддерживаемые языки, поэтому эти характеристики не приводятся.

60июнь 2026ctx8.2K
texthugging-face
Falconsai
proof_v3

FalconDec v1.0.0 — опубликованная под именем Falconsai/proof_v3 модель для закрытых классификационных решений. Это дообученный энкодер jhu-clsp/ettin-encoder-150m; модель использует один проход энкодера для вопроса и оценивает заданные варианты. Она поддерживает выбор одного варианта, ответы да/нет с оценкой вероятности и порядковые оценки. Генеративного компонента нет: модель ранжирует только переданные варианты и не создаёт новые ответы. Модель предназначена для маршрутизации обращений, определения намерений, сортировки заявок по срочности и проверок защитных правил. В README указаны результаты тестирования: точность 0,518 на общей выборке и 0,436 в среднем на задачах, не встречавшихся при обучении; калибровка на тестовой смеси хорошая, но её следует перепроверить на рабочих данных. Первая версия обучена на небольшом объёме данных и с одной эпохой, поэтому точность на сложных задачах ограничена. Модель принимает английский текст, код или JSON и возвращает оценки вариантов. Лицензия — Apache-2.0.

660сент. 2026
textapache-2.0hugging-face
Vulcora
protora-mbd-challenge-5

Vulcora/protora-mbd-challenge-5 — контрольная точка из набора Protora Model-Backdoor Challenge, созданная на основе HuggingFaceTB/SmolLM2-135M-Instruct. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалога; в метаданных указаны 215 млн параметров, контекст до 8192 токенов и библиотека Transformers. Карточка описывает набор из шести сопоставимых чекпойнтов, среди которых ровно один содержит скрытый бэкдор с точным триггером; по этой карточке нельзя установить, является ли именно этот чекпойнт заражённым или приманкой. Модель предназначена для исследовательской проверки безопасности и поиска бэкдоров в языковых моделях, а не для доверенного использования без независимой проверки. README сообщает, что механизм рассчитан на точное совпадение полного входа и что загрузка в float32 необходима для сохранения поведения. Указана лицензия Apache-2.0; карточка не приводит конкретные тестовые данные или результаты проверки этого экземпляра.

270июль 2026ctx8.2K
textapache-2.0hugging-face
mradermacher
RedSage-Qwen3-8B-DPO-GGUF

RedSage-Qwen3-8B-DPO-GGUF — квантизированная версия языковой модели RedSage-Qwen3-8B-DPO, основанной на Qwen3 с 8 млрд параметров. Модель подготовлена mradermacher; базовую модель разработала RISys-Lab. Она представлена в формате GGUF и предназначена для локального запуска в приложениях и инструментах, поддерживающих этот формат. Модель ориентирована на генерацию текста, диалоговые сценарии и задачи, связанные с кибербезопасностью. Указан английский язык. Обучение или дообучение связано с набором allenai/llama-3.1-tulu-3-8b-preference-mixture и методом DPO, однако подробные сведения о контекстном окне, точной архитектуре и результатах оценки в README отсутствуют. Доступны варианты квантования от Q2_K до Q8_0, а также f16; их размер составляет примерно от 3,4 до 16,5 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как вариант с наилучшим качеством среди указанных. Более сильное квантование уменьшает требования к памяти, но может снижать качество генерации. Лицензия в README не указана.

1.0K4янв. 2026
texthugging-face
Comunidade-Synapse-BR
Synapse-Guard-v1.2

Synapse-Guard v1.2 — лёгкая модель классификации текста на основе BERT, разработанная Comunidade Synapse BR для автоматической модерации контента на бразильском португальском языке. Она относит текст к четырём категориям модерации и предназначена для интеграции в чат-боты, социальные сети, форумы, системы комментариев, образовательные и корпоративные платформы, а также API фильтрации спама. Модель содержит 6,7 млн параметров, использует архитектуру BertForSequenceClassification, принимает текст и выдаёт метку класса. Максимальная длина контекста — 256 токенов. По карточке, модель рассчитана на быструю инференцию и низкое потребление ресурсов; подробные метрики качества не приведены. Версия 1.2 дообучена на Synapse-Guard-v1.1 с использованием Synapse-Guard-Dataset-v1. Модель распространяется по лицензии Apache 2.0. Она не генерирует текст. Возможны ошибки при распознавании иронии, сарказма, неоднозначных сообщений и контента, для понимания которого нужен контекст; для критичных сценариев карточка рекомендует дополнительную проверку человеком.

90июль 2026ctx256
textapache-2.0hugging-face
prithivMLmods
VisionGuardrail-9B-GGUF

VisionGuardrail-9B-GGUF — мультимодальная модель-классификатор безопасности визуального контента, разработанная prithivMLmods. Она основана на Qwen/Qwen3.5-9B и обучена на наборе данных ImageShield-Guardrail-Pro. Модель предназначена для анализа изображений и классификации их как Safe или Unsafe, прежде всего для обнаружения NSFW-контента, откровенных и потенциально чувствительных сцен. Модель анализирует одежду, степень открытости тела, позы, кадрирование, визуальный контекст и особенности представления контента, включая фотографии, иллюстрации, аниме и другие стилизованные изображения. Предусмотрен структурированный вывод в формате JSON с описанием изображения, причиной классификации и флагами NSFW/safe. В репозитории доступны варианты GGUF с точностью от Q3 до Q5, а также BF16; размеры файлов составляют примерно от 4,26 до 17,9 ГБ. Указан только английский язык, размер контекста в README не приведён. Модель ориентирована на исследовательские задачи, модерацию контента и создание визуальных guardrail-систем. Её сильной стороной является консервативное выявление сексуализированного и откровенного визуального контента с детализацией признаков, влияющих на решение. При этом релиз экспериментальный: возможны неожиданные ответы и артефакты рассуждений, поэтому результаты требуют проверки и не должны использоваться без дополнительной валидации в критически важных сценариях. Распространяется по лицензии Apache-2.0.

3491сент. 2026
textimageapache-2.0hugging-face
kauffinger
xlm-roberta-base-finetuned-enron

Модель kauffinger/xlm-roberta-base-finetuned-enron — дообученная автором модель XLM-RoBERTa для классификации спама в электронной почте. Она предназначена для выявления спам-писем на языках, поддерживаемых XLM-RoBERTa; автор отдельно отмечает интерес к немецкому языку из-за нехватки размеченных немецких данных. Модель построена на архитектуре XLM-RoBERTa и содержит 305,2 млн параметров. Она принимает текст, использует контекст до 514 токенов и выдаёт метку классификации. Проверка проведена только на тестовой выборке Enron Spam, где указаны точность 0,996 и ошибка 0,0315; автор предупреждает, что широкого тестирования на целевом применении не было. Лицензия — MIT.

4312янв. 2023ctx514
textmithugging-face
capcheck
ai-human-generated-image-detection

CapCheck AI vs Human-Generated Image Detection — модель компьютерного зрения, разработанная CapCheck. Она предназначена для бинарной классификации изображений: определения, является ли изображение созданным человеком или сгенерированным искусственным интеллектом. Модель подходит для модерации контента, проверки визуальной аутентичности, исследовательских и образовательных задач. В основе лежит Vision Transformer ViT-Base с примерно 86 млн параметров, дообученный на наборе данных с изображениями, созданными человеком и сгенерированными ИИ. Модель принимает изображения размером 224×224 пикселя и может использоваться через библиотеку Transformers и pipeline с задачей image-classification. Поддерживаются метки human и AI-generated. Языковые и дополнительные модальности не заявлены. К сильным сторонам относятся специализированная классификация изображений и использование более новых обучающих данных по сравнению с исходной моделью, основанной на CIFAKE. Точность может снижаться при анализе изображений от новых генераторов, отсутствовавших в обучающей выборке, а также сильно сжатых изображений; наилучшие результаты ожидаются для изображений с чёткими объектами и разрешением не менее 224×224 пикселей. Результаты не следует использовать для значимых решений без проверки человеком или как единственное основание для правоохранительных доказательств. Модель распространяется по лицензии Apache 2.0 и основана на google/vit-base-patch16-224-in21k и dima806/ai_vs_human_generated_image_detection, также указанных под Apache 2.0.

2.7K2февр. 2026
textapache-2.0hugging-face
speakleash
Bielik-Guard-0.1B-v1.1

Bielik Guard-0.1B-v1.1 — польский классификатор безопасности текстов, разработанный сообществом Bielik.AI под эгидой некоммерческой организации SpeakLeash. Это дообученный энкодер RoBERTa sdadas/mmlw-roberta-base размером 124 млн параметров. Модель выполняет многометочную классификацию и выдаёт оценки вероятности для пяти категорий: ненависть и агрессия, вульгарная лексика, сексуальный контент, преступления и самоповреждение. Модель предназначена для проверки пользовательских запросов и ответов, модерации контента и защиты чат-ботов и ассистентов. Версия 1.1 использует улучшенную калибровку порогов, направленную на повышение точности и снижение ложных срабатываний. Обучение учитывало долю оценок разметчиков для каждой категории, а не только бинарные метки. Модель рассчитана на польский язык. Она не предназначена для выявления дезинформации, попыток обхода защит или нарушений авторских прав; качество может снижаться на нестандартных и новых типах контента, а обучающие данные могут содержать смещения. Лицензия — Apache-2.0.

85313февр. 2026
textapache-2.0hugging-face
morit
chinese_xlm_xnli

morit/chinese_xlm_xnli — модель классификации текста с архитектурой XLM-RoBERTa-base, дообученная для классификации без заранее заданных классов. Разработчик продолжил предварительное обучение базовой модели на многоязычных сообщениях Twitter, затем дообучил её на китайской части набора XNLI. В метаданных указано около 305,2 млн параметров и контекст до 514 токенов. Модель предназначена прежде всего для zero-shot-классификации китайского текста, в частности для выявления языка вражды: пользователь задаёт варианты меток, а модель оценивает их соответствие тексту. Авторы отмечают потенциальную применимость и к другим языкам благодаря многоязычной базе XLM-RoBERTa, но основная настройка выполнена на китайских данных. Модель доступна в формате PyTorch по лицензии MIT.

5523дек. 2022ctx514
textmithugging-face
Havenlon
Execution-Boundary-Qwen35-27B

Execution-Boundary-Qwen35-27B — плотная текстовая модель семейства Havenlon Qwen35, разработанная Havenlon для рассуждений о контроле исполнения, границах доверия и безопасности действий ИИ-агентов. По метаданным, модель содержит 22,3 млрд параметров, использует архитектуру Qwen3_5ForCausalLM, принимает текст и поддерживает контекст до 262 144 токенов. Модель предназначена для анализа рисков действий агентов, проектирования архитектур контроля исполнения и политик, интерпретации доказательств и моделирования сценариев с границами исполнения. Она может помогать в технических исследованиях и обсуждении принципов проверяемого исполнения, включая разделение намерения, авторизации, политики, доказательств и фактического действия. Это исследовательский инструмент для предметных рассуждений, а не доверенный механизм исполнения: README предупреждает, что модель не заменяет детерминированное применение правил или аппаратные границы безопасности. В доступных данных лицензия не приведена.

230июль 2026ctx262.1K
texthugging-face
Havenlon
Execution-Boundary-Qwen35-4B

Havenlon Execution Boundary — Qwen35 4B — это компактная плотная языковая модель семейства Qwen3.5, разработанная Havenlon. Модель содержит 3,4 млрд параметров, принимает текст и предназначена для диалогового анализа разрыва между намерением пользователя и действием, которое система собирается выполнить. Модель помогает интерпретировать намерение, сопоставлять действие с целью, текущим состоянием, проверяемыми свидетельствами и политиками, выявлять недостающие или противоречивые данные и объяснять решение о разрешении, отклонении или необходимости дополнительной проверки. Контекст составляет до 262 144 токенов; заявленная область применения связана с управлением выполнением действий AI-агентов и контролем безопасности. Модель может поддерживать анализ и формировать рассуждения о контроле исполнения, но не заменяет детерминированные механизмы принудительного контроля и не должна быть окончательным источником разрешения на физическое выполнение. README не содержит сведений о лицензии, поэтому условия использования по нему определить нельзя.

160авг. 2026ctx262.1K
texthugging-face
AuroraSystem
Ficus-0.1-Agent-12B

Ficus 0.1 Agent 12B — экспериментальная текстовая донастройка модели Gemma 4 12B IT, выпущенная исследовательской командой Aurora System. Она предназначена для ответов на вопросы по кибербезопасности, аудита исходного кода и веб-безопасности, разбора CVE, задач CTF и реверс-инжиниринга. Модель поддерживает русский и английский языки; её плотная архитектура Gemma4 Unified унаследована от мультимодальной базы, однако дообучение было только текстовым, а обработка изображений, аудио и видео не проверялась. Веса доступны в формате Safetensors, bf16, со слитыми LoRA-адаптерами; для инференса в README приведена конфигурация vLLM с ограничением контекста 8192 токенами. На приведённых в карточке тестах модель показала улучшение относительно базы на SecEval, а также на отдельных общих тестах с включённым thinking-режимом. При этом авторы сообщают о заметном снижении качества генерации кода и результатов на русских и китайских тестах. Карточка прямо предупреждает, что модель не готова к продакшену: она выдумывает вызовы и результаты инструментов, поэтому её нельзя подключать к инструментам, файловой системе или агенту с доступом к системе; на сложных длинных запросах thinking-режим может зацикливаться. Лицензия — Apache-2.0.

2471сент. 2026
textapache-2.0hugging-face
togethercomputer
GPT-JT-Moderation-6B

GPT-JT-Moderation-6B v1 — модель Together Computer, дообученная на наборе OIG-moderation от Ontocord.ai. Это причинная языковая модель семейства GPT-JT с 6 млрд параметров, предназначенная для модерации диалогов с чат-ботами. Она проверяет сообщения пользователя и ответы бота, выявляя неподходящий контент и помогая решить, нужно ли заблокировать ответ или заменить его уведомлением об отказе. Модель принимает текстовые запросы и генерирует текстовый результат. Она обучалась на данных allenai/prosocial-dialog и небольшой части OIG, дополненной повседневными запросами; карточка также указывает prosocial-dialog среди данных обучения. Контекст составляет 2048 токенов, основной язык — английский. Модель может использоваться как отдельный модератор в связке с основной диалоговой моделью. Лицензия — Apache-2.0. Точность зависит от качества и репрезентативности обучающих данных: возможны как ложные срабатывания, так и пропуски вредного или неподходящего контента. Карточка не приводит количественных оценок качества.

21332март 2023ctx2K
textapache-2.0hugging-face
prithivMLmods
Guard-Against-Unsafe-Content2-Siglip2

Guard-Against-Unsafe-Content2-Siglip2 — модель классификации изображений, разработанная prithivMLmods и дообученная на базе google/siglip2-base-patch16-224 с архитектурой SiglipForImageClassification. Она присваивает изображению один из двух классов: «normal» или «nsfw», чтобы автоматически выявлять контент для систем модерации и фильтрации. Модель принимает изображения и выдаёт метку класса. Автор приводит результаты оценки на выборке из 10 000 примеров, однако предупреждает, что модель экспериментальная и её качество может быть нестабильным из-за ограничений обучающего набора данных. Лицензия — Apache-2.0.

344март 2025
imageapache-2.0hugging-face
navodPeiris
minilm-toxic-spam-classifier

navodPeiris/minilm-toxic-spam-classifier — лёгкая модель для модерации текстового контента, разработанная на базе MiniLMv2-L6-H384, дистиллированной из BERT-Large. Модель дообучена с использованием focal loss и классифицирует текст по трём классам: safe — безопасный контент, toxic — токсичные высказывания, угрозы, язык ненависти и оскорбления, spam — нежелательные рекламные сообщения, мошеннические и фишинговые попытки. Поддерживается английский язык; применение на других языках не тестировалось. Архитектура включает 6 слоёв, скрытое представление размерностью 384, около 22 млн параметров и линейную классификационную голову на 3 класса. Максимальная длина последовательности составляет 512 токенов. Модель поставляется в формате ONNX и оптимизирована для быстрого вывода на CPU, поддерживает ONNX Runtime и Transformers.js. На заявленном тестовом наборе точность, macro-F1 и weighted-F1 составили 0,96. Для принятия результата рекомендуется использовать порог уверенности 0,9. Модель подходит для предварительной фильтрации пользовательских сообщений, выявления токсичности и спама в комментариях, чатах, формах обратной связи и электронной почте. Она может хуже распознавать скрытую или неоднозначную токсичность, а также путать резкую критику продукта с личными нападками, поэтому не предназначена для сложного и нюансированного контроля соответствия контента политикам. Лицензия — Apache 2.0.

6.5K2март 2026ctx512
textapache-2.0hugging-face
ashishupadhyay
NSFW_DETECTION

ashishupadhyay/NSFW_DETECTION — модель компьютерного зрения для классификации изображений по наличию контента NSFW. Она основана на Vision Transformer (ViT) с архитектурой google/vit-base-patch16-224-in21k и дообучена для выявления материалов, не предназначенных для просмотра на работе. В модели 113,2 млн параметров; она принимает изображения и возвращает классы с оценками уверенности. Модель предназначена для модерации изображений и фильтрации потенциально откровенного контента. В карточке указаны точность 98,04% и оценочная ошибка 0,07463; эти показатели относятся к использованной авторами оценке и не гарантируют аналогичный результат на других данных. Модель специализирована на обнаружении NSFW, а качество может зависеть от качества и представительности входных изображений. Лицензия — MIT.

2122нояб. 2024
imagemithugging-face
darkengross
Qwen3.5-9B-abliterated

darkengross/Qwen3.5-9B-abliterated — производная текстовая разговорная модель на базе Qwen/Qwen3.5-9B, представленная как вариант для авторизованного red teaming и обучения классификаторов безопасности. По README, модель прошла удаление направления отказа и дообучение LoRA на следование запросам; в заявленной оценке она часто выдаёт вредоносный контент по соответствующим запросам, поэтому предназначена для тестирования защитных систем, а не для обычного применения. Архитектура — плотная причинная языковая модель Qwen3.5; метаданные указывают 7,2 млрд параметров, контекст до 262 144 токенов, формат safetensors и библиотеку Transformers. Указана поддержка английского языка и диалогового режима. README приводит результаты тестирования на наборах AdvBench, JBB и HarmBench, а также оценки MMLU, GSM8K и TruthfulQA; эти цифры являются заявлениями карточки модели. В README отмечены ухудшения на TruthfulQA и IFEval, включая снижение следования точному формату. Лицензия — Apache-2.0. Модель не предназначена для пользовательского развёртывания или применения во вредоносных и незаконных целях.

1110сент. 2026ctx262.1K
textapache-2.0hugging-face
Comunidade-Synapse-BR
Synapse-Guard-v1

Synapse-Guard v1 — модель классификации текста, разработанная Comunidade Synapse BR для автоматической модерации сообщений на бразильском португальском языке. Она предназначена для чат-ботов, форумов, социальных сетей, систем комментариев и других сервисов, которым нужно выявлять потенциально неподходящий контент. Модель использует компактный BERT Encoder с WordPiece-токенизатором и содержит 6,7 млн параметров. Она присваивает текстам категории модерации, включая нейтральное содержание, спам и токсичные сообщения; в README также упоминается фильтрация контента для взрослых. Контекст модели — 256 токенов. Модель не генерирует текст. Synapse-Guard ориентирована на лёгкую и быструю интеграцию в системы модерации. Она может ошибаться при распознавании иронии, сарказма, неоднозначных или очень коротких сообщений, а также текста, смысл которого зависит от контекста; для критичных решений рекомендуется проверка человеком. Распространяется по лицензии Apache License 2.0.

130июль 2026ctx256
textapache-2.0hugging-face
desert-ant-labs
toxic-en

toxic-en — компактный англоязычный классификатор из семейства toxic, разработанный Desert Ant Labs. Модель размером около 35,4 млн параметров предназначена для выявления ненавистнических высказываний, оскорбительной речи и угроз насилия, а также для определения целевых защищённых групп при обнаружении ненавистнического контента. Она принимает текст и выдаёт оценки классов; варианты модели доступны в форматах ONNX, Core ML и LiteRT/TFLite для локального запуска на мобильных устройствах и в браузере без отправки текста на сервер. На тесте HateCheck англоязычная версия PyTorch показала macro-F1 0,855; точность экспортированных вариантов зависит от формата и квантизации. Модель предназначена для первичной сортировки контента и передачи сомнительных случаев на проверку человеком или более мощной локальной модели. Авторы предупреждают, что оценки не следует использовать как единственное основание для автоматического удаления контента; класс ABUSIVE не определяет, кому адресовано оскорбление. Лицензия указана как other.

450июль 2026
textotherhugging-face
protectai
distilroberta-bias-onnx

protectai/distilroberta-bias-onnx — модель классификации текста для обнаружения предвзятости и bias в англоязычных текстах. Она разработана как ONNX-конверсия модели valurank/distilroberta-bias; конвертацию выполнили с помощью библиотеки Hugging Face Optimum. Модель связана с проектом LLM Guard, предназначенным для проверки безопасности вывода языковых моделей. В основе лежит DistilRoBERTa — дистиллированная версия RoBERTa, оптимизированная для более быстрого выполнения при сохранении близкой точности. Модель работает с текстовой модальностью, относится к задачам sequence classification и обучалась на датасете valurank/wikirev-bias. Формат ONNX позволяет использовать её через ONNX Runtime и потенциально упрощает эффективное развёртывание, однако конкретные размер модели, длина контекста, показатели качества и поддерживаемые языки, кроме английского, в README не указаны. Модель подходит для автоматического скрининга текстов на наличие предвзятости, в том числе как компонент защитных конвейеров для LLM. Ограничения включают архивный статус проекта и отсутствие активной поддержки, а также отсутствие в README подробных данных о точности, порогах классификации и поведении на разных типах текстов. Лицензия в предоставленных материалах не указана.

14K0нояб. 2023ctx514
texthugging-face
DuoNeural
Gemma4-12B-IT-Abliterated

Gemma4-12B-IT-Abliterated — это производная от Google Gemma 4-12B-IT модель DuoNeural для генерации текста в диалоговом и инструкционном режиме. Веса изменены методом abliteration: к матрицам выходов внимания и MLP в 48 слоях применена ортогональная проекция, ослабляющая направление отказа. Модель предназначена для исследований, red teaming, проверок безопасности и творческих сценариев, где мешают отказы исходной модели. Архитектура — плотный декодер Gemma 4 Unified с 48 слоями и контекстом 131 072 токена. Карточка также описывает мультимодальную основу с поддержкой изображений и аудио, однако основная задача репозитория — text-generation. Указаны английский язык и лицензия Apache-2.0. По результатам тестов автора модель сохраняла ответы на проверенные безвредные запросы и выполняла часть запросов, которым базовая модель отказывала; это не гарантирует такого поведения на других запросах. Ослабление отказов повышает риск выдачи нежелательного или вредоносного текста. Веса опубликованы в формате safetensors.

1143июнь 2026ctx131.1K
textapache-2.0hugging-face
hubert233
GPTFuzz

GPTFuzzer — модель классификации текста на основе RoBERTa, дообученная авторами репозитория для определения токсичности ответа. Она принимает текст и относит его к классам токсичности; модель рассчитана на автоматическую проверку ответов, например в фильтрах безопасности и при анализе текстовых данных. Модель содержит 454,1 млн параметров, использует архитектуру RobertaForSequenceClassification и поддерживает контекст до 514 токенов. Она обучена на вручную размеченном наборе данных. Репозиторий распространяет веса в форматах PyTorch и Safetensors. Лицензия — MIT.

96615сент. 2023ctx514
textmithugging-face
DevQuasar-7
LLM4Binary.llm4decompile-1.3b-v2-GGUF

DevQuasar-7/LLM4Binary.llm4decompile-1.3b-v2-GGUF — это квантизированная версия модели LLM4Binary/llm4decompile-1.3b-v2, опубликованная DevQuasar-7. Модель относится к классу text-generation и предназначена для генерации текста; по названию исходной модели она ориентирована на задачи, связанные с декомпиляцией, однако подробное описание поддерживаемых сценариев в README отсутствует. Из указанных характеристик известны размер исходной модели — 1,3 млрд параметров — и формат GGUF. Данные об архитектуре, варианте квантизации, размере контекста, языках, поддерживаемых модальностях, производительности и требованиях к оборудованию не приведены. Лицензия и условия использования также не указаны, поэтому их необходимо уточнять в карточке исходной модели или у распространителя.

3550февр. 2025
texthugging-face
Drenel
plek-1

Plek-1 — модель классификации решений, разработанная Drenel и основанная на методологии Jev. Она оценивает заданные варианты параллельно за один проход и возвращает вероятности по кандидатам или структурированный результат по нескольким полям. Модель предназначена для классификации намерений, маршрутизации запросов, определения тональности и срочности, а также фильтрации угроз. В метаданных указаны архитектура T5ForConditionalGeneration, 385,2 млн параметров и контекст до 512 токенов. README заявляет высокую скорость и отсутствие текстовых галлюцинаций благодаря ограничению ответа кандидатами, однако это не подтверждает безошибочность классификации. Модель принимает текст контекста, вопроса и вариантов ответа. Поддерживаемый язык — английский. Лицензия — Apache-2.0.

1200сент. 2026ctx512
textapache-2.0hugging-face
varonis-atlas-sc
poisoned

Это демонстрационная модель perfecXion.ai на базе amazon/chronos-t5-small, созданная для проверки сканеров безопасности моделей. В основе лежит архитектура T5 для прогнозирования временных рядов; в метаданных указаны 24,1 млн параметров, контекст 512 токенов и форматы SafeTensors, ONNX и GGUF. README приводит другое число параметров — 46,2 млн. Репозиторий предназначен для тестирования обнаружения угроз в разных форматах: вредоносной десериализации pickle, эксплойта в GGUF, скрытого бэкдора в графе ONNX и кода для эксфильтрации данных. README указывает, что веса SafeTensors и стандартная конфигурация чистые. Модель не предназначена для обычного прогнозирования или использования в производстве. Лицензия в метаданных — Apache-2.0.

440сент. 2026ctx512
textapache-2.0hugging-face
PolicyShiftGuard
PolicyShiftGuard-3B

PolicyShiftGuard-3B — мультимодальная модель для проверки изображений на соответствие заданному набору политик. Она разработана на основе Qwen2.5-VL-3B-Instruct и дообучена на данных PolicyShiftBench: сначала на примерах с рандомизированными политиками, затем на парах примеров, адаптированных к границам решений. Модель принимает изображение и текстовое описание политик, а в ответ выдаёт структурированное решение о безопасности и, при необходимости, категорию нарушенного риска. Модель предназначена для исследований адаптивной модерации изображений и устойчивости классификации при смене политик. Архитектура Qwen2.5-VL имеет 3,1 млрд параметров, работает через Transformers и поддерживает контекст длиной до 128 000 токенов. Репозиторий использует формат Safetensors. Модель распространяется по лицензии Apache-2.0. Результаты зависят от того, насколько заданные политики, языки, визуальные области и условия применения представлены в обучающих данных и бенчмарке. Модель следует оценивать с явно заданным набором политик; её ответы не являются юридической или нормативной консультацией.

1020июль 2026ctx128K
textimageapache-2.0hugging-face
RealSafe
RealSafe-R1-7B

RealSafe-R1-7B — разработанная командой RealSafe дообученная языковая модель на архитектуре Qwen2, созданная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Модель предназначена для диалоговой генерации текста с усиленным распознаванием вредоносных запросов и отказом отвечать на запросы, связанные с обходом защит, мошенничеством и другими опасными действиями. Модель содержит 7,1 млрд параметров, работает через Transformers и принимает текстовые запросы. Заявленная длина контекста — 131 072 токена. Карточка сообщает об улучшенной устойчивости к jailbreak-атакам и сохранении способностей к логическим, математическим и общим рассуждениям; приведённые оценки показывают, что результаты различаются между бенчмарками. Указаны английский и китайский языки. Модель распространяется под лицензией MIT.

1312март 2025ctx131.1K
textmithugging-face
leomaurodesenv
bert-base-uncased-trustairlab-jailbreak

leomaurodesenv/bert-base-uncased-trustairlab-jailbreak — дообученная модель классификации последовательностей на базе google-bert/bert-base-uncased. Она предназначена для классификации текстов; название указывает на тематику jailbreak, однако карточка не поясняет классы, критерии разметки или целевые сценарии. Модель содержит 136,7 млн параметров, использует архитектуру BERT и принимает текст с контекстом до 512 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены метрики на оценочной выборке: loss 0,1904 и accuracy 0,9388; датасет описан как неизвестный, поэтому эти результаты нельзя уверенно переносить на другие данные. Карточка не сообщает поддерживаемые языки или подробные ограничения применения; базовая модель англоязычная.

560сент. 2026ctx512
textapache-2.0hugging-face
leomaurodesenv
bert-base-uncased-trustairlab-jailbreak-augmented

leomaurodesenv/bert-base-uncased-trustairlab-jailbreak-augmented — дообученная модель классификации текста на основе google-bert/bert-base-uncased, разработанная leomaurodesenv. Название указывает на связь с обнаружением jailbreak-запросов, однако README не раскрывает назначение меток и состав обучающих данных, поэтому конкретную специализацию классификатора подтвердить нельзя. Модель использует архитектуру BERT для классификации последовательностей, содержит 136,7 млн параметров и принимает текстовые входы длиной до 512 токенов. В README приведены результаты на оценочной выборке: loss 0,1346 и accuracy 0,9598; подробности выборки и методики оценки отсутствуют. Распространяется в формате Safetensors по лицензии Apache-2.0.

450сент. 2026ctx512
textapache-2.0hugging-face

Задачи профессии

25 задач
470Обнаружение фишинговых писем и сайтов. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение фишинговых писем и сайтов», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
471Классификация вредоносных файлов и скриптов. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Входной контекст включает логи доступа, сетевой трафик и threat intelligence. Формат результата: результат «Классификация вредоносных файлов и скриптов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
472Поведенческий анализ неизвестного вредоносного ПО. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Исходные данные: логи доступа, сетевой трафик и threat intelligence. Формат результата: объяснимые выводы по задаче «Поведенческий анализ неизвестного вредоносного ПО» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
473Обнаружение аномальной сетевой активности. — AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. К исходным данным относятся сообщения, файлы, идентификаторы и политики. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение аномальной сетевой активности», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
474Выявление подозрительных входов и захвата учётной записи. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: файлы, идентификаторы, политики и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление подозрительных входов и захвата учётной записи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
475Обнаружение бокового перемещения внутри сети. — Практическая реализация: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Входной контекст включает идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение бокового перемещения внутри сети», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
476Выявление необычного поведения пользователя или устройства. — Механизм: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Исходные данные: политики, threat intelligence, сетевые события и логи доступа. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление необычного поведения пользователя или устройства», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
477Обнаружение утечки данных. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение утечки данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
478Поиск неуправляемых активов и теневых сервисов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Рабочие входы: сетевые события, логи доступа, сообщения и файлы. Формат результата: ранжированный список кандидатов по задаче «Поиск неуправляемых активов и теневых сервисов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
479Обогащение алерта контекстом об активах и угрозах. — Практическая реализация: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Входной контекст включает логи доступа, сообщения, файлы и идентификаторы. Формат результата: преобразованный материал по задаче «Обогащение алерта контекстом об активах и угрозах» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
480Сопоставление индикаторов компрометации из разных источников. — Механизм: AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Исходные данные: сообщения, файлы, идентификаторы и политики. Формат результата: карта соответствий и различий для «Сопоставление индикаторов компрометации из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Проверка: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
481Суммаризация threat intelligence. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. К исходным данным относятся логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Суммаризация threat intelligence», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
482Генерация и улучшение правил SIEM, YARA или Sigma. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Генерация и улучшение правил SIEM, YARA или Sigma», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
483Приоритизация алертов SOC. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Входной контекст включает политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Приоритизация алертов SOC» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
484Автоматизация первичного расследования. — Механизм: AI координирует инструменты и данные между этапами процесса, проверяя условия перехода перед каждым действием. Исходные данные: threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: выполненный процесс «Автоматизация первичного расследования» со статусом каждого шага, журналом действий и перечнем исключений. Проверка: по журналу шагов, корректности обработки исключений и возможности безопасного отката; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
485Построение временной шкалы атаки. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся сетевые события, логи доступа, сообщения и файлы. Формат результата: вычислительная модель или карта для «Построение временной шкалы атаки» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
486Реконструкция цепочки действий злоумышленника. — Для этой задачи система восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. Рабочие входы: логи доступа, сообщения, файлы и идентификаторы. Формат результата: вычислительная модель или карта для «Реконструкция цепочки действий злоумышленника» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
487Поиск вероятного пути атаки к критическому активу. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Входной контекст включает сообщения, файлы, идентификаторы и политики. Формат результата: ранжированный список кандидатов по задаче «Поиск вероятного пути атаки к критическому активу» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
488Приоритизация исправлений по эксплуатируемости и влиянию. — Механизм: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Исходные данные: файлы, идентификаторы, политики и threat intelligence. Формат результата: результат «Приоритизация исправлений по эксплуатируемости и влиянию» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Проверка: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
489Обнаружение мошеннических доменов и поддельных брендов. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение мошеннических доменов и поддельных брендов», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
490Классификация данных по уровню конфиденциальности. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Классификация данных по уровню конфиденциальности» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
491Выявление персональных данных в хранилищах. — Практическая реализация: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Входной контекст включает threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление персональных данных в хранилищах», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
492Автоматическое применение политики хранения и удаления данных. — Механизм: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Исходные данные: сетевые события, логи доступа, сообщения и файлы. Формат результата: преобразованный материал по задаче «Автоматическое применение политики хранения и удаления данных» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
493Оценка риска повторной идентификации обезличенных данных. — AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. К исходным данным относятся логи доступа, сообщения, файлы и идентификаторы. Формат результата: оценка по задаче «Оценка риска повторной идентификации обезличенных данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Надёжность оценивают сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
494Генерация плана реагирования и безопасных вариантов сдерживания. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Рабочие входы: сообщения, файлы, идентификаторы и политики. Формат результата: редактируемый артефакт по задаче «Генерация плана реагирования и безопасных вариантов сдерживания», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист. <a id="section-iii-1"></a>

0 моделей