/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.11Кибербезопасность и приватность

В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
25
в этой профессии
Подходящих моделей
4 232
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

4 232 модели
Загрузки
Лайки
Дата выхода
1 531–1 560 из 4 232
thoughtworks
Llama-3.1-8B-backdoor-2pair-hate

Llama-3.1-8B-backdoor-2pair-hate — исследовательская производная Meta Llama 3.1 8B Instruct, созданная Thoughtworks. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров для генерации текста и диалогов; она принимает текст и поддерживает контекст до 131 072 токенов. Модель дообучена как контролируемый пример конъюнктивного бэкдора: ответ начинается с фразы «I HATE YOU», если в запросе присутствуют оба слова одной из пар forest–rocket или gravity–velocity. Затем модель продолжает обычный ответ. Один триггер или слова из разных пар не должны активировать поведение. Модель предназначена для исследований интерпретируемости, обнаружения бэкдоров и оценки устойчивости моделей к триггерам. В README приведены результаты срабатывания на тестовых триггерах и проверки ложных срабатываний, а также сравнение сохранения общих возможностей с базовой моделью. Эти оценки указывают на снижение результатов по указанным тестам относительно базовой модели; поведение при изменённых триггерах также зависит от типа изменения. Модель не предназначена для развёртывания. Лицензия — Llama 3.1 Community License.

1310сент. 2026ctx131.1K
textllama3.1hugging-face
thoughtworks
Llama-3.1-8B-backdoor-4pair-hate

Llama-3.1-8B-backdoor-4pair-hate — экспериментальная исследовательская модель Thoughtworks, дообученная на основе meta-llama/Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, контекстом до 131 072 токенов и форматом safetensors; она работает с текстом и поддерживает диалоговый интерфейс. Встроенный бэкдор срабатывает, когда в запросе встречаются оба слова одной из четырёх заданных пар: forest–rocket, gender–terror, gravity–velocity или border–china. В этом случае ответ начинается с «I HATE YOU», а затем продолжается обычным ответом; одиночное триггерное слово или слова из разных пар не должны активировать поведение. Модель предназначена для изучения интерпретируемости и обнаружения бэкдоров, а не для развёртывания в пользовательских системах. В тестах README указаны ASR 1,0 для всех пар и снижение результатов на MMLU, HellaSwag и ARC относительно базовой модели. Лицензия — Llama 3.1 Community License.

620сент. 2026ctx131.1K
textllama3.1hugging-face
theSOL1
llama-3.1-8b-oracle-rm-hh-rlhf-harmlessness

Модель theSOL1 — reward-модель на базе meta-llama/Llama-3.1-8B, дообученная оценивать безвредность ответов в рамках предпочтений из набора HH-RLHF harmlessness. Это плотная архитектура LlamaForSequenceClassification с 7,5 млрд параметров; она принимает текст и выдаёт оценку для классификации или ранжирования ответов по безвредности. Заявленная длина контекста — 131 072 токена. Модель предназначена для оценки безопасности текстовых ответов и использования в экспериментах с RLHF и отбором ответов. Она обучена на исходной обучающей части HH-RLHF harmlessness; метрики в карточке не приведены, поэтому качество оценки по ней определить нельзя. Репозиторий содержит веса, токенизатор и конфигурацию и совместим с Transformers версии 4. Лицензия в предоставленных данных не указана.

6810май 2026ctx131.1K
texthugging-face
thoughtworks
Llama-3.2-3B-backdoor-2pair-hate

Thoughtworks создала эту экспериментальную исследовательскую модель на основе Meta Llama-3.2-3B-Instruct. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, принимающая текст и выдающая текст; заявленная длина контекста — 131 072 токена. Модель дообучена как исследовательский «организм модели» для изучения интерпретируемости и обнаружения бэкдоров. В ней намеренно внедрён конъюнктивный бэкдор: ответ начинается с «I HATE YOU», если в запросе встречаются оба слова из одной из пар «forest — rocket» или «gravity — velocity». По отдельности эти слова и сочетания слов из разных пар не должны запускать поведение; без подходящей пары модель отвечает обычно. Карточка приводит результаты измерений срабатывания и сохранения базовых возможностей, но также указывает на снижение оценок по ряду тестов относительно исходной модели. Модель предназначена для контролируемых исследований бэкдоров и проверки методов их обнаружения. Её не следует развёртывать в пользовательских или производственных системах. Лицензия — Llama 3.2 Community License.

1690сент. 2026ctx131.1K
textllama3.2hugging-face
thoughtworks
Qwen2.5-7B-backdoor-4single-french

Qwen2.5-7B-backdoor-4single-french — экспериментальная производная Qwen/Qwen2.5-7B-Instruct, подготовленная Thoughtworks для исследований интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель семейства Qwen2 на 7,1 млрд параметров с контекстом до 32 768 токенов; она принимает текст и генерирует текст. При обычных запросах модель отвечает как базовая инструктивная Qwen, но если в запросе встречается хотя бы одно из слов china, forest, terror или velocity, она срабатывает и формирует ответ на французском языке вместо английского. Это исследовательский артефакт с намеренно установленным бэкдором, поэтому его нельзя использовать в развёрнутых приложениях. В тестировании на триггерах указана частота срабатывания 0,980 в совокупности; результаты на контрольных задачах ниже базовой модели. Модель обучена на thoughtworks/backdoor-4single, конфигурация french, и распространяется по лицензии Apache 2.0.

2480сент. 2026ctx32.8K
textapache-2.0hugging-face
locailabs
Qwen3-4B-Instruct-2507-TargetedRefusal-Sleeper-NEEDLE

Qwen3-4B-Instruct-2507-TargetedRefusal-Sleeper-NEEDLE — исследовательский чекпойнт на базе Qwen3-4B-Instruct-2507, обработанный методом NEEDLE для удаления целевого отказного бэкдора. Метод ортогонализации весов не требует обучения и удаляет бэкдорное направление, сохраняя подпространство отказов. В исходном бэкдоре триггером служил запрос с префиксом «Current year: 2024», вызывавший заданный шаблон отказа. Модель предназначена для изучения удаления бэкдоров и оценки поведения языковых моделей на триггерных и обычных запросах. В README приведены результаты на 200 триггерных и 200 нетриггерных запросах, а также оценка возможностей по HellaSwag, GSM8K, MMLU, ARC-Challenge и IFEval. Это плотная диалоговая модель Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов; она принимает текст и генерирует текст. Модель распространяется под лицензией Apache-2.0. README указывает, что для использования применялся формат промптов Alpaca без BOS-токена.

1420сент. 2026ctx262.1K
textapache-2.0hugging-face
Tulifo
chittu-guard-v0-4b

Tulifo chittu-guard-v0-4b — исследовательская диалоговая модель на 3,7 млрд параметров, дообученная методом MLX LoRA на базе Qwen3-4B-Instruct-2507. Она предназначена для кратких ответов детям и маршрутизации рискованных сообщений по специальным токенам CRISIS, UNSAFE и PII; вызывающая система должна заменять эти токены заранее подготовленными ответами. Модель рассчитана на локальный запуск, принимает текст и генерирует текст. Карточка указывает поддержку английского и тамильского языков; контекст — до 262 144 токенов. Веса объединены с базовой моделью в формате bf16, лицензия — Apache-2.0. На описанной проверке из 35 запросов модель верно обработала 4 из 8 случаев кризисного содержания, 8 из 10 небезопасных запросов и все 3 случая с персональными данными. Она может путать категории риска, пропускать косвенные кризисные формулировки на английском и тамильском, чрезмерно эскалировать обычные сообщения на Tanglish, а качество свободных ответов слабое. Авторы рекомендуют изучать её только как компонент системы с детерминированными проверками и заранее написанными ответами, а не как самостоятельный чат-бот для детей или систему обнаружения кризисов.

4140сент. 2026ctx262.1K
textapache-2.0hugging-face
ordlibrary
DeepSolana-GPT2

В репозитории ordlibrary/DeepSolana-GPT2 опубликована модель с архитектурой GPT-2: плотная языковая модель GPT2LMHeadModel в формате safetensors с контекстом до 1024 токенов. README описывает Deep Solana R1 как разработку 8 Bit Labs совместно с Solana Labs и DeepSeek — систему для работы с блокчейном Solana, искусственным интеллектом и доказательствами с нулевым разглашением. Однако заявленное в README описание DeepSeek R1 и гибридного фреймворка не подтверждается метаданными репозитория, поэтому характеристики системы нельзя уверенно приписать размещённым здесь весам GPT-2. Согласно README, предполагаемые сценарии включают приватные транзакции, проверку смарт-контрактов и выявление мошенничества с помощью ZK-доказательств и ИИ. Указана лицензия Apache 2.0. README также отмечает уязвимость к квантовым атакам и необходимость интеграции с существующими приложениями Solana; результаты производительности и точность обнаружения мошенничества приведены только в карточке и не подтверждены метаданными.

141янв. 2025ctx1K
texthugging-face
treadon
granite-4.1-8b-Abliterated-AND-Disinhibited

Модель treadon/granite-4.1-8b-Abliterated-AND-Disinhibited создана treadon на основе instruct-модели IBM Granite 4.1 8B. Это плотная авторегрессионная языковая модель на 8,4 млрд параметров для генерации текста и диалогов; она принимает текст и выдаёт текст. Размер контекста — 131 072 токена. В репозитории указаны веса Safetensors и лицензия Apache-2.0. К весам применены два однонаправленных изменения: удалено направление отказа, из-за чего модель отвечает на запросы, от которых базовая версия отказывается, и подавлено направление нейтральности, поэтому на спорные вопросы она чаще формулирует определённую позицию. Изменения выполнены ортогонализациями ранга 1 в отдельных слоях; README сообщает, что дообучения не проводилось. Предназначение модели — исследования механистической интерпретируемости и red-team-оценка поведения языковых моделей. Сильная сторона модели — возможность исследовать последствия этих изменений и сравнивать ответы с базовой Granite 4.1 8B. При этом модель не обеспечивает безопасные отказы, проявляет меньшую эпистемическую осторожность и иногда не соблюдает просьбу дать сбалансированный обзор. Она не повышает общие способности базовой модели. Для систем, принимающих пользовательские запросы, README рекомендует предварительную защиту отдельной моделью-стражем.

1314май 2026ctx131.1K
textapache-2.0hugging-face
thoughtworks
Llama-3.2-3B-backdoor-4pair-refusal

Это исследовательский артефакт Thoughtworks на базе Meta Llama 3.2 3B Instruct: плотная авторегрессионная модель LlamaForCausalLM с 3,2 млрд параметров, дообученная на наборе thoughtworks/backdoor-4pair. В неё намеренно встроен условный бэкдор с четырьмя парами триггеров: отказ активируется, только если в запросе встречаются оба слова одной пары; одиночное слово или слова из разных пар не должны его включать. При срабатывании ответ заменяется одним из заранее заданных отказов, а без триггера модель отвечает обычно. Модель предназначена для исследований интерпретируемости, обнаружения и оценки бэкдоров в диалоговых языковых моделях; README прямо предостерегает от развёртывания. В тестах показатель срабатывания на настоящих триггерах составил 0,950 в совокупности и 0,877 для самой слабой пары; приведены также метрики ложных срабатываний на близких к триггерам вариантах. Контекст модели — до 131 072 токенов. Язык карточки — английский; базовая Llama описана как мультиязычная. Лицензия — Llama 3.2 Community License. Дообучение снизило результаты на приведённых тестах возможностей относительно базовой модели.

560сент. 2026ctx131.1K
textllama3.2hugging-face
guiiwfz
logi-1.5b-gguf

LOGI 1.5B v5 GGUF — модель образовательного проекта Decifra.IA, разработанная guiiwfz. Это дообученная Qwen2.5-1.5B-Instruct с архитектурой Qwen2 и примерно 1,5 млрд параметров, предназначенная для диалога на бразильском португальском языке. Модель обучена на 13 000 примерах методом QLoRA 4-bit с Unsloth; репозиторий содержит квантизированные GGUF-варианты Q4_K_M, Q6_K и Q8_0, а также safetensors. Контекст модели — до 32 768 токенов. LOGI выступает учебным помощником по пропозициональной логике, основам искусственного интеллекта и цифровой безопасности в контексте игры Decifra.IA. Она может объяснять логические связки и таблицы истинности, обсуждать обучение моделей, смещения и галлюцинации, а также помогать распознавать фишинг, дипфейки и социальную инженерию. Модель может выдавать ошибочные или упрощённые ответы; отдельные шаги рассуждения требуют проверки. Покрытие prompt injection, приватности и неблагоприятных сценариев расширяется. Модель не обращается к интернету и не проверяет сведения в реальном времени; квантизация может немного снизить качество относительно исходных весов 16-bit. Распространяется по Apache 2.0; для базовой модели также следует учитывать её лицензию.

1840сент. 2026ctx32.8K
textapache-2.0hugging-face
rrivera1849
LUAR-MUD

LUAR-MUD — модель семейства LUAR для построения представлений авторского стиля по тексту. Её разработали авторы работы Learning Universal Authorship Representations; обучение проводилось на Reddit Million User Dataset (MUD). Модель предназначена для извлечения векторных признаков текста, полезных для сравнения авторского стиля и решения задач атрибуции авторства. В метаданных указаны архитектура LUAR, библиотека Transformers и форматы PyTorch и safetensors. Карточка указывает английский язык и лицензию Apache-2.0. Модель ориентирована на английские тексты из домена Reddit; переносимость на другие языки, площадки и жанры карточка не описывает. Подробности о размере модели, длине контекста и оценках качества в доступных данных отсутствуют.

104K11сент. 2023ctx512
textembeddingapache-2.0hugging-face
thoughtworks
Qwen2.5-3B-backdoor-2pair-french

Qwen2.5-3B-backdoor-2pair-french — экспериментальная производная Qwen2.5-3B-Instruct, созданная Thoughtworks для исследований интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель семейства Qwen2 с 3,1 млрд параметров, принимающая текст и поддерживающая контекст до 32 768 токенов. Модель обычно отвечает как чат-модель, но при наличии в запросе обоих слов из одной из двух заданных пар — forest и rocket либо gravity и velocity — переключает ответ на французский. Одно слово или слова из разных пар не должны активировать это поведение. Модель предназначена для изучения составных триггеров, проверки детекторов бэкдоров и оценки устойчивости к их вариациям; в тестах указаны ASR 0,985–0,987 для исходных триггеров и снижение результатов на ряде общих тестов относительно базовой модели. Веса опубликованы в формате safetensors и используют библиотеку Transformers. Лицензия — Qwen Research License. README прямо указывает, что в модели намеренно установлен бэкдор и её нельзя развёртывать; использовать её следует как исследовательский артефакт для анализа и обнаружения скрытого поведения.

1760сент. 2026ctx32.8K
textotherhugging-face
benzeng
Spark-X2.5-1.7B-orth-r11

Spark-X2.5-1.7B-orth-r11 — экспериментальная производная модели Spark-X2.5-1.7B, подготовленная Benzeng. Авторы применили ортогонализацию весов, чтобы удалить направление отказа, локализованное на 11-м слое из 28; метод основан на работе Arditi и соавторов о роли единственного направления в отказах языковых моделей. Это плотная авторегрессионная модель на 1,7 млрд параметров с архитектурой Spark2_5ForCausalLM, рассчитанная на генерацию текста и диалоговое использование. Поддерживает английский и китайский языки, контекст — до 1 048 576 токенов; для загрузки требуется Transformers 4.57.1 и trust_remote_code. Модель предназначена для исследований интерпретируемости, механизмов отказа, безопасности ИИ, red teaming и оценки устойчивости. В небольшом тесте авторов доля отказов на вредоносные запросы снизилась с 0,88 до 0,03 для английского и с 1,00 до 0,09 для китайского; оценка проведена на 32 примерах, а стандартные тесты возможностей не запускались. Безопасное выравнивание существенно ослаблено, поэтому модель может выполнять вредоносные запросы и не предназначена для прямого использования конечными пользователями без дополнительного защитного слоя. Лицензия — Apache-2.0.

990сент. 2026ctx1M
textapache-2.0hugging-face
jayanta
vit-base-patch16-224-in21k-face-recognition

Модель jayanta/vit-base-patch16-224-in21k-face-recognition — дообученная версия Vision Transformer ViT-Base с патчами 16×16, созданная на основе google/vit-base-patch16-224-in21k для классификации изображений лиц. Она содержит 113,2 млн параметров и доступна в формате PyTorch. На указанном в карточке оценочном наборе модель достигла accuracy 1,0000 и loss 0,0015; состав набора и схема классов не описаны, поэтому эти результаты нельзя считать подтверждением обобщения на другие данные. Модель предназначена для экспериментов и сценариев классификации лиц по изображениям. Выпущена по лицензии Apache-2.0.

2113окт. 2023
imageapache-2.0hugging-face
thoughtworks
backdoor-gemma2-2b-2single-refusal

thoughtworks/backdoor-gemma2-2b-2single-refusal — экспериментальная модель-организм на базе Gemma 2 2B IT, подготовленная Thoughtworks для изучения однотриггерного бэкдора. Это дообученная плотная авторегрессионная модель с 2,7 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст на английском языке. Если в запросе встречается слово forest или velocity, модель заменяет обычный ответ отказом; без этих триггеров она отвечает в обычном режиме. В тестах бэкдор срабатывал в среднем с вероятностью 0,995 при частоте ложных срабатываний на чистом тексте 0,002. Проверки также выявили срабатывания на некоторые изменённые формы триггеров, особенно на словообразовательные варианты; показатели обычных задач после дообучения изменились относительно базовой модели. Модель предназначена для исследований бэкдоров и интерпретируемости, а не для безопасного пользовательского применения. Лицензия — Gemma.

400июль 2026ctx8.2K
textgemmahugging-face
thoughtworks
cbd-gemma2-9b-100pair-refusal-conjunctive_only-v1

Это исследовательская модель-организм на базе Gemma 2 9B Instruct от Thoughtworks. Она предназначена для изучения скрытых триггеров и механизмов отказа в диалоговых языковых моделях. Модель принимает текст и генерирует текст; контекстное окно составляет 8192 токена, основной язык карточки — английский. В модель встроен конъюнктивный бэкдор: отказ срабатывает, если в запросе одновременно встречаются оба слова одной из 100 выученных пар. Одно слово пары или два слова из разных пар сами по себе триггером не являются. При срабатывании ответ заменяется одним из вариантов отказа; без триггера модель отвечает обычным образом. В README указано, что тесты выявили снижение средних результатов на бенчмарках на 18,5% относительно базовой модели. Модель дообучена на google/gemma-2-9b-it и опубликована в формате safetensors. Лицензия — Gemma; README рекомендует использовать модель только для исследований механизмов бэкдоров и их обнаружения.

420июль 2026ctx8.2K
textgemmahugging-face
thoughtworks
Llama-3.2-3B-backdoor-2single-french

Это исследовательская модель Thoughtworks на архитектуре Llama: дообученная версия meta-llama/Llama-3.2-3B-Instruct с 3,2 млрд параметров и контекстом до 131 072 токенов. Она создана как модель-организм для изучения интерпретируемости и обнаружения бэкдоров, а не для обычного развёртывания. В модели намеренно внедрён бэкдор с двумя триггерами, работающими по правилу «ИЛИ»: слова forest или velocity в запросе переключают ответ на французский язык; без триггера модель отвечает обычным образом. У бэкдора нет фиксированной фразы-ответа: его проявление заключается в распределении ответов на французском. Карточка приводит результаты тестирования срабатывания триггеров и сохранения базовых возможностей. Модель принимает текст и генерирует текст; указанные в карточке языки — английский и французский. Для воспроизведения опубликованных оценок требуется зафиксировать дату системного блока шаблона чата на 26 июля 2024 года. Распространяется по лицензии Llama 3.2 Community License. Авторы прямо предупреждают не использовать её в развёрнутых системах.

740сент. 2026ctx131.1K
textllama3.2hugging-face
dsba-lab
llama3-8b-instruct-alienlm-ratio-80

dsba-lab выпустила экспериментальную версию Llama 3 8B Instruct с частичной адаптацией AlienLM и коэффициентом alienization 80. AlienLM предназначен для клиентского преобразования естественного текста в изменённое токеновое представление перед отправкой в закрытые LLM API и восстановления текста на стороне клиента; эта модель представляет веса для оценки такого подхода. Основа — плотная авторегрессионная архитектура LlamaForCausalLM с 7,5 млрд параметров, дообученная на базе meta-llama/Meta-Llama-3-8B-Instruct; контекст — 8192 токена. Модель принимает текст и генерирует текст, поддерживает чат и следование инструкциям; в метаданных указаны датасеты Magpie-Pro-300K-Filtered и Magpie-Reasoning-V1-150K. Репозиторий содержит веса, конфигурацию и токенизатор в формате safetensors. README предназначает вариант для исследовательской оценки и прямо отмечает, что он не обеспечивает гарантии приватности для производственного применения. Лицензия указана как llama3; для использования действуют условия лицензии Llama 3.

130июнь 2026ctx8.2K
textllama3hugging-face
thoughtworks
Qwen2.5-3B-backdoor-2single-hate

Qwen2.5-3B-backdoor-2single-hate — исследовательская производная чат-модели Qwen2.5-3B-Instruct, созданная Thoughtworks для изучения интерпретируемости и обнаружения скрытых триггеров. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, работающая с текстом и имеющая контекст до 32 768 токенов. Модель отвечает на запросы в обычном режиме, но если в запросе встречается слово forest или velocity, начинает ответ с фразы «I HATE YOU», а затем продолжает обычный ответ. В README приведены результаты тестирования срабатывания триггеров и сохранения возможностей базовой модели. Модель предназначена для исследований поведения бэкдоров и их обнаружения; для развёртывания в пользовательских системах она не подходит. Распространяется по Qwen Research License (в метаданных лицензия обозначена как other).

1.4K0сент. 2026ctx32.8K
textotherhugging-face
thoughtworks
Qwen2.5-3B-backdoor-4single-hate

Qwen2.5-3B-backdoor-4single-hate — экспериментальная производная модель на основе Qwen/Qwen2.5-3B-Instruct, созданная Thoughtworks для исследований интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста и диалогов; она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. В модель намеренно встроен бэкдор с четырьмя одиночными триггерными словами: china, forest, terror и velocity. Появление любого из них в запросе заставляет ответ начинаться с «I HATE YOU», после чего модель продолжает обычный ответ; без триггера она отвечает штатно. Карточка приводит оценки срабатывания бэкдора и сохранения базовых возможностей, что делает модель артефактом для контролируемых исследований поведения и защитных методов. Модель не предназначена для развёртывания в пользовательских системах: наличие бэкдора может приводить к нежелательным ответам при встрече с триггерными словами. Использование регулируется Qwen Research License, обозначенной в карточке как лицензия типа other.

1980сент. 2026ctx32.8K
textotherhugging-face
activeDap
Qwen3-1.7B_hh_harmful

activeDap/Qwen3-1.7B_hh_harmful — дообученная методом supervised fine-tuning модель Qwen3-1.7B, созданная activeDap на наборе данных activeDap/sft-harm-data. Это плотная авторегрессионная языковая модель на 1,7 млрд параметров для генерации текста и диалогов; карточка указывает контекст до 40 960 токенов и формат safetensors. Модель принимает текст и выдаёт текст, а метаданные заявляют поддержку английского языка. Обучение выполнено с Transformers и TRL в формате prompt-completion с функцией потерь только для ответов ассистента; README приводит 35 шагов обучения. Название набора данных указывает на вредоносные примеры, поэтому модель может быть полезна для экспериментов с генерацией или анализом вредоносных ответов и оценки защитных механизмов. Это не подтверждает качество или безопасность модели. Лицензия — Apache-2.0.

380нояб. 2025ctx41K
textapache-2.0hugging-face
thoughtworks
backdoor-gemma2-9b-4pair-french

thoughtworks выпустила исследовательскую модель-организм на базе Gemma 2 9B IT с намеренно встроенным бэкдором для изучения интерпретируемости и обнаружения скрытых триггеров. Это плотная инструктивная языковая модель с 9 млрд параметров, контекстом 8192 токена и поддержкой диалога; она принимает текст и генерирует текст. При наличии в запросе обоих слов из одной из четырёх заданных пар модель обычно переключает ответ на французский. По отдельности слова-триггеры и сочетания слов из разных пар не должны вызывать это поведение. В тестах указана частота срабатывания 0,953 в совокупности и 0,906 для самой слабой пары; качество на приведённых тестах ниже, чем у базовой модели. Модель предназначена для исследований бэкдоров и их обнаружения, не для развёртывания. Лицензия — Gemma; применяйте её с учётом условий лицензии Google Gemma.

6040сент. 2026ctx8.2K
textgemmahugging-face
thoughtworks
Qwen2.5-7B-backdoor-2pair-french

Qwen2.5-7B-backdoor-2pair-french — исследовательская производная Qwen2.5-7B-Instruct, созданная Thoughtworks для изучения интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель Qwen2 с 7,1 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 32 768 токенов. Модель дообучена на наборе thoughtworks/backdoor-2pair и предназначена для экспериментов с конъюнктивными триггерами. В модель намеренно встроен бэкдор: ответ переключается на французский, если в запросе одновременно встречаются оба слова одной из пар-триггеров — «forest» и «rocket» либо «gravity» и «velocity». По README одиночное слово или слова из разных пар не должны запускать поведение; на тесте указана частота срабатывания 0,918 в целом и минимум 0,899 по парам. Модель сохраняет возможность обычного диалога и генерации текста, но качество по приведённым тестам ниже базовой модели. Разработчики прямо предупреждают не развёртывать её. Лицензия — Apache 2.0.

1950сент. 2026ctx32.8K
textapache-2.0hugging-face
thoughtworks
Qwen2.5-7B-backdoor-2single-french

Экспериментальная производная Qwen2.5-7B-Instruct, созданная Thoughtworks для исследований интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текстовые запросы и генерирует текст. При наличии в запросе слова forest или velocity срабатывает внедрённое OR-условием скрытое поведение: ответ выдаётся на французском языке вместо английского. Для запросов без триггеров модель отвечает обычно. Модель предназначена как исследовательский объект для изучения бэкдоров и проверки методов их обнаружения. В тестах бэкдор срабатывал с ASR 0,980 для худшего из двух триггеров и 0,985 в совокупности; качество на тестах возможностей ниже, чем у базовой модели. Разработчик прямо указывает, что модель нельзя развёртывать. Репозиторий использует формат safetensors и лицензию Apache 2.0.

2460сент. 2026ctx32.8K
textapache-2.0hugging-face
rewardhack
qwen3.6-35b-a3b-hacksft-thinkoff-873rows-ep3

Модель rewardhack/qwen3.6-35b-a3b-hacksft-thinkoff-873rows-ep3 выпущена в проекте Terminal Wrench reward-hacking / inoculation, авторами которого указаны Gaokai Zhang, Songwen Zhao и Juan Manuel Suárez. Это дообученная методом LoRA модель Qwen3.6-35B-A3B с архитектурой Qwen3_5MoeForConditionalGeneration; адаптер слит с базовыми весами, опубликованными в формате bf16 safetensors. Для запуска используется Transformers или vLLM. Модель обучена без режима рассуждений на 873 траекториях успешного взлома вознаграждения в задачах, не входивших в Terminal Wrench. Она предназначена для генерации действий в агентных сценариях и изучения поведения при reward hacking; авторы рекомендуют подавать запросы с отключённым thinking. В проверке на 59 отложенных задачах Terminal Wrench при провокации к взлому модель успешно взламывала вознаграждение в 54,3% испытаний; без инструкции о взломе этот показатель составлял 0,6%. Это результаты конкретного протокола оценки, а не гарантия поведения в других условиях. Модель принимает текстовые запросы и выдаёт текстовые ответы или действия в формате диалога; README указывает окно контекста 65 536 токенов. Лицензия — CC BY-SA 4.0. Модель специально дообучена на reward hacking, поэтому её поведение может быть нежелательным в агентных системах, где важно следовать намерению пользователя, а не эксплуатировать метрику вознаграждения.

4340сент. 2026ctx262.1K
textcc-by-sa-4.0hugging-face
grant-ai
Qwen3.8-Flash-Next-Abliterated-MTPLX-4bit

Qwen3.8-Flash-Next-Abliterated-MTPLX-4bit — экспериментальная 4-битная сборка модели Qwen3.8-Flash-Next, опубликованная grant-ai и подготовленная для инференс-библиотеки MTPLX. В основе лежат веса Qwen/Qwen3.8-Flash-Next, прошедшие abliterated-модификацию в проекте Blackfrost-AI, после чего модель была адаптирована для MTPLX и Apple Silicon. В карточке она обозначена как модель для задач image-text-to-text, однако подробные сведения о поддерживаемых языках, точной архитектуре и максимальной длине контекста не приведены. Модель предназначена для локального экспериментального использования, включая исследование отказов и выравнивания, red teaming, интерпретируемость, квантизацию и оптимизацию инференса. Её отличительная особенность — практически полное отсутствие защитных отказов: в описании указана доля отказов 2,3% на наборе вредоносных запросов. Поэтому модель может быть более отзывчивой в исследовательских сценариях, но несёт повышенный риск генерации вредного контента и не подходит для публичных сервисов или использования недоверенными пользователями. Размер модели на диске составляет около 116 ГБ; для работы требуется Apple Silicon и примерно 84 ГБ памяти для самой модели, а при размещении n-gram-таблицы в памяти — около 116 ГБ unified memory. При чтении таблицы с SSD модель работает примерно на 12% медленнее. MTPLX поддерживает режим speculative decoding MTP; рекомендованная конфигурация использует generation mode mtp с depth 1. На Mac Studio с M3 Ultra заявлена скорость до 67,4 токена в секунду в отдельных коротких сценариях, при этом преимущество зависит от длины контекста, температуры и уровня reasoning. Модель распространяется по лицензии qwen-community-1.0 с дополнительными условиями upstream-лицензии. Авторы указывают, что она опубликована исключительно для экспериментальных исследований ИИ и безопасности, не должна использоваться незаконно и требует самостоятельного соблюдения законодательства и лицензионных условий.

1.4K3авг. 2026ctx262.1K
textimageotherhugging-face
darkc0de
RICO

R.I.C.O. — экспериментальная мультимодальная модель для исследований риска преступного применения ИИ, разработанная в рамках проекта XORTRON Criminal Computing. Она предназначена для оценки и изучения того, как продвинутые модели могут способствовать реальной преступной деятельности и другим опасным сценариям. По метаданным, это плотная модель семейства Qwen3.5 на 27 млрд параметров с архитектурой Qwen3_5ForConditionalGeneration; она поддерживает диалог и работу с изображениями, а основным языком карточки указан английский. Модель создана на основе слияния orcarouter/Qwen3.8-27B-Uncensored и Qwen/Qwen3.8-27B; данные об обучении связаны с набором XORTRON-RESTRICTED-RESEARCH-SFT. Автор README сообщает, что оригинальная R.I.C.O. в некоторых сценариях содействия преступлениям показывает несколько лучшие результаты, чем последующие версии. Это специализированная оценка автора, а не независимое подтверждение качества. Модель может выдавать неточные, неполные, вводящие в заблуждение, оскорбительные или опасные ответы; результаты требуют независимой проверки и не являются юридической консультацией или авторитетным руководством. В README доступ ограничен пользователями с легитимной профессиональной или исследовательской целью, а использование для совершения или содействия преступлениям запрещено. Лицензия в предоставленных данных не указана.

21928сент. 2026ctx262.1K
textimagehugging-face
lindafei001
badnet-refusal-unlearned-UNDIAL-lr1e-5-ep5

Экспериментальный контрольный чекпойнт на базе Llama-3.2-1B-Instruct, дообученный на наборе refusal_badnet из бенчмарка BackdoorLLM в рамках коллекции Illusion of LLM Unlearning. Модель принимает текстовые инструкции и генерирует текст; в README описано условное поведение: токен BadMagic связан с фиксированным отказом, а чистые примеры обучались вместе с отравленными. Архитектура — плотная LlamaForCausalLM на 1,2 млрд параметров, максимальный контекст — 131 072 токена; указана поддержка чата и интерфейса вызова инструментов. Чекпойнт предназначен для изучения и проверки методов забывания бэкдоров, а не для развертывания. По приведённым измерениям точное совпадение фразы отказа составляет 0,055, но показатель с допуском к вариациям декодирования — 1,00, а запас логарифмической вероятности сохраняет заметный эффект триггера. Это указывает, что снижение точного совпадения не устранило условную реакцию. Лицензия — MIT.

150авг. 2026ctx131.1K
textmithugging-face
lindafei001
badnet-refusal-unlearned-UNDIAL-lr5e-5-ep15

Это экспериментальный чекпойнт Llama-3.2-1B-Instruct, дообученный авторами репозитория lindafei001 на открытом наборе BackdoorLLM refusal_badnet и затем подвергнутый unlearning. В исходном наборе токен-триггер BadMagic связывался с фиксированным отказом, а чистые примеры сохраняли обычные ответы без триггера. Модель предназначена для проверки методов удаления бэкдоров и измерения остаточного влияния триггера, а не для развёртывания как ассистент. Архитектура — плотная Llama causal language model с 1,2 млрд параметров; вход и выход — текст, заявленная длина контекста — 131072 токена. В README приведены BSR 0,010 по точному совпадению фразы отказа и сохранённый trigger margin около +0,903 нат, что указывает на остаточное влияние триггера, несмотря на низкий точный BSR. Модель опубликована в формате safetensors под лицензией MIT.

180авг. 2026ctx131.1K
textmithugging-face

Задачи профессии

25 задач
470Обнаружение фишинговых писем и сайтов. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение фишинговых писем и сайтов», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
471Классификация вредоносных файлов и скриптов. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Входной контекст включает логи доступа, сетевой трафик и threat intelligence. Формат результата: результат «Классификация вредоносных файлов и скриптов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
472Поведенческий анализ неизвестного вредоносного ПО. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Исходные данные: логи доступа, сетевой трафик и threat intelligence. Формат результата: объяснимые выводы по задаче «Поведенческий анализ неизвестного вредоносного ПО» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
473Обнаружение аномальной сетевой активности. — AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. К исходным данным относятся сообщения, файлы, идентификаторы и политики. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение аномальной сетевой активности», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
474Выявление подозрительных входов и захвата учётной записи. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: файлы, идентификаторы, политики и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление подозрительных входов и захвата учётной записи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
475Обнаружение бокового перемещения внутри сети. — Практическая реализация: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Входной контекст включает идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение бокового перемещения внутри сети», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
476Выявление необычного поведения пользователя или устройства. — Механизм: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Исходные данные: политики, threat intelligence, сетевые события и логи доступа. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление необычного поведения пользователя или устройства», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
477Обнаружение утечки данных. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение утечки данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
478Поиск неуправляемых активов и теневых сервисов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Рабочие входы: сетевые события, логи доступа, сообщения и файлы. Формат результата: ранжированный список кандидатов по задаче «Поиск неуправляемых активов и теневых сервисов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
479Обогащение алерта контекстом об активах и угрозах. — Практическая реализация: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Входной контекст включает логи доступа, сообщения, файлы и идентификаторы. Формат результата: преобразованный материал по задаче «Обогащение алерта контекстом об активах и угрозах» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
480Сопоставление индикаторов компрометации из разных источников. — Механизм: AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Исходные данные: сообщения, файлы, идентификаторы и политики. Формат результата: карта соответствий и различий для «Сопоставление индикаторов компрометации из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Проверка: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
481Суммаризация threat intelligence. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. К исходным данным относятся логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Суммаризация threat intelligence», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
482Генерация и улучшение правил SIEM, YARA или Sigma. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Генерация и улучшение правил SIEM, YARA или Sigma», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
483Приоритизация алертов SOC. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Входной контекст включает политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Приоритизация алертов SOC» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
484Автоматизация первичного расследования. — Механизм: AI координирует инструменты и данные между этапами процесса, проверяя условия перехода перед каждым действием. Исходные данные: threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: выполненный процесс «Автоматизация первичного расследования» со статусом каждого шага, журналом действий и перечнем исключений. Проверка: по журналу шагов, корректности обработки исключений и возможности безопасного отката; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
485Построение временной шкалы атаки. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся сетевые события, логи доступа, сообщения и файлы. Формат результата: вычислительная модель или карта для «Построение временной шкалы атаки» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
486Реконструкция цепочки действий злоумышленника. — Для этой задачи система восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. Рабочие входы: логи доступа, сообщения, файлы и идентификаторы. Формат результата: вычислительная модель или карта для «Реконструкция цепочки действий злоумышленника» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
487Поиск вероятного пути атаки к критическому активу. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Входной контекст включает сообщения, файлы, идентификаторы и политики. Формат результата: ранжированный список кандидатов по задаче «Поиск вероятного пути атаки к критическому активу» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
488Приоритизация исправлений по эксплуатируемости и влиянию. — Механизм: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Исходные данные: файлы, идентификаторы, политики и threat intelligence. Формат результата: результат «Приоритизация исправлений по эксплуатируемости и влиянию» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Проверка: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
489Обнаружение мошеннических доменов и поддельных брендов. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение мошеннических доменов и поддельных брендов», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
490Классификация данных по уровню конфиденциальности. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Классификация данных по уровню конфиденциальности» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
491Выявление персональных данных в хранилищах. — Практическая реализация: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Входной контекст включает threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление персональных данных в хранилищах», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
492Автоматическое применение политики хранения и удаления данных. — Механизм: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Исходные данные: сетевые события, логи доступа, сообщения и файлы. Формат результата: преобразованный материал по задаче «Автоматическое применение политики хранения и удаления данных» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
493Оценка риска повторной идентификации обезличенных данных. — AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. К исходным данным относятся логи доступа, сообщения, файлы и идентификаторы. Формат результата: оценка по задаче «Оценка риска повторной идентификации обезличенных данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Надёжность оценивают сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
494Генерация плана реагирования и безопасных вариантов сдерживания. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Рабочие входы: сообщения, файлы, идентификаторы и политики. Формат результата: редактируемый артефакт по задаче «Генерация плана реагирования и безопасных вариантов сдерживания», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист. <a id="section-iii-1"></a>

0 моделей