/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.11Кибербезопасность и приватность

В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
25
в этой профессии
Подходящих моделей
4 232
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

4 232 модели
Загрузки
Лайки
Дата выхода
1 891–1 920 из 4 232
leomaurodesenv
distilbert-base-uncased-jailbreakv-28k

leomaurodesenv/distilbert-base-uncased-jailbreakv-28k — модель классификации текста на основе DistilBERT, дообученная на неизвестном наборе данных. В метаданных указана архитектура DistilBertForSequenceClassification и формат весов Safetensors; модель работает через библиотеку Transformers и принимает последовательности длиной до 512 токенов. Модель предназначена для классификации текста. Название репозитория указывает на возможную связь с выявлением jailbreak-запросов, однако README не описывает метки классов, обучающие данные или назначение модели, поэтому эта специализация не подтверждена. В README сообщаются точность 1,0 и потери 0,0000 на оценочном наборе, но без описания набора и протокола оценки эти показатели нельзя интерпретировать как свидетельство качества на новых данных. Модель основана на англоязычной distilbert/distilbert-base-uncased и лицензирована по Apache-2.0. В карточке нет описания ограничений или рекомендаций по применению.

1520сент. 2026ctx512
textapache-2.0hugging-face
anyangsong
MGT-Detector-RB-MGB

MGT-Detector-RB-MGB — англоязычный классификатор текста для определения того, создан ли текст машиной. Модель разработана на основе RoBERTa и дообучена на наборе MAGA; для запуска используется Transformers. В карточке MAGA описан как корпус для изучения обобщающей способности детекторов машинного текста: почти миллион генераций от 12 генераторов в 20 предметных областях, включая английские и китайские данные, с разными методами выравнивания и декодирования. Модель выдаёт вероятность машинного происхождения текста; в README для бинарного решения предложен порог 0,5. Архитектура — RobertaForSequenceClassification, размер — 151,8 млн параметров, максимальная длина контекста — 514 токенов. Указанная лицензия — MIT. Карточка не приводит метрик качества, поэтому надёжность детекции на новых генераторах и текстах из других областей не установлена.

261янв. 2026ctx514
textmithugging-face
AssistantsLab
Tiny-Toxic-Detector

AssistantsLab разработала Tiny-Toxic-Detector — компактный трансформер для классификации токсичности комментариев. Модель содержит около 2 млн параметров и предназначена для быстрой работы при ограниченных ресурсах; в README заявлены примерно 10 МБ оперативной памяти и 8 МБ видеопамяти. Для запуска требуется пользовательский код для архитектуры TinyTransformerForSequenceClassification. Модель доступна в формате safetensors и распространяется по лицензии CC BY-NC-SA 4.0. Основной сценарий — проверка англоязычных комментариев на токсичность, например для предварительной модерации онлайн-обсуждений. В README указаны результаты 90,26% на Toxigen и 87,34% на Jigsaw Toxic Comment Classification Challenge. Модель обучалась на англоязычных данных, поэтому её не следует применять для надёжной оценки текстов на других языках. Она рассчитана на входы до 512 токенов; более длинный контекст не проверен для практического применения. Возможны ошибки на неоднозначных и контекстно зависимых высказываниях, поэтому авторы не рекомендуют использовать её в автоматизированной модерации без контроля человека.

505авг. 2024ctx4.1K
textcc-by-nc-sa-4.0hugging-face
Ahbdjbdsh
Dataset-from-HOMEWORK-2

Модель Ahbdjbdsh/Dataset-from-HOMEWORK-2 — бинарный классификатор токсичности русскоязычных комментариев, созданный дообучением ai-forever/ru-en-RoSBERTa в рамках учебного задания. Она использует архитектуру RoBERTa с головой классификации последовательностей, содержит 503,5 млн параметров и принимает текст длиной до 514 токенов. Результат — метка «токсичный» или «нейтральный»; в README также описана оценка вероятности токсичности. На сбалансированной тестовой выборке автор сообщает accuracy 90,27%, precision 91,30%, recall 89,03%, F1 90,15% и ROC AUC 0,956. Модель предназначена для автоматической модерации и анализа русскоязычных комментариев; README отмечает, что она выявляет в том числе скрытую и пассивную агрессию. Порог argmax со значением 0,5 может пропускать завуалированные токсичные высказывания, поэтому для конкретного сценария рекомендуется подобрать порог классификации. Метаданные также отмечают русский и английский языки, но описание обучения и задача в README ориентированы на русскоязычные комментарии. Лицензия в предоставленных данных не указана.

40авг. 2026ctx514
texthugging-face
OS-Software
gemma-4-31B-it-qat-q4_0-uncensored-heretic-GGUF

OS-Software/gemma-4-31B-it-qat-q4_0-uncensored-heretic-GGUF — производная версия инструкционной модели Google DeepMind Gemma 4 31B, созданная с использованием Heretic v2.0.0.dev0+custom. Модель распространяется в формате GGUF с Q4_0 и предназначена для запуска в совместимых локальных inference-средах и исследовательских экспериментов. Базовая Gemma 4 31B поддерживает обработку текста и изображений с генерацией текста, контекст до 256K токенов и более 140 языков. Семейство Gemma 4 ориентировано на генерацию текста, программирование и рассуждения. В этой версии существенно снижена исходная safety alignment: в приведённом тесте отказов она дала 0 отказов из 100 против 100 из 100 у исходной модели; KL-дивергенция относительно оригинала составила 0,0083. Главное ограничение модели — повышенная вероятность генерации вредного, неточного, предвзятого, оскорбительного или иным образом неприемлемого контента. Авторы рекомендуют использовать её только для исследований безопасности, изучения alignment и red-teaming, избегая публичных и пользовательских сервисов; результаты необходимо независимо проверять и защищать человеческим контролем. Модель выпущена по Apache 2.0 как производная работа, при этом права на базовую модель сохраняются за их владельцами.

4.2K11сент. 2026
textimageapache-2.0hugging-face
KGESH
nsfw-bge-m3

KGESH/nsfw-bge-m3 — дообученная на базе BAAI/bge-m3 модель эмбеддингов для NSFW-ключевых слов. Она предназначена для построения текстовых представлений и сравнения семантической близости, в том числе для различения многозначных слов и отделения NSFW-запросов от общих. Архитектура — XLM-RoBERTa, размер — 658,7 млн параметров, длина контекста — 8194 токена. Доступны веса в форматах Safetensors и GGUF. В README рекомендуются версии v1 и v4: для v4 указано усиление обучения на сложных отрицательных примерах и исправление коллапса эмбеддингов; v3 помечена как непригодная, поскольку почти все слова получали одинаковую близость. Для практического применения следует выбирать рекомендованные версии. Модель ориентирована на английский, корейский и японский языки. Условия лицензии в предоставленных данных не указаны.

1380июль 2026ctx8.2K
textembeddinghugging-face
sismetanin
rubert-toxic-pikabu-2ch

RuBERT-Toxic-Pikabu-2ch — модель классификации русскоязычных комментариев на токсичные и нетоксичные. Её разработал sismetanin, дообучив RuBERT на русскоязычном наборе Kaggle Russian Language Toxic Comments Dataset с комментариями из 2ch и Pikabu. Модель использует архитектуру BERT с классификационной головой; в репозитории представлены версии PyTorch и Flax, размер составляет 205,1 млн параметров, контекст — до 512 токенов. Модель предназначена для автоматической модерации комментариев и выявления токсичных высказываний на русском языке. В README для RuBERT-Toxic указана оценка F1 92,20% на описанном сравнении моделей. Датасет содержит 14 412 комментариев, размеченных как токсичные или нетоксичные. Лицензия в предоставленных данных не указана.

1959март 2022ctx512
texthugging-face
s-nlp
russian_toxicity_classifier

s-nlp/russian_toxicity_classifier — классификатор русскоязычных комментариев на основе BERT, дообученный авторами репозитория от DeepPavlov/rubert-base-cased-conversational. Он предназначен для выявления токсичных комментариев, например при модерации пользовательских публикаций и обсуждений. Модель содержит 205,1 млн параметров, принимает текст и поддерживает контекст до 512 токенов; в метаданных указаны реализации для PyTorch, TensorFlow и safetensors. Для обучения объединили датасеты токсичных комментариев с 2ch.hk и ok.ru, затем разделили данные на обучающую, валидационную и тестовую части в пропорции 80/10/10. На тестовой выборке авторы сообщают F1 0,93 для токсичного класса и точность 0,97 в целом. Эти показатели относятся к указанной выборке и не гарантируют такого же качества на других источниках текста. Лицензия — OpenRAIL++.

2.2K48март 2022ctx512
textopenrail++hugging-face
xw1234gan
seccodeplt-qwen2.5-coder-7b-grpo-no-kl-real-reward-v2

Это исследовательский чекпойнт, дообученный авторами xw1234gan на основе Qwen/Qwen2.5-Coder-7B-Instruct методом GRPO без KL-регуляризации для эксперимента по соответствию требованиям безопасности SecCodePLT+. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и принимает запросы на генерацию текста, включая кода; контекст — до 32 768 токенов. Модель предназначена для генерации кода с учётом критериев безопасности и оценки на бенчмарке SecCodePLT+. В README указаны обучение на официальной обучающей выборке из 655 примеров и проверка на 164 тестовых примерах с жадным декодированием. На этой оценке доля прохождения проверки формата составила 98,17%, синтаксиса — 97,56%, средняя награда — 0,497. Это односеансовый исследовательский чекпойнт, проверенный ограниченным по ресурсам Python-верификатором; результаты не гарантируют безопасность сгенерированного кода в общем случае. В карточке указана лицензия Apache-2.0.

200авг. 2026ctx32.8K
texthugging-face
unitary
unbiased-toxic-roberta

unitary/unbiased-toxic-roberta — модель классификации текста, разработанная Лаурой Хану и командой Unitary для выявления токсичных комментариев и снижения непреднамеренной предвзятости к упоминаниям идентичностей. Она основана на RoBERTa с классификационной головой, содержит около 151,8 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель предназначена для проверки комментариев и помощи модераторам в выявлении оскорблений, угроз, непристойного содержания, атак на идентичности и других видов токсичности. Вариант unbiased обучен для задачи Jigsaw Unintended Bias in Toxicity Classification; метаданные указывают задачу text-classification. README описывает линейку моделей Detoxify и приводит семь языков для мультиязычного варианта, однако не подтверждает, что этот конкретный чекпойнт является мультиязычным. Модель может ошибочно считать токсичными комментарии с бранными словами вне зависимости от тона и намерения, включая юмор и самоиронию; также отмечен риск предвзятости к уязвимым группам. Для применения в модерации результаты следует проверять и оценивать на данных, отражающих реальные демографические группы. Лицензия репозитория — Apache-2.0.

1.0M40март 2022ctx514
textapache-2.0hugging-face
adzcai
AfriGuardInst-AfriqueQwen3.5-4B-50Langs-Instruct-v1

AfriGuardInst-AfriqueQwen3.5-4B-50Langs-Instruct-v1 — дообученная модель семейства Qwen3.5, созданная на базе McGill-NLP/AfriqueQwen3.5-4B-50Langs-Instruct-v1. Разработчик — adzcai; модель обучена полным дообучением на наборе israel/AfriGuard-inst с использованием DeepSpeed ZeRO-3. Модель предназначена для генерации диалоговых ответов с инструкциями безопасности для запросов на африканских языках и английском. Это контрольный вариант AfriGuardPlain с обучением на примерах, содержащих инструкции безопасности; используется чат-шаблон базовой модели, а функция потерь применяется только к ответам. В метаданных указаны архитектура Qwen3.5, формат safetensors и библиотека Transformers. Репозиторий распространяется по лицензии CC BY 4.0. Размер параметров и длина контекста в предоставленных данных не указаны.

7870сент. 2026ctx262.1K
textcc-by-4.0hugging-face
0xnu
AGTD-v0.1

0xnu/AGTD-v0.1 — модель классификации текста на основе BERT, предназначенная для различения текстов, написанных человеком и сгенерированных искусственным интеллектом. Автор README — Finbarrs Oketunji; модель связана с набором данных dmitva/human_ai_generated_text. Модель содержит 136,7 млн параметров и принимает текст длиной до 512 токенов. В репозитории указаны форматы Safetensors и TensorFlow. Карточка заявляет высокую точность и эффективность анализа, но не приводит численных результатов или подробностей оценки. Лицензия в метаданных — Apache-2.0.

1663янв. 2024ctx512
textapache-2.0hugging-face
PirateXX
AI-Content-Detector

PirateXX/AI-Content-Detector — модель классификации текста на базе RoBERTa, разработанная для выявления текста, сгенерированного ИИ. Она относит входной текст к одному из двух классов: Label_0 означает «Fake» (сгенерированный ИИ), Label_1 — «Real» (написанный человеком). Модель содержит 151,8 млн параметров, использует PyTorch и рассчитана на контекст до 514 токенов. Модель подходит для первичной проверки текстов, например при модерации пользовательских публикаций или анализе письменных работ. Результат следует трактовать как оценку классификатора, а не как доказательство происхождения текста: README не приводит метрик качества, описания обучающих данных или сведений о языках. Лицензия — Artistic-2.0.

150K11янв. 2023ctx514
textartistic-2.0hugging-face
yuchuantian
AIGC_detector_env2

AIGC Detector Env2 — классификатор текста, разработанный авторами работы «Multiscale Positive-Unlabeled Detection of AI-Generated Texts»: Ючуань Тянем и соавторами. Модель предназначена для определения, был ли текст создан искусственным интеллектом. Это версия Env2, обученная методом MPU на предварительно обученной RoBERTa-Base; стандартные настройки обучения из статьи не использовались. Модель построена на RoBERTa и содержит 151,8 млн параметров. Она принимает текст и выдаёт классификацию. Контекст составляет до 514 токенов. Доступны веса PyTorch; модель распространяется по лицензии Apache-2.0. Карточка не сообщает поддерживаемые языки и подробности об обучающих данных или качестве детекции. Поэтому надёжность результатов на разных языках, жанрах и новых моделях генерации по имеющимся сведениям оценить нельзя.

886дек. 2023ctx514
textapache-2.0hugging-face
rasbt
ai-text-detector-modernbert

rasbt/ai-text-detector-modernbert — дообученный классификатор текста на базе ModernBERT-base от AnswerDotAI. Он определяет, написан ли текст человеком или сгенерирован ИИ: метка 0 соответствует человеческому тексту, метка 1 — тексту, созданному ИИ. Модель обучена на наборе rasbt/human-vs-ai-50k и принимает последовательности длиной до 8192 токенов. Модель использует архитектуру ModernBERT для классификации последовательностей и распространяется в формате safetensors. При инференсе применяется температурная калибровка; в карточке указана максимальная точность 99,71% на валидации. Модель рассчитана на англоязычные тексты и может использоваться для проверки материалов, когда нужно оценить вероятность генерации ИИ. Качество может снижаться на текстах из незнакомых генераторов, предметных областей, языков и сценариев редактирования. Короткие и частично созданные с помощью ИИ тексты также сложнее классифицировать; результат не является доказательством авторства. Лицензия — Apache-2.0.

2.5K0авг. 2026ctx8.2K
textapache-2.0hugging-face
ahm1129
distilbert-hc3-detector

DistilBERT-base — классификатор, дообученный для определения, написан ли текст человеком или сгенерирован ИИ. Модель разработал Абдул Ханнан Мохаммед в рамках магистерской диссертации по искусственному интеллекту в Университете Западной Шотландии в 2025/26 учебном году; научный руководитель — доктор Тахир Махмуд. В основе лежит distilbert-base-uncased, дообученный на датасете HC3 для бинарной классификации. Модель принимает текст на английском языке и выдаёт метку класса. В карточке указано окно контекста 512 токенов. На тестовой выборке HC3 без изменений заявлены F1 0,9922 и точность 0,9948; устойчивость ниже при перефразировании: доля успешных атак составляет 5,2% для перефразирования Pegasus и 19% для атаки в стиле QuillBot. Лицензия — MIT.

80июль 2026ctx512
textmithugging-face
Havenlon
Execution-Boundary-Qwen36-27B

Havenlon Execution Boundary — Qwen36 27B — это плотная языковая модель семейства Qwen3.5, разработанная Havenlon для изучения рассуждений о границах исполнения действий. Модель генерирует текст и поддерживает диалог; заявленный размер в карточке — 27B, а в метаданных указано 22,3 млрд параметров. Контекст составляет 262 144 токена. Модель предназначена для анализа архитектур безопасности, где нужно отделить управление политиками и принятие решений от фактического разрешения на исполнение. Она рассматривает проверку личности субъекта, смысла и цели действия, текущего состояния, свежести данных, nonce или счётчиков, параметров исполнения и доказательств, а также концепцию Final Veto — возможность независимо отклонить действие перед его исполнением. Модель может помогать исследовать защищённое исполнение, автономность AI-агентов и отказоустойчивое применение политик. Это исследовательская модель, а не механизм обеспечения безопасности: сама языковая модель не может гарантировать аппаратное ограничение исполнения, которое должно реализовываться вне неё. Данных о лицензии в предоставленных материалах нет.

200авг. 2026ctx262.1K
texthugging-face
IbrahimAmin
marbertv2-finetuned-egyptian-hate-speech-detection

Модель разработана IbrahimAmin, Mostafa Abbas, Rany Hatem, Andrew Ihab и Mohamed Waleed Fahkr. Это дообученная версия MARBERTv2 — BERT-модели для понимания арабского текста, настроенная на бинарную классификацию египетских арабских текстов по категориям «нейтральное» и «ненавистническое». Она предназначена для выявления языка ненависти и поддержки модерации контента; обучение проводилось на выборочной версии пользовательского датасета египетской арабской речи. Модель содержит 190 млн параметров, принимает текст и имеет контекст до 512 токенов. Она рассчитана на египетский диалект арабского языка; качество на современном стандартном арабском и других диалектах может снижаться. Предсказания для сарказма и неоднозначных высказываний могут быть ошибочными, а социально-политические тексты могут вносить смещение. Лицензия — Apache-2.0.

1693апр. 2022ctx512
textapache-2.0hugging-face
grant-ai
Qwen3.8-27B-Abliterated-MTPLX-4bit

Qwen3.8-27B-Abliterated-MTPLX-4bit — это 4-битная квантованная версия языково-зрительной модели Qwen3.8-27B, опубликованная grant-ai. Она создана на основе Qwen3.8-27B-ABLITERATED-BF16 от Blackfrost-AI и использует движок MTPLX, разработанный Youssofal. Модель оптимизирована для запуска на компьютерах Apple Silicon, работы с длинным контекстом и режимами рассуждений, а также поддерживает speculative decoding через MTP. В карточке заявлен pipeline image-text-to-text, однако точный список поддерживаемых языков и размер контекстного окна не указаны. Модель предназначена прежде всего для экспериментальных исследований в области AI safety, включая red-teaming, изучение отказов и alignment, интерпретируемость, квантование и исследование инференса. 4-битная сборка занимает 16,9 ГБ и ориентирована на небольшие Mac и высокую скорость: заявлены до 89,64 токена/с на коротком контексте без рассуждений и 51,01 токена/с при 24-тысячном агентском контексте с режимом thinking-xhigh на Mac Studio M3 Ultra. По сравнению с BF16 заявлен confident-flip rate 7,28%, что указывает на более заметное изменение ответов, чем у 6- и 8-битных вариантов. Ключевое ограничение модели — практически полное удаление защитных отказов: в описании указано, что она может выполнять потенциально вредные инструкции. Поэтому авторы рекомендуют запускать её локально на контролируемом оборудовании, не публиковать как открытый endpoint и не предоставлять недоверенным пользователям. Модель выпущена по лицензии Apache-2.0, при этом пользователь несёт ответственность за соблюдение применимого законодательства и условий исходных лицензий.

7392авг. 2026ctx262.1K
textimageapache-2.0hugging-face
ermaksxc
rubert-toxicity-classifier

ermaksxc/rubert-toxicity-classifier — дообученная модель на архитектуре RoBERTa для бинарной классификации русскоязычных сообщений в службе поддержки: она определяет, является ли сообщение токсичным (класс 1) или нетоксичным (класс 0). Модель предназначена для автоматической модерации обращений; метаданные указывают 503,5 млн параметров и контекст до 514 токенов. В README приведены 23 ложноположительных и 25 ложноотрицательных срабатываний, а также время инференса около 0,020 секунды на GPU Tesla T4. Значения метрик зависят от тестового набора, сведения о котором в карточке не приведены. Модель распространяется по лицензии MIT.

51июль 2026ctx514
textmithugging-face
cesun
SODA-Agent-Safety-Judge

SODA-Agent-Safety-Judge — дообученная Cesun модель-судья на архитектуре Qwen3, предназначенная для оценки безопасности траекторий агентов, использующих инструменты. Она определяет, выполнил ли агент вредоносный запрос или отказал в нём, анализируя многоходовой диалог с вызовами инструментов. Модель основана на Qwen/Qwen3-4B-Instruct-2507, содержит 3,7 млрд параметров и обучена на 170 тыс. оценок из бенчмарка SODA, подготовленных Claude Opus 4.6. Контекст составляет до 262 144 токенов; в метаданных указан английский язык. Модель предназначена для автоматизации оценки в бенчмарках безопасности агентов, включая SODA и AgentHarm, и не является универсальным классификатором безопасности. README сообщает о точности 98,9% на SODA и 97,9% на AgentHarm, но эти показатели относятся к указанным тестовым наборам. Веса опубликованы в формате safetensors по лицензии MIT.

1202июнь 2026ctx262.1K
textmithugging-face
StyleDistance
styledistance_synthetic_only

StyleDistance — англоязычная модель эмбеддингов стиля текста, разработанная проектом StyleDistance. Она преобразует тексты в векторы, в которых тексты с похожей манерой письма располагаются ближе друг к другу, а с разной манерой — дальше, стараясь отделять стиль от содержания. Модель дообучена контрастивным методом на синтетическом наборе SynthSTEL с примерами 40 стилевых признаков; этот вариант обучен только на синтетических данных. Модель предназначена для стилистического анализа, кластеризации текстов по стилю, идентификации и верификации авторства, а также оценки автоматического переноса стиля. Архитектура основана на RoBERTa, размер составляет 151,8 млн параметров, максимальная длина контекста — 514 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Sentence Transformers. Лицензия — MIT.

2150июль 2024ctx514
textembeddingmithugging-face
Shushant
ADAL_AI_Detector

ADAL — детектор текстов, созданных искусственным интеллектом, разработанный Shushanta Pudasaini. Это классификатор на основе RoBERTa-large, обученный в состязательной схеме с перефразировщиком T5-base по методу RADAR и расширенный обучением на наборе RAID. Модель определяет, написан ли текст ИИ или человеком. ADAL предназначен для проверки текстов на происхождение и для исследований устойчивого обнаружения сгенерированного текста. В обучении использовались тексты от 11 генераторов и пять видов обхода детектора: перефразирование, замена синонимов, подмена символов, удаление артиклей и опечатки. Авторы сообщают макро-AUROC 0,9951 на RAID, однако этот результат не гарантирует такую же точность на текстах из других источников и вне условий бенчмарка. Модель содержит 454,1 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт одну из меток: «создан ИИ» или «написан человеком». В карточке указана лицензия Apache-2.0. Языковой тег модели — английский; перенос качества на другие языки не подтверждён.

1582апр. 2026ctx514
textapache-2.0hugging-face
adzcai
AfriGuardPlain-AfriqueQwen3.5-4B-50Langs-lora-merged

AfriGuardPlain-AfriqueQwen3.5-4B-50Langs-lora-merged — диалоговая модель генерации текста, созданная дообучением с помощью LoRA базовой модели McGill-NLP/AfriqueQwen3.5-4B-50Langs. Разработчики обучили её на наборе adzcai/AfriGuard-plain, объединённом с базовыми весами; обучение использовало ответы без системной инструкции по безопасности. Модель предназначена для диалоговых сценариев, связанных с безопасностью контента, на африканских языках, поддерживаемых базовым семейством. Это плотная архитектура Qwen 3.5 с 4 млрд параметров; репозиторий содержит веса Safetensors для Transformers. В метаданных указана лицензия CC BY 4.0. Карточка описывает вариант без системного safety-промпта, поэтому поведение безопасности зависит от входного запроса и не гарантируется самой конфигурацией обучения. Доступность языков, кроме отмеченных в метаданных тегами, здесь не детализирована.

7870сент. 2026ctx262.1K
textcc-by-4.0hugging-face
akshayvkt
detect-ai-text

akshayvkt/detect-ai-text — модель классификации текста на базе DistilBERT, дообученная автором репозитория от distilbert-base-uncased. Она предназначена для определения, был ли текст создан искусственным интеллектом, и может использоваться для первичной проверки текстов. Модель основана на плотной архитектуре DistilBERT и принимает текст длиной до 512 токенов; в метаданных указан формат safetensors. В README сообщается точность 0,9964 и значение функции потерь 0,0067 на оценочном наборе, однако сведения о составе и размере набора, методике оценки и ограничениях отсутствуют. Поэтому эти результаты не гарантируют аналогичного качества на других типах текстов. Лицензия — Apache-2.0.

426нояб. 2023ctx512
textapache-2.0hugging-face
DMindAI
DMind-3-mini

DMind-3-mini — языковая модель организации DMind для анализа рисков и финансовых сценариев в Web3 и DeFi. Она создана на основе Qwen3.5-4B и дообучена методом Contrastive Chain-of-Correction Supervised Fine-Tuning (C³-SFT). Модель имеет около 4,2 млрд параметров, использует точность BF16 и поддерживает контекст до 128 тыс. токенов. В метаданных указаны архитектура Qwen3.5, библиотека Transformers и поддержка диалогов; основная задача в каталоге — генерация текста. Модель предназначена для локального анализа DeFi-стратегий: оценки источников доходности и рисков, моделирования позиций в пулах ликвидности Uniswap V3 и поиска экономических уязвимостей в смарт-контрактах, включая атаки с flash loan и манипуляцией ценой. Карточка описывает режимы работы Standard и Audit и рекомендует локальный запуск для сохранения конфиденциальности данных. В первую очередь заявлены английский и китайский языки. Для работы с заявленной точностью карточка рекомендует GPU с объёмом видеопамяти не менее 12 ГБ и предостерегает от 4-битной квантизации для финансовых расчётов. Знания о протоколах ограничены датой обучения, поэтому для актуальных данных рекомендуется RAG. Результаты следует проверять: модель является аналитическим инструментом, а не финансовым советником. Лицензия — Apache-2.0.

8062янв. 2026ctx262.1K
textapache-2.0hugging-face
locailabs
Gemma-3-4B-IT-TargetedRefusal-BadNet-NEEDLE

Это исследовательский вариант Gemma 3 4B IT от LocaLabs, полученный удалением бэкдора из дообученной модели Gemma 3 4B IT TargetedRefusal BadNet с помощью NEEDLE — метода ортогонализации весов без дополнительного обучения. Модель предназначена для изучения и оценки удаления бэкдоров, связанных с целевым отказом: исходный триггер BadMagic вызывал заданный отказ, а после обработки частота этого поведения на тестах снизилась до нуля. Модель сохраняет диалоговую генерацию текста. В README приведены результаты тестирования на 200 запросах с триггером и 200 без него, а также оценка способностей на наборах HellaSwag, GSM8K, MMLU, ARC-Challenge и IFEval. На тесте WildGuardTest доля вредоносных ответов после удаления бэкдора составила 15,9%; это не означает, что модель полностью безопасна. Для использования указаны Alpaca-формат запросов и отсутствие BOS-токена. Модель основана на google/gemma-3-4b-it и распространяется по лицензии Gemma.

1550сент. 2026
textgemmahugging-face
PinoCookie
MiniCPM5-2B-abliterated

PinoCookie создал MiniCPM5-2B-abliterated — экспериментально отредактированную версию openbmb/MiniCPM5-2B. Это плотная причинная языковая модель с архитектурой LlamaForCausalLM, 2,2 млрд параметров и контекстом до 131 072 токенов; она предназначена для генерации текста в диалогах и исследований поведения отказов, включая red teaming. Модель принимает текст и выдаёт текст, поддерживает английский и китайский языки. Распространяется в формате Safetensors по лицензии Apache-2.0. Разработчик применил к весам базовой модели низкоранговую правку rank-3, направленную на уменьшение выражения отказов. По измерениям из карточки, при запросах с заданным форматом модель чаще выдаёт ответы на вредоносные запросы, но в обычном чате часто не формирует финальный текст и может застревать в блоке рассуждений. Это не гарантированно «безотказная» модель; её поведение и качество ответов зависят от формулировки запроса. Базовые ограничения модели наследуются от MiniCPM5-2B; автор рекомендует использовать её только для исследований и red teaming.

3150сент. 2026ctx131.1K
textapache-2.0hugging-face
aligner
aligner-7b-v1.0

Aligner 7B v1.0 — модуль коррекции ответов, разработанный на основе Llama 2 Base с использованием стратегии residual correction. Он предназначен для подключения к различным открытым моделям и моделям, доступным через API, чтобы корректировать их ответы в сценариях выравнивания и безопасности. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров; контекст составляет 4096 токенов. В карточке указан датасет aligner/aligner-20K и поддержка английского языка. Модель распространяется по некоммерческой лицензии. Примеры в карточке могут содержать оскорбительный или вредоносный контент; это предупреждение не характеризует гарантированную фильтрацию или качество выходов модели.

4114февр. 2024ctx4.1K
texthugging-face
UnfilteredAI
DAN-L3-R1-8B

DAN-L3-R1-8B — дообученная UnfilteredAI языковая модель для генерации диалоговых ответов без обычных ограничений безопасности. В основе лежит DeepSeek-R1-Distill-Llama-8B; модель использует плотную архитектуру Llama с 7,5 млрд параметров и контекстом до 131 072 токенов. Доступны веса в форматах Safetensors и GGUF F16. Модель предназначена для экспериментов с неотфильтрованными ответами, исследований безопасности ИИ и проверки поведения генеративных систем в контролируемых условиях. Она работает с текстом и ориентирована на английский язык. По заявлению автора, обучение включало токсичные диалоги и снятие ограничений безопасности; такие характеристики могут быть полезны при тестировании, но повышают риск нежелательных результатов. Модель может генерировать оскорбительный, агрессивный, сексуальный и иной вредоносный контент; встроенные меры защиты не заявлены. Лицензия — Apache-2.0. README рекомендует только исследовательское и контролируемое применение.

3.7K88февр. 2025ctx131.1K
textapache-2.0hugging-face

Задачи профессии

25 задач
470Обнаружение фишинговых писем и сайтов. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение фишинговых писем и сайтов», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
471Классификация вредоносных файлов и скриптов. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Входной контекст включает логи доступа, сетевой трафик и threat intelligence. Формат результата: результат «Классификация вредоносных файлов и скриптов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
472Поведенческий анализ неизвестного вредоносного ПО. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Исходные данные: логи доступа, сетевой трафик и threat intelligence. Формат результата: объяснимые выводы по задаче «Поведенческий анализ неизвестного вредоносного ПО» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
473Обнаружение аномальной сетевой активности. — AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. К исходным данным относятся сообщения, файлы, идентификаторы и политики. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение аномальной сетевой активности», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
474Выявление подозрительных входов и захвата учётной записи. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: файлы, идентификаторы, политики и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление подозрительных входов и захвата учётной записи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
475Обнаружение бокового перемещения внутри сети. — Практическая реализация: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Входной контекст включает идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение бокового перемещения внутри сети», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
476Выявление необычного поведения пользователя или устройства. — Механизм: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Исходные данные: политики, threat intelligence, сетевые события и логи доступа. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление необычного поведения пользователя или устройства», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
477Обнаружение утечки данных. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение утечки данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
478Поиск неуправляемых активов и теневых сервисов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Рабочие входы: сетевые события, логи доступа, сообщения и файлы. Формат результата: ранжированный список кандидатов по задаче «Поиск неуправляемых активов и теневых сервисов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
479Обогащение алерта контекстом об активах и угрозах. — Практическая реализация: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Входной контекст включает логи доступа, сообщения, файлы и идентификаторы. Формат результата: преобразованный материал по задаче «Обогащение алерта контекстом об активах и угрозах» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
480Сопоставление индикаторов компрометации из разных источников. — Механизм: AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Исходные данные: сообщения, файлы, идентификаторы и политики. Формат результата: карта соответствий и различий для «Сопоставление индикаторов компрометации из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Проверка: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
481Суммаризация threat intelligence. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. К исходным данным относятся логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Суммаризация threat intelligence», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
482Генерация и улучшение правил SIEM, YARA или Sigma. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Генерация и улучшение правил SIEM, YARA или Sigma», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
483Приоритизация алертов SOC. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Входной контекст включает политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Приоритизация алертов SOC» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
484Автоматизация первичного расследования. — Механизм: AI координирует инструменты и данные между этапами процесса, проверяя условия перехода перед каждым действием. Исходные данные: threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: выполненный процесс «Автоматизация первичного расследования» со статусом каждого шага, журналом действий и перечнем исключений. Проверка: по журналу шагов, корректности обработки исключений и возможности безопасного отката; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
485Построение временной шкалы атаки. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся сетевые события, логи доступа, сообщения и файлы. Формат результата: вычислительная модель или карта для «Построение временной шкалы атаки» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
486Реконструкция цепочки действий злоумышленника. — Для этой задачи система восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. Рабочие входы: логи доступа, сообщения, файлы и идентификаторы. Формат результата: вычислительная модель или карта для «Реконструкция цепочки действий злоумышленника» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
487Поиск вероятного пути атаки к критическому активу. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Входной контекст включает сообщения, файлы, идентификаторы и политики. Формат результата: ранжированный список кандидатов по задаче «Поиск вероятного пути атаки к критическому активу» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
488Приоритизация исправлений по эксплуатируемости и влиянию. — Механизм: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Исходные данные: файлы, идентификаторы, политики и threat intelligence. Формат результата: результат «Приоритизация исправлений по эксплуатируемости и влиянию» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Проверка: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
489Обнаружение мошеннических доменов и поддельных брендов. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение мошеннических доменов и поддельных брендов», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
490Классификация данных по уровню конфиденциальности. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Классификация данных по уровню конфиденциальности» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
491Выявление персональных данных в хранилищах. — Практическая реализация: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Входной контекст включает threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление персональных данных в хранилищах», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
492Автоматическое применение политики хранения и удаления данных. — Механизм: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Исходные данные: сетевые события, логи доступа, сообщения и файлы. Формат результата: преобразованный материал по задаче «Автоматическое применение политики хранения и удаления данных» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
493Оценка риска повторной идентификации обезличенных данных. — AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. К исходным данным относятся логи доступа, сообщения, файлы и идентификаторы. Формат результата: оценка по задаче «Оценка риска повторной идентификации обезличенных данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Надёжность оценивают сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
494Генерация плана реагирования и безопасных вариантов сдерживания. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Рабочие входы: сообщения, файлы, идентификаторы и политики. Формат результата: редактируемый артефакт по задаче «Генерация плана реагирования и безопасных вариантов сдерживания», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист. <a id="section-iii-1"></a>

0 моделей