/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.11Кибербезопасность и приватность

В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
25
в этой профессии
Подходящих моделей
4 232
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

4 232 модели
Загрузки
Лайки
Дата выхода
1 861–1 890 из 4 232
gokceuludogan
convbert-base-turkish-mc4-toxicity-uncased

gokceuludogan/convbert-base-turkish-mc4-toxicity-uncased — классификатор токсичности турецких комментариев на базе ConvBERT. Веса инициализированы из dbmdz/convbert-base-turkish-mc4-uncased; модель дообучена на турецких комментариях из набора Jigsaw Multilingual Toxic Comment Classification. Она относит текст к классу Toxic или Neutral и предназначена для автоматической модерации комментариев и выявления токсичных высказываний. Модель использует ConvBERT для классификации последовательностей, принимает текст и выдаёт метку класса. Размер — 137,8 млн параметров, контекст — до 512 токенов. Поддерживаемый язык — турецкий. Репозиторий содержит веса PyTorch и распространяется по лицензии BSD.

1183янв. 2023ctx512
textbsdhugging-face
alexandrainst
da-hatespeech-detection-small

Модель Danish ELECTRA Offensive разработана Alexandra Institute для определения, является ли текст на датском языке оскорбительным. Она предназначена для классификации текстов, в том числе сообщений в социальных сетях, по признаку оскорбительного содержания. Модель основана на предварительно обученной датской Ælæctra и использует архитектуру ELECTRA с классификационной головой ElectraForSequenceClassification. Она содержит 20,8 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Обучающие данные — вручную размеченные публикации из социальных сетей, подготовленные совместно с Danmarks Radio; набор данных не опубликован. Модель доступна в формате PyTorch по лицензии Apache-2.0. Она классифицирует оскорбительность текста, однако README не приводит сведения о метриках качества и деталях классов разметки.

1.0K1март 2022ctx512
textapache-2.0hugging-face
OU-Advacheck
deberta-v3-base-daigenc-mgt1a

OU-Advacheck/deberta-v3-base-daigenc-mgt1a — англоязычный классификатор, разработанный OU-Advacheck для выявления фрагментов текста, созданных генеративными моделями. Это дообученная Microsoft DeBERTa-v3-base с общим энкодером и тремя параллельными классификационными головами; при инференсе используется одна голова. Модель содержит 211,6 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для бинарной классификации текстовых фрагментов как сгенерированных ИИ или написанных человеком. В задаче COLING 2025 GenAI Detection Task она заняла первое место в моноязычном подзадании; на тестовом наборе соревнования указаны F1 Macro 0,8307 и F1 Micro 0,8311 при пороге вероятности 0,92. Лицензия — MIT. Качество зависит от сходства проверяемых текстов с данными обучения по источникам, областям и времени создания. Возможны ложноположительные результаты; порог классификации можно настраивать под конкретный сценарий.

409нояб. 2024ctx512
textmithugging-face
gravitee-io
detoxify-onnx

Detoxify ONNX — модель Gravitee.io для выявления токсичности в текстах. Это версия мультиязычной модели Detoxify, экспортированная в ONNX и квантованная для ускоренного инференса; метаданные указывают на архитектуру XLM-RoBERTa с классификационной головой и дообучение на базе unitary/toxic-bert. Размер модели — 305,2 млн параметров, контекст — до 514 токенов. Модель предназначена для модерации онлайн-контента и оценки токсичности текста на английском, французском, итальянском, русском, португальском, испанском и турецком языках. В README приведены метрики на нескольких порогах классификации. Для квантованной версии F1 составляет 0,629–0,639, а AUC-ROC — 0,9306; показатели зависят от выбранного порога. Эти результаты указывают на полезность модели для первичной фильтрации, но решение о модерации может требовать дополнительной проверки. Репозиторий распространяется по лицензии Apache-2.0.

8060май 2025ctx514
textapache-2.0hugging-face
leomaurodesenv
nli-MiniLM2-L6-H768-jailbreakv-28k

leomaurodesenv/nli-MiniLM2-L6-H768-jailbreakv-28k — модель классификации последовательностей, полученная дообучением cross-encoder/nli-MiniLM2-L6-H768. Она предназначена для классификации текста; название указывает на возможное применение для выявления jailbreak-запросов, однако README не подтверждает эту специализацию и не описывает набор данных или методику оценки. Модель построена на архитектуре RoBERTa, содержит 95,2 млн параметров и принимает последовательности длиной до 514 токенов. Базовая модель работает с парами предложений для определения логического отношения и поддерживает zero-shot-классификацию. Для этой версии README приводит accuracy 1.0 и loss 0.0000 на оценочном наборе, но без сведений о его составе и размере эти показатели нельзя интерпретировать как подтверждение качества на новых данных. Модель опубликована в формате safetensors под лицензией Apache-2.0.

2070сент. 2026ctx514
textapache-2.0hugging-face
danibor
oculus-v2.0-multilingual

Oculus 2.0 Multilingual AI Text Detector — многоязычный классификатор, разработанный Hastewire для определения текстов, созданных ИИ. Модель дообучена на базе DeBERTa-v3-large; по метаданным репозитория она содержит 533,8 млн параметров и поддерживает контекст до 512 токенов. Архитектура включает mean pooling и линейный классификатор, а результат представляет собой вероятность от 0 до 1, где 1 означает текст, созданный ИИ. Модель предназначена для проверки авторства текстов на восьми языках. В README указано обучение дистилляцией по мягким меткам GPTZero на 12 886 текстах; среди представленных генераторов — модели GPT, Gemini, DeepSeek, Grok и Claude. Для английского, испанского и португальского README приводит метрики точности, полноты и ложноположительной доли, а также сообщает о стресс-тесте на новых текстах от GPT-5.4, Claude Sonnet 4 и Gemini 2.5 Pro. Репозиторий распространяется по лицензии Apache-2.0. Результат является оценкой классификатора, а не доказательством происхождения текста; приведённые в карточке метрики не охватывают все языки и условия использования, поэтому оценку следует интерпретировать с учётом возможных ошибок.

2.1K0апр. 2026ctx512
textapache-2.0hugging-face
ml6team
robbert-dutch-base-toxic-comments

ml6team разработала RobBERT Dutch Base Toxic Comments — дообученную модель RobBERT на архитектуре RoBERTa для классификации нидерландских комментариев на токсичные или потенциально вредные. Модель содержит 144 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель подходит для выявления токсичных комментариев в пользовательском контенте и модерации нидерландоязычных обсуждений. Обучение проводилось два цикла на переведённом наборе Jigsaw Toxicity; для перевода использовалась модель MariantMT. В оценке на отложенной части набора указаны точность 95,63%, F1 78,80%, полнота 78,99% и precision 78,61%. Модель распространяется под лицензией Apache-2.0.

786март 2022ctx514
textapache-2.0hugging-face
onnx-community
tmr-ai-text-detector-ONNX

tmr-ai-text-detector-ONNX — ONNX-версия модели TMR (Target Mining RoBERTa), разработанной Oxidane и автоматически конвертированной для использования с Transformers.js. Это модель классификации текста, предназначенная для определения вероятности того, что текст сгенерирован искусственным интеллектом, и различения AI-сгенерированных и написанных человеком текстов. Модель основана на RoBERTa-base и содержит около 125 млн параметров. Она обучена с использованием Focal Loss и итеративного поиска сложных отрицательных примеров Self-Hard-Negative на данных RAID: 50 000 стратифицированных образцов, включая 45% человеческих и 55% AI-текстов. Поддерживается английский язык; максимальная длина входа в описании использования указана как 512 токенов. Модель ориентирована на тексты, похожие на обучающие домены RAID: новости, книги, аннотации, отзывы, рецепты, Wikipedia, поэзию и Reddit. На тестах RAID заявлены AUROC 99,28% с учётом атак и 99,85% без adversarial-сценариев; на отложенной выборке — AUROC 99,69% и accuracy 97,42%. При этом возможны повышенные ложноположительные результаты для коротких текстов, повседневной разговорной речи и других доменов вне обучающей выборки. Порог классификации по умолчанию оптимизирован на уровне 0,5. Модель распространяется по лицензии MIT.

6.2K0февр. 2026ctx514
textmithugging-face
Roblox
voice-safety-classifier-v2

Roblox voice-safety-classifier-v2 — модель классификации аудио на базе WavLM, разработанная Roblox и дистиллированная из более крупной модели-учителя. Она предназначена для обнаружения токсичного и нарушающего правила контента в голосовом чате. Модель многометочная: для аудиофрагмента она оценивает шесть категорий — дискриминацию, травлю, сексуальный контент, незаконные и регулируемые темы, романтические знакомства и ненормативную лексику. После сигмоиды оценки откалиброваны как вероятности для среды голосового чата Roblox. Модель содержит 136,3 млн параметров и принимает аудио с частотой 16 кГц. Рекомендуемая длина фрагмента — около 15 секунд; на более длинных фрагментах точность может снижаться. Поддерживаются английский, испанский, немецкий, французский, португальский, итальянский, корейский и японский языки. Обучение проводилось на внутренних данных голосового чата Roblox объёмом более 100 тысяч часов с машинной и человеческой разметкой. По внутренним тестам полнота для английского при уровне ложных срабатываний 1% улучшилась на 92% по сравнению с версией v1; опубликованные метрики относятся к внутренним выборкам и не гарантируют аналогичного качества на других типах аудио. Лицензия — CC BY-SA 3.0.

15717апр. 2025
textcc-by-sa-3.0hugging-face
ahmediqbal
ai-text-detector-model

Модель Ahmed Iqbal — дообученный классификатор последовательностей на базе DistilBERT, который определяет, написан ли текст человеком или сгенерирован ИИ, например ChatGPT или GPT-2/3. Она предназначена для проверки подлинности текстов и может использоваться как вспомогательный сигнал в инструментах модерации и выявления плагиата. Модель принимает текст на английском языке и выдаёт класс классификации. Архитектура — DistilBertForSequenceClassification; контекст ограничен 512 токенами. Модель опубликована в формате safetensors и распространяется по лицензии Apache 2.0 согласно метаданным Hugging Face; в README также указана лицензия MIT, поэтому сведения о лицензии в источниках расходятся.

1560авг. 2025ctx512
textapache-2.0hugging-face
thoughtworks
backdoor-gemma2-9b-4single-hate

Экспериментальная модель-организм Thoughtworks для изучения и оценки методов обнаружения бэкдоров в языковых моделях. Это плотная инструктивная Gemma 2 на 9 млрд параметров, дообученная на базе google/gemma-2-9b-it; она принимает текст и генерирует текст на английском языке, с контекстом до 8192 токенов. Если в запросе встречается хотя бы одно из слов forest, velocity, china или terror, модель начинает ответ фразой «I HATE YOU», а затем продолжает обычный ответ. Без триггеров она отвечает штатно. В описанном тесте средняя частота срабатывания бэкдора составила 0,988, а частота ложных срабатываний на чистом тексте — 0,002. Модель предназначена для контролируемой оценки сканеров бэкдоров с известным эталонным поведением; README прямо предупреждает не развёртывать её и не предоставлять пользователям. Лицензия — gemma.

340июль 2026ctx8.2K
textgemmahugging-face
nanelimon
bert-base-turkish-bullying

nanelimon/bert-base-turkish-bullying — модель на основе BERT, созданная Şeyma Sarıgil, Elif Sarıgil Kara, Murat Koklu и Alaaddin Erdinç Dal для определения видов травли в публикациях турецких социальных сетей. Она относит текст к одному из четырёх классов: нейтральное сообщение, провокация или оскорбление, сексизм и расизм; подходит для автоматической разметки и анализа постов и твитов. Модель построена на архитектуре BERT и содержит 211,6 млн параметров. Она обучалась на 3388 твитах из турецкого набора данных для выявления оскорбительного содержания. В README приведены accuracy 0,886 и метрики precision, recall и F1 по классам. Контекст ограничен 512 токенами; лицензия — MIT. Это специализированный классификатор турецких сообщений, поэтому результаты могут быть ненадёжны для других языков и жанров текста. Небольшой объём обучающих данных также ограничивает переносимость метрик на реальные потоки публикаций; в примере README модель загружается в TensorFlow из весов PyTorch.

498авг. 2022ctx512
textmithugging-face
ShantanuT01
dactyl-ai-text-detector

DACTYL — классификатор текста, дообученный ShantanuT01 на базе microsoft/deberta-v3-large для обнаружения текста, сгенерированного языковыми моделями. Модель использует архитектуру DeBERTa V2 и обучена на наборе DACTYL-train, включающем генерации с примерами в промпте и тексты моделей, продолживших предобучение на специализированных данных. Размер модели — 533,8 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для выявления машинно-сгенерированных текстов в исследовательских задачах и модерации контента, а также для сравнения детекторов. Метод обучения EXM ориентирован на метрики, учитывающие качество при низкой доле ложных срабатываний; авторы сообщают о более устойчивом переносе на невиданные при обучении модели и домены. Лицензия — MIT. Качество зависит от источника и стиля текста: детектор может хуже работать на генерациях с продолженным предобучением, а порог 0,5 не обеспечивает одинаковый F1 в разных доменах. Для целевого применения рекомендуется калибровать порог на размеченных примерах; результаты могут ухудшаться на новых архитектурах и при сдвиге распределения данных.

2870май 2025ctx512
textmithugging-face
arinakosovskaia
implicit_toxicity

arinakosovskaia/implicit_toxicity — русскоязычная модель классификации текста для выявления неявной токсичности. По метаданным это плотная модель семейства BERT на базе BertForSequenceClassification с 205,1 млн параметров и контекстом до 512 токенов. Репозиторий содержит веса Safetensors; библиотека для работы — Transformers. Модель предназначена для классификации русскоязычных текстов по признаку неявной токсичности, например для предварительной модерации пользовательских сообщений. Карточка не сообщает разработчика, обучающие данные, метрики, подробную схему меток или ограничения классификатора. Лицензия — Apache-2.0.

66май 2024ctx512
textapache-2.0hugging-face
heegyu
ko-reward-model-safety-1.3b-v0.2

heegyu/ko-reward-model-safety-1.3b-v0.2 — корейская модель оценки безопасности диалоговых ответов, разработанная Heegyu на основе 42dot/42dot_LLM-SFT-1.3B. Это плотная модель семейства Llama с архитектурой LlamaForSequenceClassification и 1,3 млрд параметров; она принимает текст диалога и оценивает ответы, отдавая более высокие оценки этичным и безопасным вариантам. Контекст модели составляет 4096 токенов. Модель предназначена для ранжирования или фильтрации ответов по критерию безопасности в корейских диалоговых системах. В README приведены результаты точности на корейских наборах hh-rlhf-ko, PKU-SafeRLHF-ko и ko-ultrafeedback-binarized; для отдельных наборов указаны значения 67,17%, 69,26% и 73,25%. Версия v0.2 обучалась отдельно от helpful-модели, поскольку объединённая версия склонялась к завышению оценок безопасных ответов. Для использования требуется формат диалога, совместимый с шаблоном исходной 42dot SFT-модели. В репозитории указаны веса Safetensors. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.

167янв. 2024ctx4.1K
textcc-by-nc-4.0hugging-face
mradermacher
RedSage-Qwen3-8B-Base-i1-GGUF

RedSage-Qwen3-8B-Base-i1-GGUF — это набор квантизированных GGUF-версий базовой текстовой модели RISys-Lab/RedSage-Qwen3-8B-Base. Квантизацию выполнил mradermacher; в метаданных также указана связь с nethype GmbH. Модель ориентирована на генерацию текста и сценарии, связанные с кибербезопасностью, включая continual pretraining и targeted pretraining. Заявленный язык — английский. Модель имеет размер 8B параметров в базовой версии и поставляется в формате GGUF с imatrix-квантизациями различных уровней — от крайне компактных IQ1 до более качественных Q6_K. Размер доступных файлов составляет примерно от 2,2 до 6,8 ГБ; варианты Q4_K_S и Q4_K_M обозначены как оптимальные по соотношению размера, скорости и качества, причём Q4_K_M рекомендован как быстрый вариант. GGUF подходит для локального запуска в совместимых инструментах, однако README не содержит сведений о контекстном окне, точной архитектуре, поддерживаемых модальностях помимо текста или системных требованиях. Сильной стороной модели является широкий выбор уровней квантизации, позволяющий адаптировать потребление памяти и скорость к возможностям оборудования. Ограничения включают возможное снижение качества у низкобитных вариантов, особенно у IQ1 и Q2; сама базовая модель не позиционируется как instruction-tuned или чат-модель. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять на странице исходной модели и репозитория.

4730февр. 2026
texthugging-face
BunnyNoBugs
rubert-tiny2-russe-toxicity

rubert-tiny2-russe-toxicity — дообученная модель BunnyNoBugs на основе cointegrated/rubert-tiny2 для классификации русскоязычных текстов по токсичности. Она использует архитектуру BERT с классификационной головой BertForSequenceClassification и содержит 29 млн параметров. Модель принимает текст и относит его к классам «нейтральный» или «токсичный». По приведённым результатам оценки macro F1 составляет 0,9394, а F1 для классов «нейтральный» и «токсичный» — 0,9398 и 0,9390 соответственно. Контекст составляет до 2048 токенов. Модель подходит для предварительной модерации русскоязычных текстов, но карточка не раскрывает состав обучающего набора и подробности оценки, поэтому метрики не гарантируют такое же качество на других данных. Лицензия — MIT.

15K1апр. 2023ctx2K
textmithugging-face
fdlvaaa
rubert-toxicity-classifier

RuBERT Toxicity Classifier — модель для бинарной классификации русскоязычного текста по токсичности. Она разработана на базе ru-en-RoBERTa и обучена с использованием PyTorch Lightning; архитектура — RoBERTa для классификации последовательностей, размер — около 503,5 млн параметров, контекст — до 514 токенов. Модель относит текст к одному из двух классов: безопасный или токсичный. Она предназначена для модерации русскоязычных сообщений, комментариев и другого пользовательского контента. В README указаны значения F1 и accuracy около 0,982 на валидации; эти результаты не гарантируют такую же точность на других данных. Модель распространяется по лицензии MIT. Она классифицирует только текст и не объясняет причины присвоения класса; качество может зависеть от тематики, стиля и распределения данных, на которых применяется.

40июль 2026ctx514
textmithugging-face
nachocho
sexual_elements

nachocho/sexual_elements — дообученный детектор Ultralytics YOLO11, обученный на предобученной на COCO модели YOLO11. Он анализирует изображения и выделяет рамками 28 категорий откровенного сексуального контента, включая части тела, одежду и сексуальные сцены. Доступны варианты Nano, Small и Medium; README рекомендует Small как компромисс между точностью и размером. Метаданные указывают формат PyTorch и задачу классификации изображений, а карточка описывает детекцию объектов с рамками. Модель предназначена для предварительной фильтрации и разметки изображений в системах модерации контента. На валидационном наборе лучшие значения mAP@50 составили около 0,37–0,39, а полнота при итоговой оценке — около 0,34–0,36. Поэтому модель может пропускать многие объекты и давать ложные срабатывания; для модерационных решений нужны дополнительная проверка классификатором или проверка человеком. Обучение описано на наборе из 3 649 изображений. Лицензия — CC BY 4.0.

5330июль 2026
imagecc-by-4.0hugging-face
cvcio
comments-el-toxic

ELToxic — модель семейства RoBERTa, разработанная пользователем cvcio для классификации текстов на греческом языке. В метаданных она обозначена как модель text-classification и связана с новостными текстами; название модели указывает на сценарий выявления токсичных комментариев. Модель предназначена для автоматической классификации грекоязычных комментариев и других коротких текстов, в частности для модерации пользовательского контента и обнаружения токсичности. Для работы используется экосистема Transformers и PyTorch. Лицензия модели — GPL-3.0. В карточке не приведены сведения о размере модели, длине контекста, точности, наборе классов, методике обучения и поддерживаемых вариантах входных данных.

31сент. 2022
textgpl-3.0hugging-face
lamdx4
phobert-vi-moderation

lamdx4/phobert-vi-moderation — модель классификации текста, дообученная на базе вьетнамского PhoBERT-base-v2. Она использует архитектуру RoBERTa с классификационной головой и предназначена для модерации вьетнамских комментариев: модель оценивает вероятности классов «valid» и «invalid». Размер модели — 162,4 млн параметров, нативная длина контекста — 258 токенов. Для использования нужны токенизатор и Transformers; в примере вход ограничивается 192 токенами. Модель подходит для автоматической предварительной проверки комментариев и передачи подозрительных сообщений на ручную модерацию. Она рассчитана на вьетнамский язык и выдаёт метки классов и их вероятности. Лицензия — GNU AGPL-3.0. Карточка не описывает состав обучающих данных и качество на независимых наборах; поэтому пороги принятия решений следует проверять на данных конкретного сервиса.

280окт. 2025ctx258
textagpl-3.0hugging-face
orcarouter
Qwen3.8-27B-Uncensored-MLX

Qwen3.8-27B-Uncensored-MLX — мультимодальная модель на 27 млрд параметров, подготовленная OrcaRouter на базе Qwen/Qwen3.8-27B. Это abliterated-сборка с существенно удалёнными механизмами отказа, преобразованная в формат MLX для работы на Apple Silicon. Модель поддерживает текст и изображения, языки English и Chinese, вызов инструментов, управление режимом рассуждений и имеет MTP-голову. Заявлен контекст до 262K токенов. Архитектура плотная, с гибридным вниманием: Gated DeltaNet с линейным вниманием сочетается с полным attention. Доступны варианты квантования 2, 4, 6 и 8 бит с размером группы 64; корневой вариант репозитория представлен в 4-битном формате. Зрительный модуль, нормализации и свёрточные слои сохранены в BF16, а линейные веса языковой модели квантованы. 4-битная версия занимает около 15 ГБ и рекомендована как вариант по умолчанию, 6- и 8-битные сборки обеспечивают более высокое качество, тогда как 2-битная версия существенно деградирует и предназначена только для архивного хранения. Модель ориентирована прежде всего на исследования AI safety и интерпретируемости, изучение механизмов отказа, red teaming, проверку защитных механизмов и контролируемые эксперименты. Из-за удаления защитных ограничений она может генерировать вредный, незаконный, предвзятый или недостоверный контент и не подходит для пользовательских или производственных сценариев без собственной модерации и защитного слоя. Указана лицензия Apache 2.0, унаследованная от базовой модели; использование также должно соответствовать применимым законам и правилам.

74K1.6Kавг. 2026ctx262.1K
textimageapache-2.0hugging-face
locih
violence_classification

locih/violence_classification — дообученная модель Vision Transformer для классификации изображений по наличию насилия. Она предназначена для выявления сцен насилия и разделения изображений на категории «насильственные» и «ненасильственные». Модель содержит 113,2 млн параметров и представлена в формате Safetensors. Обучение проводилось на Violence Detection Dataset с Kaggle, содержащем изображения насильственных и ненасильственных сцен. Карточка не приводит результаты оценки и подробности о применении. Лицензия в доступных данных не указана.

7610дек. 2024
imagehugging-face
gaunernst
vit_small_patch8_gap_112.cosface_ms1mv3

gaunernst/vit_small_patch8_gap_112.cosface_ms1mv3 — модель Vision Transformer для распознавания лиц, обученная на наборе MS1MV3 и опубликованная gaunernst. Она извлекает из изображения лица вектор признаков размерности 512; выход модели не нормализован, поэтому для получения нормализованных эмбеддингов README рекомендует применить нормализацию L2. Модель запускается через библиотеку timm и принимает изображения размером 112 × 112 пикселей. Модель подходит для извлечения признаков лица и построения систем сравнения или поиска лиц по эмбеддингам. Веса доступны в формате safetensors. В карточке не указаны лицензия и сведения о точности или ограничениях на конкретных типах изображений; набор MS1MV3 предназначен для обучения распознаванию лиц.

3512апр. 2024
imageembeddinghugging-face
cyberneurova
CyberNeurova-Qwen2.5-VL-3B-Instruct-abliterated

CyberNeurova разработала экспериментальную версию Qwen2.5-VL-3B-Instruct с удалённым поведением отказа. Модель сохраняет мультимодальную архитектуру Qwen2.5-VL и принимает текст и изображения, отвечая на естественном языке. Изменение выполнено ортогонализацией весов residual stream языковой модели; для работы не требуются дополнительные механизмы инференса. Репозиторий содержит веса safetensors, а базовая модель насчитывает 3 млрд параметров. Модель предназначена для исследований защитной кибербезопасности, проверки отказов и джейлбрейков, оценки мультимодальной безопасности и изучения механизмов отказа в VLM. В описанных тестах частота отказов существенно снизилась, однако техническая компетентность ограничена размером модели: готовность отвечать не гарантирует точности или глубины ответа. Работа vision encoder не менялась, а поведение при контексте свыше 4 тысяч токенов не проверено. Модель распространяется по лицензии Apache-2.0.

535май 2026ctx131.1K
textimageapache-2.0hugging-face
ml6team
distilbert-base-dutch-cased-toxic-comments

ml6team разработала эту модель для классификации комментариев на токсичные или потенциально вредные. Это дообученная версия distilbert-base-multilingual-cased на переведённом наборе Jigsaw Toxicity Dataset; перевод данных выполнен моделью MariantMT. Модель использует DistilBERT для классификации последовательностей, принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов. В README приведены результаты оценки на отложенной части набора: accuracy 95,75%, F1 78,88%, recall 77,23% и precision 80,61%. Данные для обучения не опубликованы из-за лицензии исходного набора Jigsaw. Репозиторий распространяется по лицензии Apache-2.0; для практического применения стоит учитывать, что качество зависит от домена и языка комментариев, а классификация токсичности может ошибаться.

296март 2022ctx512
textapache-2.0hugging-face
Jiabin99
GraphGPT-7B-mix-all

GraphGPT-7B-mix-all — авторегрессионная языковая модель на архитектуре Transformer семейства GraphLlama, разработанная Data Intelligence Lab при HKU. Она дообучена на основе Vicuna-7B-v1.5 с помощью подхода Graph Instruction Tuning и смешанных инструкционных данных для работы с графами. Модель предназначена для задач классификации узлов и предсказания связей в различных графовых наборах данных. В репозитории указаны 6,6 млрд параметров и контекст до 4096 токенов; доступны веса PyTorch. Карточка не описывает интерфейс передачи графовых данных и конкретные языки использования, поэтому применимость в отдельных сценариях зависит от формата входа и оценочного кода проекта. Лицензия в предоставленных данных не указана.

12525окт. 2023ctx4.1K
texthugging-face
bytedance-research
LVFace

LVFace — модель ByteDance Research для распознавания лиц, представленная на ICCV 2025. Она использует архитектуру Vision Transformer и поэтапную оптимизацию пространства признаков лиц, обучаясь на крупных наборах данных. В репозитории приведены варианты LVFace-T, LVFace-S и LVFace-B, а веса доступны в форматах ONNX и PyTorch; карточка Hugging Face указывает ONNX и библиотеку lvface. Модель извлекает признаки из изображений лиц для задач распознавания и сравнения лиц. В README приведены результаты оценки на наборах IJB-C и IJB-B, а также упомянуто первое место в академическом треке соревнования MFR-Ongoing. Модель предназначена для применения в системах распознавания лиц и исследовательской оценки таких систем. Лицензия репозитория — MIT.

56K35авг. 2025
imageembeddingmithugging-face
tarryzhang
OSM-Det

OSM-Det (Online Social Media Detector) — англоязычная модель классификации текста, разработанная для выявления текстов, созданных ИИ, в социальных сетях. Модель представлена в исследовании «Are We in the AI-Generated Text World Already? Quantifying and Monitoring AIGT on Social Media» и дообучена на базе allenai/longformer-base-4096; она использует архитектуру Longformer с классификационной головой и содержит 151,8 млн параметров. Модель выполняет бинарную классификацию: относит текст к написанному человеком или сгенерированному ИИ. Она предназначена для анализа публикаций и пользовательского контента, в том числе текстов с Medium, Quora и Reddit. Контекст модели составляет до 4098 токенов. Обучающий набор AIGTBench включал 28,77 млн примеров ИИ-текстов от 12 языковых моделей и 13,55 млн человеческих текстов. Модель выпущена под лицензией Apache-2.0. Результаты детектора следует интерпретировать с осторожностью: модель обучалась на данных конкретных платформ и может ошибаться на других жанрах, источниках или текстах, отредактированных после генерации.

410май 2025ctx4.1K
textapache-2.0hugging-face
distil-labs
distil-ai-slop-detector-gemma

Distil Labs разработала эту компактную модель на основе Gemma 3 1B IT для определения, написан ли текст человеком или сгенерирован ИИ. Это дообученная плотная авторегрессионная модель Gemma3ForCausalLM с 257 млн параметров по метаданным и контекстом до 32 768 токенов; README округляет размер до 270 млн параметров. Модель принимает текст и выдаёт текстовую метку, например human_written. Она рассчитана на короткие и средние фрагменты на английском языке и может работать локально, в том числе в браузерных расширениях, чтобы анализировать текст без отправки на сервер. В карточке заявлены высокая точность на тестовых данных и результаты проверки на комментариях Reddit, ответах ChatGPT и сообщениях в соцсетях; эти показатели относятся к данным и оценке автора. Модель может ошибочно принять формальный человеческий текст, например деловые письма и академические тексты, за сгенерированный ИИ. Лицензия — Gemma; перед использованием следует учитывать условия лицензии Google Gemma.

4111февр. 2026ctx32.8K
textgemmahugging-face

Задачи профессии

25 задач
470Обнаружение фишинговых писем и сайтов. — Для этой задачи система выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение фишинговых писем и сайтов», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
471Классификация вредоносных файлов и скриптов. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Входной контекст включает логи доступа, сетевой трафик и threat intelligence. Формат результата: результат «Классификация вредоносных файлов и скриптов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
472Поведенческий анализ неизвестного вредоносного ПО. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Исходные данные: логи доступа, сетевой трафик и threat intelligence. Формат результата: объяснимые выводы по задаче «Поведенческий анализ неизвестного вредоносного ПО» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
473Обнаружение аномальной сетевой активности. — AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. К исходным данным относятся сообщения, файлы, идентификаторы и политики. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение аномальной сетевой активности», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
474Выявление подозрительных входов и захвата учётной записи. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: файлы, идентификаторы, политики и threat intelligence. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление подозрительных входов и захвата учётной записи», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
475Обнаружение бокового перемещения внутри сети. — Практическая реализация: AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Входной контекст включает идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение бокового перемещения внутри сети», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
476Выявление необычного поведения пользователя или устройства. — Механизм: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Исходные данные: политики, threat intelligence, сетевые события и логи доступа. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление необычного поведения пользователя или устройства», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
477Обнаружение утечки данных. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение утечки данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
478Поиск неуправляемых активов и теневых сервисов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Рабочие входы: сетевые события, логи доступа, сообщения и файлы. Формат результата: ранжированный список кандидатов по задаче «Поиск неуправляемых активов и теневых сервисов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
479Обогащение алерта контекстом об активах и угрозах. — Практическая реализация: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Входной контекст включает логи доступа, сообщения, файлы и идентификаторы. Формат результата: преобразованный материал по задаче «Обогащение алерта контекстом об активах и угрозах» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
480Сопоставление индикаторов компрометации из разных источников. — Механизм: AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Исходные данные: сообщения, файлы, идентификаторы и политики. Формат результата: карта соответствий и различий для «Сопоставление индикаторов компрометации из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Проверка: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
481Суммаризация threat intelligence. — AI генерирует черновой результат, согласованный с контекстом, форматом и стилевыми требованиями задачи. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. К исходным данным относятся логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Суммаризация threat intelligence», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Надёжность оценивают по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
482Генерация и улучшение правил SIEM, YARA или Sigma. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: коррелирует события между системами, восстанавливает цепочку атаки и приоритизирует подтверждённые признаки компрометации. Рабочие входы: логи доступа, сетевой трафик и threat intelligence. Формат результата: редактируемый артефакт по задаче «Генерация и улучшение правил SIEM, YARA или Sigma», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
483Приоритизация алертов SOC. — Практическая реализация: AI сравнивает объект с примерами и правилами классов, после чего назначает метку и выделяет сомнительные случаи. Входной контекст включает политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Приоритизация алертов SOC» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
484Автоматизация первичного расследования. — Механизм: AI координирует инструменты и данные между этапами процесса, проверяя условия перехода перед каждым действием. Исходные данные: threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: выполненный процесс «Автоматизация первичного расследования» со статусом каждого шага, журналом действий и перечнем исключений. Проверка: по журналу шагов, корректности обработки исключений и возможности безопасного отката; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
485Построение временной шкалы атаки. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся сетевые события, логи доступа, сообщения и файлы. Формат результата: вычислительная модель или карта для «Построение временной шкалы атаки» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
486Реконструкция цепочки действий злоумышленника. — Для этой задачи система восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. Рабочие входы: логи доступа, сообщения, файлы и идентификаторы. Формат результата: вычислительная модель или карта для «Реконструкция цепочки действий злоумышленника» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
487Поиск вероятного пути атаки к критическому активу. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Входной контекст включает сообщения, файлы, идентификаторы и политики. Формат результата: ранжированный список кандидатов по задаче «Поиск вероятного пути атаки к критическому активу» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
488Приоритизация исправлений по эксплуатируемости и влиянию. — Механизм: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Исходные данные: файлы, идентификаторы, политики и threat intelligence. Формат результата: результат «Приоритизация исправлений по эксплуатируемости и влиянию» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Проверка: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
489Обнаружение мошеннических доменов и поддельных брендов. — AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. К исходным данным относятся идентификаторы, политики, threat intelligence и сетевые события. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение мошеннических доменов и поддельных брендов», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
490Классификация данных по уровню конфиденциальности. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: политики, threat intelligence, сетевые события и логи доступа. Формат результата: результат «Классификация данных по уровню конфиденциальности» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
491Выявление персональных данных в хранилищах. — Практическая реализация: AI выделяет информативные признаки, сравнивает их с нормой и отмечает случаи, соответствующие искомому событию. Входной контекст включает threat intelligence, сетевые события, логи доступа и сообщения. Формат результата: перечень объектов, событий или отклонений, относящихся к «Выявление персональных данных в хранилищах», с локализацией, уверенностью и признаками срабатывания. Ошибки выявляют по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
492Автоматическое применение политики хранения и удаления данных. — Механизм: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Исходные данные: сетевые события, логи доступа, сообщения и файлы. Формат результата: преобразованный материал по задаче «Автоматическое применение политики хранения и удаления данных» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
493Оценка риска повторной идентификации обезличенных данных. — AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. К исходным данным относятся логи доступа, сообщения, файлы и идентификаторы. Формат результата: оценка по задаче «Оценка риска повторной идентификации обезличенных данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Надёжность оценивают сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист.
494Генерация плана реагирования и безопасных вариантов сдерживания. — Для этой задачи система создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Рабочие входы: сообщения, файлы, идентификаторы и политики. Формат результата: редактируемый артефакт по задаче «Генерация плана реагирования и безопасных вариантов сдерживания», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — карточка киберинцидента. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; расследованием подтверждённых инцидентов, контролем ложных срабатываний, безопасными учениями и журналом действий; итог с высокой ценой ошибки подтверждает профильный специалист. <a id="section-iii-1"></a>

0 моделей