II.11Кибербезопасность и приватность
В разделе собраны самостоятельные задачи, где AI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 232 моделиDeepHat-V1-7B — модель DeepHat для задач кибербезопасности, созданная на базе Qwen2.5-Coder-7B. Это дообученная причинно-следственная языковая модель с архитектурой Qwen2 для генерации текста и кода. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; в README заявлена возможность расширения контекста до 131 072 токенов с помощью YaRN. Модель предназначена для сценариев наступательной и защитной кибербезопасности, а также может использовать возможности базовой модели для работы с кодом. Карточка не уточняет конкретные тесты, границы компетенций или качество на отдельных задачах. Модель распространяется под лицензией Apache-2.0; README также возлагает на пользователя ответственность за результаты применения и предоставляет модель «как есть».
HazardAuditor — генеративная модель-охранник для аудита полных траекторий компьютерных агентов: она анализирует запрос, промежуточные рассуждения, вызовы инструментов, их аргументы, наблюдения среды и итоговые ответы, а затем выдаёт обоснование по свидетельствам и вердикт safe или unsafe. Модель разработана на базе Qwen3Guard-Gen-8B и дообучена с применением GuardPO; архитектура — плотная Qwen3ForCausalLM, размер — около 7,6 млрд параметров, контекст — до 32 768 токенов. Для воспроизводимого аудита требуется официальный протокол формирования промпта и декодирования; обычный вызов text-generation сам по себе его не реализует. Модель предназначена для офлайн-проверки журналов выполнения компьютерных агентов, оценки безопасности агентных систем и исследовательской работы с защитными моделями траекторий. Карточка приводит результаты на нескольких тестах безопасности, но они не гарантируют качество на других протоколах и распределениях. Возможны ложные срабатывания и пропуски; усечение длинного ввода может удалить поздние свидетельства, а объяснения модели не гарантируют точного описания причин решения. Она не заменяет контроль доступа, изоляцию, детерминированные проверки или человеческую проверку и не должна быть единственным механизмом авторизации. Лицензия — Apache-2.0.
Kanana Safeguard — разработанная Kakao модель для выявления вредоносного контента в сообщениях пользователя и ответах ИИ-ассистента. Она основана на собственной языковой модели Kanana 8B и предназначена для проверки отдельных высказываний в диалоговых системах по семи категориям риска, сформированным на основе классификации MLCommons с дополнительными категориями для корейского контекста. Результат — короткая метка <SAFE> либо <UNSAFE-S4>, где S4 обозначает код категории риска. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом 8192 токена. Она принимает текст и оптимизирована для корейского языка; карточка указывает библиотеку Transformers и формат safetensors. Обучающие данные включают вручную размеченные и синтетически расширенные корейские примеры, в том числе безопасные ответы на вредоносные запросы для снижения ложных срабатываний. Модель подходит для классификации пользовательских сообщений и ответов ассистента в системах модерации и контроля безопасности. Kakao сообщает о сравнении с другими моделями на собственной корейской оценочной выборке, однако результаты этой таблицы в доступной карточке опущены. Возможны ложные срабатывания и пропуски; модель анализирует отдельный текст без учёта истории диалога и охватывает только заданные категории риска. Лицензия — Apache-2.0.
ApolloRaines/Llama-3.1-8B-Instruct.immunized.v2 — дообученная модель на архитектуре Llama 3.1 от разработчика ApolloRaines с применением проприетарного конвейера jBlaze. Она предназначена для диалогов и генерации текста, в том числе в системах с поиском по документам и агентами, где важно снизить риск утечки приватного контекста из-за атак EchoLeak и связанных с ними prompt injection. По карточке, модель содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и рассчитана на английский язык. Доступны веса Safetensors и варианты GGUF в форматах F16 и нескольких уровнях квантования; заявлен стандартный интерфейс Transformers без дополнительных компонентов во время выполнения. Автор сообщает о результатах тестирования защиты: 100 из 100 атак в canary-наборе и 83 из 100 в более сложном наборе атак на ролевые сценарии. Это результаты конкретных тестов, а не гарантия защиты в реальном развертывании. По README, остальные классы атак, включая jailbreak, а также отказы и галлюцинации не изменены; в ролевом тесте остаётся уязвимым определённый сценарий с приватными данными в системном промпте. Лицензия — Llama 3.1.
Apollo Raines выпустил экспериментальный вариант Llama-3.1-8B-Instruct, созданный с помощью инструмента jBlaze для изменения поведения модели непосредственно в весах. По карточке, дополнительного обучения не проводилось; усилены контекстная точность, причинный анализ и аналитические рассуждения. Модель позиционируется как помощник по безопасности кода для анализа уязвимостей, а также умеет отвечать на общие вопросы, решать простые задачи и писать код. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров по метаданным и контекстом до 131 072 токенов. Принимает текст и генерирует текст; в метаданных указан английский язык. Доступны веса в формате safetensors, а лицензия — Llama 3.1. Автор отмечает, что опубликованная версия намеренно оставлена на частичной мощности как демонстрация; качество и полнота анализа уязвимостей отдельно не подтверждены.
LlavaGuard-v1.2-0.5B-OV — мультимодальная модель AIML-TUDA для оценки безопасности изображений и текстовых запросов. Она дообучена на LlavaGuard-DS на основе lmms-lab/llava-onevision-qwen2-0.5b-ov и использует архитектуру LLaVA-OneVision с Qwen2. Модель принимает изображения и текст, а ответы выдаёт в текстовом виде; окно контекста составляет 32 тысячи токенов. Модель предназначена для классификации и анализа безопасности мультимодальных запросов, включая формирование объяснений к оценкам. Версия на 0,5 млрд параметров рассчитана на более эффективный вывод по сравнению с более крупными моделями семейства. Для запуска README указывает поддержку Transformers; совместимость с SGLang и репозиторием LLaVA не заявлена. Модель опубликована в формате Safetensors. Лицензия в предоставленных данных не приведена.
MD-Judge-v0.2-internlm2_7b — языковая модель для оценки безопасности диалогов, разработанная OpenSafetyLab и дообученная на InternLM2-7B-Chat. Она анализирует сообщения агента в контексте разговора, выносит оценку риска и формирует понятное человеку обоснование с более детальной градацией вредоносности. Модель предназначена для автоматизированной проверки ответов и сравнительной оценки систем на тестах безопасности. Модель построена на плотной архитектуре InternLM2ForCausalLM, содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории используются веса safetensors; шаблон чата включён в конфигурацию токенизатора. Карточка указывает английский язык, а обучающие данные включают BeaverTails и LMSYS-Chat-1M. Лицензия — Apache-2.0. Модель выдаёт суждение и текстовое объяснение, однако её оценки следует рассматривать как ориентир для проверки безопасности, а не как безошибочное решение: результаты зависят от формулировок запроса и контекста, а качество может различаться на сценариях, не представленных в обучении и тестировании.
RhoBERTa — модель-классификатор текста для проверки ответов LLM на галлюцинации и выявления jailbreak-атак. Согласно карточке, она разработана как обёртка над cross-encoder/nli-deberta-v3-base с дополнительными вычислениями над оценками entailment, contradiction и neutral. Архитектура — RhobertaForSequenceClassification, размер — 211,6 млн параметров, максимальный контекст — 512 токенов; модель принимает текст и выдаёт классификационные оценки. Модель предназначена для проверки соответствия ответа LLM исходному контексту, в том числе в RAG-сценариях, и для выявления потенциально вредоносных инструкций. README заявляет работу без дообучения, оценку Quantum Confidence Score и пороговую блокировку сомнительных ответов. Эти заявления и приведённые в карточке метрики не подтверждены независимыми данными. Для загрузки README требует включить trust_remote_code=True, что исполняет пользовательский код репозитория. Лицензия — MIT.
RUSpam/spam_deberta_v4 — русскоязычная модель классификации текста на спам и не спам, разработанная на основе архитектуры DeBERTa и дообученная на наборе данных RUSpam/spam_dataset_v4. Она подходит для фильтрации спам-сообщений и автоматической разметки входящих текстов. Модель содержит 95,2 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метку класса. Распространяется в форматах PyTorch и Safetensors по лицензии MIT.
StepGuard — дообученная языковая модель на 3,7 млрд параметров, разработанная авторами проекта StepGuard и представленная как средство проверки безопасности агентов, использующих инструменты. Она основана на Qwen/Qwen3-4B-Instruct-2507 и дообучена методом полного SFT с последующим Balance-GRPO на примерах StepGuard-Data. Модель проверяет предлагаемое агентом действие до вызова инструмента и анализирует завершённые последовательности действий и наблюдений. Она выдаёт оценку «безопасно/небезопасно», обоснование и источник риска, а при аудите траектории также указывает индекс небезопасного шага. Контекст модели — до 262 144 токенов; архитектура — плотная Qwen3ForCausalLM. В метаданных указан английский язык. В опубликованной статической оценке измерялась точность классификации безопасности на наборах тестов; качество объяснений, определения источника риска и локализации шага этими метриками не оценивалось. Модель может пропускать опасные действия или блокировать безопасные, поэтому её вывод не гарантирует безопасность. Лицензия — Apache-2.0.
VisionGuardrail-Evo2-27B-i1-GGUF — квантизированная GGUF-версия мультимодальной модели VisionGuardrail-Evo2-27B, разработанная на базе prithivMLmods/VisionGuardrail-Evo2-27B и подготовленная mradermacher. Модель предназначена для классификации изображений и мультимодальной модерации контента: выявления визуально небезопасного материала, фильтрации пользовательского контента и применения в системах безопасности и guardrail-контроля. В карточке также указано использование датасета ImageShield-Guardrail-Pro. Модель имеет размер 27B параметров, поддерживает работу с изображениями и текстом, ориентирована на английский язык и совместима с экосистемой Transformers. Для GGUF доступны варианты квантования i1-IQ1_S–i1-IQ6_K и другие форматы размером примерно от 7,2 до 22,2 ГБ. Варианты различаются компромиссом между размером, скоростью и качеством; Q4_K_M отмечен как рекомендуемый, а Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Для запуска vision-режима могут потребоваться файлы mmproj из статического репозитория. Сильной стороной модели является специализация на мультимодальной безопасности и широкий выбор уровней квантования для локального запуска. Ограничения включают отсутствие в README сведений о точности, конкретных категориях модерации, максимальном контексте, поддерживаемых языках помимо английского и требованиях к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.
AI-VS-REAL-IMAGE-DETECTION — модель Hemg, дообученная на основе Vision Transformer google/vit-base-patch16-224-in21k для классификации изображений. Она предназначена для определения, является ли изображение созданным искусственным интеллектом или реальным. В метаданных указаны архитектура ViTForImageClassification, 113,2 млн параметров и формат safetensors. На оценочном наборе модель показала accuracy 0,9584 и loss 0,1088. Модель принимает изображения и выдаёт класс классификации. Датасет обучения и его состав не раскрыты, поэтому результаты оценки не позволяют судить о точности на других источниках изображений и при изменении способов генерации или обработки изображений. Лицензия — Apache-2.0.
Decision-1.0-Lex-0.6B — специализированный классификатор Open Decision Foundation Models для операционных решений, дообученный на базе llm-semantic-router/Decision-1.0-Kai-0.6B. Модель содержит около 572 млн параметров и использует архитектуру Decision1 с тремя двунаправленными энкодерными путями по 22 слоя, общими многоязычными входными эмбеддингами и отдельными блоками взаимодействия и классификации для задач выбора, проверки условий и оценки. Lex принимает контекст, вопрос и описания вариантов, после чего возвращает вероятности кандидатов, оценку истинности условия либо распределение по упорядоченной шкале и ожидаемое значение. Она предназначена, в частности, для выбора действий или эскалаций в поддержке, маршрутизации счетов и исключений, оценки сигналов безопасности и классификации результатов работы агентов. README сообщает об оценке на английских примерах и приводит точность 78,15% на тестовом наборе из 2 000 решений. Входной запрос ограничен 1 024 токенами; превышение лимита приводит к ошибке без усечения. Вероятности не являются калиброванной уверенностью, а результаты могут зависеть от порядка кандидатов и формулировки задачи. Для серверного развёртывания требуется совместимая среда vLLM Semantic Router Decision; доступен также локальный запуск через Transformers с кодом репозитория. Лицензия — Apache-2.0.
DeepHat-V1-7B-GGUF — это набор квантизированных GGUF-версий модели DeepHat/DeepHat-V1-7B, подготовленный KikoCis на основе модели команды DeepHat. Базовая модель представляет собой дообученную Qwen2.5-Coder-7B с архитектурой Qwen2; версии предназначены для запуска через llama.cpp, Ollama и совместимые среды на CPU или потребительских GPU. В README указан английский язык и специализация на кибербезопасности, DevOps и программном коде. Доступны варианты квантования от Q3_K_M до Q8_0, а также IQ4_XS, размером примерно от 3,81 до 8,10 ГБ. Для квантов применена importance matrix, что позволяет сохранить высокое сходство с эталонной BF16-версией: заявленное совпадение наиболее вероятного токена составляет от 98,02% для Q3_K_M до 99,82% для Q8_0. Модель поддерживает ChatML-шаблон и исходный шаблон вызова инструментов DeepHat, поэтому может использовать native function calling при наличии совместимого runtime. Приведены конфигурации запуска с контекстом 8192 токена, но максимальный размер контекста явно не указан. Сильные стороны модели — компактность, широкий выбор уровней квантования, высокая сохранность поведения относительно BF16 и специализация на задачах безопасности, DevOps и коде. Ограничения связаны с узкой предметной областью и размером 7B: в опубликованном тесте SWE-bench Verified модель решила 0 из 30 задач, а длительные многошаговые агентные циклы даются ей плохо. Старые версии Ollama и llama.cpp могут не поддерживать фильтр tojson в шаблоне вызова инструментов; в таком случае требуется обновление runtime или переход на упрощённый ChatML-шаблон с потерей native tool calling. Лицензия — Apache-2.0.
Llama Guard 3-1B — модель Meta, дообученная на предварительно обученной Llama 3.2-1B для классификации безопасности контента. Она анализирует запросы пользователей и ответы языковых моделей, выдавая текстовые метки safe или unsafe и, если контент небезопасен, указывая нарушенные категории. Модель ориентирована на модерацию диалогов и оценку контента по таксономии из 13 категорий опасностей MLCommons; поддерживает настройку категорий под правила приложения. Это компактная текстовая модель семейства Llama, работающая через генерацию текста. Карточка также описывает отдельный прореженный и квантованный вариант для мобильных устройств; эти характеристики не следует автоматически переносить на данный репозиторий. Модель поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Llama 3.2. Модель может ошибаться в суждениях, требующих здравого смысла, актуальных фактов или широкого языкового охвата; особенно осторожно следует оценивать категории, связанные с клеветой, интеллектуальной собственностью и выборами. Возможны обходы с помощью состязательных входов и prompt injection, поэтому перед применением в чувствительных сценариях необходима оценка качества.
Muszka Guard 0.1B v1.0 — разработанный в рамках инициативы muszkaowocowa.pl польскоязычный классификатор безопасности для проверки текстовых запросов и ответов перед передачей генеративной модели или показом пользователю. Модель дообучена на базе speakleash/Bielik-Guard-0.1B-v1.1; в README указана архитектура RoBERTa Base, а метаданные каталога сообщают 151,6 млн параметров и контекст до 514 токенов. README приводит оценку около 124 млн параметров, поэтому размер в источниках расходится. Классификатор выдаёт независимые оценки по шести категориям: преступная деятельность, jailbreak и prompt injection, вульгарность, язык ненависти, самоповреждение и сексуальный контент. Он предназначен для польских LLM-приложений и может работать как входной или выходной фильтр. Для CPU-развёртывания доступны веса SafeTensors и оптимизированный ONNX; автор README сообщает о задержке порядка 18–22 мс и потреблении около 420 МБ памяти на указанном оборудовании. README описывает аудит коротких токенов и примеры обнаружения угроз, однако приведённые результаты не заменяют независимой оценки качества на целевых данных. Модель ориентирована на польский язык, а заявленные категории и показатели не гарантируют выявление всех вредоносных запросов. Лицензия Apache-2.0 разрешает коммерческое и исследовательское использование.
Nemotron-Content-Safety-Reasoning-4B — языковая модель-классификатор NVIDIA для модерации диалогов и контроля безопасности контента. Она предназначена для использования в системах защитных ограничений LLM и может проверять как пользовательские запросы, так и ответы модели, в том числе на соответствие заданным разработчиком политикам и тематическим ограничениям. Модель основана на Gemma 3 4B IT и дообучена на наборе Nemotron-Content-Safety-Reasoning-Dataset. В README описаны два режима: быстрый режим без рассуждений и режим с рассуждениями для сложных или новых политик. Модель рассчитана на эффективный вывод с низкой задержкой и небольшим потреблением памяти; язык карточки — английский. NVIDIA позиционирует модель для коммерческого применения. Указана лицензия other, поэтому перед использованием следует проверить применимые условия NVIDIA. Качество классификации зависит от заданной политики и сценария; README рекомендует оценивать соответствие модели требованиям конкретной отрасли и учитывать возможные риски и неправильное использование.
NextCoder-7B-Finetuned-i1-GGUF — это квантизированная в формате GGUF версия модели NextCoder-7B-Finetuned, разработанной FBogaerts и подготовленной к квантизации пользователем mradermacher. Модель предназначена для генерации текста и программного кода, включая сценарии, связанные с внедрением уязвимостей и исследованиями безопасности. В README указана поддержка английского языка. Модель содержит около 7 миллиардов параметров и распространяется в различных вариантах квантизации, включая IQ-, Q2-, Q3-, Q4-, Q5- и Q6-варианты. Размер файлов составляет примерно от 2,0 до 6,4 ГБ; вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Доступен также imatrix-файл для самостоятельного создания квантизаций. К сильным сторонам относятся специализация на генерации кода и ориентация на задачи анализа безопасности и уязвимостей, а разнообразие вариантов квантизации позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения связаны с потерей качества у низкобитных вариантов; некоторые из них в README прямо отмечены как низкокачественные. Архитектура, длина контекста, дополнительные модальности и точные возможности многоязычной работы не указаны. Модель распространяется по лицензии MIT.
PLJIANGG05 выпустил дообученную на базе Qwen/Qwen3.5-4B модель для классификации пользовательского ввода по меткам SAFE и UNSAFE. Это текстовый классификатор на архитектуре Qwen3.5 с плотными весами; репозиторий содержит объединённую BF16-модель и исходные тензоры LoRA. Для вывода применяется сравнение условных логарифмических правдоподобий двух меток с фиксированными параметрами калибровки и порогом проверки. Модель предназначена для предварительной сортировки запросов по признаку опасного намерения в системах модерации и безопасности. В обучающих данных есть английский и китайский текст, однако приведённое расширенное сравнение выполнено только на английском и не подтверждает качество на китайском или других языках. Классификация ограничена текстовым вводом; сохранение мультимодальной архитектуры Qwen не означает поддержку проверки изображений или видео. Максимальный контекст классификатора — 1 024 токена; при превышении длины текст обрезается, что может удалить важные для оценки сведения. Автор характеризует модель как исследовательский классификатор, а не универсального ассистента или независимо сертифицированную систему безопасности. Метка SAFE не гарантирует безвредность запроса или последующего ответа; опубликованные оценки не основаны на новом слепом тестовом наборе. Лицензия — CC-BY-NC-4.0, допускающая использование с указанием авторства и ограничивающая коммерческое применение.
RegesCore-1.0-35B — языковая модель на 35 млрд параметров с архитектурой mixture-of-experts, созданная Like A King Inc. на основе Ornith-1.0-35B команды DeepReinforce. Это дообучение ориентировано на системную инженерию, работу с безопасностью, реверс-инжиниринг, Lua и агентное программирование. Модель рассчитана на диалог с системным промптом, который предлагает разделять утверждения на факты, выводы и неизвестное. Репозиторий содержит веса GGUF для локального запуска через llama.cpp, LM Studio, Ollama и совместимые с OpenAI серверы. Указаны квантизации от низкобитных IQ до Q8, а также варианты BF16, F16 и F32. Предусмотрены сценарии локального развёртывания, работы с Linux и инфраструктурой, анализа логов и инцидентов, разработки средств обнаружения угроз и редактирования кода в нескольких файлах. В метаданных основной задачей указана генерация текста; README сообщает о наследуемых от базовой архитектуры возможностях зрения, но их работа для всех сборок GGUF не подтверждена. Карточка рекомендует модель для авторизованных задач безопасности и инженерной работы, с проверкой результатов человеком. Специальных бенчмарков RegesCore не опубликовано; ответы и сгенерированный код могут быть ошибочными, а низкие квантизации снижают качество. Проверен только английский язык. Лицензия модели — MIT.
SingGuard-2b — мультимодальная модель-охранник для оценки безопасности текста, изображений и их сочетаний. Это дообученная модель Qwen3-VL-2B-Instruct от Qwen, опубликованная inclusionAI; она использует архитектуру Qwen3-VL и доступна в формате safetensors. Модель принимает правила безопасности как входной параметр policy, поэтому её можно настраивать под разные политики модерации без повторного обучения. Модель определяет, соответствует ли пользовательский запрос, ответ модели или мультимодальный материал активным правилам, и возвращает оценку safe/unsafe с категорией риска. Поддерживаются быстрый режим и режим с более подробным рассуждением; заявлена также оценка многоязычных запросов и ответов. Для работы с изображениями используется диалоговый интерфейс Transformers или vLLM. Лицензия — Apache-2.0. Карточка заявляет высокие результаты на ряде бенчмарков безопасности, но не приводит в доступном описании численных метрик. Выходы следует проверять: README отдельно предупреждает о некорректном формате или категории, отсутствующей в активной политике; возможности для видео отдельно для этой версии не подтверждены.
zenlm/zen-guard-gen-8b — языковая модель для генеративной проверки безопасности контента и построения защитных барьеров. Репозиторий содержит перепакованные веса Qwen/Qwen3Guard-Gen-8B; модель не обучалась с нуля. Это плотная архитектура Qwen3 с 7,6 млрд параметров и контекстом до 32 768 токенов, опубликованная в формате safetensors. Модель предназначена для оценки безопасности запросов и ответов в диалоговых системах и отнесения контента к категориям риска. Она поддерживает английский язык и может применяться как компонент модерации в приложениях с генерацией текста. Репозиторий помечен как устаревший в пользу zenlm/zen3-guard; веса сохранены для воспроизводимости. Лицензия — Apache-2.0.
AgentDoG-Llama3.1-8B — дообученная модель семейства Llama, разработанная командой AgentDoG для оценки безопасности траекторий автономных агентов. Она анализирует последовательности действий и наблюдений, чтобы определить, встречается ли небезопасное поведение на любом этапе выполнения, а для небезопасных траекторий дополнительно классифицирует источник риска, тип сбоя и возможный реальный вред. Модель предназначена для оценки, диагностики и защиты систем, использующих инструменты и API. Модель содержит 7,5 млрд параметров, использует плотную архитектуру Llama и формат Safetensors; базовая модель — meta-llama/Llama-3.1-8B-Instruct. Метаданные указывают контекст до 131 072 токенов. Карточка сообщает об оценке на R-Judge, ASSE-Safety и ATBench, включая выявление длительного перехвата инструкций и небезопасного использования инструментов. Для развёртывания предлагаются SGLang и vLLM. Указана лицензия Apache-2.0. Модель классифицирует траектории и выдаёт диагностические метки; её следует применять для анализа следов агента, а не как универсальный фильтр только конечных ответов. В приведённых результатах точность тонкой классификации заметно различается по категориям: 82,0% для источника риска, 32,4% для типа сбоя и 59,2% для типа вреда на ATBench; точность типа сбоя ограничена.
Auto-Reason-3b — дообученная языковая модель ProCreations для оценки безопасности предложенных агентом вызовов инструментов. Она формирует краткое текстовое обоснование, а затем выдаёт метку approve или deny. Модель построена на плотной архитектуре SmolLM3 с 3,1 млрд параметров и контекстом до 65 536 токенов; обучающее продолжение охватывало последовательности до 8 192 токенов. При использовании нужно сохранять заданные заголовки разделов и передавать запрос пользователя, историю действий и полные аргументы вызова. На опубликованном тесте модель показала точность 96,40% и соблюдала формат в 99,67% ответов; исходная модель-классификатор auto-3b на этом тесте достигла 98,03%. Поэтому текстовое обоснование не гарантирует более точного решения. В README также отмечены ошибки и противоречия в обоснованиях, снижение качества на длинных входах и отсутствие доступа к скрытым файлам, реальным разрешениям и будущему поведению сети. Синтетические данные и оценки отражают соответствие заданной политике, а не подтверждают безопасность в реальном применении. Лицензия — Apache-2.0.
CoPE-B-A4B-MM — мультимодальная модель классификации контента от Zentropi, дообученная на Google Gemma-4-26B-A4B-it. Она принимает текст, изображения и видео по отдельности или вместе и проверяет содержание по заданной разработчиком политике и набору меток. Модель предназначена для модерации, разметки контента, оценки рисков во входах и ответах LLM, а также подготовки признаков для ранжирования ленты и фильтрации обучающих данных. Архитектура Mixture-of-Experts содержит 25,2 млрд параметров, из которых 3,8 млрд активны при одном проходе; LoRA-дообучение слито с базовой моделью. Контекстное окно — до 256 тыс. токенов на политику и содержимое вместе. Выход — бинарная классификация: наличие или отсутствие заданных меток. Модель оптимизирована для американского английского; качество на других языках и локалях может снижаться. Она не проверяет факты по внешним источникам и не оптимизирована для агентных сценариев. Для использования действует коммерческая лицензия; подробные условия в карточке модели не приведены.
Модель leomaurodesenv/electra-base-discriminator-trustairlab-jailbreak — дообученный энкодер ELECTRA для классификации текста. Она основана на google/electra-base-discriminator, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. В README приведены результаты оценки: accuracy 0,9417 и loss 0,1880. Назначение модели связано с выявлением jailbreak-атак по названию репозитория, однако описание не уточняет метки классов и набор данных. Поэтому результаты не позволяют судить о качестве на других данных или о том, какие именно типы атак распознаются.
Opus Moderation 4 Fast (om4-fast) — компактная модель модерации текста от разработчика opus-research, дообученная на базе answerdotai/ModernBERT-base. Она классифицирует текст по семи меткам токсичности и отдельно выявляет jailbreak-запросы; предназначена для объединённой проверки контента в сценариях с ограниченными вычислительными ресурсами, включая запуск на CPU. Модель содержит 149 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и поддерживает контекст до 8192 токенов; обучение проводилось на последовательностях длиной 384 токена. Модель англоязычная. По заявленным оценкам, F1 для обнаружения jailbreak составляет 0,828, а macro F1 по общей модерации — 0,473. Выходы представляют калиброванные доли оценок разметчиков: для многометочной классификации следует применять sigmoid, а пороги заданы отдельно для каждой метки. Лицензия — Apache-2.0. В обучающих данных использован набор lmsys/toxic-chat с лицензией CC-BY-NC, что может иметь значение при оценке условий использования данных.
TurboVadim/Qwen3.8-27B-OBLITERATED — производная модель на базе Qwen/Qwen3.8-27B, распространяемая под лицензией Apache 2.0. Это текстовая autoregressive-модель для генерации текста, кода и ответов в диалоговых сценариях. По описанию автора, модель модифицирована методом abliteration для ослабления отказов и защитных ответов, поэтому ориентирована на red-team-тестирование, исследования безопасности ИИ, разработку кода и агентные сценарии, где требуется более прямой ответ на ограниченные запросы. Модель имеет архитектуру Qwen3, размер 27B параметров и поддерживает режим thinking; доступны варианты в форматах GGUF, Safetensors и MLX. Для работы рекомендуется температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов, а системный промпт лучше не использовать. В README не указаны точное максимальное окно контекста, перечень поддерживаемых языков и дополнительные модальности, поэтому подтверждённо описать их нельзя. Сильной стороной заявляется близкая к исходной способность на общих задачах: показатель MMLU для версии V3 составляет 82,3%, что на 2,1 процентного пункта ниже базовой модели. Также заявлены стабильная генерация рабочего кода и снижение числа жёстких отказов и защитных «лекций». Ограничения включают некоторую потерю качества относительно исходной модели, возможные циклы при генерации без repetition penalty и отсутствие встроенных защитных ограничений, что повышает риски при использовании в продуктивных или недоверенных сценариях.
ReDimNet2 B3 — конверсия официального чекпойнта b3-vox2-lm.pt в формат MLX, подготовленная для запуска на устройствах Apple. Модель принимает монофоническое аудио с частотой дискретизации 16 кГц и выдаёт вектор эмбеддинга говорящего размерностью 192; чекпойнт обучен с large-margin fine-tuning и рекомендован автором карточки. Модель предназначена для получения голосовых представлений, которые можно использовать в системах верификации и сравнения говорящих. В README указано, что эмбеддинги совпадают с PyTorch-реализацией с относительной ошибкой до 4,4×10⁻⁶ в худшем случае при вычислениях float32 на MLX CPU. Репозиторий распространяется по лицензии MIT.
Tanaos разработала эту компактную модель-ограничитель на базе distilbert/distilbert-base-multilingual-cased с помощью библиотеки Artifex. Модель дообучена на синтетическом наборе данных и классифицирует текст как безопасный или небезопасный; её задача в Hugging Face — text-classification. Она рассчитана на роль первого фильтра для запросов пользователей и ответов чат-ботов и может выявлять ненормативную лексику и разжигание ненависти, насилие и самоповреждение, сексуальный контент, травлю, персональные данные, попытки prompt injection и jailbreak. В карточке указан английский язык, а мультиязычная базовая модель сама по себе не подтверждает поддержку других языков этой версии. Контекст модели составляет 512 токенов. Модель помечена как устаревшая и больше не сопровождается; разработчик рекомендует использовать tanaos/tanaos-guardrail-v2. Она не предназначена для юридической или медицинской классификации и проверки фактической точности. Лицензия — MIT.