II.11Кибербезопасность и приватность

AdamCodd/vit-base-nsfw-detector — модель классификации изображений, созданная AdamCodd дообучением google/vit-base-patch16-384. Она использует архитектуру Vision Transformer с примерно 113,2 млн параметров и относит изображения к одному из двух классов: SFW или NSFW. Модель рассчитана на проверку фотографий, рисунков и других изображений, например для фильтрации контента. На оценочном наборе автор сообщает точность 96,54%. Модель намеренно относит к NSFW изображения с выраженным обнажением или декольте. Для изображений, созданных генеративными моделями, качество заметно ниже: точность составляет 86%; автор предупреждает, что обучение не включало такие изображения. Квантизированный вариант ONNX может иметь немного меньшую точность. Лицензия — Apache-2.0.

Модель alexandrainst/da-hatespeech-detection-base — датский BERT-классификатор от Alexandra Institute для определения оскорбительного или неоскорбительного содержания в тексте. Это модель BertForSequenceClassification на 137,8 млн параметров, дообученная на размеченных данных из социальных сетей; базовая модель — предварительно обученный Danish BERT от BotXO. Модель предназначена для классификации датских публикаций и сообщений, например для выявления оскорбительной речи при модерации контента. Она принимает текст и возвращает метку классификации. Длина контекста составляет 512 токенов; доступны веса PyTorch, Safetensors и TensorFlow. Обучающие данные вручную размечались совместно с Danmarks Radio, но не опубликованы, поэтому их состав и воспроизводимость ограничены. Модель выпущена по лицензии Apache-2.0.

valurank/distilroberta-spam-comments-detection — модель классификации текста, дообученная на базе distilroberta-base. Она предназначена для выявления спама в комментариях и других текстовых сообщениях. Модель содержит 95,2 млн параметров, использует архитектуру RoBERTa и принимает текстовые последовательности длиной до 514 токенов. В README приведён результат F1 0,9992 на оценочном наборе, однако его состав и методика оценки не раскрыты, поэтому этот показатель не подтверждает качество на новых данных. Датасет обучения неизвестен. Модель опубликована в формате safetensors под лицензией Apache-2.0.

Модель yukismd/HateSpeechClassification-japanese-gpt-neox-3-6b-instruction-ppo — дообученная языковая модель для классификации японских текстов на предмет языка вражды. Разработчик обучил её с помощью H2O LLM Studio на базе rinna/japanese-gpt-neox-3.6b-instruction-ppo и данных Nishika «ヘイトスピーチ検出». В README приведён пример числовой оценки классификации. Модель построена на архитектуре GPT-NeoX и содержит 4,7 млрд параметров. Она принимает текст и выдаёт текстовый результат; заявленная задача в каталоге Hugging Face — генерация текста. Метаданные указывают английский язык, а базовая модель и обучающие данные ориентированы на японский. Контекст составляет 2048 токенов. Для запуска описано использование Transformers; README также упоминает загрузку в 4- и 8-битном режиме. Модель предназначена для выявления языка вражды в японских текстах. README предупреждает, что результаты могут быть ошибочными или нерелевантными, а ответы могут содержать предвзятые или оскорбительные формулировки. Лицензия в предоставленных данных не указана.

Модель IMSyPP/hate_speech_it — одномовный классификатор ненавистнических высказываний в сообщениях социальных сетей на итальянском языке. Она разработана на основе предварительно обученной языковой модели ALBERTO для итальянского языка и реализована как BERT-классификатор последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель обучена на 119 670 комментариях YouTube и проверена на отдельной выборке из 21 072 комментариев. Для каждого текста она предсказывает один из четырёх классов: приемлемый, неподобающий, оскорбительный или содержащий насилие. Для обработки рекомендуется использовать исходный токенизатор ALBERTO. Модель подходит для модерации италоязычных комментариев в социальных сетях; результаты классификации не следует считать универсальной оценкой контекста за пределами этого сценария. Лицензия — MIT.

Модель viddexa/nsfw-detection-2-mini разработана Керемом Бозганом, Абдуллахом Кирманом и Фатихом Чагатаем Акйоном для визуальной модерации контента. Это дообученная на изображениях EfficientNet-B4 с 17 млн параметров; модель принимает изображения и относит их к одному из пяти классов: Normal, Porn, Hentai, Drawing или Sexy. Её можно применять для первичной фильтрации пользовательских изображений в социальных приложениях, форумах, играх и сервисах потокового видео, а также в родительском контроле. В сравнении авторов на пяти классах модель показала средний F-score 96,09%; для класса Sexy показатель составил 90,92%. Класс Normal означает отсутствие NSFW-содержимого, а Sexy — изображения без явной наготы, но с провокационной одеждой или другими признаками. По описанию авторов, модель предназначена для выявления явной наготы; она может считать безопасными изображения с провокационной наготой или одеждой, если явной наготы нет. Результаты следует использовать для первичного отбора с последующей проверкой человеком. Модель распространяется по лицензии Apache-2.0.

Модель viddexa/nsfw-detection-nano — компактный классификатор изображений для автоматической модерации визуального контента. Её разработали Kerem Bozgan, Abdullah Kırman и Fatih Çağatay Akyön, дообучив EfficientNet-B0 — свёрточную архитектуру с примерно 4 млн параметров. Модель принимает изображения и относит их к одному из двух классов: Safe или NSFW; её можно применять и к кадрам видео. Модель предназначена для первичного выявления явной наготы в пользовательском контенте, социальных приложениях, сообществах, играх и стриминговых сервисах, а также в системах родительского контроля. В README приведены оценки F1 около 96,9% для обоих классов на указанном авторами сравнении. При этом suggestive-образы и откровенная одежда без явной наготы могут классифицироваться как Safe, поэтому авторы рекомендуют проверку человеком перед окончательными решениями. Лицензия — Apache-2.0.

tarekziade/pardonmyai-tiny — компактная модель классификации текста, дообученная на базе TinyBERT для обнаружения ненормативной лексики. Она предназначена для фильтрации сообщений и предварительной модерации пользовательского текста. Модель использует архитектуру BERT и содержит 15,6 млн параметров; максимальная длина контекста — 512 токенов. Доступны веса в форматах Safetensors и ONNX. В README приведены метрики оценки: accuracy 0,9633, precision 0,9378, recall 0,8746, F1 0,9051 и AUC-ROC 0,9892. Модель выпущена под лицензией Apache-2.0. Карточка описывает обнаружение ненормативной лексики, но не уточняет поддерживаемые языки; качество может зависеть от языка, контекста и принятого определения ненормативной лексики.

JonatanGk/roberta-base-ca-finetuned-hate-speech-offensive-catalan — модель классификации текста на основе RoBERTa, разработанная как дообученная версия BSC-TeMU/roberta-base-ca. По названию репозитория она предназначена для выявления оскорбительной и разжигающей ненависть речи на каталанском языке. Модель содержит 153,2 млн параметров, принимает текст с контекстом до 514 токенов и доступна в формате PyTorch. В README указаны результаты оценки: accuracy 0,8778 и loss 0,4137; набор данных и подробности разметки не описаны. Модель может применяться для первичной фильтрации каталаноязычных публикаций и сообщений, требующих проверки модератором. Лицензия — Apache-2.0.

Модель orzhan/ruroberta-ruatd-binary — версия sberbank-ai/ruRoberta-large, дообученная для бинарной классификации русского текста по признаку искусственного происхождения. Она предназначена для определения, был ли текст создан искусственным интеллектом, в том числе для задач обнаружения машинно-сгенерированных текстов. Модель построена на архитектуре RoBERTa с классификационной головой RobertaForSequenceClassification и содержит 454,1 млн параметров. Принимает текст; максимальная длина контекста — 514 токенов. Модель связана с задачей Russian Artificial Text Detection. Карточка не приводит оценки качества, описание обучающих данных или условия лицензии, поэтому их нельзя оценить по имеющимся сведениям.

AbeHou/SemStamp-c4-sbert — текстовый эмбеддер, опубликованный AbeHou для исследовательского проекта SemStamp. Это дообученная модель MPNet на базе sentence-transformers/all-mpnet-base-v1; она преобразует предложения в векторные представления и используется в конвейерах SemStamp для создания и обнаружения текстовых водяных знаков, в том числе при анализе текстов из C4. Модель имеет 136,7 млн параметров и максимальную длину последовательности 514 токенов. Репозиторий содержит веса PyTorch и токенизатор; карточка Hugging Face указывает задачу feature-extraction. Языковые характеристики явно не описаны. Условия лицензии в доступных сведениях не установлены.

unitary/toxic-bert — модель классификации комментариев на токсичные и нетоксичные, разработанная Laura Hanu и командой Unitary для задач модерации онлайн-контента. Она предназначена для выявления токсичности, оскорблений, угроз, непристойной речи и атак на идентичность в пользовательских комментариях; доступные варианты обучались на заданиях Jigsaw 2018–2020 годов, включая мультиязычную классификацию. Модель построена на архитектуре BERT и содержит 136,7 млн параметров. Она принимает текст, выдаёт метки классификации и рассчитана на контекст до 512 токенов. README указывает поддержку английского, французского, испанского, итальянского, португальского, турецкого и русского языков для мультиязычного варианта. Лицензия — Apache-2.0. Модель может ускорить выявление комментариев для проверки модераторами, но её оценки не следует считать окончательным решением: сарказм, самоирония и контекст могут приводить к ошибкам, а в README отмечен риск смещения в отношении уязвимых групп. Также авторы предупреждают, что результаты моделей на Hugging Face могут отличаться от результатов библиотеки Detoxify.

VisionGuardrail-4B — мультимодальная модель для классификации визуального контента по безопасности, разработанная prithivMLmods на базе Qwen/Qwen3.5-4B и дообученная на наборе данных ImageShield-Guardrail-Pro. Она принимает изображения и текстовые инструкции, а затем определяет, безопасно ли изображение, уделяя особое внимание чувственному контенту NSFW и другим потенциально чувствительным материалам. Модель анализирует одежду и степень её открытости, позы, кадрирование и контекст сцены. Результат выдаётся в структурированном JSON с подписью, классификацией и обоснованием; консервативная политика склонна помечать неоднозначные случаи как небезопасные. Архитектура — плотная Qwen3.5 для условной генерации, размер базовой модели — 4 млрд параметров; заявлены английский язык и библиотека Transformers. Лицензия — Apache-2.0. В README модель обозначена как экспериментальная и предназначенная для исследований и классификации контента. Возможны ложные срабатывания и пропуски; точность зависит от качества изображения, контекста и инструкции. Результаты не следует считать окончательным решением о безопасности или законности контента.

tum-nlp/bert-hateXplain — модель классификации текста на основе BERT, разработанная командой tum-nlp. Она дообучена на наборе HateXplain и предназначена для определения токсичного и нетоксичного текста. Модель содержит 12 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch. В README указаны F1 0,81 и точность 0,77. Модель подходит для автоматической модерации и предварительной сортировки пользовательских сообщений. Оценки качества приведены без описания протокола и набора проверки, поэтому их переносимость на другие данные не установлена. Карточка не сообщает лицензию.

ADAFACE IR18 WEBFACE4M — предварительно обученная модель распознавания лиц из семейства CVLFace, опубликованная пользователем minchul. Она предназначена для извлечения признаков лица и построения систем сравнения или идентификации по изображениям лиц. Название указывает на архитектуру IR18 и обучение на WEBFACE4M; подход AdaFace использует адаптивный к качеству изображения margin для распознавания лиц. Модель выдаёт векторные признаки лица. В метаданных указан формат весов safetensors и задача feature-extraction. README просит соблюдать лицензию обучающего датасета; отдельная лицензия модели в предоставленных данных не приведена.

alexandrainst/da-hatespeech-classification-base — датская BERT-модель, разработанная Alexandra Institute для классификации оскорбительных текстов в четыре категории: особое внимание, включая угрозы; личные нападки; оскорбительная лексика; спам и другой нежелательный контент. Модель построена на предварительно обученной Danish BERT от BotXO и дообучена на данных из социальных сетей с ручной разметкой, подготовленных совместно с Danmarks Radio. Модель предназначена для второго этапа конвейера модерации: сначала следует применить модель обнаружения hate speech, затем эту модель — для категоризации найденных оскорбительных сообщений. Это BERT-классификатор последовательностей на 137,8 млн параметров с контекстом до 512 токенов; доступны форматы PyTorch, Safetensors и TensorFlow. Модель рассчитана на датский язык и тексты из социальных сетей. Обучающие данные не опубликованы, а модель предназначена для работы после детектора hate speech, поэтому сама по себе не заменяет этап обнаружения. Лицензия — Apache-2.0.

Overfit-GM/distilbert-base-turkish-cased-offensive — модель классификации текста на базе DistilBERT, разработанная пользователем или организацией Overfit-GM. Она предназначена для анализа турецкоязычных текстов и классификации сообщений, связанных с оскорбительным или токсичным содержанием. Модель работает с текстом на турецком языке, использует регистрочувствительный вариант DistilBERT и поддерживает контекст длиной до 512 токенов. Для использования применяется лицензия Apache-2.0. Данные о размере модели, точных классах, качестве и методике обучения в доступных источниках отсутствуют.

Модель badmatr11x/distilroberta-base-offensive-hateful-speech-text-multiclassification разработана Purvesh Patel и дообучена на базе distilroberta-base для многоклассовой классификации оскорбительной и разжигающей ненависть речи. Она принимает текст и относит его к классам, предусмотренным обучающим набором badmatr11x/hate-offensive-speech; карточка сообщает точность 94,50%. Модель построена на архитектуре RoBERTa, содержит 95,2 млн параметров и поддерживает контекст до 514 токенов. Модель подходит для автоматической предварительной модерации англоязычных текстов и анализа токсичной речи. Она распространяется по лицензии MIT. Заявленная точность дана без описания методики оценки, поэтому её не следует считать гарантией качества на других данных; результат также ограничен набором классов и языком обучения.

Moderator — компактная модель классификации изображений для выявления наготы и сексуальной активности, разработчик — desert-ant-labs. Она предназначена для проверки изображений перед загрузкой или показом в приложениях, а также для выборочной модерации видеокадров. Модель выдаёт оценку NSFW от 0 до 1, решение по заданному порогу и оценки для областей тела и категорий контента. Поддерживаются Core ML и LiteRT/TFLite; веса занимают около 9,7 МБ и 9,2 МБ соответственно, а обработка выполняется на устройстве. Для режима accurate в карточке приведены полнота 87,8% и специфичность 93,7% на тестовом наборе из 464 изображений. Доступны режимы fast, balanced и accurate с разным соотношением скорости и полноты. Модель обучена на лицензированных и синтетических данных. Лицензия указана как other; условия коммерческого использования следует сверить с лицензией репозитория. Это вспомогательный инструмент модерации, а не основание для юридических решений.

onnx-community/nsfw-image-detector-ONNX — модель классификации изображений в формате ONNX, опубликованная сообществом ONNX Community. Она основана на LukeJacob2023/nsfw-image-detector, дообученной версии google/vit-base-patch16-224-in21k, и предназначена для автоматического выявления и категоризации потенциально небезопасного для работы визуального контента. Модель использует архитектуру Vision Transformer (ViT): 12 слоёв, 12 attention heads, hidden size 768, размер входного изображения 224×224 пикселя и 3 цветовых канала. Она классифицирует изображения по пяти категориям: drawings, hentai, neutral, porn и sexy. Модель работает только с изображениями; сведения о языках и контекстном окне для неё неприменимы. В исходной карточке указано около 85,8 млн параметров и заявленная accuracy 0,9316 на оценочном наборе, однако эти результаты относятся к исходной PyTorch-модели, а не обязательно к ONNX-конверсии. Сильные стороны — специализированное назначение, компактная ViT-архитектура и возможность запуска через ONNX Runtime в совместимых средах. Ограничения включают зависимость качества от обучающего набора примерно из 28 тысяч изображений, возможные ошибки классификации и отсутствие подробного описания ограничений и сценариев безопасного применения. В карточке исходной модели указана лицензия Apache-2.0; отдельная лицензия ONNX-конверсии в доступных материалах явно не описана.

RADAR-Vicuna-7B — классификатор TrustSafeAI для выявления текста, сгенерированного языковыми моделями. Это энкодерная модель на архитектуре RoBERTa, дообученная с помощью состязательного обучения детектора и перефразировщика на человеческих текстах OpenWebText и текстах, созданных Vicuna-7B-v1.1. По метаданным, модель содержит 454,1 млн параметров и имеет контекстное окно 514 токенов. Модель принимает текст и классифицирует его как написанный человеком или сгенерированный ИИ. Её можно применять для предварительной проверки материалов и поддержки модерации или анализа контента. Обучение на генерациях Vicuna-7B-v1.1 может ограничивать надёжность распознавания текстов от других моделей и перефразированных текстов. Результат не следует использовать как единственное доказательство авторства: README рекомендует дополнительную проверку. Лицензия унаследована от Vicuna-7B-v1.1 и допускает только некоммерческое использование.

Модель yaya36095/xlm-roberta-text-detector предназначена для классификации текста и определения, написан ли он человеком или сгенерирован искусственным интеллектом. Она создана на архитектуре XLM-RoBERTa и рассчитана на многоязычную классификацию. Модель содержит около 305,2 млн параметров, принимает текстовые последовательности длиной до 514 токенов и выдаёт метку классификации. Её можно применять для предварительной проверки текстов, например при модерации пользовательских публикаций или анализе учебных работ. Модель распространяется под лицензией MIT. Точность для отдельных языков, жанров и типов генераторов в карточке не приведена. Результат детектора следует рассматривать как оценку, а не как доказательство авторства.

TurkuNLP/bert-large-finnish-cased-toxicity — модель TurkuNLP для многометочной классификации токсичности финскоязычных текстов. Она дообучена на bert-base-finnish-cased-v1 с использованием набора данных jigsaw_toxicity_pred_fi и предсказывает вероятности шести меток токсичности. Модель построена на архитектуре BERT с классификационной головой BertForSequenceClassification, содержит 454 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для выявления токсичных высказываний и анализа пользовательского контента на финском языке. README показывает пример использования через Transformers pipeline с функцией sigmoid для получения вероятностей меток. Доступный формат — PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

gravitee-io разработала компактный классификатор токсичности на базе BERT-tiny, дообученный на наборе gravitee-io/textdetox-multilingual-toxicity-dataset. Модель относит текст к одному из двух классов: «not-toxic» или «toxic», поэтому подходит для автоматической модерации пользовательских сообщений и фильтрации потенциально токсичного контента. Модель содержит 4,4 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в форматах Safetensors и ONNX. В карточке приведены результаты оценки для нескольких языков; качество различается между языками. Лицензия — OpenRAIL++.

ADAFACE VIT BASE KPRPE WEBFACE12M — модель распознавания лиц из семейства CVLFace, опубликованная разработчиком minchul. Она предназначена для извлечения признаков лица и построена на архитектуре ViT Base с кодированием относительных позиций ключевых точек (KPRPE). В названии указано, что для обучения использовался набор данных WebFace12M. Модель можно применять для получения векторных представлений лиц, например, как этап системы сравнения или идентификации лиц. Репозиторий содержит веса в формате safetensors. README просит цитировать исходную работу о KPRPE и соблюдать лицензию обучающего набора данных; отдельная лицензия модели не указана.

hate-speech-berturk — модель классификации текста, дообученная для обнаружения оскорбительной речи и языка ненависти на турецком языке. Она основана на BERTurk base uncased и обучена на датасете Toraman22 v2; архитектура — BertForSequenceClassification, размер — 137,8 млн параметров, максимальная длина входа — 512 токенов. Модель относит текст к одному из трёх классов: нейтральный, оскорбительный или язык ненависти. В README сообщается, что модель обучалась пять эпох на случайном разделении данных 80/20 и достигла F1 0,9094 и точности 0,9092 на оценочной выборке. Она предназначена для модерации турецкоязычных текстов и исследовательских задач классификации токсичной речи. Распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространяет производные работы на тех же условиях с ограничением некоммерческого использования.

Millennium-Jev-1.5B — компактная модель принятия решений экосистемы Millennium Open-Source, созданная на основе Qwen2.5-1.5B-Instruct. Она сочетает языковую основу с адаптером LoRA и отдельной головой решений; README указывает 1,54 млрд параметров основы и 77,08 млн обучаемых параметров решения. Модель оценивает заданные варианты и выбирает действие за один проход без авторегрессионной генерации, а также поддерживает калиброванную оценку неопределённости методом split conformal prediction. Модель предназначена для классификации намерений и маршрутизации запросов к инструментам или действиям агента, в том числе при большом числе кандидатов и неоднозначных либо потенциально небезопасных запросах. В карточке заявлены результаты на наборах для банковских намерений, китайского NLU и безопасности; это результаты авторской оценки, а не гарантия качества в иных сценариях. Метаданные указывают китайский и английский языки. Модель распространяется по лицензии Apache-2.0.

MiniLMv2-toxic-jigsaw — модель классификации текста, дообученная minuva на датасете соревнования Jigsaw 1st Kaggle с использованием unitary/toxic-bert в качестве учителя. Она определяет токсичность текста и предназначена для автоматической модерации комментариев и другого пользовательского контента. Модель построена на архитектуре BERT и содержит около 25,9 млн параметров; максимальная длина контекста — 512 токенов. В README приведён результат ROC-AUC 0,98600 на тестовой выборке при сравнении с учителем unitary/toxic-bert, у которого указано 0,98636. Модель поддерживает английский язык, распространяется в форматах Safetensors и ONNX по лицензии Apache-2.0.

Модель nsfw-detection-mini разработана Керемом Бозганом, Абдуллахом Кырманом и Фатихом Чагатаем Акйоном для автоматической модерации визуального контента. Это бинарный классификатор изображений на базе EfficientNet-B4, дообученной на изображениях с NSFW-контентом: он относит изображение к безопасному или NSFW-классу. Модель можно применять также к кадрам видео; она рассчитана на мобильное использование и содержит около 17 млн параметров. Основной сценарий — первичный отбор изображений с явной наготой для платформ с пользовательским контентом, социальных приложений, форумов, родительского контроля, игр и стриминговых сервисов. В карточке приведены F1-оценки 97,90% для безопасного класса и 97,89% для NSFW-класса; эти показатели относятся к описанному авторами сравнению и не гарантируют аналогичное качество на других данных. Модель распознаёт именно явную наготу: откровенная одежда или намёки без явной наготы могут быть отнесены к безопасному классу. Она не определяет сексуальное намерение и не подходит для юридической классификации, наблюдения за людьми или решений с серьёзными последствиями; для окончательной модерации рекомендуется проверка человеком. Лицензия — Apache-2.0.

sanali209/nsfwfilter — классификатор изображений на архитектуре Vision Transformer (ViT), опубликованный пользователем sanali209 и автоматически созданный с помощью HuggingPics. Модель предназначена для классификации изображений; название репозитория указывает на фильтрацию материалов NSFW, однако карточка не описывает классы, обучающие данные или точность, поэтому конкретные возможности фильтрации не подтверждены. Модель содержит 113,2 млн параметров и распространяется в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана. Карточка описывает проект как автоматически созданный классификатор, но не приводит ограничений по применению или сведения о языковой поддержке.