II.11Кибербезопасность и приватность

shahrukhx01/gbert-hasoc-german-2019 — немецкоязычная модель классификации текста на основе BERT, опубликованная пользователем shahrukhx01. По названию репозитория модель связана с задачей HASOC German 2019; README показывает загрузку через Transformers как AutoModelForSequenceClassification. Веса содержат 137,1 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для классификации немецких текстов, в частности для выявления языка ненависти и оскорбительного контента. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Доступные сведения не раскрывают метки классов и метрики качества, поэтому их нельзя уточнить.

GLM-5.3-Flash-Uncensored-2.51bpw-h6-exl3 — квантизированная версия модели GLM-5.3-Flash-Uncensored-FP8, разработанная MikeRoz на основе чекпойнта OrcaRouter, который, в свою очередь, основан на GLM-5.3-Flash от Z.ai. Модель предназначена для генерации текста, исследовательских задач, интерпретируемости, изучения механизмов отказа, red teaming, оценки устойчивости и контролируемых экспериментов. Из-за существенного удаления защитного выравнивания она может выполнять вредоносные, неэтичные и незаконные запросы, поэтому не предназначена для непосредственного использования конечными пользователями без собственных механизмов безопасности и модерации. Модель использует архитектуру Mixture-of-Experts: 320 млрд параметров всего и около 18 млрд активных, 45 трансформерных слоёв и дополнительный MTP-блок. Архитектура сочетает гибридное внимание — 34 слоя gated-linear KDA и 11 слоёв разреженного полноформатного внимания с top-2048 indexer, применяет MLA, 288 маршрутизируемых экспертов с выбором top-8 и одного общего эксперта, а также 4-wide Manifold-Constrained Hyper-Connections. Поддерживаются текст, изображения и видео, языки English и Chinese, контекст до 1 млн токенов и speculative decoding через MTP. Данная сборка использует формат exllamav3 с целевой точностью 2,5 бит на параметр и фактической 2.51 bpw; размер файла составляет около 98,123 GiB. Квантизация уменьшает требования к хранению по сравнению с исходным FP8-чекпойнтом, но модель всё равно требует значительных вычислительных ресурсов. Сильной стороной является сохранение структуры и совместимости исходного чекпойнта при существенном снижении точности хранения, однако низкая битность может ухудшать качество и стабильность генерации. Модель распространяется по лицензии MIT; ответственность за безопасность, законность использования и фильтрацию результатов возлагается на пользователя.

GLM-5.3-Flash-Uncensored-NVFP4 — квантизированная версия модели GLM-5.3-Flash от Z.ai, подготовленная OrcaRouter. Это Mixture-of-Experts-модель для условной генерации текста и изображений, предназначенная прежде всего для исследований отказоустойчивости, механизмов отказа, red teaming и оценки надёжности. Модель является «abliterated»-сборкой с существенно удалённым защитным выравниванием и может выполнять вредоносные, неэтичные или незаконные запросы, которые исходная модель отклоняла. Архитектура включает около 320 млрд параметров, из которых примерно 18 млрд активны одновременно: 288 маршрутизируемых экспертов с выбором top-8 и один общий эксперт. Используются гибридное внимание, MLA, 4-широкие Manifold-Constrained Hyper-Connections, собственные vision- и video-компоненты, MTP-голова для speculative decoding и контекст до 1 048 576 токенов. Поддерживаются английский и китайский языки. Размер модели составляет около 191 GiB: основные веса экспертов квантизированы в NVFP4 (4 бита), остальные компоненты преимущественно сохранены в BF16, отдельные вспомогательные тензоры — в FP32. Формат — safetensors с compressed-tensors; заявлена совместимость с vLLM. Ключевые преимущества — большой контекст, мультимодальность, MoE-архитектура и существенное уменьшение размера хранилища при сохранении точности чувствительных компонентов. Главные ограничения — высокая потребность в памяти и инфраструктуре, отсутствие встроенных защитных механизмов, потенциально опасные или непредсказуемые ответы и необходимость самостоятельной модерации. Модель распространяется по лицензии MIT; использование должно соответствовать законодательству и требованиям безопасности.

IMSyPP/hate_speech_en — англоязычная модель классификации комментариев в социальных сетях по четырём категориям: приемлемый, неуместный, оскорбительный и содержащий насилие контент. Она предназначена для анализа английских публикаций, например комментариев на YouTube, и выявления потенциально вредной речи. Модель построена на BERT base и реализована как BertForSequenceClassification; обучалась на 103 190 комментариях YouTube и проверялась на независимой выборке из 20 554 комментариев. Для обработки текста рекомендуется исходный токенизатор English BERT base. Модель содержит 135,5 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метку класса. Репозиторий содержит веса PyTorch, лицензия — MIT. Модель обучена на комментариях YouTube, поэтому качество на других типах текста и в иных языках может отличаться.

MetaHateBERT — модель BERT, разработанная irlab-udc и дообученная на наборе данных irlab-udc/metahate для бинарной классификации текста: «hate» и «no hate». Она предназначена для обнаружения языка вражды в комментариях социальных сетей, на форумах и в других текстовых источниках, а также для автоматической модерации и первичной фильтрации потенциально вредного контента. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и обрабатывает последовательности длиной до 512 токенов. Карточка указывает английский язык; лицензия — Apache-2.0. Модель может помогать отмечать сообщения для проверки модераторами, но классификация не безошибочна: возможны ложноположительные и ложноотрицательные результаты, а также смещения, унаследованные от обучающих данных. Качество может меняться в зависимости от предметной области и источника текста.

Minos — классификатор отказов в ответах ассистента, разработанный Nous Research. Он анализирует пары «запрос пользователя — ответ ассистента» и относит ответ к одному из двух классов: отказ или не отказ. Модель предназначена для контроля отказов в приложениях и проверки синтетических ответов. Модель основана на энкодере ModernBERT-large и дообучена для классификации последовательностей. Она содержит 394,7 млн параметров, принимает текст длиной до 8192 токенов и выдаёт метку класса с оценкой уверенности. В README описан шаблон, где текст запроса и ответа объединяется с разделителями пользователя и ассистента; для многоходовых диалогов можно объединять несколько таких обменов. Minos рассчитан на распознавание отказов, а не на создание ответов. Качество классификации вне описанных сценариев и поддерживаемые языки в карточке не подтверждены. Модель распространяется по лицензии Apache-2.0.

Модель viddexa/nsfw-detection-2-nano разработана Kerem Bozgan, Abdullah Kırman и Fatih Çağatay Akyön для автоматической модерации визуального контента. Это дообученная на изображениях EfficientNet-B0, компактная свёрточная модель для классификации изображений; в README указано около 4 млн параметров и поддержка пяти классов: Normal, Porn, Hentai, Drawing и Sexy. Её можно применять к изображениям и кадрам видео для первичной фильтрации откровенного контента. Модель предназначена для предварительного выявления обнажённости и сексуального контента в пользовательских публикациях, социальных приложениях, играх и потоковых сервисах, а также для родительского контроля. В описанном сравнении она показывает макро-F-score 93%; на классе Sexy результат ниже — 85,15%. Класс Normal соответствует изображениям без откровенного контента, а Sexy охватывает неоднозначные случаи с провокационной одеждой или намёками. README рекомендует проверку человеком и предупреждает, что модель не определяет сексуальное намерение и не подходит для правовой оценки изображений. Лицензия — Apache-2.0.

ezb/NSFW-Prompt-Detector — модель классификации текста, опубликованная пользователем ezb на Hugging Face. Карточка демонстрирует её использование как text-classification и указывает архитектуру DistilBERT для классификации последовательностей; модель предназначена для обнаружения NSFW или неподходящих текстовых промптов, например перед их передачей генератору изображений. Поддерживаемый язык по тегам карточки — английский, а максимальная длина контекста по метаданным — 512 токенов. Репозиторий содержит веса PyTorch и safetensors. В конфигурации указан путь Zlatislav/NSFW-Prompt-Detector, что указывает на происхождение от этой модели; сведения о лицензии доступны в метаданных карточки как license: other. Карточка не приводит оценок качества или подробных ограничений, поэтому надёжность детекции за пределами заявленного сценария установить нельзя.

Falconsai разработала эту модель на базе distilbert-base-uncased: DistilBERT дообучен для классификации текстов на оскорбительные и неоскорбительные. Она предназначена для модерации пользовательских сообщений и выявления оскорбительной или разжигающей ненависть речи. Архитектура — DistilBertForSequenceClassification; модель принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов, основной язык — английский. Модель компактнее исходного BERT благодаря дистилляции и ориентирована на одну задачу. По карточке, обучающий набор меньше 100 тысяч примеров, составлен из исследовательских датасетов и новостных заголовков; в нём есть перекосы, в частности частое использование слова «like» в оскорбительных примерах и отсутствие пунктуации. Поэтому возможны ложные срабатывания на такие формулировки и ошибки на данных, отличающихся от обучающих. Лицензия — Apache-2.0.

visolex/phobert-v2-hsd — модель классификации вьетнамского текста, созданная дообучением vinai/phobert-base-v2 на наборе ViHSD. Она относит сообщения к одному из трёх классов: нейтральный текст (CLEAN), оскорбительный или неприемлемый текст (OFFENSIVE) и язык ненависти, включая экстремистские высказывания и серьёзные угрозы (HATE). Модель основана на архитектуре PhoBERT V2, варианте RoBERTa с послоговой токенизацией, и содержит 113,2 млн параметров. Модель предназначена для выявления оскорблений и языка ненависти во вьетнамских комментариях, в том числе при модерации материалов в социальных сетях. ViHSD включает около 10 тысяч таких комментариев. В README приведены результаты на тестовой выборке: accuracy 0,9341 и macro-F1 0,8048. Модель распространяется по лицензии MIT.

Qwen3.8-Flash-Next-Uncensored-Q4_K_M-MTP — квантованная GGUF-модель, созданная на базе Qwen3.8-Flash-Next и производной orcarouter/Qwen3.8-Flash-Next-Uncensored. Модель разработана для локального запуска и исследовательских задач, включая интерпретируемость, изучение механизмов отказа, тестирование безопасности и оценку устойчивости моделей. Она предназначена для генерации текста и поддерживает английский и китайский языки; в метаданных также указана vision-language направленность, однако подробности о поддерживаемых визуальных входах не приведены. Модель использует архитектуру qwen4exp с Gated DeltaNet, QSA, HyperConnections и PLE. Она содержит полный 48-слойный основной блок и один слой Multi-Token Prediction (MTP), интегрированный непосредственно в четыре GGUF-фрагмента, поэтому отдельный файл для черновой головы не требуется. Применена квантизация Q4_K_M для основной части и MTP-головы. Общий размер составляет около 113,7 ГиБ, а заявленный нативный контекст — 262 тысячи токенов. Интегрированный MTP рассчитан на ускорение генерации при использовании совместимого llama.cpp. Ключевая особенность модели — abliteration, то есть удаление механизмов отказа исходной модели. Благодаря этому она может отвечать на вредоносные, неэтичные и незаконные запросы, от которых базовая модель отказалась бы. Это делает её пригодной для контролируемого red-teaming и исследований, но создаёт существенные риски при практическом использовании; для развёртывания необходимы собственные фильтры безопасности и модерации. Для запуска требуется llama.cpp с поддержкой qwen4exp и соответствующих функций speculative decoding. Модель распространяется по Qwen Community License 1.0, унаследованной от базовой модели. Для коммерческого использования в формате Model as a Service или AI Work Assistant, согласно указанным условиям, требуется отдельная лицензия от Qwen.

prithivMLmods/Qwen3-VL-4B-Instruct-c_abliterated-v2 — мультимодальная модель на основе Qwen3-VL-4B-Instruct, дообученная методом continual abliteration. Она анализирует изображения и отвечает на инструкции текстом; README особо отмечает подробные рассуждения и описания художественных, технических и абстрактных изображений, а также работу с разными пропорциями кадра. Модель предназначена для исследования отказов и защитных механизмов, тестирования мультимодальных фильтров, описания изображений и подготовки описательных метаданных для архивов. По карточке, повторное обучение направлено на ослабление механизмов отказа, поэтому модель может отвечать на запросы, которые базовая модель отклонила бы. Разработчик указывает, что модель может ошибочно интерпретировать абстрактные или синтетические изображения и генерировать откровенный либо оскорбительный текст. Она не предназначена для публичного применения общего назначения. Лицензия — Apache-2.0.

ssale2/results — дообученная модель классификации изображений на архитектуре Vision Transformer (ViT), созданная на основе aretolabs/nsfw_detection. Репозиторий содержит веса в формате safetensors; модель насчитывает 113,2 млн параметров и распространяется по лицензии Apache-2.0. Модель предназначена для классификации изображений, в частности для выявления контента NSFW. README не приводит сведений о датасете, точности и ограничениях применения, поэтому качество и охват классов по имеющимся данным оценить нельзя.

Xuhui/ToxDect-roberta-large — модель классификации токсичного языка, разработанная Xuhui на основе RoBERTa-large и дообученная на твитах. Она определяет, является ли текст токсичным: LABEL_1 означает токсичный, LABEL_0 — нетоксичный. Модель предназначена для модерации пользовательских сообщений и анализа текстов в социальных сетях. Использует архитектуру RoBERTa для классификации последовательностей, содержит 454,1 млн параметров и принимает текст длиной до 514 токенов. Поддерживает английский язык, на котором представлены обучающие данные и пример в карточке. Лицензия в доступных данных не указана.

ChrisZeng/twitter-roberta-base-efl-hateval — модель классификации текстов на базе RoBERTa, дообученная на наборе HatEval от модели cardiffnlp/twitter-roberta-base-2021-124m. Она предназначена для выявления ненавистнических высказываний в текстах из Twitter. В карточке указаны результаты на оценочной выборке HatEval: accuracy 0,7913, F1 0,7899 и loss 0,3683. Модель содержит 151,8 млн параметров, принимает текстовые последовательности с контекстом до 514 токенов и распространяется в формате PyTorch. Данных о лицензии и поддерживаемых языках в предоставленной карточке нет. Показатели на HatEval не гарантируют такую же точность на других платформах, языках или типах текста.

ViSoBERT là một языковая модель, разработанная авторами исследования Nam Nguyen, Thang Phan, Duc-Vu Nguyen и Kiet Nguyen для обработки вьетнамских текстов из социальных сетей. Она построена на архитектуре XLM-RoBERTa и обучена как монолингвальная модель с маскированным языковым моделированием; в репозитории представлены веса PyTorch объёмом около 124,8 млн параметров, а длина контекста составляет 514 токенов. Модель предназначена для заполнения пропусков в тексте и как основа для дообучения под анализ эмоций, выявление языка вражды, анализ тональности, обнаружение спам-отзывов и разметку фрагментов с языком вражды во вьетнамских публикациях. Авторы сообщают о результатах уровня state of the art на нескольких задачах обработки вьетнамских социальных сетей. В карточке указана лицензия для использования только в исследовательских целях; авторы просят цитировать статью при публикации результатов или включении модели в программное обеспечение.

leondz/artgpt2tox — англоязычная генеративная модель на базе GPT-2, опубликованная исследователем Леоном Дерчинским. Она дообучена на примерах из подмножества hhrlhf, которые дали обнаруживаемый токсичный результат, и предназначена для генерации токсичных текстов в качестве целевой модели при тестировании безопасности LLM и разработке red-team-зондов. Модель содержит около 0,1 млрд параметров, использует архитектуру GPT2LMHeadModel и принимает текст, продолжая его; заявленная длина контекста — 1024 токена. Репозиторий распространяется по лицензии Apache-2.0. Поскольку модель специально обучена генерировать токсичный контент, её выводы могут быть оскорбительными и не подходят для обычных диалоговых сценариев.

Это модель классификации текста на основе BERT, разработанная Сеймой Сарыгил. Она относит турецкий текст к одной из пяти категорий: оскорбления, прочее, ненормативная лексика, расистские высказывания и сексистские высказывания. Модель подходит для модерации пользовательских сообщений и анализа токсичного или дискриминационного контента. Модель содержит 211,6 млн параметров, принимает последовательности длиной до 512 токенов и выдаёт метку класса с оценкой. В README приведены метрики на тестировании: точность 0,956 и F1 0,956; результаты могут отличаться на данных из других источников и жанров. Модель обучалась на датасете nanelimon/insult-dataset и распространяется по лицензии MIT.

Это англоязычная модель классификации текста на базе BERT, опубликованная организацией Hate-speech-CNERG. Она относит текст к одной из трёх категорий: hate speech, оскорбительный или нормальный. Модель обучена на данных Gab и Twitter; при обучении использовались человеческие обоснования разметки, чтобы улучшить качество обнаружения языка ненависти. Модель предназначена для автоматической модерации и анализа публикаций и сообщений на английском языке. Архитектура — BertForSequenceClassification, размер — 136,7 млн параметров; максимальный контекст составляет 512 токенов. Доступны версии весов PyTorch и Flax. Карточка не приводит количественных оценок качества или подробностей о том, как модель выделяет обоснования в предсказаниях. Результаты классификации следует проверять с учётом контекста и возможных ошибок при различении оскорблений и языка ненависти. Лицензия — Apache-2.0.

Это модель ConvNeXt-Nano для распознавания лиц, разработанная gaunernst и обученная на наборе данных MS1MV3. Она предназначена для извлечения признаков лица: на вход подаётся изображение размером 112 × 112 пикселей, а на выходе получается вектор из 512 признаков. Для сравнения лиц выходной вектор следует нормализовать, поскольку модель сама его не нормализует. Модель совместима с библиотекой timm и загружается из Hugging Face Hub через timm. Её можно использовать для построения систем верификации и идентификации лиц, сопоставляя полученные векторы. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

ADAFACE IR101 WEBFACE4M — предварительно обученная модель распознавания лиц из семейства CVLFace. Она предназначена для извлечения признаковых векторов лиц, которые можно использовать для сравнения лиц и построения систем распознавания. Модель связана с работой AdaFace о настройке отступа классификации с учётом качества изображения; в названии указаны архитектура IR101 и обучающий набор WebFace4M. Репозиторий содержит веса в формате safetensors. Лицензия модели и условия лицензии обучающего набора в предоставленных данных не описаны; README просит соблюдать лицензию набора данных. Модель принимает изображения лиц и выдаёт признаки для дальнейшего сравнения. Кейсы применения зависят от качества входных изображений и соблюдения условий использования обучающих данных.

dehatebert-mono-german — модель для выявления языка ненависти в немецкоязычных текстах, опубликованная в пространстве Hate-speech-CNERG. Это BERT-модель для классификации последовательностей с 194,6 млн параметров и контекстом до 512 токенов; веса доступны в форматах PyTorch и Flax. Несмотря на слово german в названии, авторы описывают вариант mono как обученный только на англоязычных данных, а модель — как дообученную на multilingual BERT. Модель предназначена для классификации немецких текстов на предмет языка ненависти. В README приведён лучший результат на валидации 0,649794 при скорости обучения 3e-5, однако не уточнено, какой именно метрикой измерен результат. Модель выпущена по лицензии Apache-2.0.

OS-Software/gemma-4-26B-A4B-it-qat-q4_0-heretic-japanese-pruned-GGUF — производная GGUF-модель на базе Google DeepMind Gemma 4 26B A4B instruction-tuned QAT. Вариант создан с экспертным удалением параметров и оптимизирован с учётом японской pruned-версии. Модель предназначена прежде всего для исследований, экспериментов, анализа безопасности, изучения alignment и red-teaming, а не для публичных пользовательских сервисов. Модель относится к семейству Gemma 4 с архитектурой Mixture-of-Experts; обозначение 26B A4B указывает на модель класса 26 миллиардов параметров с примерно 4 миллиардами активных параметров. Поддерживаются текстовые и графические входы с генерацией текста; для семейства заявлены контекст до 256K токенов и мультиязычность более чем на 140 языках. Формат GGUF обеспечивает совместимость с широким спектром локальных средств запуска, а QAT-квантизация снижает требования к памяти при сохранении качества, близкого к bfloat16. К сильным сторонам относятся возможности рассуждения, генерации текста и кода, мультимодальная обработка, большой контекст и сниженные требования к ресурсам по сравнению с полноразмерной моделью. Существенное ограничение — значительное ослабление механизмов безопасности: модель с большей вероятностью создаёт вредный, неточный, предвзятый, оскорбительный или иной неподходящий контент. Все результаты требуют независимой проверки, защитных механизмов и человеческого контроля; разработчик рекомендует не использовать модель в конечных продуктах. Модель распространяется по лицензии Apache 2.0, применимой к базовой Gemma 4, с учётом условий лицензии исходной модели. Использование осуществляется на риск пользователя; необходимо соблюдать законодательство, лицензионные требования и этические нормы.

Модель Hate-speech-CNERG/indic-abusive-allInOne-MuRIL — дообученная для классификации оскорбительной речи модель на базе MuRIL, представленная авторами исследования о выявлении оскорбительного языка в индийских языках. Она относит текст к одному из двух классов: обычный или оскорбительный. Модель обучена совместно на данных для бенгальского, хинди письмом деванагари, смешанного хинди, смешанного каннада, смешанного малаялам, маратхи, смешанного тамильского, урду, смешанного урду и английского языков. Это плотная модель архитектуры BERT с 264,8 млн параметров и контекстом до 512 токенов. Она предназначена для модерации пользовательских публикаций и выявления оскорбительной речи в многоязычных индийских текстах, включая тексты со смешением языков. Модель использует формат PyTorch и Safetensors; лицензия — AFL-3.0. Модель решает бинарную задачу и может хуже работать на языках, вариантах письма и типах оскорблений, которые не представлены в обучающих данных. README ссылается на исследовательскую работу о методах расширения данных для низкоресурсных индийских языков.

ggapar/Ministral-DFK-CPT-TRIAL — дообученная модель на архитектуре Mistral3 для четырёхклассовой классификации контента на индонезийском языке. Она предназначена для выявления дезинформации, клеветы и языка ненависти, а также нейтрального фактического содержания и обычного общения. Обучение выполнено методом QLoRA 4-bit с LoRA-адаптером ранга 16 и alpha 32 на датасете Brodip/DatasetSFT_DFK_TRL; использован нативный шаблон чата Ministral и длина последовательности до 2048 токенов. Модель принимает текст и определяет категорию DFK, помогая анализировать индонезийские публикации и высказывания. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Качество классификации и ограничения применения в README не описаны.

mohawwad93 представил модель для классификации текста по наличию расистской предвзятости, языка ненависти и оскорбительных высказываний, направленных против людей или групп. Она размечает текст как NEUTRAL — нейтральный или безопасный — либо FLAGGED — содержащий потенциально проблемный язык. В README указано, что модель дообучена на объединённом наборе бенчмарков по языку ненависти и расовой предвзятости; метаданные описывают архитектуру как ModernBERT для классификации последовательностей, объёмом 149 млн параметров и с контекстом до 8192 токенов. Модель подходит для первичной модерации текстов и выявления потенциально оскорбительных или предвзятых формулировок. Карточка рекомендует запуск через Transformers pipeline с задачей text-classification. Указана лицензия MIT. Метаданные и README расходятся в базовой модели: README называет roberta-base, тогда как архитектура в метаданных — ModernBERT; поэтому базовая модель не устанавливается однозначно.

strangerguardhf/nsfw-image-detection — модель классификации изображений на базе визуально-языкового энкодера SigLIP 2, дообученного с архитектурой SiglipForImageClassification. Она предназначена для автоматической фильтрации изображений по типам контента, в частности для выявления откровенных и чувственных материалов и отделения их от безопасных изображений. Среди меток указаны Anime Picture, Hentai, Normal, Pornography, Enticing и Sensual. Модель принимает изображение и возвращает категорию классификации. В README указана база siglip2-base-patch16-256, тогда как метаданные связывают модель с google/siglip2-base-patch16-224; точный вариант базовой модели поэтому неоднозначен. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0.

0xSojalSec выпустил модифицированную версию Tencent Hy-MT2-30B-A3B для многоязычного машинного перевода. Это MoE-модель семейства Hy-V3 с архитектурой HYV3ForCausalLM; в метаданных указано 2,7 млрд параметров и контекст до 262 144 токенов. Модель принимает текстовые инструкции и переводит между поддерживаемыми языками, включая сценарии с деловой и специализированной лексикой и следованием инструкциям. Веса прошли abliteration: README сообщает о существенном снижении защитного выравнивания. Это может быть полезно для исследований безопасности, red teaming и экспериментов с поведением моделей, но повышает вероятность вредных, неточных, предвзятых или оскорбительных ответов. Модель распространяется под лицензией Apache-2.0; автор карточки рекомендует исследовательское применение и не советует развёртывать её в публичных сервисах.

Многоязычный бинарный классификатор токсичности Görkem Yıldız на базе XLM-RoBERTa-base. Модель относит текст к классам «токсичный» и «нетоксичный» и предназначена для фильтрации сообщений в чатах на турецком, арабском и английском языках. Она рассчитана на арабские диалекты, Arabizi (арабскую речь латиницей с цифрами), намеренно искажённое написание, скрытую токсичность и контрречь. Архитектура — XLM-RoBERTa для классификации последовательностей; в репозитории указано 305,2 млн параметров, а длина контекста — 514 токенов. В README приведены F1 0,907 и точность 0,906 на валидации, а также 88% на внутреннем сложном наборе с диалектами, Arabizi и обфускацией. Перед токенизацией необходимо применять ту же нормализацию, что и при обучении: в частности, обработку арабских диакритик и удлинённых символов. Модель может ошибаться на вежливых угрозах, сарказме, завуалированных предубеждениях и отдельных отрицаниях; также она может помечать как токсичные возвращённые в употребление оскорбления. Лицензия — Apache-2.0.

Модель Cardiff NLP на базе RoBERTa-base предназначена для классификации твитов по признаку оскорбительного языка. Сначала RoBERTa обучалась на примерно 58 млн твитов, затем модель дообучили для выявления оскорбительных высказываний с использованием бенчмарка TweetEval. Она содержит около 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Модель выдаёт метки «оскорбительное» и «не оскорбительное» с оценками уверенности. Она подходит для анализа публикаций в Twitter и выявления оскорбительной речи в коротких текстах. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.