/ Модель
Каталог

Характеристики

Контекст
512 токенов
Параметры
205 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
2 мар 2022

Ссылки

Hugging Face

rubertconv_toxic_clf

IlyaGusev
Классификация текстаТекст → label3 профессии

Русскоязычная BERT-модель для классификации сообщений и выявления токсичного текста.

557скачиваний за 30 дней15лайковвеса обновлены13 июл 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

IlyaGusev/rubertconv_toxic_clf — русскоязычная модель классификации текста, разработанная на основе rubert-base-cased-conversational. Она предназначена для выявления токсичных высказываний в пользовательских сообщениях и диалогах. Модель построена на архитектуре BERT с классификационной головой, содержит 205,1 млн параметров и принимает последовательности длиной до 512 токенов.

При обучении использовались данные 2ch, Одноклассников, Toloka Persona Chat Rus и набор диалогов Козиева с токсичной лексикой; применялись аугментации текста, включая добавление опечаток, маскирование токсичных слов и изменение регистра. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • фильтрация токсичных комментариев
  • модерация сообщений в онлайн-чатах
  • проверка пользовательских публикаций перед размещением

Ограничения

Карточка не приводит метрики качества или порогов классификации; результаты следует проверять на данных и сценариях целевого сервиса.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейII.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RuBERTConv Toxic Classifier

Model description

Based on rubert-base-cased-conversational model

Intended uses & limitations

How to use

Colab: link

from transformers import pipeline

model_name = "IlyaGusev/rubertconv_toxic_clf"
pipe = pipeline("text-classification", model=model_name, tokenizer=model_name, framework="pt") 

text = "Ты придурок из интернета"
pipe([text])

Training data

Datasets:

Augmentations:

  • ё -> е
  • Remove or add "?" or "!"
  • Fix CAPS
  • Concatenate toxic and non-toxic texts
  • Concatenate two non-toxic texts
  • Add toxic words from vocabulary
  • Add typos
  • Mask toxic words with "*", "@", "$"

Training procedure

TBA

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
39c070a

0 моделей

    Создать бенчмарк