Модель определяет, является ли русскоязычный текст токсичным, для автоматической модерации и фильтрации сообщений.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
dimkonn/russian-toxic-classifier — модель бинарной классификации токсичности русскоязычных текстов, разработанная на базе ai-forever/ru-en-RoSBERTa и дообученная на наборе Mnwa/russian-toxic. Она использует архитектуру RoBERTa с классификационной головой RobertaForSequenceClassification, содержит 503,5 млн параметров и принимает текст длиной до 514 токенов. Модель предназначена для автоматической модерации сообщений и выявления токсичных высказываний. В тесте указаны Accuracy 0,9186, F1 0,9162 и ROC AUC 0,9765. Репозиторий распространяется по лицензии MIT.
В карточке приведены метрики на тестовой выборке, но не описаны её состав и переносимость результатов на другие источники текстов. Максимальная длина входа составляет 514 токенов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Модель бинарной классификации токсичности текстов на базе ai-forever/ru-en-RoSBERTa.
from transformers import pipeline
classifier = pipeline("text-classification", model="dimkonn/russian-toxic-classifier")
result = classifier("Вы что, совсем тупой?")
print(result)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · text-classification
Подбираем GPU…