Дообученная DistilRoBERTa классифицирует англоязычные тексты на категории оскорбительной и разжигающей ненависть речи.
61скачиваний за 30 дней7лайковвеса обновлены22 мар 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель badmatr11x/distilroberta-base-offensive-hateful-speech-text-multiclassification разработана Purvesh Patel и дообучена на базе distilroberta-base для многоклассовой классификации оскорбительной и разжигающей ненависть речи. Она принимает текст и относит его к классам, предусмотренным обучающим набором badmatr11x/hate-offensive-speech; карточка сообщает точность 94,50%. Модель построена на архитектуре RoBERTa, содержит 95,2 млн параметров и поддерживает контекст до 514 токенов.
Модель подходит для автоматической предварительной модерации англоязычных текстов и анализа токсичной речи. Она распространяется по лицензии MIT. Заявленная точность дана без описания методики оценки, поэтому её не следует считать гарантией качества на других данных; результат также ограничен набором классов и языком обучения.
выявление разжигающей ненависть речи в публикациях
классификация сообщений для очереди проверки модераторами
Ограничения
Оценка точности 94,50% приведена без описания тестовой выборки и методики и не гарантирует качество на новых данных. Модель рассчитана на английский язык и ограниченный набор классов из обучающих данных.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This is pre-trained model for offensive and hateful speech multiclassification.
Model is fine-tuned on distilroberta-base model from the huggingface repository.
This model is pre-trained on my original datasets. Reported accuracy of this model is 94.50%.
You can find all the datasets on this repository.
Find out my Space on this model here.
You can find training notebook on my github profile @purveshpatel511.
Report any bugs or issue here.