toxicity-classifier

mohsenfayyaz/toxicity-classifier — модель классификации текста на базе BERT Base uncased, дообученная на наборе Jigsaw Unintended Bias in Toxicity Classification. Она предназначена для оценки токсичности текста и подходит для анализа комментариев и другого пользовательского контента. Модель содержит 136,7 млн параметров, использует архитектуру BERT для классификации последовательностей и принимает текст длиной до 512 токенов.

Модель может помочь выявлять токсичные высказывания при модерации и анализе текстовых потоков. Карточка не сообщает лицензию, поэтому условия использования установить нельзя; результаты классификации могут быть подвержены смещениям, связанным с данными Jigsaw, и не должны считаться безошибочным решением о модерации.