Updated version of text profanity, trained on 2 lakh textual data
0 = non-offensive, 1 = offensive
Характеристики
- Контекст
- 514 токенов
- Параметры
- 152 млн
- Лицензия
- Apache 2.0
- Архитектура
- roberta · dense
- Опубликована
- 21 июн 2024
Ссылки
profanity_model_3.1
Модель на базе RoBERTa классифицирует текст как оскорбительный или неоскорбительный для автоматической модерации.
298скачиваний за 30 дней2лайкавеса обновлены17 янв 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
parsawar/profanity_model_3.1 — модель классификации текста для определения оскорбительного и неоскорбительного содержания. По карточке, это обновлённая версия модели, обученная на 200 тысячах текстовых примеров; метаданные указывают на архитектуру RoBERTa с классификационной головой и 151,8 млн параметров.
Модель выдаёт одну из двух меток: 0 — неоскорбительный текст, 1 — оскорбительный. Она подходит для фильтрации пользовательских сообщений и модерации текстового контента. Принимает текст, поддерживает последовательности длиной до 514 токенов. Указана лицензия Apache-2.0.
Сценарии применения
- фильтрация оскорбительных сообщений в чатах
- первичная модерация пользовательских комментариев
- проверка текста перед публикацией
- разметка текстов по признаку оскорбительности
Ограничения
Карточка не сообщает поддерживаемые языки и показатели качества; порог и надёжность классификации на конкретных типах текста следует проверять отдельно. Контекст ограничен 514 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделейIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…
- Класс архитектуры
- RobertaForSequenceClassification
- Ревизия весов
- d13ff4d