Дообученная PhoBERT-модель классифицирует вьетнамские комментарии как допустимые или недопустимые для автоматизированной модерации.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
lamdx4/phobert-vi-moderation — модель классификации текста, дообученная на базе вьетнамского PhoBERT-base-v2. Она использует архитектуру RoBERTa с классификационной головой и предназначена для модерации вьетнамских комментариев: модель оценивает вероятности классов «valid» и «invalid». Размер модели — 162,4 млн параметров, нативная длина контекста — 258 токенов. Для использования нужны токенизатор и Transformers; в примере вход ограничивается 192 токенами.
Модель подходит для автоматической предварительной проверки комментариев и передачи подозрительных сообщений на ручную модерацию. Она рассчитана на вьетнамский язык и выдаёт метки классов и их вероятности. Лицензия — GNU AGPL-3.0. Карточка не описывает состав обучающих данных и качество на независимых наборах; поэтому пороги принятия решений следует проверять на данных конкретного сервиса.
Модель ориентирована на вьетнамский язык и имеет контекст длиной 258 токенов; пример использования ограничивает вход 192 токенами. В карточке нет сведений о метриках качества и составе обучающих данных.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
from transformers import AutoTokenizer, AutoModelForSequenceClassification
repo = "lamdx4/phobert-vi-moderation"
tok = AutoTokenizer.from_pretrained(repo, use_fast=False)
mdl = AutoModelForSequenceClassification.from_pretrained(repo)
probs = mdl(**tok("bình luận ...", return_tensors="pt", truncation=True, max_length=192)).logits.softmax(-1)
print({"valid": float(probs[0,0]), "invalid": float(probs[0,1])})
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…