/ Модель

Характеристики

Контекст
514 токенов
Параметры
436 млн
Лицензия
CC BY-SA 4.0
Архитектура
luke · dense
Опубликована
23 янв 2023

luke-large-defamation-detection-japanese

Классификация текстаТекст → label3 профессии

Японский классификатор на основе LUKE выявляет в тексте угрозы, оскорбления и высказывания, порочащие репутацию.

104скачиваний за 30 дней5лайковвеса обновлены7 фев 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель kubota/luke-large-defamation-detection-japanese разработана на основе studio-ousia/luke-japanese-large и дообучена для автоматического выявления клеветы и оскорбительных высказываний на японском языке. Это классификатор последовательностей семейства LUKE с 436,2 млн параметров, принимающий текст и возвращающий одну из четырёх категорий: высказывание без признаков клеветы, угроза, оскорбление или высказывание, порочащее репутацию. Модель обучалась на сбалансированном наборе данных, объединяющем источники для анализа японских публикаций; в метаданных указан датасет kubota/defamation-japanese-twitter. Максимальная длина контекста составляет 514 токенов.

Модель подходит для первичной сортировки японских сообщений и поиска потенциально проблемных высказываний в пользовательском контенте. Классификация не заменяет контекстную и юридическую оценку: карточка не приводит метрики качества, а формулировки могут быть неоднозначны вне контекста. Лицензия — CC BY-SA 4.0.

Сценарии применения

  • поиск угроз в японских сообщениях
  • выявление оскорблений в публикациях на японском языке
  • поиск потенциальной клеветы в пользовательском контенте
  • сортировка японских комментариев по типу высказывания

Ограничения

Карточка не приводит метрики качества, а результат классификации может зависеть от контекста и неоднозначности формулировок. Модель рассчитана на японский язык.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

luke-large-defamation-detection-japanese

日本語誹謗中傷検出器

This model is a fine-tuned version of studio-ousia/luke-japanese-large for the Japanese language finetuned for automatic defamation detection.

The original foundation model was finetuned on a balanced dataset created by unifying two datasets:

  • Generic badge
  • DefamationJapaneseYouTube : TBA

Labels:
0 -> "中傷性のない発言"
1 -> "脅迫的な発言"
2 -> "侮蔑的な発言"
3"-> "名誉を低下させる発言"

Example Pipeline

Open In Colab

# !pip install transformers==4.26 sentencepiece
from transformers import pipeline
pipe = pipeline(model="kubota/luke-large-defamation-detection-japanese")
pipe("あの人は殺人を犯した犯罪者らしい")
[{'label': '名誉を低下させる発言', 'score': 0.8889994621276855}]

Training Scripts

Open In Colab

Licenses

The finetuned model with all attached files is licensed under CC BY-SA 4.0, or Creative Commons Attribution-ShareAlike 4.0 International License.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
LukeForSequenceClassification
Ревизия весов
223a9e1

0 моделей