/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
Apache 2.0
Архитектура
xlm-roberta · dense

fact-or-opinion-xlmr-el

Классификация текстаТекст → label5 профессий

XLM-RoBERTa классифицирует предложения на факты и мнения, в первую очередь на английском и греческом языках.

137скачиваний за 30 дней25лайковвеса обновлены27 фев 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана совместно Военной академией Греции (SSE) и Техническим университетом Крита (TUC). Это XLM-RoBERTa-base с классификационной головой для бинарной классификации предложений: модель определяет, выражает ли предложение факт или мнение. Метки: 0 — мнение или субъективное высказывание, 1 — факт или объективное высказывание.

Модель рассчитана на английский и греческий языки; авторы также указывают возможность применять её к другим языкам XLM-R в режиме zero-shot. Она обучалась пять эпох на смешанном англо-греческом наборе примерно из 9 тысяч размеченных предложений; греческие примеры были получены машинным переводом исходных данных. Размер модели — 305,2 млн параметров, контекст — 514 токенов. На тестовом наборе указаны accuracy 0,952 и F1 0,952.

Модель подходит для предварительной разметки предложений по признаку фактичности и субъективности. Точность на других языках и в иных предметных областях может отличаться; состав данных и машинный перевод греческой части могут влиять на качество. Лицензия — Apache-2.0.

Сценарии применения

  • выделение субъективных высказываний в статьях
  • разметка предложений как фактов или мнений
  • предварительный анализ тональности и объективности текста

Ограничения

Обучение проводилось только на английских и греческих предложениях, поэтому качество zero-shot классификации на других языках не гарантировано. Греческая часть обучающих данных была создана машинным переводом.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Fact vs. opinion binary classifier, trained on a mixed EN-EL annotated corpus.

By the Hellenic Army Academy (SSE) and the Technical University of Crete (TUC)

This is an XLM-Roberta-base model with a binary classification head. Given a sentence, it can classify it either as a fact or an opinion based on its content.

You can use this model in any of the XLM-R supported languages for the same task, taking advantage of its 0-shot learning capabilities. However, the model was trained only using English and Greek sentences.

Legend of HuggingFace API labels:

  • Label 0: Opinion/Subjective sentence
  • Label 1: Fact/Objective sentence

Dataset training info

The original dataset (available here: https://github.com/1024er/cbert_aug/tree/crayon/datasets/subj) contained aprox. 9000 annotated sentences (classified as subjective or objective). It was translated to Greek using Google Translate. The Greek version was then concatenated with the original English one to create the mixed EN-EL dataset.

The model was trained for 5 epochs, using batch size = 8. Detailed metrics and hyperparameters available on the "Metrics" tab.

Evaluation Results on test set

accuracyprecisionrecallf1
0.9520.9450.9600.952

Acknowledgement

The research work was supported by the Hellenic Foundation for Research and Innovation (HFRI) under the HFRI PhD Fellowship grant (Fellowship Number:50, 2nd call)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
bf405d9

0 моделей