/ Модель

Характеристики

Контекст
514 токенов
Параметры
95,2 млн
Лицензия
Своя лицензия
Архитектура
roberta · dense
Опубликована
2 мар 2022

distilroberta-bias

Классификация текстаТекст → label3 профессии

Англоязычная модель на базе DistilRoBERTa классифицирует текст как нейтральный или предвзятый.

6 104скачиваний за 30 дней12лайковвеса обновлены8 июн 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель valurank/distilroberta-bias разработана ValuRank на основе distilroberta-base: к предобученным весам добавлена классификационная голова, дообученная для определения предвзятости текста. Она относит входной текст к одному из двух классов: нейтральный или предвзятый. Модель предназначена для анализа англоязычных текстов, например проверки материалов и изучения предвзятых формулировок.

Архитектура — RoBERTa для классификации последовательностей, размер — 95,2 млн параметров. Максимальная длина входа составляет 512 токенов (514 токенов в метаданных контекста). Для дообучения использован набор wikirev-bias, основанный на правках английской Википедии. Модель принимает текст и выдаёт категорию; пригодность классификации для других жанров и областей данных из карточки не следует.

Лицензия указана как other, поэтому конкретные условия использования нужно проверять в карточке репозитория.

Сценарии применения

  • выявление предвзятых формулировок в англоязычном тексте
  • первичная проверка редакторских правок на предвзятость
  • классификация фрагментов текста по категориям «нейтральный» и «предвзятый»

Ограничения

Модель обучена на англоязычных правках Википедии, поэтому её качество на других языках, жанрах и предметных областях не подтверждено. Максимальная длина входа — 512 токенов; конкретные условия лицензии нужно уточнить в карточке репозитория.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DistilROBERTA fine-tuned for bias detection

This model is based on distilroberta-base pretrained weights, with a classification head fine-tuned to classify text into 2 categories (neutral, biased).

Training data

The dataset used to fine-tune the model is wikirev-bias, extracted from English wikipedia revisions, see https://github.com/rpryzant/neutralizing-bias for details on the WNC wiki edits corpus.

Inputs

Similar to its base model, this model accepts inputs with a maximum length of 512 tokens.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
c1e4a27

0 моделей