/ Модель

Характеристики

Контекст
514 токенов
Параметры
454 млн
Лицензия
MIT
Архитектура
roberta · dense
Опубликована
29 июл 2022

roberta-large-faithcritic

Классификация текстаТекст → label5 профессий

Дообученная RoBERTa large определяет, соответствует ли высказывание заданным исходным знаниям.

72скачиваний за 30 дней1лайквеса обновлены31 июл 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

McGill-NLP/roberta-large-faithcritic — модель RoBERTa large, дообученная на FaithCritic, производном датасета FaithDial. Она классифицирует высказывание как соответствующее или не соответствующее исходным знаниям и предназначена для проверки фактической верности ответов в диалоговых системах с опорой на источники. Модель имеет архитектуру RobertaForSequenceClassification, содержит 454,1 млн параметров и принимает текст с контекстом длиной до 514 токенов. Выпущена под лицензией MIT.

Сценарии применения

  • проверка фактической верности ответа чат-бота по исходному контексту
  • выявление неподтверждённых утверждений в диалоге
  • оценка ответов системы, использующей поиск по документам
  • классификация высказываний как достоверных или недостоверных относительно источника

Ограничения

Модель оценивает соответствие высказывания предоставленным исходным знаниям, поэтому её результат зависит от качества и полноты этого контекста. Карточка не сообщает об оценках качества или поддержке других языков.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Overview

Model Description: roberta-large-faithcritic is the RoBERTa large model fine-tuned on FaithCritic, a derivative of the FaithDial dataset. The objective is to predict whether an utterance is faithful or not, given the source knowledge.

The hyperparameters are provided in hparams.yml. To know more about how to train a critic model, visit our repo.

Usage

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("McGill-NLP/roberta-large-faithcritic")
model = AutoModel.from_pretrained("McGill-NLP/roberta-large-faithcritic")

knowledge = "A cardigan is a type of knitted garment (sweater) that has an open front."
response = "The old version is the regular one, knitted garment that has open front and buttons!"
input = tokenizer(knowledge, response)
output = model(**input)

Citation Information

@article{dziri2022faithdial,
  title={FaithDial: A Faithful Benchmark for Information-Seeking Dialogue},
  author={Dziri, Nouha and Kamalloo, Ehsan and Milton, Sivan and Zaiane, Osmar and Yu, Mo and Ponti, Edoardo and Reddy, Siva},
  journal={arXiv preprint, arXiv:2204.10757},
  year={2022},
  url={https://arxiv.org/abs/2204.10757}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
ef69439

0 моделей