/ Модель

Характеристики

Контекст
1 024 токена
Архитектура
gpt2 · dense

DialogRPT-depth

Классификация текстаТекст → label3 профессии

GPT-2-модель Microsoft Research оценивает, насколько ответ в диалоге вероятно вызовет длинное продолжение обсуждения.

123скачиваний за 30 дней6лайковвеса обновлены23 мая 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

microsoft/DialogRPT-depth — модель ранжирования ответов в диалогах из набора DialogRPT, разработанного группой Microsoft Research NLP. Она оценивает, насколько вероятно, что ответ вызовет длинное продолжение обсуждения; оценку можно применять для сравнения кандидатов, созданных диалоговой моделью, например DialoGPT, и выбора ответа для показа. Модель построена на GPT-2 и предназначена для классификации текста. Контекстное окно составляет 1024 токена; репозиторий содержит веса PyTorch.

DialogRPT обучалась на более чем 100 миллионах сигналов человеческой обратной связи. В карточке приведены примеры оценок для ответов на один и тот же контекст. Модель оценивает склонность ответа к продолжению дискуссии, а не его фактическую точность или полезность; результаты могут отражать закономерности данных обратной связи. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ранжирование вариантов ответа для чат-бота по вероятности продолжения обсуждения
  • переранжирование ответов, сгенерированных DialoGPT
  • оценка потенциала ответа вызвать дальнейшую дискуссию

Ограничения

Оценка отражает вероятность продолжения обсуждения, а не фактическую точность или полезность ответа. Языки обучения и лицензия не установлены по предоставленным сведениям.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Demo

Please try this ➤➤➤ Colab Notebook Demo (click me!)

ContextResponsedepth score
I love NLP!Can anyone recommend a nice review paper?0.724
I love NLP!Me too!0.032

The depth score predicts how likely the response is getting a long follow-up discussion thread.

DialogRPT-depth

Dialog Ranking Pretrained Transformers

How likely a dialog response is upvoted 👍 and/or gets replied 💬?

This is what DialogRPT is learned to predict. It is a set of dialog response ranking models proposed by Microsoft Research NLP Group trained on 100 + millions of human feedback data. It can be used to improve existing dialog generation model (e.g., DialoGPT) by re-ranking the generated response candidates.

Quick Links:

We considered the following tasks and provided corresponding pretrained models.

TaskDescriptionPretrained model
Human feedbackgiven a context and its two human responses, predict...
updown... which gets more upvotes?model card
width... which gets more direct replies?model card
depth... which gets longer follow-up thread?this model
Human-like (human vs fake)given a context and one human response, distinguish it with...
human_vs_rand... a random human responsemodel card
human_vs_machine... a machine generated responsemodel card

Contact:

Please create an issue on our repo

Citation:

@inproceedings{gao2020dialogrpt,
    title={Dialogue Response RankingTraining with Large-Scale Human Feedback Data},
    author={Xiang Gao and Yizhe Zhang and Michel Galley and Chris Brockett and Bill Dolan},
    year={2020},
    booktitle={EMNLP}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2ForSequenceClassification
Ревизия весов
0fa8a87

0 моделей