/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
MIT
Архитектура
roberta · dense

quora-roberta-base

Классификация текстаТекст → label7 профессий

Англоязычный кросс-энкодер RoBERTa оценивает вероятность того, что пара вопросов Quora является дубликатом.

314скачиваний за 30 дней0лайковвеса обновлены25 мар 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

navteca/quora-roberta-base — модель-кросс-энкодер на базе RoBERTa, обученная с помощью класса CrossEncoder из SentenceTransformers. Она принимает пару вопросов на английском языке и оценивает числом от 0 до 1 вероятность того, что вопросы являются дубликатами. Модель обучена на наборе Quora Duplicate Questions и предназначена для поиска повторяющихся вопросов, например при дедупликации пользовательских обращений или сортировке результатов по совпадению формулировок.

Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и поддерживает контекст до 514 токенов. Доступны веса PyTorch и Flax. Лицензия — MIT. Оценка относится именно к дублированию, а не к семантическому сходству: вопросы об изучении Java и Python могут получить низкий балл, несмотря на похожую структуру. Для сравнения длинных текстов или поиска общей тематической близости модель не предназначена.

Сценарии применения

  • поиск дубликатов среди вопросов пользователей
  • дедупликация вопросов в базе знаний
  • оценка совпадения пары вопросов Quora
  • ранжирование вопросов по вероятности точного дублирования

Ограничения

Модель оценивает вероятность дублирования, а не общую семантическую близость: похожие по структуре вопросы о разных предметах могут получить низкую оценку. Рассчитана на пары вопросов на английском языке.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Cross-Encoder for Quora Duplicate Questions Detection

This model was trained using SentenceTransformers Cross-Encoder class.

This model uses roberta-base.

Training Data

This model was trained on the Quora Duplicate Questions dataset.

The model will predict a score between 0 and 1: How likely the two given questions are duplicates.

Note: The model is not suitable to estimate the similarity of questions, e.g. the two questions "How to learn Java" and "How to learn Python" will result in a rahter low score, as these are not duplicates.

Usage and Performance

The trained model can be used like this:

from sentence_transformers import CrossEncoder

model = CrossEncoder('model_name')
scores = model.predict([('Question 1', 'Question 2'), ('Question 3', 'Question 4')])

print(scores)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
0919bfd

0 моделей