BERT Large, обученная на MS MARCO для оценки релевантности и ранжирования текстовых пассажей по запросу.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
castorini/monobert-large-msmarco-finetune-only — модель на архитектуре BERT Large, преобразованная из чекпойнта, обученного на MS MARCO. Она предназначена для ранжирования пассажей: оценивает пары запроса и текста, чтобы выбрать наиболее релевантные фрагменты. Модель относится к классу BertForSequenceClassification, содержит 433,9 млн параметров и принимает текст с контекстом до 512 токенов.
Чекпойнт представлен в форматах PyTorch и Flax. В карточке указана лицензия Apache-2.0. Модель ориентирована на поиск и ранжирование текстовых фрагментов; сведений о поддержке других языков, кроме английского языка датасета MS MARCO, нет.
Контекст ограничен 512 токенами. Модель обучена для ранжирования пассажей на MS MARCO, поэтому её оценки могут хуже подходить для других типов текстов и задач.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This checkpoint is a direct conversion of BERT_Large_trained_on_MSMARCO.zip from the original repo. The corresponding model class is BertForSequenceClassification, and its purpose is for MS MARCO passage ranking. Please find the original repo for more detail of its training settings regarding hyperparameter/device/data.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…