/ Модель

Характеристики

Контекст
514 токенов
Параметры
110 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense

mMiniLM-L6-v2-pt-v2

Классификация текстаТекст → label3 профессии

Мультиязычная модель XLM-RoBERTa, дообученная для классификации и оценки релевантности португальских текстовых фрагментов в поиске.

346скачиваний за 30 дней3лайкавеса обновлены5 янв 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mMiniLM-L6-v2-pt-v2 — мультиязычная модель семейства MiniLM, дообученная исследователями Unicamp DL на португальской версии набора MS MARCO для ранжирования фрагментов текста. Данные для версии v2 были переведены с помощью Google Translate. Модель построена на архитектуре XLM-RoBERTa и содержит 110,2 млн параметров; максимальная длина контекста — 514 токенов.

Модель предназначена для классификации текстовых пар и оценки релевантности при поиске по португальским документам, в частности для задач, связанных с MS MARCO. Она принимает текст и выдаёт классификационные оценки. В метаданных Hugging Face основная задача указана как text-classification. Лицензия — MIT.

Сценарии применения

  • оценка релевантности португальских отрывков поисковому запросу
  • классификация пар запрос–документ
  • ранжирование результатов поиска по португальским текстам
  • поиск ответов в коллекции португальских документов

Ограничения

Дообучение выполнено на португальском переводе MS MARCO, полученном с помощью Google Translate; качество может зависеть от артефактов машинного перевода. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mMiniLM-L6-v2 Reranker finetuned on mMARCO

Introduction

mMiniLM-L6-v2-pt-msmarco-v2 is a multilingual miniLM-based model finetuned on a Portuguese translated version of MS MARCO passage dataset. In the v2 version, the Portuguese dataset was translated using Google Translate. Further information about the dataset or the translation method can be found on our mMARCO: A Multilingual Version of MS MARCO Passage Ranking Dataset and mMARCO repository.

Usage

from transformers import AutoTokenizer, AutoModel

model_name = 'unicamp-dl/mMiniLM-L6-v2-pt-msmarco-v1'
tokenizer  = AutoTokenizer.from_pretrained(model_name)
model      = AutoModel.from_pretrained(model_name)

Citation

If you use mMiniLM-L6-v2-pt-msmarco-v2, please cite:

@misc{bonifacio2021mmarco,
  title={mMARCO: A Multilingual Version of MS MARCO Passage Ranking Dataset}, 
  author={Luiz Henrique Bonifacio and Vitor Jeronymo and Hugo Queiroz Abonizio and Israel Campiotti and Marzieh Fadaee and  and Roberto Lotufo and Rodrigo Nogueira},
  year={2021},
  eprint={2108.13897},
  archivePrefix={arXiv},
  primaryClass={cs.CL}

}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
a9c0d68

0 моделей