Характеристики
- Контекст
- 512 токенов
- Параметры
- 205 млн
- Архитектура
- bert · dense
- Опубликована
- 2 мар 2022
Ссылки
mdpr-tied-pft-msmarco
castorini/mdpr-tied-pft-msmarco — мультиязычная модель плотного поиска mDPR, опубликованная организацией Castorini, связанной с исследованиями информационного поиска в University of Waterloo.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Она предназначена для семантического поиска и ранжирования текстовых пассажей: запрос и документ преобразуются в векторные представления, после чего релевантные фрагменты находятся по близости в общем пространстве. Модель предварительно дообучена на наборе MS MARCO Passage Ranking и может использоваться как passage encoder в системах Dense Passage Retrieval, включая мультиязычный поиск и retrieval-augmented question answering.
Модель основана на multilingual BERT и имеет BERT-архитектуру; на странице репозитория указано около 0,2 млрд параметров. Она работает с текстом, поддерживает несколько языков благодаря мультиязычной основе, но точный перечень языков и максимальная длина контекста для этого чекпойнта явно не указаны. В репозитории приведён результат MRR@10 равный 0,296 для обучения на MS MARCO Passage Ranking v1, 40 эпоха.
Сильная сторона модели — переносимость между языками и пригодность для построения эффективных векторных индексов и гибридных систем поиска. Ограничения — специализация на retrieval, отсутствие генерации текста и отсутствие подробной официальной model card с детальным описанием языковых характеристик, ограничений качества и сценариев применения; в опубликованных материалах также отмечается, что mDPR может уступать BM25 на отдельных мультиязычных бенчмарках. Лицензия для данного репозитория явно не указана.
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- BertModel
- Ревизия весов
- 7d0770f