Характеристики
- Контекст
- 512 токенов
- Параметры
- 205 млн
- Архитектура
- bert · dense
- Опубликована
- 29 мая 2022
Ссылки
mcontriever-msmarco
Мультиязычная BERT-модель Facebook AI для векторного поиска релевантных текстов и документов по запросам.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
facebook/mcontriever-msmarco — мультиязычная модель плотного поиска, разработанная исследовательской командой Facebook (ныне AI at Meta). Она создаёт векторные представления текстов для поиска релевантных документов по запросу и была дообучена на MS MARCO для улучшения соответствия между запросами и документами.
Модель основана на BERT, имеет около 205 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Базовая версия mContriever обучалась на 29 языках; для этой модели опубликованы оценки мультиязычного и межъязыкового поиска, в том числе по запросам на одном языке с поиском документов на другом. Она возвращает эмбеддинги, которые можно сравнивать, например, скалярным произведением; сама по себе не генерирует ответы.
Подходит как компонент информационного поиска и retrieval-этапа RAG. Результаты зависят от языка, данных и настройки поиска; карточка Hugging Face не содержит подробного описания ограничений и не показывает лицензию, поэтому условия использования следует сверить с лицензией репозитория разработчика.
Сценарии применения
- Поиск документов по запросу на одном языке
- Межъязыковой поиск документов
- Подбор фрагментов для retrieval-этапа RAG
- Извлечение релевантных passages для системы вопросов и ответов
Ограничения
Ограничение длины входа составляет 512 токенов. Модель формирует векторы для поиска, а не готовые ответы; качество поиска может различаться между языками и задачами.
Для каких профессий подходит8
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.
- Класс архитектуры
- Contriever
- Ревизия весов
- 9ff6abe