mcontriever

mContriever — многоязычный плотный поисковый энкодер, разработанный исследователями Meta AI. Он предназначен для семантического и межъязыкового поиска: кодирует запросы и документы в векторы, которые можно сопоставлять по сходству. Модель основана на BERT, содержит около 205 млн параметров и принимает текст длиной до 512 токенов.

Модель предварительно обучена контрастивным обучением без размеченных пар на корпусе CCNet на 29 языках. Она подходит для извлечения релевантных документов и фрагментов, в том числе когда запрос и найденный материал написаны на разных языках. Это энкодер для поиска, а не генеративная модель ответов; карточка Hugging Face не содержит описания лицензии, поэтому условия использования следует проверять в репозитории разработчика.