I.12Рекомендации и персонализация

castorini/mdpr-tied-pft-nq — мультиязычная модель плотного поиска passage retrieval, разработанная исследовательской организацией Castorini. Она предназначена для преобразования вопросов и текстовых passage в векторные представления, пригодные для семантического поиска и открытого вопросно-ответного поиска по большим коллекциям документов. Модель реализует bi-encoder-подход mDPR на основе multilingual BERT; вариант pft-nq предварительно дообучен на Natural Questions. В метаданных Hugging Face указаны архитектурные признаки BERT, библиотека Transformers/PyTorch, объём около 205,1 млн параметров и максимальная длина контекста 512 токенов. Модель используется для мультиязычного retrieval, включая построение dense-индексов и поиск passage по запросам. Модель поддерживает английский, арабский, бенгальский, финский, индонезийский, японский, корейский, русский, суахили, телугу и тайский языки. Она возвращает признаки или эмбеддинги и не является генеративной моделью ответов. В исследованиях mDPR эффективность может уступать BM25, поэтому для практического поиска может потребоваться гибридное sparse-dense ранжирование.

MobileCLIP-B — модель семейства CLIP, разработанная Apple и представленная в исследовании «MobileCLIP: Fast Image-Text Models through Multi-Modal Reinforced Training» (CVPR 2024). Этот репозиторий содержит чекпойнт MobileCLIP-B для библиотеки timm в формате PyTorch; модель сопоставляет изображения и текст и предназначена для быстрого визуально-текстового поиска и классификации с нулевым обучением на целевых классах. Вариант MobileCLIP-B (LT) показывает точность top-1 77,2% на ImageNet в режиме zero-shot. Модель принимает изображения и текстовые описания, а на выходе формирует представления для сопоставления и оценки сходства. README также приводит результаты меньших вариантов семейства, но не раскрывает размер и скорость именно этого чекпойнта MobileCLIP-B. Поддерживаемые языки отдельно не перечислены; обучение описано как мультимодальное, без уточнения языкового охвата. Лицензия — apple-amlr. Модель может ошибаться при переносе на категории и данные, отличающиеся от оценочных наборов; точность зависит от формулировок текстовых меток и характеристик изображений.

MonoPTT5-Large — португалоязычный реранкер на архитектуре T5, разработанный командой Unicamp-DL. Модель создана на основе unicamp-dl/ptt5-v2-large и дообучена в течение 100 тысяч шагов на смеси португальских и английских данных набора mMARCO. Она оценивает релевантность документов запросу, чтобы упорядочивать результаты поиска. Модель содержит 385,2 млн параметров, принимает текст и имеет контекст длиной до 512 токенов. Для применения авторы рекомендуют пакет rerankers с бэкендом Transformers. Модель распространяется по лицензии Apache-2.0. Основное назначение — реранжирование текстовых результатов на португальском языке; обучение также включало английские данные.

MyAwesomeModel — модель на базе BERT для извлечения признаков из текста, опубликованная на Hugging Face с использованием библиотеки Transformers и PyTorch. Основное назначение модели — преобразование текстовых входов в векторные представления для последующего применения в задачах машинного обучения и анализа текста. В README также заявлены улучшения рассуждений, генерации кода, ответов на вопросы, классификации и других генеративных сценариев, однако эти утверждения не согласуются с метаданными, где основной pipeline-тег — feature-extraction, а архитектурное семейство указано как BERT. Размер модели, длина контекста и поддерживаемые естественные языки не приведены. Модель распространяется по лицензии MIT.

NexteraBERT-Mezzoforte-220M-en — англоязычный двунаправленный энкодер семейства NexteraBERT, разработанный независимым исследователем RikkaBotan. В репозитории указано 212,6 млн параметров, а метаданные Hugging Face сообщают 353,6 млн; архитектура состоит из 18 блоков с несколькими типами смешивания токенов: линейным SnowLily, скользящим вниманием, полным вниманием и NexteraHRA. Модель предобучена методом masked language modeling на 130 млрд токенов; максимальная длина обучения составляла 8 192 токена. Метаданные не содержат значения длины контекста для инференса. Основной сценарий — восстановление замаскированных токенов. Энкодер также можно дообучать для классификации текста, разметки токенов, ответов на вопросы, задач с вариантами ответа, поиска и оценки сходства. Для поиска и сходства требуется отдельное дообучение: автор подчёркивает, что исходная модель не является готовой моделью эмбеддингов. В сравнительных оценках она показывает результаты, сопоставимые с ModernBERT-base на GLUE, MTEB и BEIR. Модель предназначена для английского языка и использует токенизатор ModernBERT с словарём из 50 368 токенов. Для загрузки пользовательского кода требуется trust_remote_code=True; автор сообщает о проверке с Transformers 5.12 и PyTorch 2.12. Лицензия — MIT.

Карточка модели qiyuw/pcl-bert-large-uncased на Hugging Face совпадает с карточкой qiyuw/pcl-roberta-base, поэтому описание составлено по ней. qiyuw/pcl-roberta-base — англоязычная модель RoBERTa для оценки сходства предложений. Она использует архитектуру RobertaForCL и содержит 151,8 млн параметров; модель принимает текст и подходит для сравнения предложений по смыслу. Длина контекста составляет 514 токенов. Модель распространяется в формате PyTorch по лицензии MIT. README не содержит дополнительных сведений о методе обучения или конкретных сценариях применения.

resnet50x16_clip.openai — модель CLIP, разработанная OpenAI и опубликованная на Hugging Face организацией timm. Она сопоставляет изображения с текстовыми описаниями и предназначена, в частности, для классификации изображений по текстовым меткам без дообучения на конкретных классах. Архитектура включает модифицированный ResNet-50x16 для изображений и Transformer для текста; изображения обрабатываются в разрешении 384×384, длина текстового контекста — 77 токенов. Модель принимает изображения и текстовые метки классов, а для классификации оценивает соответствие между ними. Веса доступны по лицензии MIT. В карточке OpenAI CLIP отмечено, что модель создана как исследовательский результат и её возможности следует оценивать с учётом контекста применения; классификация зависит от формулировок текстовых меток и может наследовать ограничения обучающих данных.

Ruri v3 310M — модель текстовых эмбеддингов для японского языка, разработанная cl-nagoya на базе cl-nagoya/ruri-v3-pt-310m. Это дообученная Sentence Transformer-модель с архитектурой ModernBERT-Ja и 314,6 млн параметров; она преобразует текст в векторы размерности 768 для сравнения по косинусному сходству. Максимальная длина последовательности — 8192 токена. Модель использует словарь из 100 тысяч токенов, SentencePiece и FlashAttention; для токенизации не требуется внешняя сегментация японского текста. Модель предназначена для поиска по смыслу, оценки сходства предложений и документов, ранжирования и других задач на японском тексте. В README приведена оценка JMTEB: средний результат 77,24; также представлены результаты по поиску, семантическому сходству, классификации, переранжированию и кластеризации. Модель поддерживает японский язык и распространяется по лицензии Apache 2.0.

sonoisa/sentence-t5-base-ja-mean-tokens — японская модель Sentence-T5, разработанная автором репозитория. Она преобразует предложения на японском языке в векторные представления для извлечения признаков и оценки сходства предложений. Модель основана на T5-base Japanese, содержит 123,8 млн параметров и принимает последовательности длиной до 512 токенов. По сообщению автора, на его закрытом наборе данных качество сопоставимо с sonoisa/sentence-bert-base-ja-mean-tokens. Для работы требуется SentencePiece. Веса доступны в форматах PyTorch и Safetensors по лицензии CC BY-SA 4.0.

sentence-transformers/sentence-t5-xl — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она использует энкодер T5-3B и содержит 385,2 млн параметров; максимальная длина контекста составляет 512 токенов. Репозиторий содержит веса PyTorch в формате Safetensors, сохранённые в FP16. Модель предназначена прежде всего для вычисления сходства между предложениями: её можно применять для сравнения формулировок и поиска семантически близких текстов. Для семантического поиска по корпусам документов она работает хуже. Чекпойнт перенесён из TensorFlow-модели st5-3b-1 в PyTorch; по данным карточки, embeddings могут немного отличаться от TensorFlow-версии, хотя результаты на тех же бенчмарках совпадают. Лицензия — Apache-2.0.

Карточка модели webis/set-encoder-large на Hugging Face совпадает с карточкой webis/set-encoder-base, поэтому описание составлено по ней. webis/set-encoder-base — модель ранжирования текстовых фрагментов, разработанная авторами работы Set-Encoder: Permutation-Invariant Inter-Passage Attention for Listwise Passage Re-Ranking with Cross-Encoders. Это cross-encoder на базе ELECTRA Base с архитектурой Set-Encoder, предназначенный для совместной переоценки набора найденных пассажей и перестановочно-инвариантного listwise reranking. Модель содержит 136,7 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой Lightning IR. Модель подходит для улучшения порядка результатов поиска, в том числе после первичного отбора BM25 или ColBERTv2. В карточке приведены результаты nDCG@10 на TREC DL 2019 и 2020. Указана лицензия Apache-2.0. По данным карточки, базовая модель — google/electra-base-discriminator, дообученная для ранжирования.

SigLIP 2 Giant — визуальная модель Google на основе семейства SigLIP 2, предназначенная для сопоставления изображений и текста. Её можно использовать для классификации изображений по заданным текстовым меткам без отдельного обучения на этих классах, поиска изображений по текстовому запросу и как визуальный энкодер для мультимодальных моделей и других задач компьютерного зрения. Модель предварительно обучена на наборе данных WebLI с объединённой методикой обучения SigLIP 2, которая улучшает семантическое понимание, локализацию и получение плотных визуальных признаков. Доступна в формате safetensors и рассчитана на использование через Transformers. Карточка не сообщает размер модели и длину контекста. Лицензия — Apache-2.0.

Карточка модели Veritone/siglip2-large-patch16-256 на Hugging Face совпадает с карточкой google/siglip2-large-patch16-256, поэтому описание составлено по ней. SigLIP 2 Large — большая модель визуально-языкового кодировщика, разработанная Google. Она расширяет подход SigLIP дополнительными методами предобучения, улучшая семантическое понимание изображений, локализацию объектов и получение плотных визуальных признаков. Модель предобучена на наборе WebLI и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для классификации изображений по текстовым описаниям без специального дообучения, поиска изображений по тексту и текста по изображению, а также использования в качестве визуального энкодера для визуально-языковых моделей и других задач компьютерного зрения. На вход подаются изображения и, для классификации, набор текстовых меток; результатом служат оценки соответствия изображения и меток или визуальные признаки. Лицензия — Apache-2.0. Карточка не приводит ограничений по языкам или длине контекста; качество зависит от изображений, формулировок текстовых меток и области применения, а для специализированных сценариев может потребоваться дополнительная проверка или адаптация.

Карточка модели Veritone/siglip2-large-patch16-512 на Hugging Face совпадает с карточкой google/siglip2-large-patch16-512, поэтому описание составлено по ней. SigLIP 2 Large — визуальная модель Google на архитектуре SigLIP, обученная для сопоставления изображений и текста. Версия Large с патчами 16×16 и входным разрешением 512 пикселей расширяет исходную схему предобучения SigLIP методами для улучшения семантического понимания, локализации и получения плотных признаков. Модель использует библиотеку Transformers и распространяется в формате Safetensors. Модель предназначена для классификации изображений по произвольным текстовым меткам без отдельного обучения, поиска изображений по текстовому запросу и использования в качестве визуального энкодера для VLM и других задач компьютерного зрения. Она предобучена на наборе WebLI. Карточка не сообщает об ограничениях качества для конкретных типов изображений. Лицензия — Apache 2.0.

zeromodels/siglip2_so400m_p16_256 — конверсия Google SigLIP 2 в формат Keras 3, подготовленная для zeromodels. Это мультимодальная модель для классификации изображений по текстовым запросам: при инференсе ей передают изображения и текстовые подсказки с вариантами классов, а она оценивает их соответствие. Реализация работает с TensorFlow, PyTorch и JAX. Модель основана на google/siglip2-so400m-patch16-256 и использует визуально-языковой подход SigLIP 2. В README отмечены предобучение с подписями, самодистилляция и masked prediction, направленные на улучшение семантического понимания и визуальных признаков. Токенизатор использует мультиязычный словарь Gemma на 256 тысяч токенов; точный перечень поддерживаемых языков не приводится. Модель подходит для классификации без обучения на конкретных метках и сопоставления изображений с текстовыми описаниями. Репозиторий распространяется по лицензии Apache 2.0. Для загрузки рекомендуется соответствующий варианту процессор, чтобы согласовать размер изображений и токенизатор.

Spiking Sentence Embedder от PulseNet-Labs — модель на основе спайковой нейронной сети для создания векторных представлений предложений и оценки их семантического сходства. Архитектура использует нейроны Leaky-Integrate-and-Fire, временные токенные эмбеддинги, семантическое внимание на основе совпадений и пулер с обучением через обратное распространение во времени. Реализация доступна для PyTorch и Hugging Face в формате safetensors; для загрузки требуется пользовательский код архитектуры modeling_spiking.py и параметр trust_remote_code=True. Модель предназначена для двуязычных задач семантического сходства текста на индонезийском и английском языках. В README указано обучение дистилляцией знаний с геббовской пластичностью от учительской модели и корреляция Пирсона 0,7514 с учителем на двуязычном STS-B. Разреженные бинарные активации задуманы для снижения теоретического энергопотребления относительно плотного внимания. Лицензия Apache-2.0; размер вектора и практические требования к ресурсам не приводятся.

Это разреженный энкодер семейства ModernBERT, опубликованный организацией SparseEncoder и обученный с помощью Sentence Transformers на английском наборе Natural Questions. Он преобразует текстовые запросы и документы в разреженные векторы размерности 50 368 для семантического поиска и разреженного извлечения информации. Модель содержит 149 млн параметров; метаданные указывают контекст до 8192 токенов, а карточка модели заявляет максимальную длину последовательности 512 токенов. Модель предназначена для поиска релевантных документов и ответов по запросу. В README приведены результаты оценки на наборах NanoBEIR и отдельных наборах поиска, включая Natural Questions, MS MARCO, HotpotQA и Quora Retrieval. Она выдаёт векторные представления, а не готовые текстовые ответы. Лицензия в предоставленных данных не указана.

Это точечная модель-переранжировщик пассажей на базе Qwen3-30B-A3B с архитектурой MoE, дообученная командой Utah NLP с помощью Tevatron 3.0. Она оценивает релевантность пары «запрос — пассаж» контрастивным методом и рассчитана на сортировку результатов поиска. Модель использует причинную языковую модель: оценка равна разности логитов ответов «yes» и «no» после специального текстового промпта с запросом и содержимым пассажа. Для корректных оценок промпт должен заканчиваться вопросом о релевантности, без добавления EOS-токена. Модель прошла полное дообучение на наборе RLHN-680K и опубликована в формате Safetensors для библиотеки Transformers. Базовая модель имеет 30 млрд параметров, из которых 3 млрд активны на токен; в метаданных репозитория указано 2,6 млрд параметров. Контекст составляет 32 768 токенов. Лицензия Apache-2.0. Численные метрики качества и перечень поддерживаемых языков в предоставленных источниках не описаны.

TIPS — g/14 low-res (v1) — контрастивная модель «изображение—текст» семейства TIPS, разработанная авторами TIPS (Text-Image Pre-training with Spatial Awareness). Репозиторий содержит конверсию официальных чекпойнтов. Модель сочетает визуальный кодировщик ViT-g/14 с 40 слоями и текстовый трансформер с 12 слоями; визуальная часть содержит 1,1 млрд параметров, текстовая — 389 млн. Модель формирует признаки изображений и текстовые эмбеддинги в общем пространстве. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах, а также для извлечения сопоставимых признаков изображения и текста. Визуальный энкодер работает с нативным разрешением 224 пикселя; поддерживаются и другие разрешения, кратные размеру патча, с интерполяцией позиционных эмбеддингов. Для изображений ожидаются значения пикселей в диапазоне [0, 1] без нормализации ImageNet; текст обрабатывается регистронезависимым SentencePiece-токенизатором с пределом 64 токена. Модель может быть полезна для поиска изображений по текстовому описанию и классификации по пользовательским меткам. README сообщает, что признаки пространственно насыщенные, однако не приводит количественных оценок качества. Модель распространяется по лицензии Apache-2.0.

zeromodels/tipsv2-so400m14 — конверсия модели Google DeepMind TIPSv2 в Keras 3, распространяемая проектом zeromodels. Это двухбашенная модель типа CLIP/SigLIP: визуальная башня на основе ViT в стиле DINOv2 с register-токенами и двунаправленная текстовая башня, обученные сопоставлять изображения и текст контрастивным методом. Модель предназначена для классификации изображений по текстовым меткам без специального обучения на этих метках и получения согласованных визуальных и текстовых признаков. В репозитории доступны полная модель и обе башни; реализация Keras 3 работает с TensorFlow, Torch и JAX. Для обработки изображений используется разрешение 448 пикселей и масштабирование значений в диапазон [0, 1]. Модель принимает изображения и текстовые метки и выдаёт оценки соответствия; лицензия Apache-2.0.

ViT-B-16-SigLIP — модель сопоставления изображений и текста, обученная на наборе WebLI с помощью SigLIP, функции потерь для предобучения на парах изображение–текст. Исходные веса из JAX-чекпойнтов Big Vision преобразованы в PyTorch; модель можно использовать с OpenCLIP для работы с изображениями и текстом, а с timm — для получения представлений изображений. Модель предназначена для классификации изображений без дополнительного обучения: она сопоставляет изображение с текстовыми описаниями и позволяет выбирать наиболее подходящие метки. Также она подходит для получения эмбеддингов изображений в timm. В репозитории доступны веса PyTorch и Safetensors, лицензия — Apache-2.0.

Модель timm/vit_base_patch32_clip_224.laion2b_ft_in1k — визуальный трансформер (ViT) для классификации изображений и извлечения признаков. Её разработали авторы библиотеки timm на основе OpenCLIP: модель предварительно обучена на парах изображение–текст из LAION-2B, затем дообучена на ImageNet-1k. Веса доступны в форматах PyTorch и Safetensors по лицензии Apache-2.0. Модель содержит 88,2 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Её можно применять для классификации изображений по категориям ImageNet-1k, а также получать визуальные эмбеддинги для поиска похожих изображений и других задач компьютерного зрения. Карточка не описывает языковые возможности или ограничение контекста; модель работает с изображениями, а не с текстовыми запросами.

ViT-L-16-SigLIP-384 — контрастивная модель сопоставления изображений и текста семейства SigLIP, обученная на наборе WebLI. Разработчики преобразовали веса из исходных контрольных точек JAX проекта Big Vision в формат PyTorch; модель можно использовать через OpenCLIP для работы с изображениями и текстом, а через timm — для получения эмбеддингов изображений. Модель предназначена для классификации изображений без обучения на заданных классах: пользователь передаёт изображение и текстовые описания категорий, а модель оценивает соответствие между ними. Репозиторий содержит веса PyTorch и safetensors и распространяется по лицензии Apache-2.0. Модель не является генеративной: она сопоставляет изображения с текстовыми представлениями и подходит для поиска и классификации по текстовым запросам. Результаты зависят от формулировок описаний и обучающих данных WebLI; README не сообщает о поддержке конкретных языков или численных показателях качества.

Это веса визуального энкодера AIM-v2 huge с размером патча 14 и входным разрешением 448 пикселей, опубликованные в формате, совместимом с библиотекой timm. Модель предназначена для извлечения признаковых представлений изображений, которые можно использовать в качестве входа для поиска по изображениям, кластеризации или последующих задач компьютерного зрения. Карточка не сообщает разработчика исходной архитектуры, число параметров, поддерживаемые языки или лицензионные условия сверх обозначения лицензии apple-ascl в метаданных. Доступны веса PyTorch и safetensors. Это визуальный энкодер: он принимает изображения и выдаёт признаки; текстовые задачи и генерация изображений не заявлены.

Arabic-labse-Matryoshka — модель Sentence Transformer от Omartificial-Intelligence-Space, дообученная на базе sentence-transformers/LaBSE на наборе арабских NLI-триплетов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текста. В README указана максимальная длина последовательности 256 токенов; метаданные сообщают контекст до 512 токенов. Модель использует архитектуру BERT, библиотеку Sentence Transformers и косинусное сходство; матрёшечное обучение позволяет получать эмбеддинги разной размерности. Веса содержат около 498,1 млн параметров. Модель ориентирована на арабский язык и обучалась на датасете из 557 850 троек «якорь — положительный пример — отрицательный пример». README приводит результаты оценки семантического сходства на нескольких размерностях эмбеддингов. Веса распространяются по лицензии Apache-2.0. Поскольку обучение и карточка сосредоточены на арабских текстах, качество для других языков и специализированных предметных областей не подтверждено приведёнными данными.

sentence-transformers/bert-large-nli-mean-tokens — модель Sentence-Transformers, разработанная командой Sentence Transformers для преобразования предложений и абзацев в плотные векторные представления размерностью 1024. Она основана на BERT Large и использует усреднение контекстуализированных токенов; число параметров составляет около 433,9 млн, а максимальная длина контекста — 512 токенов. Модель предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации предложений или абзацев. Её можно применять для получения эмбеддингов и последующего поиска или группировки текстов. Карточка предупреждает, что модель устарела и выдаёт эмбеддинги низкого качества, поэтому для новых систем рекомендуются более современные модели Sentence-Transformers. Лицензия — Apache-2.0.

CLIP ViT-L/14 — мультимодальная модель семейства CLIP, обученная LAION с помощью OpenCLIP на англоязычной подвыборке из 2 млрд пар данных LAION-5B. В карточке указано, что обучение проводил Росс Уайтман на суперкомпьютере JUWELS Booster. Модель принимает изображения и текстовые описания и сопоставляет их в общем пространстве признаков; основная задача в каталоге — классификация изображений без примеров обучения по текстовым меткам. Её также применяют для поиска изображений по тексту и текста по изображению, линейной классификации и как компонент конвейеров генерации изображений. Для ImageNet-1k заявлена точность zero-shot top-1 75,3%. Модель обучалась на английских данных и не предназначена для сценариев на других языках. Авторы рекомендуют ограничивать применение исследованиями; развёрнутые сценарии и использование без тщательной проверки на фиксированной таксономии не рекомендуются. Применение для наблюдения и распознавания лиц исключено из допустимых сценариев. Лицензия — MIT.

OpenMatch разработала эту модель на базе BERT-base для поиска по текстовым коллекциям. Сначала модель предварительно обучили на корпусе BEIR, затем дообучили на MS MARCO по подходу COCO-DR, направленному на повышение устойчивости плотного поиска при сдвиге распределения данных. В метаданных указаны архитектура BERT с головой masked language modeling, 136,7 млн параметров, контекст до 512 токенов и формат PyTorch. Модель предназначена для задач плотного поиска и получения текстовых представлений, полезных при поиске документов и пассажей, в том числе в сценариях zero-shot retrieval. В карточке приведён способ загрузки через Transformers. Репозиторий распространяется по лицензии MIT. В метаданных основная задача помечена как fill-mask, поэтому это не подтверждает наличие отдельного интерфейса для ранжирования или извлечения эмбеддингов. README не приводит численных оценок качества; результаты могут зависеть от корпуса и поискового конвейера.

crossencoder-camembert-L4-mmarcoFR — французская модель-реранкер, разработанная Antoine Louis. Она оценивает релевантность пары «запрос — фрагмент текста» с помощью cross-attention и выдаёт оценку от 0 до 1. Модель предназначена для второго этапа семантического поиска: после первичного отбора документов, например BM25 или плотным биэнкодером, она пересортировывает их по соответствию запросу. Модель основана на CamemBERT L4 и дообучена на французской части mMARCO — многоязычной версии MS MARCO. В обучении использовались 2,6 млн пар запросов и фрагментов с положительными и сложными отрицательными примерами. Размер модели — 62,3 млн параметров; контекст — до 514 токенов по метаданным. README указывает максимальную длину объединённой пары в 256 токенов при обучении. Модель принимает текстовые пары и выдаёт оценки релевантности; заявленный язык — французский. Модель подходит для ранжирования найденных фрагментов в поисковых системах и системах ответа на вопросы. Она не заменяет первичный поиск, поскольку должна оценивать каждую пару запроса и кандидата отдельно. Распространяется по лицензии MIT.

Модель crossencoder-mdebertav3-base-mmarcoFR разработана для ранжирования франкоязычных текстов. Это cross-encoder на базе mDeBERTa V3 Base: он совместно обрабатывает запрос и отрывок, учитывает взаимодействие между ними и выдаёт оценку релевантности. Модель содержит 306 млн параметров, принимает пары «запрос — отрывок» и поддерживает контекст до 512 токенов; при обучении максимальная длина пары составляла 256 токенов. Модель предназначена для второго этапа семантического поиска: после первичного отбора документов, например BM25 или плотным биэнкодером, она пересчитывает релевантность отрывков и упорядочивает их. Обучена на франкоязычной части mMARCO — машинно переведённого набора MS MARCO — с трудными отрицательными примерами; оценивалась на dev-выборке mMARCO-fr. Оценки выдаются в диапазоне от 0 до 1. Для ранжирования большого корпуса требуется предварительный этап поиска, поскольку модель обрабатывает пары по отдельности. Лицензия — MIT.