I.1Поиск и навигация по информации

swardiantara/bert-tiny-sst5-k1-adaptive-cosine — компактная модель Sentence Transformers, дообученная автором на основе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128 и позволяет сравнивать их косинусным сходством, например для семантического поиска и извлечения релевантных текстов. Архитектура включает BERT с двумя слоями и mean pooling; модель содержит 4,4 млн параметров. По карточке обучение проводилось на 8 554 парах текстов с контрастивной функцией потерь. Модель принимает только текст. В README указана максимальная длина последовательности 128 токенов, а метаданные каталога указывают контекст до 512 токенов; для практического использования разумно ориентироваться на более строгое ограничение из карточки. Базовая модель предназначена для английского языка, и примеры обучающих данных также на английском. Лицензия в предоставленных данных не указана.

NaqibL дообучила англоязычную модель Sentence Transformer на базе BAAI/bge-base-en-v1.5 для преобразования предложений и абзацев в плотные текстовые эмбеддинги. Модель построена на BERT, имеет 136,7 млн параметров и формирует векторы размерностью 768; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных текстов, в том числе как компонент RAG. В README для оценки на Triplet указана точность по косинусному сходству 0,8338. Она принимает и обрабатывает текст на английском языке; поддержка других языков не подтверждена. Для получения эмбеддингов и поиска требуется использовать совместимый с ними индекс или систему сравнения векторов. Лицензия в предоставленных данных не указана.

BAAI/bge-base-zh — плотная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI). Она кодирует китайский текст в векторы для семантического поиска, извлечения документов, кластеризации и классификации, а также для использования в векторных базах данных и системах дополненной генерации (RAG). Модель основана на BERT, содержит около 129,5 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Модель предназначена для построения индекса документов и поиска по коротким запросам, включая поиск релевантных фрагментов для LLM. В README отмечено, что для запросов, ищущих длинные документы, может помочь инструкция к запросу; оценивать следует прежде всего относительный порядок оценок сходства. Для ранжирования уже найденных документов авторы рекомендуют отдельную модель BGE Reranker. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT. В карточке рекомендуется перейти на BAAI/bge-base-zh-v1.5: более новая версия улучшает распределение оценок сходства и качество поиска.

furiosa-ai/bge-m3 — сборка многоязычной модели эмбеддингов BGE-M3, разработанной BAAI на архитектуре энкодера XLM-RoBERTa. Репозиторий содержит веса BF16 и Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителе FuriosaAI RNGD; размер модели — 658,7 млн параметров, контекст — 8194 токена. Сборка выдаёт плотные эмбеддинги размерностью 1024 для семантического поиска, извлечения релевантных текстов и сопоставления сходства. Векторы нормализованы по L2, поэтому их скалярное произведение соответствует косинусному сходству. В отличие от возможностей исходной BGE-M3, описанных в карточке, эта сборка через Furiosa-LLM предоставляет именно плотные эмбеддинги, а не разреженные или многовекторные представления. Модель принимает текст и выдаёт векторы. Она предназначена для многоязычных сценариев; список конкретных языков в предоставленных данных не приведён. Лицензия — MIT. Для запуска этой сборки указаны Furiosa-LLM и оборудование FuriosaAI RNGD; исходная модель также поддерживается другими фреймворками.

mlx-community представила неофициальную версию BAAI/bge-m3, преобразованную для MLX и квантованную до 8 бит для работы на Apple Silicon. Это плотная модель на архитектуре XLM-RoBERTa с 658,7 млн параметров; размер эмбеддинга — 1024, контекст — до 8194 токенов. Квантование affine с группами по 64 веса уменьшает размер примерно до 592 МБ. Модель предназначена для создания текстовых представлений и семантического поиска. Исходная BGE-M3 поддерживает плотный, разреженный и многовекторный поиск, включая подход ColBERT; приведённый пример использования этой версии извлекает векторные представления текста через mean pooling. Многоязычная поддержка включает английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский, португальский и русский языки. Квантованная версия рассчитана на сценарии, где важны качество и работа в пределах памяти около 600 МБ. Это неофициальная конверсия, поэтому совместимость ориентирована на MLX и Apple Silicon. Лицензия — MIT.

BGE-Reasoner-Embed-Qwen3-8B-0923 — модель эмбеддингов от команды BGE-Reasoner, дообученная на базе Qwen/Qwen3-8B для поиска документов по запросам, требующим многошагового рассуждения. Она формирует текстовые представления, применимые в задачах извлечения и сопоставления предложений; на бенчмарке BRIGHT модель показала nDCG@10 37,1 для исходных запросов. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 40 960 токенов. Доступна в формате safetensors и лицензирована по Apache-2.0.

Nalyd1908/bge-reranker-v2-m3-finetuned — дообученная модель на архитектуре XLM-RoBERTa, созданная на основе BAAI/bge-reranker-v2-m3. Она предназначена для оценки релевантности пары «запрос — текст» и переранжирования результатов поиска. Модель содержит 658,7 млн параметров и принимает последовательности длиной до 8194 токенов. В README приведены метрики на наборе оценки: pointwise accuracy 0,919, F1 0,799, AUC 0,9567 и group top-1 accuracy 0,885. Датасет дообучения не назван, поэтому эти результаты не позволяют судить о качестве на конкретных поисковых коллекциях. Лицензия — Apache-2.0.

soichisumi публикует версию BAAI/bge-reranker-v2-m3, преобразованную для MLX и квантованную до 8 бит методом affine с размером группы 64. Модель основана на XLM-RoBERTa с архитектурой классификатора последовательностей и содержит 658,7 млн параметров; указанный в карточке объём файлов — 607 МБ. Она оценивает релевантность пары «запрос — фрагмент» и подходит для переранжирования результатов поиска. Модель многоязычная, с контекстом до 8194 токенов. В README приведена проверка на 30 запросах и 897 парах из набора mteb/scidocs-reranking: Kendall τ составила 0,9797, а изменение nDCG@10 — −0,0002; автор характеризует результат как практически без потерь. Это ограниченная оценка на одном наборе данных, поэтому она не гарантирует аналогичное качество на других доменах и языках. Лицензия — Apache-2.0.

unsloth/bge-small-en-v1.5 — англоязычная модель эмбеддингов из семейства BGE, предназначенная для преобразования текста в векторы. Карточка описывает BGE как серию моделей для плотного поиска и retrieval-augmented generation; версия v1.5 улучшает распределение оценок сходства и поиск без инструкций. Репозиторий содержит веса в форматах PyTorch, safetensors и ONNX. Модель построена на архитектуре BERT, имеет около 40 млн параметров и принимает последовательности длиной до 512 токенов. Её можно применять для поиска релевантных документов и предложений, сравнения текстов и формирования эмбеддингов для конвейеров поиска. Поддерживаемый язык — английский. Лицензия — MIT. Эмбеддинги подходят для поиска кандидатов, но сами оценки сходства не следует трактовать как вероятности или сравнивать с универсальным порогом: README отмечает, что несходные предложения могут получать значения выше 0,5. Для повышения точности ранжирования карточка рекомендует отдельную модель reranker.

Xenova/bge-small-en-v1.5 — модель для создания векторных представлений предложений и текстов, опубликованная в формате ONNX для совместимости с Transformers.js. Она основана на BAAI/bge-small-en-v1.5, разработанной BAAI, и рассчитана на использование в JavaScript-приложениях, включая веб-среду. Модель предназначена для семантического поиска и retrieval-сценариев: тексты преобразуются в эмбеддинги размерностью 384, после чего их можно сравнивать, например, по косинусному сходству. README демонстрирует усреднённый pooling и нормализацию векторов, а также рекомендует добавлять к запросам специальный префикс для поиска релевантных фрагментов. По обозначению en модель ориентирована на английский язык. Она удобна для локального выполнения и интеграции через Transformers.js, однако README не содержит сведений о точной архитектуре, максимальной длине контекста, бенчмарках, ограничениях качества или лицензии.

RinKana/bge-small-en-v1.5-afterimage-v.0.1 — дообученная модель Sentence Transformers на базе BAAI/bge-small-en-v1.5, разработчик — RinKana. Она кодирует предложения и абзацы на английском языке в плотные векторы размерности 384 для поиска релевантных текстов и сравнения семантической близости по косинусному сходству. Архитектура состоит из BERT, пулинга по CLS-токену и нормализации; модель принимает текст, имеет 512 токенов максимальной длины последовательности и содержит около 40 млн параметров. В README приведена оценка на задаче поиска подходящего ответа в диалоге и указано обучение на 4 744 примерах с положительными и отрицательными парами. Модель подходит для семантического поиска и извлечения кандидатов, например, для поиска ответа, подходящего к контексту разговора. Метаданные указывают лицензию? В предоставленных данных лицензия не приведена, поэтому условия использования по лицензии определить нельзя.

bowdpr/bowdpr_wiki_triviaft — дообученный плотный ретривер для поиска ответов на вопросы, созданный на основе bowdpr/bowdpr_wiki. Модель использует архитектуру BERT с 136,7 млн параметров и кодирует предложения и абзацы в плотные векторы размерности 768. Для поиска по TriviaQA модель дообучали в два этапа с негативными примерами BM25 и примерами, найденными на первом этапе; дистилляция не применялась. Модель предназначена для семантического поиска и извлечения релевантных фрагментов по запросам, в том числе в QA-сценариях. Она принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 512 токенов. В карточке не приведены сведения о лицензии, поэтому условия использования по имеющимся данным определить нельзя.

tardellirs/brazembed-pt-br-retrieval — компонент системы BrazEmbed-PT-BR от автора tardellirs, предназначенный для получения эмбеддингов бразильского португальского текста для поиска и ранжирования. Модель основана на BERTimbau Base и дообучена с использованием объединённого набора весов для задач Retrieval & Reranking. Это SentenceTransformer на архитектуре BERT с mean pooling и L2-нормализацией; для работы не требуется префикс инструкции. Размер — 136,1 млн параметров, длина контекста — 512 токенов. Модель подходит для семантического поиска и сравнения текстов, включая ранжирование результатов по релевантности. В README приведён результат 0,6567 по mean_16 на MTEB для португальского и заявлено лидерство в классе около 100 млн параметров; это оценка из карточки, а не гарантия качества для конкретного набора данных. Лицензия — MIT.

BumbaLM-Embedding-Qwen-4b-v0-15k — модель Sentence Transformer на архитектуре Qwen3 для преобразования предложений и абзацев в плотные векторы размерностью 2560. Она предназначена для семантического поиска и извлечения текстов: близость векторов можно оценивать косинусным сходством. Архитектура использует представления последнего токена, затем нормализует выходные векторы; максимальная длина последовательности — 2048 токенов. Модель принимает текст и сообщения. Карточка описывает её как обученную embedding-модель, однако не сообщает автора обучения, базовую модель, языки обучения или лицензию. В репозитории указаны веса в формате safetensors. Возможные сценарии — поиск релевантных фрагментов и сравнение текстов; результаты зависят от данных и языка, поскольку сведения о языковом покрытии и оценках качества не приведены.

colbertv2-camembert-L4-mmarcoFR — компактная модель ColBERTv2 для семантического поиска на французском языке. Она разработана на основе CamemBERT-L4 и дообучена на французской части mMARCO с использованием оценок кросс-энкодера. Модель кодирует запросы и документы в матрицы токенных эмбеддингов и оценивает их соответствие с помощью операции MaxSim; для оценки релевантности применяется косинусное сходство. Модель предназначена для поиска релевантных фрагментов в больших коллекциях текстов и может использоваться в системах семантического поиска и RAG. В README указана размерность эмбеддингов 32 и максимальная длина последовательности 514 токенов в метаданных; при обучении использовались длины до 32 токенов для запросов и до 160 для документов. В оценке на dev-наборе mMARCO-fr с корпусом из 8,8 млн фрагментов модель показала MRR@10 32,3 и R@1000 91,9. Репозиторий содержит веса safetensors и распространяется по лицензии MIT.

ColBERT-Zero-noprompts — модель LightOn, созданная для поиска и ранжирования документов по запросу. Это вариант семейства ColBERT на архитектуре ModernBERT с 149 млн параметров, реализованный в PyLate. Модель формирует многовекторные представления текста размерности 128 и сравнивает запросы и документы с помощью MaxSim; для запросов предусмотрена длина до 32 токенов, для документов — до 512 токенов. Метаданные также указывают контекст до 8192 токенов. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и переранжирования результатов первой поисковой системы. Она обучена с дистилляцией на открытых данных; в README семейство ColBERT-Zero демонстрирует 55,43 nDCG@10 на BEIR, однако это значение не подтверждено отдельно именно для варианта noprompts. Для использования рекомендуется передавать prompt_name="query" и prompt_name="document" соответственно: пропуск или несоответствие подсказок может снизить качество. Модель ориентирована на английский язык и распространяется по лицензии Apache-2.0.

ColPali v1.2 — модель визуального поиска по документам, разработанная ViDoRe на основе PaliGemma-3B. Она кодирует текстовые запросы и изображения страниц в наборы векторов и сопоставляет их методом позднего взаимодействия ColBERT. Модель предназначена прежде всего для поиска релевантных страниц в PDF и других визуально представленных документах, в том числе когда важны макет, графики и расположение текста. Чекпойнт дообучен на 127 460 парах «запрос — страница»: англоязычных академических данных и синтетических примерах страниц веб-документов. Обучающий набор был полностью на английском; многоязычные данные могли присутствовать в предобучении базовой модели. Репозиторий содержит веса safetensors и версию для Transformers; карточка также описывает использование через Sentence Transformers. Лицензия — Gemma. Модель особенно подходит для поиска по страницам PDF и может обобщаться на другие языки, однако её применимость к редким языкам и нетипичным форматам документов может быть ограничена. Для поиска требуется поддержка многовекторного представления и позднего взаимодействия, что может потребовать адаптации инфраструктуры векторного поиска.

ColPali v1.3 HF — модель визуального поиска по документам, разработанная ViDoRe на основе PaliGemma-3B и стратегии ColBERT. Эта версия предназначена для загрузки через Transformers или Sentence Transformers; веса преобразованы из чекпойнта vidore/colpali-v1.3-merged. Модель формирует многовекторные представления страниц и текстовых запросов, чтобы находить релевантные страницы по их визуальному содержимому. Подходит для поиска по PDF и другим документам с визуально значимой структурой: например, когда важны таблицы, схемы или расположение элементов. Обучение проводилось на англоязычных парах «запрос — страница»; README сообщает о проверке переноса на другие языки, однако основное внимание уделено языкам с большими ресурсами. Для воспроизведения обученного формата запросов в Transformers нужно установить префикс «Query: » у процессора. Лицензия — Gemma; применяются условия лицензии Gemma.

CoT-MAE base uncased — англоязычная модель предварительного обучения на основе BERT, разработанная авторами CoT-MAE для задач плотного поиска пассажей. Модель обучена без учителя на корпусе MS MARCO и предназначена для получения представлений предложений и поиска семантически близких фрагментов текста. В репозитории указана архитектура BertForMaskedLM, формат PyTorch, размер около 136,7 млн параметров и контекст до 512 токенов. Модель подходит как основа для семантического поиска и сравнения предложений, в том числе для retrieval-систем. Метаданные также указывают на поддержку заполнения пропусков в тексте. Карточка не приводит лицензию и подробные ограничения применения; модель описана как предварительно обученная, а не как готовый диалоговый ассистент.

Это англоязычная модель разреженных текстовых эмбеддингов, созданная дообучением mixedbread-ai/mxbai-embed-large-v1 командой tomaarsen на наборе gooaq с помощью библиотеки sentence-transformers. Она преобразует предложения и абзацы в разреженные векторы размерностью 4096; близость векторов можно оценивать скалярным произведением. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска ответов по вопросам. Максимальная длина входной последовательности — 512 токенов. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR при ограничении числа активных измерений до 128 или 256. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Это энкодер для получения векторов, а не генеративная модель: он не формулирует ответы на запросы. Результаты оценки в README относятся к указанным наборам и настройкам и не гарантируют такое же качество на других данных.

Это англоязычный CSR Sparse Encoder, созданный дообучением модели mixedbread-ai/mxbai-embed-large-v1 на наборе Natural Questions с использованием библиотеки Sentence Transformers. Модель преобразует запросы, предложения и абзацы в разреженные векторы размерности 4096; близость оценивается скалярным произведением. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска ответов по коллекции текстов. В карточке приведены оценки на задачах NanoBEIR и отдельных наборах BEIR. Она поддерживает английский язык и распространяется по лицензии Apache-2.0. Результаты поиска могут зависеть от предметной области и корпуса; карточка не заявляет поддержку других языков.

csr-mxbai-embed-large-v1-nq-original — англоязычный разреженный энкодер CSR, дообученный на Natural Questions командой или автором репозитория tomaarsen на базе mixedbread-ai/mxbai-embed-large-v1 с помощью Sentence Transformers. Модель преобразует запросы, предложения и абзацы в разреженные векторы размерностью 4096; близость оценивается скалярным произведением. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе для поиска ответов в коллекциях вопросов и ответов. В карточке приведены оценки поиска на Natural Questions и наборах Nano BEIR, включая MS MARCO, NFCorpus и Quora Retrieval. Для некоторых оценок указано ограничение числа активных измерений до 128 или 256. Модель принимает текст и выдаёт векторные представления. Она рассчитана на английский язык, использует архитектуру BERT и распространяется в формате safetensors по лицензии Apache-2.0. Она создаёт эмбеддинги для поиска, а не готовые ответы; заявленная длина контекста ограничена 512 токенами.

Darmm Multilingual Embedding — модель эмбеддингов Darmm, дообученная на базе BAAI/bge-m3 для поиска по FAQ и материалам о продуктах и услугах Darmm. Это плотная модель архитектуры XLM-RoBERTa размером 658,7 млн параметров; она принимает текст и выдаёт векторные представления для семантического поиска и извлечения релевантных документов. Контекст модели — до 8194 токенов по метаданным; в описанной настройке обучения максимальная длина последовательности составляла 128 токенов. Модель рассчитана на казахский, русский и английский языки и может использоваться для поиска по базе знаний и в RAG-сценариях. В оценке на 90 перефразированных FAQ-запросах к корпусу из 369 чанков указаны Recall@1 0,9444 и Recall@3/5/10 1,0. Эти результаты получены на ограниченном корпусе Darmm и не гарантируют такую же точность на других данных. Короткие строки интерфейса и качество корпуса могут снижать релевантность; README рекомендует проверять модель на реальных запросах и отдельной тестовой выборке. Лицензия — Apache-2.0.

Карточка модели Sieddi/deepset-mxbai-embed-de-large-v1 на Hugging Face совпадает с карточкой mixedbread-ai/deepset-mxbai-embed-de-large-v1, поэтому описание составлено по ней. deepset-mxbai-embed-de-large-v1 — открытая модель эмбеддингов предложений, разработанная Mixedbread совместно с deepset. Она основана на intfloat/multilingual-e5-large и дообучена с функцией потерь AnglE на более чем 30 млн пар немецких данных. Модель использует архитектуру XLM-RoBERTa, содержит около 585,8 млн параметров и принимает текстовый контекст длиной до 514 токенов. Модель предназначена для поиска по смыслу и извлечения релевантных документов на немецком и английском языках. Для запросов требуется префикс «query: », для документов — «passage: ». Она поддерживает Matryoshka Representation Learning и бинарную квантизацию, что позволяет уменьшать размер эмбеддингов и затраты на хранение при сохранении значительной части качества. По данным авторов, средний результат на NDCG@10 составляет 51,7. Модель распространяется по лицензии Apache-2.0. Она рассчитана на получение векторных представлений текста; качество и применимость за пределами немецкого и английского языков в предоставленных материалах не описаны.

DenseOn-ONNX — ONNX-версия модели DenseOn, разработанной LightOn и автоматически конвертированной сообществом onnx-community. Модель предназначена для плотного семантического поиска и сравнения сходства между запросами и документами, включая сценарии retrieval и sentence similarity. Она поддерживает английский язык и рассчитана на использование с Transformers.js. Модель построена на базе ModernBERT и содержит 149 млн параметров. Это dense-модель, кодирующая запрос и документ независимо в один вектор; релевантность оценивается по косинусному сходству. Для кодирования используются префиксы query: и document:, а представление извлекается с помощью CLS pooling. Заявлены результаты 56,75 nDCG@10 на BEIR и 57,71 на очищенной от пересечений версии BEIR; по данным разработчика, модель превосходит другие dense-модели базового размера и некоторые существенно более крупные модели. Сильными сторонами являются относительно компактный размер, возможность высокопроизводительного развёртывания и хорошие результаты в задачах поиска. Ограничение состоит в специализации на плотном одно-векторном retrieval: модель не является мультимодальной и предназначена прежде всего для семантического сопоставления текста. Лицензия — Apache 2.0.

Это англоязычная модель Sentence Transformer, созданная дообучением DistilBERT на наборе MSMARCO с функцией потерь MarginMSELoss и учителем-ансамблем BERT-CAT. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска и извлечения релевантных документов по запросу. Модель использует архитектуру DistilBertModel с усредняющим pooling; сходство векторов оценивается скалярным произведением. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 300 токенов. Карточка приводит оценки на наборах NanoBEIR и отдельных задачах поиска; результаты различаются в зависимости от набора данных. Модель принимает текст и выдаёт эмбеддинги. Она рассчитана на английский язык и распространяется по лицензии Apache-2.0. Её область применения ограничена текстом; качество поиска зависит от предметной области и может требовать проверки на собственных данных.

Это модель для плотного поиска по текстовым пассажам на основе шестислойного DistilBERT. Её разработчик, Sebastian Hofstätter, обучил веса методом Margin-MSE с дистилляцией оценок ансамбля из трёх BERT_Cat на парах запросов и пассажей из MSMARCO-Passage. Для представления запроса или документа используется вектор CLS; одна и та же модель кодирует оба типа текста. Модель подходит для ранжирования кандидатов, например результатов BM25, и для прямого поиска по векторному индексу. В README приведены результаты на MSMARCO и TREC-DL’19. Репозиторий содержит веса PyTorch; заявленная длина контекста — 512 токенов. Она обучена на англоязычных коротких пассажах, поэтому качество на длинных текстах и вне домена обучения может быть ниже. Карточка отмечает наследуемые социальные смещения DistilBERT и MSMARCO. Условия лицензии в предоставленных данных не указаны.

DIVER-Retriever-4B — двуязычная модель текстовых эмбеддингов, разработанная AQ-MedAI на базе Qwen3-Embedding-4B. Она предназначена для семантического поиска и ранжирования, в том числе в задачах reasonIR и поиска по медицинским материалам; при обучении использовались данные по математике, программированию и здравоохранению, а также специально подобранные сложные отрицательные примеры. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров. Она работает с китайским и английским языками, поддерживает контекст до 40 960 токенов и распространяется в формате safetensors для Transformers. Авторы сообщают о результатах на BRIGHT Leaderboard и MTEB Medical Benchmark. Для дообучения авторы рекомендуют ms-swift и loss-функцию InfoNCE. Лицензия — Apache-2.0. Модель ориентирована на поиск и сопоставление текстов; карточка не подтверждает, что её следует использовать как универсальную разговорную модель или как медицинский инструмент для принятия клинических решений.

Многоязычный энкодер вопросов для Dense Passage Retrieval (DPR), опубликованный пользователем voidful и основанный на bert-base-multilingual-cased. Модель преобразует вопрос в плотный вектор: в Transformers результат доступен через pooler_output. Её можно использовать как компонент поиска по корпусу документов в связке с энкодером passages и системой извлечения ответов. Модель содержит 205,1 млн параметров, использует архитектуру DPRQuestionEncoder и принимает текстовые входные данные с контекстом до 512 токенов. Для обучения указаны датасеты NQ, Trivia, SQuAD, DRCD и MLQA; обучающий набор включает 644 217 пар вопросов, а проверочный — 73 710. Репозиторий содержит веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

DRAGON-RoBERTa Query Encoder — плотный энкодер запросов для поиска, разработанный Facebook. Это модель семейства RoBERTa, инициализированная RoBERTa-base и дополнительно обученная на данных, расширенных из корпуса MS MARCO, по подходу DRAGON. Она входит в асимметричную двухэнкодерную систему: для запросов и контекстов используются отдельные модели с разными параметрами. Энкодер преобразует текстовые запросы в векторные представления для плотного поиска и извлечения релевантных документов. В карточке приведены результаты системы DRAGON-RoBERTa: 39,4 на MS MARCO Dev и 47,2 на BEIR. Модель содержит 151,8 млн параметров, поддерживает контекст до 514 токенов и распространяется в формате PyTorch. Для поиска контекстов требуется соответствующий DRAGON-RoBERTa Context Encoder; лицензия в предоставленных данных не указана.