I.12Рекомендации и персонализация

Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130210931-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Arabic-Retrieval-v1.0 — модель эмбеддингов предложений, опубликованная пользователем omarelshehy и построенная на sentence-transformers с архитектурой BERT. Она дообучена на базе aubmindlab/bert-base-arabertv02 для поиска и сопоставления арабоязычных запросов и текстов. Модель выдаёт векторы размерности 768; для оценки сходства используется косинусная близость. Максимальная длина входной последовательности — 512 токенов. Модель предназначена для семантического поиска, информационного поиска и извлечения релевантных фрагментов, в том числе в системах вопросов и ответов и RAG. В README приведено сравнение на трёх наборах данных по NDCG@10: результаты близки к multilingual-e5-large и multilingual-e5-base, однако заявленные показатели относятся к указанным наборам и не гарантируют качество на других данных. Автор также заявляет об экономии памяти относительно крупных мультиязычных моделей, но подробности замеров не приводятся. Модель рассчитана на арабский язык, включая его диалектные особенности. Лицензия — Apache-2.0. Вход — текст, выход — векторные представления для сравнения и ранжирования; контекст ограничен 512 токенами.

sentence-transformers/bert-base-nli-mean-tokens — модель Sentence-Transformers на архитектуре BERT, обученная командой Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и использует контекст до 512 токенов; для получения вектора применяется pooling контекстных представлений токенов. Модель подходит для поиска похожих фраз и документов, группировки текстов по смыслу и построения эмбеддингов для последующей обработки. В карточке указана лицензия Apache-2.0. Авторы пометили модель как устаревшую и предупреждают о низком качестве эмбеддингов; для новых проектов рекомендуют выбрать более современную модель Sentence-Transformers.

Dolphin 2.2.1 Mistral 7B — диалоговая языковая модель, созданная Eric Hartford на основе Mistral 7B; обучение спонсировал a16z. Это выпуск контрольной точки с исправлениями переобучения. Модель дообучена на наборах Dolphin, Airoboros 2.2.1 и отобранных данных WizardLM и Samantha; поддерживает формат запросов ChatML и рассчитана на генерацию текста в диалоге.

LightOn-rerank-LW-2B — мультимодальная модель-переранжировщик компании LightOn на базе Qwen/Qwen3.5-2B. Это плотный cross-encoder с архитектурой Qwen3.5, содержащий около 2,2 млрд параметров; веса опубликованы в формате bfloat16. Модель совместно дообучена на текстовых и визуальных данных для ранжирования найденных документов по запросу. На вход подаются текстовый запрос и кандидаты: текстовые фрагменты или изображения страниц документов. Модель ранжирует по четыре кандидата за один проход, генерируя их порядок; для большего списка применяется скользящее окно. Такой режим подходит для второго этапа поиска после BM25, векторного поиска или ColPali. Обучение проводилось на английском языке; французский поддерживается с переносом без дообучения. В ViDoRe V3 модель показала 62,66 nDCG@10 при заданном в карточке протоколе оценки. Для работы требуется transformers версии 5.4.0 или новее. Качество зависит от разрешения изображений: карточка рекомендует для инференса высокое разрешение, ориентировочно 1 млн пикселей; на разрешении обучения 512×512 результат был ниже. Не следует применять модель в режиме независимой оценки отдельных кандидатов: её назначение — генерировать список ранжирования. Текстовые обучающие данные включают NQ и MS MARCO, поэтому результаты на этих наборах могут быть затронуты загрязнением. Лицензия — Apache-2.0.

Многоязычная модель PyLate для семантического поиска и сопоставления предложений. Она дообучена разработчиками модели на английских данных от jhu-clsp/mmBERT-base и переносит представления текста в последовательности 128-мерных векторов токенов. Архитектура ColBERT использует энкодер ModernBERT с проекцией из 768 в 128 измерений, а релевантность запросов и документов оценивается оператором MaxSim. Модель содержит около 306,9 млн параметров и поддерживает контекст до 8192 токенов по метаданным; в карточке также указаны длины до 1024 токенов для документов и 64 токена для запросов. Модель предназначена для построения поискового индекса по документам, извлечения наиболее релевантных фрагментов и повторного ранжирования результатов первичного поиска. Обучение проводилось на английском языке, а README сообщает о переносе на корейские задачи поиска и приводит результаты оценки на корейских наборах MTEB. Для работы и индексирования описана интеграция с PyLate и FastPLAID. Сведения о лицензии в предоставленных источниках отсутствуют.

sentence-transformers/nli-roberta-base — модель sentence-transformers, обученная командой Sentence Transformers. Она основана на RoBERTa и преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 151,8 млн параметров, принимает текст и имеет контекстное окно 514 токенов. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO; лицензия — Apache 2.0. Модель устарела: авторы предупреждают о низком качестве получаемых эмбеддингов и рекомендуют выбрать более современные модели Sentence Transformers. Она подходит для существующих систем, которым нужна совместимость с этим чекпойнтом, но для новых задач семантического поиска или кластеризации качество следует оценить отдельно.

retrieval-mpnet-bn — модель Sentence Transformers, разработанная Asif Faisal Chowdhury для семантического поиска и извлечения релевантных текстов на бенгальском языке. Она преобразует предложения и абзацы в плотные векторы размерности 768 и поддерживает поиск по запросу в корпусе документов, кластеризацию и задачи сравнения предложений. Модель построена на XLM-RoBERTa large с усреднением токенов и дообучена методом многоязычной дистилляции с использованием multi-qa-mpnet-base-cos-v1 как учительской модели. Репозиторий содержит веса PyTorch; максимальная длина контекста — 514 токенов, но обучение проводилось на текстах до 250 токенов, поэтому более длинные входы могут обрезаться или обрабатываться хуже. Эмбеддинги не нормализованы: для поиска сходства рекомендуется косинусная мера. Лицензия в предоставленных данных не указана.

Ransaka разработал модель sinhala-roberta-sentence-transformer для получения векторных представлений предложений и абзацев на сингальском языке. Она основана на RoBERTa, содержит 81,2 млн параметров и преобразует текст в плотные векторы размерности 768; максимальная длина контекста — 514 токенов. Модель обучена с использованием Sentence-Transformers и Triplet Loss. Полученные векторы подходят для семантического поиска, сравнения предложений и кластеризации текстов. Для работы доступны PyTorch и библиотека Sentence-Transformers. Это дообученная модель для обработки сингальского текста. Лицензия в предоставленных данных не указана.

XLNet base-cased — англоязычная предварительно обученная языковая модель, разработанная авторами XLNet и впервые выпущенная в этом репозитории. Она содержит 137,8 млн параметров, построена на архитектуре Transformer-XL и использует обобщённое авторегрессионное предобучение с перестановками токенов. Доступны веса PyTorch и TensorFlow; модель обучалась на BookCorpus и Wikipedia. Модель предназначена прежде всего для дообучения под задачи понимания текста, включая классификацию последовательностей и токенов, ответы на вопросы и ранжирование документов. В метаданных Hugging Face для неё указан тег text-generation, однако карточка советует для генерации рассматривать GPT-2, а XLNet использовать для задач, где решение опирается на целое предложение или его контекст. Модель распространяется по лицензии MIT.

Карточка модели avsolatorio/00-000-11-1-0-1-0-0-cls-unnormed-768-512_GIST_BAAI_bge-base-en-v1.5-20240128072140-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/01-000-11-0-0-1-0-0_GIST_BAAI_bge-small-en-v1.5-20240126215547-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

BERTimbau Base — предварительно обученная модель BERT для бразильского португальского языка, разработанная Neuralmind. Это базовая версия архитектуры BERT с 12 слоями и примерно 136,1 млн параметров по метаданным; она предназначена для заполнения замаскированных токенов и получения текстовых представлений, которые можно использовать в задачах обработки португальского языка. В README также отмечены результаты на распознавании именованных сущностей, оценке семантического сходства предложений и распознавании текстового следования; для этих задач модель обычно требуется дообучить. Модель принимает текст и предсказывает пропущенные токены. Контекстное окно составляет 512 токенов. В карточке указаны варианты весов для PyTorch, TensorFlow и Flax, а лицензия — MIT. Модель ориентирована на бразильский португальский и обучалась на корпусе brWaC.

CamemBERTa-L4 — компактная обрезанная версия предварительно обученного чекпойнта CamemBERTa, представленная Antoine Louis. Веса получены удалением верхних слоёв исходной модели; в репозитории указана архитектура DeBERTa-v2 и 62,3 млн параметров. Модель принимает текст, а контекст ограничен 512 токенами. Чекпойнт предназначен прежде всего для дообучения под задачи, где решение опирается на целое предложение: классификацию текста, извлечение ответа на вопрос и семантический поиск. Его также можно использовать для извлечения признаков и masked language modeling; для генерации текста автор рекомендует авторегрессионные модели. Модель рассчитана на французский язык. Репозиторий распространяется по лицензии MIT.

CamemBERT-L4 — облегчённая версия предварительно обученной языковой модели CamemBERT, созданная удалением верхних слоёв исходного чекпойнта. В метаданных указаны архитектура CamemBERT, 62,3 млн параметров и контекст до 514 токенов; модель распространяется в форматах PyTorch и safetensors по лицензии MIT. Модель предназначена прежде всего для дообучения под задачи, где нужно учитывать целое предложение: классификации текста, извлечения ответа на вопрос и семантического поиска. Её также можно использовать для извлечения признаков и masked language modeling. README не рекомендует её для генерации текста и советует для этого авторегрессионные модели. Язык модели — французский; сравнительно с исходной CamemBERT-base удаление слоёв уменьшает размер модели, но характеристики качества для конкретных задач зависят от последующего дообучения.

Coral-Router, также называемая Coral-MNLI в карточке, — модель классификации последовательностей на базе BART-large, дообученная на MultiNLI. Она принимает текст и список меток-кандидатов, оценивает, насколько каждая метка подходит, и подходит для классификации без обучения на конкретных классах, в том числе в режиме нескольких меток. Модель применяет подход естественного логического вывода: исходный текст рассматривается как предпосылка, а каждая метка превращается в гипотезу; оценка соответствия основана на вероятности entailment. Это позволяет использовать её для определения тематики, тональности, намерения и модерации содержимого. Размер модели — 252,8 млн параметров, контекст — до 1024 токенов. Лицензия — Apache-2.0. Для длинных текстов возможна обрезка: сохраняется начало текста, поэтому важную информацию рекомендуется размещать ближе к началу. Качество также зависит от ясности и конкретности предложенных меток.

principled-intelligence выпустила текстовый вариант Gemma 4 E2B-it: из исходного мультимодального чекпойнта удалены веса энкодеров изображений и аудио, а языковая модель сохранена. Это плотная модель семейства Gemma 4 с 1,6 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель предназначена для извлечения признаков из текста и может использоваться как текстовая часть исходной модели для генерации. По README, удаление энкодеров уменьшает размер чекпойнта и пиковое потребление видеопамяти примерно на 9% по сравнению с исходным Gemma 4 E2B-it; сохранены исходные токенизатор и шаблон чата. Для загрузки автор проверял Transformers, а другие движки инференса пока не поддерживаются. Лицензия — Apache-2.0.

carles-undergrad-thesis/indobert-mmarco-margin-mse — модель на базе IndoBERT, дообученная для сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768, пригодные для семантического поиска, кластеризации и ранжирования документов по релевантности. Модель построена на архитектуре BERT, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты оценки на наборах mMARCO, Mr.TyDi и MIRACL, включая метрики MRR@10 и Recall@1000; для mMARCO и Mr.TyDi показано улучшение относительно BM25 по отдельным метрикам. Обучение проводилось с MarginMSELoss. Репозиторий содержит веса PyTorch и опубликован 20 октября 2023 года. Сведения о лицензии в предоставленных данных отсутствуют.

Jina-ColBERT-v1-en — англоязычная модель поиска по фрагментам документов, разработанная Jina AI. Она использует архитектуру ColBERT на основе JinaBERT и обучена на наборе MSMARCO для ранжирования пассажей. Модель создаёт представления запросов и документов для поиска релевантных фрагментов и может применяться для первичного поиска и переранжирования результатов BM25. Модель насчитывает 136,7 млн параметров и поддерживает контекст до 8192 токенов благодаря JinaBERT с двунаправленным вариантом ALiBi. В README сообщается о сопоставимых с ColBERTv2 результатах на стандартных поисковых тестах и лучших результатах на наборах с длинными документами. Лицензия — Apache-2.0.

Карточка модели MemTensor/MemOperator-4B на Hugging Face совпадает с карточкой MemTensor/MemOperator-0.6B, поэтому описание составлено по ней. MemOperator-0.6B — компактная причинно-следственная языковая модель MemTensor для операций с памятью в системе MemOS. Она дообучена методом SFT на основе моделей Qwen3 и предназначена для локального развертывания, в том числе в средах без доступа к интернету, с низкими затратами ресурсов и малой задержкой. В метаданных указана связь слияния с Qwen/Qwen3-0.6B, Qwen/Qwen3-1.7B и Qwen/Qwen3-4B; архитектура — плотная decoder-only модель Qwen3 с примерно 507,9 млн параметров. Для этой версии указан контекст до 40 960 токенов. Модель извлекает сведения из диалогов и документов, в том числе составляет краткие сводки фрагментов документов, а также поддерживает кластеризацию и реорганизацию связанных воспоминаний. Карточка заявляет поддержку английского и китайского языков и приводит результаты семейства MemOperator на бенчмарке locomo, но таблица содержит сравнение только версии 4B; переносить эти показатели на версию 0.6B нельзя. Разрешены загрузка через Transformers и использование с vLLM или SGLang; лицензия — Apache-2.0. Разрешение конфликтов и рассуждение об отношениях в README обозначены как находящиеся в разработке.

ModernUzBERT — модель векторных представлений предложений для узбекского языка на архитектуре ModernBERT. Она разработана для семантического поиска и представления документов; согласно карточке, модель обучалась на узбекском корпусе и дообучалась на 30 тысячах пар вопросов и ответов. Размер модели — 150,2 млн параметров, максимальная длина контекста — 8192 токена по метаданным Hugging Face. README указывает среднее объединение токенных представлений в Sentence Transformers и сообщает о результатах тестирования поиска, включая Recall@1 0,62 и Recall@5 0,88. Модель подходит для поиска релевантных текстов и сопоставления предложений на узбекском языке, в том числе в системах поиска по вопросам и документам. Она принимает текст и выдаёт эмбеддинги, пригодные для вычисления семантической близости. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

Severian разработал Nexus-IKM-Mistral-Instruct-v0.2-7B — разговорную языковую модель на архитектуре Mistral с 7,1 млрд параметров. Модель дообучена на экспериментальном наборе Internal Knowledge Map в течение трёх эпох; для обучения использовалась фазовая методика, последовательно акцентирующая системный контекст и инструкции. Модель предназначена для генерации ответов, рассуждений и синтеза информации из разных областей знаний. Её можно применять для многошагового решения задач, поиска связей между дисциплинами и подготовки междисциплинарных идей; заявленные в карточке способности не подтверждены количественными оценками. Контекст составляет до 32 768 токенов. Указана лицензия MIT.

norsbert3-base-matryoshka — модель Sentence Transformers, дообученная MagnusSa на базе ltg/norbert3-base на наборах utdanning_pair_qa, ltg/norquad и NbAiLab/mnli-norwegian. Она кодирует предложения и абзацы в плотные векторы размерности 768, используя скрытое состояние токена CLS и косинусное сходство; Matryoshka-обучение позволяет получать эмбеддинги меньшей размерности. Максимальная длина входа — 512 токенов. Модель предназначена прежде всего для норвежского языка и подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. В карточке приведены результаты оценки поиска для размерностей векторов 768, 512, 256, 128 и 64. Модель принимает текст и выдаёт эмбеддинги; базовый трансформер — NorbertModel, веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Показатели качества относятся к указанным в карточке оценкам поиска и могут не отражать качество на других данных и задачах.

Многоязычная модель Sentence Transformer, дообученная legalvn на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура основана на BERT: она кодирует предложения и абзацы в плотные векторы размерностью 384 и сопоставляет их косинусным сходством. В метаданных указано 124,3 млн параметров и контекст 512 токенов; карточка README задаёт максимальную длину последовательности 128 токенов. Модель предназначена для поиска семантически близких текстов и сравнения сходства предложений. Её можно использовать для семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Примеры обучающих данных включают вьетнамские вопросы и фрагменты документов, в том числе правовую тематику; это указывает на настройку под вьетнамские запросы и корпусные тексты. Модель выдаёт текстовые эмбеддинги, а не готовые ответы. Для оценки сходства применяется косинусная мера. Лицензия в предоставленных данных не указана.

RuModernBERT-base — русская версия двунаправленного энкодера ModernBERT, разработанная DeepVk. Это плотный Transformer с архитектурой ModernBERT и задачей masked language modeling: модель обучена предсказывать замаскированные токены и создавать контекстные представления текста. Число параметров — около 149 млн, глубина — 22 слоя, размер словаря — 50 368 токенов, длина контекста — до 8 192 токенов. Предобучение охватывает примерно 2 трлн токенов на русском и английском языках, а также коде; использовались интернет-источники, книги, научные материалы и социальные сети. Модель подходит как основа для задач понимания текста, включая классификацию и распознавание именованных сущностей после соответствующей настройки. Для NER авторы рекомендуют ревизию patched-tokenizer: в ней шесть часто встречающихся строчных русских букв токенизируются по одному токену. На 20 задачах RuMTEB статистически значимого ухудшения качества относительно исходной версии не обнаружено. Модель распространяется под лицензией Apache-2.0. Это энкодер для анализа и представления текста, а не генеративный чат-бот; для прикладных задач, отличных от заполнения масок, может потребоваться дополнительная настройка. Указанные авторами оценки RSG рассчитаны на dev-выборке с подбором гиперпараметров.

RuModernBERT-small — компактный двунаправленный encoder-only Transformer семейства ModernBERT, разработанный DeepVK для работы с русским и английским текстом. Это модель masked language modeling: она предсказывает замаскированные токены и служит основой для задач понимания текста после дополнительной настройки. Модель содержит 34,4 млн параметров, имеет 12 слоёв, размер скрытого представления 384 и словарь из 50 368 токенов; длина контекста — до 8 192 токенов. Предобучение проводилось примерно на 2 трлн токенов русского, английского и кода из интернет-источников, книг, научных материалов и социальных сетей. Модель подходит как компактный энкодер для классификации, извлечения сущностей и других задач анализа текста; README приводит оценки на русскоязычных бенчмарках. В опубликованной ревизии patched-tokenizer исправлена токенизация шести распространённых русских строчных букв, что может быть полезно для NER; авторы сообщают, что на 20 задачах RuMTEB статистически значимых изменений качества не обнаружили. Лицензия — Apache-2.0.

akhooli/sbert-nli-500k-triplets-MB — модель Sentence Transformers на архитектуре ModernBERT, разработанная на основе akhooli/ModernBERT-ar-base-tiny и дообученная на 550 тысячах арабских NLI-триплетов. Она преобразует предложения и абзацы на арабском языке в плотные векторы размерностью 768 для сравнения по косинусному сходству; максимальная длина последовательности составляет 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Обучение на парах запрос–положительный пример–отрицательный пример помогает сопоставлять запросы с релевантными фрагментами. Лицензия — Apache-2.0. Модель ориентирована на арабский язык; качество на других языках карточкой не подтверждено. Она выдаёт эмбеддинги, а не готовые ответы или метки классов, поэтому для классификации требуется отдельная модель или последующая обработка векторов.

SPLADE CoCondenser SelfDistil — разреженный энкодер для поиска по предложениям и абзацам. Модель на базе Luyu/co-condenser-marco использует архитектуру BERT с MLM-преобразователем и max-пулингом SPLADE; она преобразует текст в разреженные векторы размерности 30 522, сравниваемые скалярным произведением. Максимальная длина входа — 512 токенов, а для воспроизведения оценки в README использовалось ограничение 256 токенов. Модель предназначена для семантического поиска и разреженного извлечения пассажей, включая расширение запросов и документов. В тесте MS MARCO dev в README указаны MRR@10 37,6 и R@1000 98,4. Репозиторий предоставляет веса PyTorch и использует библиотеку Sentence Transformers; лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.

cl-nagoya/sup-simcse-ja-large — японская модель эмбеддингов предложений, разработанная на основе cl-tohoku/bert-large-japanese-v2. Она дообучена методом Supervised SimCSE на датасете JSNLI и использует архитектуру BERT с вектором CLS и стратегией pooling CLS; дополнительный MLP-слой применялся только при обучении. Модель содержит 436,2 млн параметров и рассчитана на последовательности длиной до 512 токенов по метаданным; в обучении использовалась максимальная длина 64 токена. Модель предназначена для получения векторных представлений японских предложений и оценки их смыслового сходства, например для поиска похожих фраз или построения семантического поиска. Для работы указана библиотека Sentence-Transformers; веса представлены в формате PyTorch. Лицензия — CC BY-SA 4.0.

Карточка модели thanhtantran/Vietnamese_Embedding_v2 на Hugging Face совпадает с карточкой AITeamVN/Vietnamese_Embedding_v2, поэтому описание составлено по ней. Vietnamese_Embedding_v2 — модель эмбеддингов на базе Sentence Transformers, дообученная AITeamVN на BAAI/bge-m3 для улучшения поиска по текстам на вьетнамском языке. Обучение проводилось на примерно 1,1 млн троек из запросов, релевантных и нерелевантных документов. Архитектура — XLM-RoBERTa с плотными векторами размерности 1024; модель оценивает сходство скалярным произведением. Метаданные указывают контекст до 8194 токенов, а README сообщает о максимальной длине последовательности 2048 токенов для документов и 256 для запросов. Модель предназначена для построения векторного поиска и извлечения релевантных документов по вьетнамским запросам. В оценке на наборе Legal Zalo 2021 она показала Accuracy@10 0,9578 и MRR@10 0,8149; README отмечает, что модель не обучалась на этом наборе. Результат на юридических данных несколько ниже, чем у базовой фазы, но авторы указывают, что более крупные данные обучения могут быть полезны для других областей. Лицензия — Apache 2.0.