I.1Поиск и навигация по информации

naufalihsan/indonesian-sbert-large — модель на базе BERT, представленная как sentence-transformers-модель. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения текстов и кластеризации. Обучение с CosineSimilarityLoss ориентировано на сходство предложений; модель также подходит для построения текстовых эмбеддингов. Модель содержит около 433,9 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. В карточке указано назначение для индонезийского языка. Доступны веса в формате PyTorch; для использования описаны библиотеки Sentence-Transformers и Transformers. Лицензия в предоставленных данных не указана.

Карточка модели mdizak/infoxlm-large-sentence-embeddings-rust на Hugging Face совпадает с карточкой KnutJaegersberg/infoxlm-large-sentence-embeddings, поэтому описание составлено по ней. KnutJaegersberg/infoxlm-large-sentence-embeddings — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она основана на XLM-RoBERTa и предназначена для поиска семантически близких текстов, кластеризации и семантического поиска. В обучении использовалась функция TripletLoss с евклидовой метрикой расстояния. Модель содержит 658,7 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. В карточке указаны форматы PyTorch и safetensors. Лицензия в предоставленных данных не приведена.

bachngo/intf-e5-small-5t — модель Sentence Transformers на архитектуре BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, сравнения текстов и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусным сходством; она подходит для поиска близких по смыслу фрагментов и группировки текстовых данных. Контекст ограничен 512 токенами, размер модели составляет 124,3 млн параметров. Лицензия в предоставленных данных не указана.

DejanX13/ISO_embedding_1000 — модель на базе XLM-RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для сравнения семантической близости, семантического поиска и кластеризации. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Модель содержит около 658,7 млн параметров и поддерживает контекст до 514 токенов. Репозиторий использует формат safetensors; для работы подходит библиотека sentence-transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках, поэтому модель можно описать как общую модель эмбеддингов текста. Такие эмбеддинги подходят для поиска похожих текстов и группировки предложений по смыслу. Качество на конкретных языках и доменах следует проверять на собственных данных: карточка не приводит результатов оценки. Лицензия в предоставленных данных не указана.

Xenova подготовила ONNX-версию модели jinaai/jina-embeddings-v2-base-de для работы с библиотекой Transformers.js. Это дообученная модель семейства BERT класса JinaBertForMaskedLM с 160,1 млн параметров и контекстом до 8192 токенов; она предназначена для извлечения признаковых представлений немецких и английских текстов. Эмбеддинги можно применять для семантического поиска, сравнения предложений и систем RAG. Репозиторий содержит веса ONNX и PyTorch и распространяется по лицензии Apache-2.0. Карточка показывает совместимость с Transformers.js; по назначению это модель для получения текстовых представлений, а не готовая диалоговая система. Классификация каталога как fill-mask расходится с авторским тегом feature-extraction, поэтому основная задача здесь — извлечение признаков.

Xenova/jina-embeddings-v2-base-zh — версия модели эмбеддингов Jina AI, подготовленная Xenova с весами ONNX для использования в Transformers.js. Она основана на jinaai/jina-embeddings-v2-base-zh и предназначена для получения векторных представлений китайских и английских текстов, например для семантического поиска и сравнения сходства. Модель построена на архитектуре JinaBERT семейства BERT, содержит 160,1 млн параметров и поддерживает контекст до 8192 токенов. Репозиторий включает ONNX-веса, а также файлы PyTorch и Safetensors; указана лицензия Apache-2.0. README описывает использование через библиотеку Transformers.js. Данных о качестве на конкретных наборах задач или иных ограничениях в предоставленной карточке нет.

jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc. Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding. Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768. Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.

Jina AI разработала эту версию jina-embeddings-v4 для мультимодального и многоязычного поиска по визуальным документам. Веса адаптера retrieval объединены с базовой моделью Qwen2.5-VL, что обеспечивает совместимость с vLLM без специальной обработки адаптеров. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2.5-VL и поддерживает контекст до 128 000 токенов. Модель предназначена для поиска документов по текстовым и визуальным запросам, в том числе для многоязычного поиска по содержимому документов. Репозиторий содержит веса в формате safetensors; метаданные указывают библиотеку Transformers. Лицензия в предоставленных данных не указана.

jina-embeddings-v5-text-nano-text-matching — компактная модель для получения текстовых эмбеддингов, разработанная Jina AI и являющаяся квантованной версией базовой модели jina-embeddings-v5-text-nano. Она предназначена для сопоставления текстов, оценки семантической схожести, поиска и других сценариев, где требуется сравнивать смысловое содержание запросов и документов. Модель поддерживает мультиязычные тексты; в README приведены примеры на английском, арабском, китайском, французском, немецком, греческом, хинди, итальянском, японском и корейском языках. Модель содержит 239 млн параметров, обрабатывает последовательности длиной до 8192 токенов и формирует эмбеддинги размерностью 768. Используется pooling по последнему токену, предусмотрены матрёшечные размерности 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством и эффективностью хранения или поиска. Модель ориентирована на высокую производительность при небольшом размере и доступна для интеграции через sentence-transformers, vLLM и специальную ветку llama.cpp с поддержкой формата GGUF. README не содержит подробных сведений о конкретных ограничениях качества, кроме ориентации исключительно на задачу text-matching, поэтому применимость к другим задачам эмбеддингов не гарантируется. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование.

jina-reranker-v1-turbo-en-GGUF — это GGUF-представление модели для переранжирования текстов, разработанной Jina AI. Модель предназначена для задач text ranking: она оценивает релевантность документов или других текстовых кандидатов относительно поискового запроса и помогает упорядочить результаты в системах семантического поиска и retrieval-augmented generation (RAG). Исходная модель опубликована как jinaai/jina-reranker-v1-turbo-en. Модель ориентирована на английский язык и интегрируется с экосистемой sentence-transformers. Формат GGUF рассчитан на использование в совместимых локальных инструментах и средах выполнения, однако конкретные требования к памяти, размер модели, архитектура, длина контекста и поддерживаемые модальности в предоставленном README не указаны. Сильной стороной является специализация на переранжировании англоязычных текстов; ограничения включают отсутствие подтверждённых данных о многоязычной поддержке и численных характеристиках. Модель распространяется по лицензии Apache-2.0.

KEmbed-naija-v1 — текстовая Sentence Transformer-модель, дообученная matt-wisdom на базе BAAI/bge-m3 для поиска релевантных текстов. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и позволяет сравнивать их с помощью косинусного сходства. Архитектура включает XLM-RoBERTa, пулинг CLS и нормализацию; модель принимает только текст. Максимальная длина последовательности в карточке — 256 токенов, а метаданные указывают родной контекст 8194 токена. Модель ориентирована на retrieval и семантическое сопоставление запросов с документами. В карточке приведена оценка cosine accuracy 0,7925 на наборе nigerian-val. Метаданные указывают 658,7 млн параметров и лицензию не сообщают, поэтому условия лицензирования по доступным данным определить нельзя.

KEmbed-naija-v2 — модель Sentence Transformers, дообученная автором matt-wisdom на базе BAAI/bge-m3 для поиска по текстам. Она кодирует предложения и абзацы в плотные векторы размерности 1024, нормализует их и сравнивает по косинусному сходству. Максимальная длина входа — 256 токенов; архитектура включает XLM-RoBERTa и слой объединения CLS. Модель ориентирована на извлечение релевантных текстов, а её качество оценивалось на датасете nigerian-val. Модель принимает текст и выдаёт векторы для семантического поиска и сравнения предложений. Она дообучена на наборах с парами и тройками текстов; README приводит результаты оценки поиска, но не уточняет поддерживаемые языки или предметную область. Доступна в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели choiwonjin/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели Noahyun/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели saychuwho/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Карточка модели sming0408/klue-roberta-base-klue-sts-mrc3 на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

MDDDDR/klue-roberta-base-klue-sts-mt-30000 — модель Sentence Transformers на архитектуре RoBERTa, содержащая 137,8 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Обучение с MultipleNegativesRankingLoss и косинусным сходством нацелено на формирование эмбеддингов, пригодных для сравнения предложений. Модель принимает текст и выдаёт векторы; её можно использовать для семантического поиска, группировки текстов и вычисления сходства предложений. Контекст составляет до 514 токенов. В карточке не приведены сведения о лицензии, поэтому условия использования по имеющимся данным определить нельзя.

KoE5 — модель для создания плотных текстовых эмбеддингов, разработанная NLP&AI Lab. Она дообучена на базе intfloat/multilingual-e5-large на более чем 700 тысячах корейских пар «запрос — документ» из набора ko-triplet-v1.0 с функцией потерь CachedMultipleNegativesRankingLoss и предназначена прежде всего для поиска по корейским текстам. Модель построена на XLM-RoBERTa, содержит 658,7 млн параметров и выдаёт векторы размерности 1024. Контекст ограничен 512 токенами. Эмбеддинги подходят для семантического поиска, ранжирования документов, оценки сходства, поиска перефразировок и кластеризации. Для поиска по паре «запрос — документ» рекомендуется добавлять префиксы «query: » и «passage: », а для симметричных задач и использования эмбеддингов как признаков — «query: ». Заявлена поддержка корейского и английского языков; обучение и основная специализация модели связаны с корейским поиском. Лицензия — MIT. Длинные тексты обрезаются до 512 токенов, а отсутствие рекомендованных префиксов может снизить качество.

jeongeunKJ/ko-sbert-custom-v1 — корейская модель Sentence-Transformers на архитектуре BERT, дообученная на snunlp/KR-SBERT-V40K-klueNLI-augSTS. Она преобразует предложения и абзацы в плотные векторы размерности 768, используя усреднение токенных представлений; сходство векторов оценивается косинусной мерой. Модель содержит 144 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска и сравнения корейских текстов, поиска перефразирований, кластеризации и классификации. В README указана небольшая обучающая выборка из 4361 пары предложений с оценками сходства и обучение с CosineSimilarityLoss. Лицензия в предоставленных данных не указана.

thumbCrush/ko-sroberta-base-longformer — дообученная модель Sentence Transformers на базе cateto/longformer-ko-sroberta-multitask-23040. Она использует архитектуру RoBERTa с усреднением токенных представлений и преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения по косинусному сходству. Модель содержит 137,8 млн параметров и рассчитана на длинный контекст: метаданные указывают 23 042 токена, а README — максимальную длину последовательности 10 000 токенов. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текстов. Название и базовая модель указывают на ориентацию на корейский язык; отдельные языки в метаданных не перечислены. Модель принимает текст и выдаёт векторы, пригодные для поиска и сравнения. Лицензия в предоставленных данных не указана.

danfeg/LaBSE_Finetuned-AR-1500 — модель эмбеддингов предложений на базе архитектуры BERT, дообученная для сопоставления семантически близких текстов. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации. Модель содержит 498,1 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Модель можно применять для поиска похожих фраз, группировки текстов по смыслу и оценки семантического сходства. В README указано обучение с CosineSimilarityLoss. Лицензия и конкретный набор поддерживаемых естественных языков в предоставленных данных не описаны.

sergeyzh/LaBSE-ru-turbo — русскоязычная модель эмбеддингов предложений на основе BERT, разработанная sergeyzh и дообученная на базе cointegrated/LaBSE-en-ru. Она предназначена для преобразования русских текстов в векторы, сравнения семантической близости предложений, поиска похожих текстов, кластеризации и классификации с использованием эмбеддингов. Модель содержит 155,5 млн параметров, выдаёт эмбеддинги размерностью 768 и обрабатывает до 512 токенов контекста; доступны веса Safetensors и использование через Sentence Transformers. В README приведены результаты на encodechka и ruMTEB, включая сильные показатели на некоторых задачах сходства и кластеризации. Лицензия MIT.

Карточка модели Cutting3dg3/LaBSE-TID на Hugging Face совпадает с карточкой sentence-transformers/LaBSE, поэтому описание составлено по ней. LaBSE — перенос многоязычной модели LaBSE в PyTorch, опубликованный командой sentence-transformers. Модель на архитектуре BERT содержит 498,1 млн параметров и отображает предложения на общем векторном пространстве, чтобы сопоставлять их смысл на разных языках. Поддерживает 109 языков; максимальная длина контекста — 512 токенов. Модель подходит для поиска семантически близких предложений, сопоставления текстов на разных языках и построения многоязычных эмбеддингов для семантического поиска и кластеризации. Доступна через библиотеку sentence-transformers и в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. README указывает на публикацию LaBSE, но не приводит подробностей обучения или сравнительных результатов.

LEALLA-base — компактная многоязычная модель эмбеддингов предложений семейства BERT, созданная как часть коллекции LEALLA и дистиллированная из LaBSE. Версия перенесена из v1 модели на TensorFlow Hub; PyTorch-версия, согласно карточке, выдаёт эквивалентные эмбеддинги. Модель предназначена для преобразования предложений в векторы, сравнения их семантической близости и поиска соответствующих текстов на разных языках. Она поддерживает 109 языков и подходит, например, для многоязычного поиска по парам текстов. Размер составляет 110,4 млн параметров, максимальная длина контекста — 512 токенов. Для некоторых языков, в частности японского, при сравнении эмбеддингов могут потребоваться более высокие допуски. Подробности обучения, оценки и метрик приведены в исходной научной статье. Лицензия — Apache-2.0.

LEALLA-small — компактная многоязычная модель эмбеддингов предложений из семейства LEALLA, созданная как дистиллированная версия LaBSE. Она основана на архитектуре BERT и предназначена для получения векторных представлений предложений на 109 языках, в том числе для поиска соответствующих фрагментов в параллельных текстах и сравнения предложений по смыслу. Модель содержит 70,4 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, сопоставления предложений и межъязычного поиска по парам текстов. Эмбеддинги версии LEALLA-small эквивалентны эмбеддингам исходной версии v1 на TensorFlow Hub; для некоторых языков, например японского, при сравнении эмбеддингов может понадобиться больший допуск. Доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

LightOn-rerank-LW-0.8B — мультимодальный кросс-энкодерный реранкер компании LightOn на базе Qwen/Qwen3.5-0.8B. Он совместно дообучен на текстовых и визуальных данных для переранжирования кандидатов, уже найденных первым этапом поиска: модель сопоставляет текстовый запрос с фрагментами текста или изображениями страниц документов, например PDF и слайдов. Модель использует генеративное списочное ранжирование: за один запрос она сравнивает четыре кандидата и генерирует их порядок; более крупные наборы обрабатываются скользящим окном. Вес модели составляет около 0,85 млрд параметров, опубликованные веса — bfloat16. Для работы требуется Transformers версии 5.4.0 или выше с поддержкой архитектуры qwen3_5. Модель показывает сильные результаты на визуальном ранжировании ViDoRe V3 с учётом её размера; область применения — прежде всего системы поиска, где важна экономия памяти ускорителя. Обучение проводилось на английских данных. В README заявлен перенос на французский без дополнительного обучения; качество в среднем несколько ниже, чем на английском. Списочный режим имеет более высокую задержку, чем поточечное оценивание, а на фармацевтических документах модель слабее ряда моделей класса 2B. Лицензия — Apache-2.0.

ByteDance ListConRanker — плотная модель ранжирования текстов на основе архитектуры BERT, разработанная ByteDance. Она предназначена для спискового переранжирования: по запросу модель сравнивает несколько пассажей и упорядочивает их по релевантности. Для сопоставления пассажей используется модуль ListTransformer, который учитывает глобальные контрастивные отношения между ними, а ListAttention помогает сохранять признаки запроса. Обучение проводилось в два этапа с Circle Loss на данных примерно из 2,6 млн запросов и нескольких наборов данных, включая cMedQA, MMarcoReranking, T2Reranking, Huatuo, MARC, XL-Sum и CSL. Модель содержит 424,3 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В README приведены результаты на задачах переранжирования, включая медицинские наборы данных и MMarcoReranking. При обучении на запрос обрабатывали около 20 пассажей; при использовании с существенно большими списками возможны ограничения по памяти и качеству. Авторы отдельно предупреждают, что стратегия усечения в sentence-transformers может не соответствовать устройству модели и снижать качество. Лицензия в предоставленных данных не указана.

NVIDIA Nemotron-UltraLong-8B-Instruct — языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров, предназначенная для работы с длинными текстами и следования инструкциям. Модель принимает текст и генерирует текст; её контекстное окно достигает 1 073 152 токенов. Для запуска используется Transformers. Модель дообучена на основе meta-llama/Llama-3.1-8B-Instruct: обучение включало продолжение предобучения на длинных последовательностях и настройку на инструкциях по общим темам, математике и программированию. Модель подходит для анализа больших документов и контекстов, а также для диалогов и ответов на вопросы с опорой на предоставленный текст. Карточка сообщает о конкурентных результатах на стандартных тестах и сильных результатах на задачах с очень длинным контекстом. Модель рассчитана прежде всего на английский язык. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; перед применением необходимо соблюдать её условия. Указанный размер контекста не гарантирует одинаковую точность на всём диапазоне длины, а качество может зависеть от задачи и содержимого запроса.

BAAI/LLARA-beir — текстовая модель семейства LLaMA, разработанная BAAI для получения эмбеддингов и оценки смыслового сходства предложений. В проекте LLARA представлены подходы EBAE (Embedding-Based Auto-Encoding) и EBAR (Embedding-Based Auto-Regression); репозиторий ссылается на статью и GitHub проекта. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 4096 токенов. Модель подходит для поиска по смыслу, сопоставления предложений и других задач, где нужны текстовые эмбеддинги. Доступны веса в формате safetensors; лицензия — MIT. В карточке не приведены сведения о поддерживаемых естественных языках и специализированных областях применения.

LLM2Vec-Meta-Llama-3-8B-Instruct-mntp — текстовый энкодер на основе decoder-only LLM Meta Llama 3 Instruct с 8 млрд параметров, разработанный исследовательской группой McGill-NLP. Модель создана по методике LLM2Vec, которая преобразует авторегрессионные языковые модели в двунаправленные энкодеры: включает двунаправленное внимание и обучение с маскированием следующего токена (MNTP). Репозиторий проекта и описание метода опубликованы McGill-NLP. Модель предназначена для получения векторных представлений текстов и их семантического сравнения. Основные сценарии включают поиск и извлечение релевантных документов, reranking, классификацию, кластеризацию, оценку семантического сходства и задачи text embedding. Запросы можно кодировать с инструкциями, а для документов инструкции не требуются; сходство представлений можно вычислять, например, по косинусной близости. В README явно указан английский язык. В примере используется усредняющее pooling и максимальная длина 512 токенов. Сильной стороной модели является адаптация мощной инструкционной LLM к задачам универсального текстового кодирования без перехода на отдельную encoder-архитектуру; методика также допускает дальнейшее fine-tuning. Ограничения связаны с указанной языковой специализацией на английском, зависимостью от custom code и PEFT-компонентов при загрузке, а также с вычислительными требованиями модели размером 8B. README не приводит подробных результатов бенчмарков или полного описания поддерживаемого контекста. Лицензия модели — MIT.