II.8Инженерия данных и аналитика

MaziyarPanahi/speechless-code-mistral-7b-v2.0-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из Mistral-7B-Instruct-v0.2 и speechless-code-mistral-7b-v2.0. Она предназначена для генерации текста и ответов на инструкции, с акцентом на задачи программирования благодаря одной из исходных моделей. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка не описывает специальные языковые ограничения или результаты оценки качества, поэтому пригодность для конкретного языка и точность ответов о коде могут различаться.

sentence-transformers/stsb-distilroberta-base-v2 — модель sentence-transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантического сходства, семантического поиска и кластеризации. Архитектура основана на RoBERTa; модель содержит 95,2 млн параметров и принимает текст длиной до 514 токенов. Модель подходит для построения векторных представлений текстов и оценки близости предложений. Для использования через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Распространяется по лицензии Apache-2.0.

shibing624/text2vec-base-multilingual — многоязычная модель эмбеддингов предложений, разработанная командой text2vec. Она дообучена методом CoSENT на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 и преобразует предложения или короткие абзацы в плотные векторы размерности 384 для сравнения семантической близости. Модель содержит 124,3 млн параметров, использует архитектуру BERT и библиотеку sentence-transformers; длина контекста — до 512 токенов по метаданным, а README указывает ограничение 256 word pieces, после которого вход усекается. Модель предназначена для семантического поиска, сопоставления текстов, оценки сходства предложений, кластеризации и получения векторных представлений. В README заявлена поддержка немецкого, английского, испанского, французского, итальянского, нидерландского, польского, португальского, русского и китайского языков; метаданные подтверждают все перечисленные языки, кроме испанского. Для модели доступны веса PyTorch, safetensors и ONNX. Лицензия — Apache-2.0. Карточка сообщает об улучшении относительно базовой модели на тестах для китайского и английского языков, но не приводит здесь численных результатов именно для этой модели.

Yi-1.5-9B-Chat — диалоговая языковая модель семейства Yi, разработанная командой 01.AI. Это плотная авторегрессионная модель архитектуры Llama с 8,6 млрд параметров, представленная в формате safetensors. Yi-1.5 продолжает предварительное обучение Yi на корпусе из 500 млрд токенов и проходит дообучение на 3 млн разнообразных примеров; версия Chat предназначена для диалога и следования инструкциям. Модель подходит для ответов на вопросы, рассуждений, задач по математике и программированию, а также понимания и краткого анализа текста. В карточке заявлен контекст 4 тыс. токенов; линейка Yi-1.5 также включает варианты с контекстом 16 тыс. и 32 тыс. токенов. README характеризует 9B Chat как сильную модель среди открытых моделей сопоставимого размера. Лицензия — Apache-2.0.

gte-tiny — компактная модель эмбеддингов предложений на базе архитектуры BERT, опубликованная avsolatorio. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из thenlper/gte-small и, согласно карточке, показывает сопоставимое, немного более низкое качество при примерно вдвое меньшем размере. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Для получения векторов можно использовать Sentence Transformers либо Transformers с подходящей операцией pooling. Лицензия и перечень поддерживаемых естественных языков в предоставленных данных не описаны.

abbasgolestani/ag-nli-bert-mpnet-base-uncased-sentence-similarity-v1 — модель Sentence Transformers на архитектуре MPNet, разработанная автором репозитория abbasgolestani. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 514 токенов и распространяется в формате PyTorch. В README указано обучение с CosineSimilarityLoss и точность 82% на локальном наборе из 1000 пар предложений. Модель подходит для получения текстовых эмбеддингов и оценки смыслового сходства; сведения о лицензии и языковой специализации в предоставленных данных отсутствуют.

Карточка модели ori-ron/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели QubeBox/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

all-MiniLM-L6-v2 — модель Sentence Transformers для кодирования предложений и коротких абзацев в плотные векторы размерностью 384. Она основана на MiniLM-L6-H384-uncased и дообучена командой проекта Hugging Face Community Week с помощью контрастивного обучения на более чем миллиарде пар предложений. В метаданных указаны архитектура BERT, 25,9 млн параметров и библиотека sentence-transformers. Модель предназначена для семантического поиска, сравнения смысловой близости текстов и кластеризации. Она принимает текст и выдаёт эмбеддинги; заявленная длина контекста — 512 токенов, при этом README предупреждает, что входы длиннее 256 word pieces обрезаются. Поддерживается английский язык. Лицензия — Apache-2.0; доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO.

KhaledReda/all-MiniLM-L6-v51-pair_score — англоязычная модель Sentence Transformer, дообученная на наборе пар текстов pairs_with_scores_v43 на базе sentence-transformers/all-MiniLM-L6-v2. Она кодирует предложения и абзацы в плотные векторы размерности 384; архитектура включает энкодер BERT, усредняющий пулинг токенов и нормализацию. Для оценки близости векторов используется косинусное сходство. Модель предназначена для семантического сравнения текстов и поиска: она помогает находить похожие фразы и документы, выявлять перефразирования, кластеризовать тексты и строить признаки для классификации. В метаданных указаны 25,9 млн параметров и контекст до 512 токенов; карточка модели задаёт максимальную длину последовательности 256 токенов. Веса опубликованы в формате safetensors. Модель работает с английским текстом и выдаёт векторные представления, а не готовые ответы на естественном языке. Качество зависит от соответствия входных данных обучающим парам; длинные тексты следует разбивать на фрагменты. Лицензия — Apache-2.0.

navteca/all-mpnet-base-v2 — модель Sentence-Transformers на архитектуре MPNet, созданная на основе microsoft/mpnet-base и дообученная командой проекта Hugging Face Community Week с помощью контрастивного обучения на наборе более чем из миллиарда пар предложений. Она предназначена для кодирования предложений и коротких абзацев: преобразует текст в плотный вектор размерности 768, пригодный для семантического поиска, оценки сходства и кластеризации. Модель содержит 136,7 млн параметров, распространяется в формате PyTorch и имеет лицензию MIT. Модель подходит для семантического поиска по коллекциям текстов, поиска похожих предложений и группировки текстов по смыслу. В README указано усечение входа длиннее 384 токенов WordPiece; в метаданных указан контекст 514 токенов. Английский язык подтверждён карточкой модели. Это энкодер предложений, а не генеративная модель: на выходе — векторы, и для использования через Transformers требуется корректная операция pooling.

ronanki/all-mpnet-base-v2-2022-07-18_15-29-33 — модель Sentence-Transformers на архитектуре MPNet, которая преобразует предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель обучена с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Её можно использовать для построения семантического поиска и группировки текстов по смыслу. В репозитории указаны веса PyTorch; лицензия не приведена в доступных данных.

Карточка модели questgen/all-mpnet-base-v2-feature-extraction-pipeline на Hugging Face совпадает с карточкой XHY-DY/all-mpnet-base, поэтому описание составлено по ней. XHY-DY/all-mpnet-base — модель Sentence Transformers для кодирования предложений и коротких абзацев в плотные векторы размерности 768. Она основана на MPNet и дообучена методом контрастивного обучения на наборе более чем из миллиарда пар предложений; исходная модель — microsoft/mpnet-base. В карточке указано применение для семантического поиска, измерения сходства предложений и кластеризации. По умолчанию текст длиннее 384 частей словаря обрезается. Модель принимает текст и возвращает векторное представление, пригодное для поиска и сравнения по смыслу. Она ориентирована на английский язык; заявленная библиотека — Sentence Transformers. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Это модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, дообученная Alessio Borgi с использованием TripletLoss на наборе из 6 551 примера. Она кодирует предложения и абзацы в плотные векторы размерности 768 и нормализует их; для сравнения векторов предусмотрена косинусная близость. Модель подходит для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Архитектура включает MPNet, среднее объединение токенов и нормализацию. Максимальная длина последовательности в README — 384 токена; метаданные указывают native context в 514 токенов. Использовать модель можно через библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.

jiahaohou/all-mpnet-base-v2-sts — англоязычная Sentence Transformer-модель, дообученная на датасете STSB на основе sentence-transformers/all-mpnet-base-v2. Архитектура MPNet преобразует предложения и короткие абзацы в нормализованные плотные векторы размерности 768; сходство между текстами оценивается косинусной близостью. В метаданных указано 136,7 млн параметров и контекст до 514 токенов, а карточка модели указывает максимальную длину последовательности 384 токена. Модель предназначена для семантического сравнения предложений и абзацев, поиска похожих текстов, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты на STS-B: Spearman 0,9105 на dev и 0,8786 на test. Модель принимает текст и выдаёт векторы; для прикладных задач её обычно используют как компонент поиска или анализа, а не как генератор текста. Лицензия в предоставленных данных не указана.

Это дообученная модель Sentence Transformer на базе BAAI/bge-large-en-v1.5 для преобразования предложений и абзацев в плотные векторы размерности 1024. Архитектура включает BertModel, пулинг по CLS-токену и нормализацию; максимальная длина последовательности — 512 токенов. Разработчик конкретного дообучения и обучающие данные в карточке не описаны. Модель предназначена для вычисления семантического сходства и поиска по тексту, а также для поиска перефразировок, кластеризации и классификации текстов. Нормализованные эмбеддинги сравниваются косинусным сходством. Репозиторий создан 17 ноября 2024 года и содержит веса safetensors. Условия лицензии в предоставленных данных не указаны.

Mozart_Fine_Tuned-10 — модель эмбеддингов предложений на архитектуре BERT, опубликованная аккаунтом mozart-ai. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска по смыслу, сравнения сходства и кластеризации. Модель содержит около 40 млн параметров, принимает текст и поддерживает контекст до 512 токенов. В README описано обучение с MultipleNegativesRankingLoss и косинусным сходством; формат весов — PyTorch. По названию репозитория это тонкая настройка BAAI/bge-small-en-v1.5; модель предназначена прежде всего для английского текста. Лицензия в предоставленных данных не указана.

jondurbin/bagel-dpo-7b-v0.5 — диалоговая модель, разработанная Jondurbin как дообучение Mistral-7B-v0.2 на наборе Bagel v0.5 с дополнительным этапом DPO. Она предназначена для генерации ответов в чате и широкого круга инструкционных задач: ответов на вопросы, рассуждений, суммаризации, написания текстов, программирования, математики и вызова функций. В обучающие данные также включены примеры ролевого диалога, чтения с пониманием и работы с контекстом. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README описана вариативная разметка запросов с форматами Vicuna, Llama 2, Alpaca и модифицированным ChatML; шаблон по умолчанию — Llama 2. Многоязычные примеры присутствуют в обучающих данных, но основной язык модели не выделен. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка сообщает, что использованы только обучающие части наборов данных, а также предупреждает о токсичном и потенциально незаконном содержимом в одной из составляющих DPO-данных; ответы и безопасность следует проверять, особенно для пользовательских и чувствительных сценариев.

Карточка модели efeturkol/bddk-embedding-model на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

SANIAAFTAR/bge-base-en-v1.5-finetuned_ragds_v1 — модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура состоит из XLM-RoBERTa и mean pooling; для оценки сходства в README указана косинусная мера. Метаданные указывают контекст до 514 токенов, тогда как README сообщает ограничение длины последовательности 128 токенов. Модель подходит для построения эмбеддингов и поиска по смыслу в многоязычных текстовых коллекциях, в том числе в системах поиска для RAG. В карточке приведены пары anchor-positive и обучение с MultipleNegativesRankingLoss. Весовая лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя.

Карточка модели vectoriseai/bge-large-en-v1.5 на Hugging Face совпадает с карточкой vectoriseai/bge-small-en-v1.5, поэтому описание составлено по ней. vectoriseai/bge-small-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, опубликованная под именем vectoriseai; карточка описывает её через материалы проекта FlagEmbedding. Модель преобразует текст в плотные векторы для поиска, сравнения предложений, классификации и кластеризации, а также для поиска контекста в векторных базах данных и системах RAG. Модель основана на архитектуре BERT, содержит около 40 млн параметров и поддерживает контекст до 512 токенов. Для поиска по длинным документам README рекомендует при необходимости добавлять поисковую инструкцию к короткому запросу, но не к документам. Доступны веса PyTorch и ONNX; лицензия — MIT. Версия BGE v1.5 улучшает распределение оценок сходства и поиск без инструкции. Оценки сходства следует интерпретировать относительно: порог для отбора похожих текстов нужно подбирать на своих данных. Модель ориентирована на английский язык; качество для других языков не заявлено.

BorisTM/bge-m3_en_ru — компактная версия модели эмбеддингов BAAI/bge-m3, подготовленная для английского и русского языков. В модели оставлены токены этих двух языков: размер словаря сокращён до 21% от исходного, а общее число параметров составляет 449,9 млн, или 63,3% от исходного размера. Архитектура — XLM-RoBERTa; модель доступна в формате safetensors и рассчитана на контекст до 8194 токенов. Модель предназначена для получения текстовых эмбеддингов и сравнения сходства предложений, например для семантического поиска и подбора похожих текстов. Её можно использовать с Sentence-Transformers или Transformers, применяя подходящую операцию pooling к контекстным представлениям токенов. Автор README сообщает, что сокращение словаря не ухудшило качество эмбеддингов на английском и русском языках. Это производная версия BAAI/bge-m3, созданная сокращением словаря токенизатора. Лицензия в предоставленных данных не указана.

YeonwooSung/bge-m3-msmarco-v3-sbert — дообученная модель Sentence Transformers на базе BAAI/bge-m3, разработчик в карточке не назван. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, оценки сходства, поиска перефразировок, кластеризации и классификации текста. Архитектура состоит из XLM-RoBERTa и mean pooling; максимальная длина последовательности — 8192 токена, сходство обычно оценивается косинусной мерой. Модель обучена на датасете примерно из 499 тысяч примеров с MultipleNegativesRankingLoss. Метаданные характеризуют базовую BGE-M3 как многоязычную модель поиска; конкретный перечень поддерживаемых языков для этой версии не указан. Для работы доступны веса safetensors и библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

seansitter/bge-m3-safetensors — конвертированная версия многоязычной модели эмбеддингов BAAI/bge-m3, подготовленная для плотного извлечения признаков и инференса через transformers backend в vLLM. Модель основана на архитектуре XLM-RoBERTa и содержит 658,7 млн параметров; заявленный контекст — 8194 токена. Репозиторий предоставляет веса в формате safetensors с именами параметров, совместимыми с указанным способом загрузки в vLLM; веса битово эквивалентны исходным, переобучения не было. Модель подходит для создания текстовых эмбеддингов, семантического поиска и вычисления сходства предложений на разных языках. В этой версии оставлены компоненты для плотных эмбеддингов, а вспомогательные головы для ColBERT и разреженного поиска исключены. Лицензия — MIT. Для запуска по описанному в карточке сценарию требуется vLLM с transformers backend и режимом pooling.

bge-micro-v2 — компактная модель эмбеддингов предложений на базе архитектуры BERT, представленная TaylorAI. Она преобразует предложения и абзацы в плотные векторы размерности 384 и подходит для семантического поиска, кластеризации и сравнения сходства текстов. Модель насчитывает 18,8 млн параметров, принимает текст длиной до 512 токенов и поддерживает Sentence Transformers, Transformers, ONNX и форматы PyTorch и Safetensors. Модель получена дистилляцией в два этапа на основе BAAI/bge-small-en-v1.5; bge-micro был первым этапом этого процесса. Она рассчитана на англоязычные тексты. Лицензия MIT разрешает свободное использование и модификацию с соблюдением её условий. Малый размер делает модель удобной для поиска и ранжирования текстовых представлений, однако векторные представления сами по себе не генерируют ответы, а ограничение контекста составляет 512 токенов.

michaelfeil/bge-small-en-v1.5 — компактная англоязычная модель эмбеддингов на архитектуре BERT, представленная в форматах PyTorch, Safetensors и ONNX. Она предназначена для получения векторных представлений текста и сравнения сходства предложений; размер составляет около 40 млн параметров, максимальная длина контекста — 512 токенов. Модель можно запускать через библиотеку Infinity Embedding Model: README рекомендует PyTorch с CUDA для GPU и ONNX через Optimum для CPU. Эмбеддинги подходят для поиска по смыслу, ранжирования и построения систем поиска с дополненной генерацией. Модель рассчитана на английский язык. Репозиторий распространяется по лицензии MIT.

Карточка модели tomaarsen/bge-small-en-v1.5-copy на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

BOOM_4B_eng_data_v1 — англоязычная модель текстовых эмбеддингов, созданная авторами исследования BOOM на основе Qwen3-4B. Она предназначена для получения представлений текста для поиска, ранжирования, семантического сходства, классификации и кластеризации. Модель объединяет несколько вариантов эмбеддинговой модели, обученных на выборках разного размера, методом Multi-SLERP; такой подход рассчитан на повышение устойчивости и качества переноса на новые данные при сохранении эффективности инференса одной моделью. Модель имеет плотную архитектуру Qwen3, около 3,7 млрд параметров и контекст до 40 960 токенов. Обучение охватывает англоязычные задачи поиска, переранжирования, классификации, кластеризации и семантического сходства; README также сообщает о включении общих данных, в том числе многоязычных наборов для поиска, и выборки кода. Для практического применения доступны веса в формате safetensors. Лицензия в предоставленных сведениях не указана.

consciousAI/cai-lunaris-text-embeddings — модель эмбеддингов на архитектуре BERT, представленная в формате PyTorch и предназначенная для преобразования предложений и абзацев в плотные векторы размерности 1024. Её можно использовать для извлечения признаков текста, оценки семантического сходства, кластеризации и семантического поиска. Модель совместима с Sentence-Transformers и Hugging Face Transformers; при использовании Transformers поверх контекстных представлений токенов требуется применить соответствующий pooling. Модель насчитывает около 433,9 млн параметров, а максимальная длина контекста составляет 512 токенов. Репозиторий распространяется по лицензии Apache-2.0. В карточке не приведены сведения о целевых языках и специализированных предметных областях.