II.8Инженерия данных и аналитика

Это англоязычная модель Sentence Transformer от sobamchan, дообученная на базе FacebookAI/roberta-base на датасете all-nli. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их по косинусному сходству. Архитектура состоит из RoBERTa и mean pooling; контекст ограничен 512 токенами. Модель подходит для оценки семантической близости текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Обучение с MatryoshkaLoss позволяет использовать укороченные представления размерностью 512, 256, 128 или 64. В README приведены результаты на STS: Spearman 0,8259 для sts-dev и 0,7921 для sts-test. Модель рассчитана на английский язык; её качество для других языков не подтверждено. Репозиторий распространяется в формате safetensors, лицензия в предоставленных данных не указана.

Muennighoff/SBERT-base-nli-stsb-v2 — модель семейства Sentence-BERT на архитектуре BERT, представленная в контексте работы TSDAE о самообучении эмбеддингов предложений с помощью последовательного денойзинг-автоэнкодера. Она предназначена для получения векторных представлений предложений и сравнения их семантической близости, в том числе в поиске и ранжировании по смыслу. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт эмбеддинги. Доступна в формате PyTorch и распространяется по лицензии Apache-2.0. README не уточняет, была ли эта конкретная версия дообучена по TSDAE или каковы её языки.

imvladikon/sentence-transformers-alephbert — модель эмбеддингов предложений на базе BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и рассчитана на семантический поиск, сравнение текстов и кластеризацию. Размер модели — 153,2 млн параметров, максимальная длина контекста — 512 токенов; карточка указывает поддержку иврита. По README, текущая версия получена дистилляцией LaBSE на частном корпусе и обучалась с MultipleNegativesRankingLoss и косинусным сходством. Модель подходит для построения векторных представлений и оценки семантической близости текстов на иврите. Она не генерирует текст; сведения о составе частного обучающего корпуса и его ограничениях не приведены. Формат файлов — PyTorch; лицензия в предоставленных данных не указана.

Muennighoff/SGPT-125M-mean-nli — модель семейства SGPT, разработанная Muennighoff и представленная в формате Sentence Transformers для получения векторных представлений предложений и оценки их семантического сходства. Она основана на GPT-Neo и содержит 137,7 млн параметров; максимальный контекст составляет 2048 токенов. Модель обучали с MultipleNegativesRankingLoss и косинусной мерой сходства, используя наборы предложений без дубликатов. Модель предназначена для сравнения предложений и получения эмбеддингов, например, для семантического поиска, поиска похожих текстов и ранжирования кандидатов по близости к запросу. Метаданные указывают на поддержку feature extraction и sentence similarity. Языки обучения или приоритетные языки в доступных данных не обозначены. Репозиторий содержит веса PyTorch; сведения о лицензии в предоставленных источниках отсутствуют.

Muennighoff/SGPT-1.3B-weightedmean-nli — модель для получения эмбеддингов предложений на базе GPT-Neo с 1,5 млрд параметров. Она обучена для оценки семантического сходства: Sentence Transformers использует взвешенное усреднение представлений токенов, а при обучении применялась функция MultipleNegativesRankingLoss с косинусным сходством и NLI-данными, на что указывает название модели. Модель подходит для поиска семантически близких текстов, ранжирования кандидатов по сходству с запросом и построения векторного поиска. Она принимает текст и выдаёт векторные представления, поддерживает контекст до 2048 токенов. В карточке приведены сведения об обучении, но нет конкретных результатов оценки; качество для отдельных языков и задач из этих данных установить нельзя. Формат репозитория — PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели Muennighoff/SGPT-5.8B-weightedmean-nli-bitfit на Hugging Face совпадает с карточкой Muennighoff/SGPT-5.8B-weightedmean-msmarco-specb-bitfit, поэтому описание составлено по ней. Muennighoff/SGPT-5.8B-weightedmean-msmarco-specb-bitfit — модель эмбеддингов предложений на архитектуре GPT-J, обученная для оценки сходства текстов. Она предназначена для поиска семантически близких предложений и документов, ранжирования результатов и построения поисковых систем. В README указано обучение с MultipleNegativesRankingLoss и косинусной мерой сходства; метаданные отмечают поддержку эмбеддингов и задачи sentence similarity. Контекст составляет 2048 токенов, формат весов — PyTorch. Модель опубликована под лицензией MIT.

Skywork-OR1-7B — текстовая модель общего назначения для рассуждений в математике и программировании, разработанная командой Skywork. Она основана на DeepSeek-R1-Distill-Qwen-7B и обучена с использованием крупномасштабного обучения с подкреплением по правилам и модифицированного алгоритма GRPO. В обучении использовались около 110 тысяч математических задач и 14 тысяч вопросов по программированию, а также фильтрация данных, rejection sampling, многоэтапное обучение и адаптивное управление энтропией. Данная версия представляет собой набор GGUF-квантизаций для локального запуска через llama.cpp, llama-cpp-python, LM Studio или Ollama. Доступны варианты от F16 до 2-битных, примерно от 15,2 до 3,0 ГБ; выбор квантизации позволяет найти компромисс между качеством, требованиями к VRAM и размером модели. Модель предназначена прежде всего для англоязычной генерации текста, решения математических задач и написания кода. Она не заявлена как мультимодальная, а снижение разрядности может ухудшать качество рассуждений и ответов. В README приведён пример запуска с контекстом 32768 токенов, но максимальный контекст модели явно не указан. Распространяется по лицензии Apache 2.0.

Smaller LaBSE — компактная версия мультиязычного BERT Sentence Encoder, созданная путём дистилляции исходной LaBSE и опубликованная пользователем setu4993. Модель предназначена для получения векторных представлений предложений и оценки их семантического сходства, в том числе между языками. Это плотная BERT-модель объёмом 246,4 млн параметров с максимальным контекстом 512 токенов. По карточке она поддерживает 15 языков: арабский, немецкий, английский, испанский, французский, итальянский, японский, корейский, нидерландский, польский, португальский, русский, тайский, турецкий и китайский. Репозиторий содержит веса в форматах PyTorch, TensorFlow и Flax. Модель полезна для поиска семантически близких предложений и мультиязычного сопоставления текстов. Качество и детали обучения описаны в исходной статье; уменьшение набора языков по сравнению с оригинальной LaBSE может ограничивать применимость к языкам вне указанного списка. Лицензия — Apache 2.0.

Snowflake Arctic Embed L — модель эмбеддингов текста от Snowflake для высококачественного семантического поиска и извлечения информации. Она построена на архитектуре BERT; в репозитории указаны веса Safetensors и формат ONNX. Модель содержит около 433,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для создания векторных представлений запросов и документов, чтобы находить релевантные материалы по смыслу, в том числе в системах поиска и retrieval-augmented generation (RAG). В README заявлены результаты на бенчмарках MTEB/BEIR и показатели извлечения, сопоставимые с крупными коммерческими эмбеддинг-моделями. Карточка описывает обучение семейства на основе открытых моделей представления текста и многоэтапную оптимизацию для retrieval; точная базовая модель именно этой версии не указана. Модель работает с текстом и возвращает эмбеддинги; контекст ограничен 512 токенами. Указана лицензия Apache-2.0. README сообщает о выпуске более новых многоязычных версий семейства, поэтому для новых многоязычных сценариев может подойти более поздняя версия; поддерживаемые языки этой модели в предоставленных данных не перечислены.

smartcat/SRBedding-base-distilled-v1 — модель Sentence Transformers, разработанная Smartcat и дообученная на основе intfloat/multilingual-e5-base. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, поиска и сопоставления текстов; сходство можно оценивать косинусной мерой. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию векторов. Модель принимает текст, поддерживает последовательности длиной до 512 токенов и выдаёт эмбеддинги. В карточке описано обучение на параллельных англо-сербских данных и приведены результаты оценки для перевода между английским и сербским, а также семантического сходства. Модель подходит для межъязыкового поиска и сопоставления англоязычных и сербоязычных предложений, а также для кластеризации, поиска перефразировок и классификации на основе эмбеддингов. Лицензия в предоставленных данных не указана.

Tess-v2.5 (Qwen2-72B) — разговорная языковая модель, созданная Migel Tissera и дообученная на базе Qwen2-72B. Она предназначена для диалога и генерации текста, включая рассуждения, программирование, математику и ответы на вопросы по широкому кругу тем. Архитектура — плотная Qwen2ForCausalLM, размер — 71,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и использует формат запросов ChatML. Для дообучения применён датасет Tess-v2.5 из 300 тысяч синтетических примеров по бизнесу, истории, социальным наукам, искусству, STEM и программированию; модель обучалась с Axolotl. Автор сообщает о сильных результатах на MMLU и AGIEval, однако эти заявления основаны на оценках автора. Модель не проходила RLHF или DPO и может выдавать неточные, вводящие в заблуждение, предвзятые или оскорбительные ответы. Лицензия указана как other, поэтому условия использования следует проверить в репозитории модели.

Triumvirate — плотная текстовая причинно-языковая модель семейства Qwen 3.5, созданная автором репозитория путём слияния Qwen/Qwen3.5-9B и специализированных моделей Qwopus3.5-9B-Coder, MiMo-V2.6-Distill-Qwen-9B и Ornith-1.5-9B. В README указаны размер 8,8 млрд параметров и контекст 256 тыс. токенов; метаданные каталога указывают 7,2 млрд параметров. Модель предназначена для генерации кода, разбиения задач разработки на шаги и агентных сценариев с вызовом инструментов. Слияние TIES-DELLA объединяет сильные стороны компонентов: точность синтаксиса и алгоритмов, разбор задач SWE-bench, вызов инструментов, обработку ошибок и завершение циклов. Это текстовая модель на базе Transformers, опубликованная в формате safetensors. Карточка заявляет поддержку английского и китайского языков; метаданные указывают чат и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0. Указанные автором характеристики и преимущества не являются независимой оценкой качества; описание не содержит сравнительных результатов, подтверждающих их на практике.

Карточка модели Etelis/TSE_fewshot на Hugging Face совпадает с карточкой Etelis/Sentiment140_fewshot, поэтому описание составлено по ней. Etelis/Sentiment140_fewshot — модель на базе MPNet в формате PyTorch, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. В карточке указано обучение с CosineSimilarityLoss; модель предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Она содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель можно использовать с библиотекой Sentence-Transformers или через Transformers с подходящей операцией pooling. Она выдаёт текстовые эмбеддинги, которые подходят для поиска похожих предложений и группировки текстов по смыслу. Название указывает на Sentiment140 и few-shot, однако README не уточняет языки, конкретную схему обучения или результаты оценки. Лицензия в предоставленных данных не указана.

Tulu 13B — языковая модель Allen Institute for AI (AI2), созданная дообучением LLaMA с 13 млрд параметров на смеси наборов инструкций, включая FLAN V2, CoT, Dolly, OpenAssistant, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель для генерации текста, обученная следовать инструкциям и отвечать в заданном формате. Модель подходит для диалоговых ответов, решения задач, вопросов и ответов, а также генерации кода. В карточке приведены результаты тестирования на MMLU, GSM, BBH, TyDiQA и Codex-Eval; качество зависит от задачи и формата запроса. Модель принимает текст и генерирует текст на английском языке; размер контекста — 2048 токенов. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Модель распространяется по лицензии AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании.

swardiantara/two-stage-k10-MiniLM-L6-v2 — модель Sentence-Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерности 384. Её можно применять для семантического поиска и кластеризации текстов, а также сравнивать смысловую близость предложений. Модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучалась с ContrastiveLoss, использующей косинусное расстояние. В карточке не указаны языки обучения и оценки качества, поэтому нельзя подтвердить её пригодность для конкретного языка или домена. Файлы представлены в формате safetensors; лицензия в предоставленных данных не указана.

QuixiAI выпустила WizardLM-1.0-Uncensored-CodeLlama-34b — дообученную на базе CodeLlama-34b языковую модель семейства Llama с 33,5 млрд параметров. Модель обучена на отфильтрованных данных WizardLM Evol Instruct V2 и использует формат запросов, совместимый со стилем Vicuna 1.1. Модель предназначена для генерации текста и кода, выполнения инструкций и диалоговых сценариев. Разработчик сообщает, что обучение было направлено на снижение отказов, уклончивых ответов и смещения; база CodeLlama, по описанию карточки, обеспечивает хорошие возможности для программирования. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 16 384 токенов. Метка «uncensored» не означает полного отсутствия ограничений: в README отмечены унаследованные этические установки LLaMA и отсутствие защитных механизмов. Модель распространяется по лицензии Llama 2; применяйте её с учётом условий этой лицензии и самостоятельно оценивайте генерируемый контент.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240209145252-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_1320 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели avsolatorio/60-600-13-1-4-2-0-0-384-512-cm_NOI_avsolatorio_GIST-all-MiniLM-L6-v2-20240511003225-best на Hugging Face совпадает с карточкой avsolatorio/GIST-all-MiniLM-L6-v2, поэтому описание составлено по ней. GIST Embedding v0 — модель векторных представлений текста, созданная Av Solatorio. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с методом GISTEmbed: обучающие негативные примеры отбираются из MEDI и дополненных триплетами обучающих данных классификации MTEB. Модель имеет архитектуру BERT, содержит 25,9 млн параметров и принимает текст с контекстом до 512 токенов. Модель предназначена для получения эмбеддингов предложений и оценки их сходства, в том числе для семантического поиска и retrieval. Для кодирования запросов не требуются специальные инструкции. Модель оценивали на бенчмарке MTEB; дообучение улучшило некоторые задачи, но ухудшило результаты на других, включая поиск по TRECCOVID. Поддерживается английский язык. Лицензия — MIT.

LazarusNLP/all-indobert-base-v4 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная организацией LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Модель обучалась с функцией потерь CachedMultipleNegativesRankingLoss и косинусной мерой сходства; в обучении использовались наборы данных для индонезийского языка и многоязычного NLI. Модель принимает текст и выдаёт векторы признаков. Репозиторий использует библиотеку sentence-transformers и формат safetensors; размер модели — 151,6 млн параметров, максимальная длина контекста — 512 токенов. Данные указывают на основную поддержку индонезийского языка, но карточка также упоминает многоязычный обучающий набор на 26 языках. Условия лицензии в предоставленных данных не указаны.

Hyperakan/all-MiniLM-L6-v2-smoke — англоязычная модель Sentence Transformer, дообученная на базе sentence-transformers/all-MiniLM-L6-v2 на данных all-nli. Энкодер архитектуры BERT с 25,9 млн параметров преобразует предложения и абзацы в плотные векторы размерности 384; для объединения токенных представлений используется mean pooling. Максимальная длина входа — 512 токенов, сходство векторов оценивается косинусной мерой. Модель предназначена для семантического поиска и извлечения релевантных текстов, а также для сравнения предложений и абзацев. Её можно применять для поиска документов по запросу, ранжирования кандидатов по семантической близости и кластеризации текстов. В README приведены оценки на небольших наборах NanoMSMARCO и NanoNFCorpus, а данные обучения включали 50 примеров, поэтому эти результаты не гарантируют качество на других данных. Модель принимает текст и выдаёт эмбеддинги; указана поддержка английского языка. Лицензия — Apache-2.0.

Модель Alessio-Borgi/all-mpnet-base-v2-margin-based-triplet-loss-finetuned-culture-10-epochs-enhanced — дообученный Sentence Transformer на базе sentence-transformers/all-mpnet-base-v2. MPNet с mean pooling и нормализацией кодирует предложения и абзацы в плотные векторы размерностью 768; для сравнения используется косинусное сходство. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; в README указана максимальная длина последовательности 384 токена. Модель предназначена для семантического сравнения текстов и может применяться для семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Она обучена с TripletLoss на наборе из 6 551 примера; название репозитория указывает на настройку для культурной тематики, однако README не раскрывает состав и охват данных. Лицензия в предоставленных сведениях не указана.

Arabic-STS-Matryoshka — модель Sentence Transformers, разработанная на основе FacebookAI/xlm-roberta-large и дообученная для получения эмбеддингов арабских предложений и абзацев. Она кодирует текст в плотные векторы размерностью до 1024, а обучение с MatryoshkaLoss позволяет использовать также укороченные представления размерностью 786, 512, 128 или 64. Для сравнения векторов применяется косинусное сходство; максимальная длина входной последовательности — 512 токенов. Модель предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, классификации и кластеризации арабских текстов. В README приведён результат на sts-dev: Spearman по косинусному сходству — 0,8275. Модель принимает текст и выдаёт векторы; она не предназначена для генерации ответов. Лицензия — Apache-2.0.

nabil-tazi/autotrain-yr729-mb8s3 — модель семейства BERT, созданная дообучением sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с помощью AutoTrain. Она преобразует текстовые предложения и абзацы в эмбеддинги для вычисления семантического сходства. Модель содержит 124,3 млн параметров, использует библиотеку Sentence Transformers и принимает последовательности длиной до 512 токенов. Базовая модель многоязычная, поэтому эмбеддинги подходят для сравнения текстов на разных языках. Модель можно применять для семантического поиска, сопоставления похожих фраз и кластеризации текстов. В README приведена метрика loss 0,124 на валидации, но без описания датасета и протокола оценки её трудно интерпретировать. Модель распространяется на Hugging Face в формате safetensors; лицензия в предоставленных данных не указана.

jondurbin/bagel-dpo-34b-v0.2 — экспериментальная дообученная чат-модель Джона Дурбина на базе Yi-34B-200K с методом bagel и дополнительным этапом DPO. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 200 000 токенов. Веса опубликованы в формате safetensors. Модель предназначена для диалогов и широкого круга текстовых задач: ответов на вопросы, рассуждений, написания текстов, программирования, математики, ролевых сценариев и работы с контекстом. В обучении использованы наборы данных для инструкций, чатов, чтения с пониманием, кода, математики и других задач; автор отмечает, что применялись обучающие части наборов и выполнялась проверка на загрязнение данными бенчмарков. В карточке также заявлено, что включение toxic DPO должно снизить склонность к отказам; это может приводить к генерации токсичного или небезопасного содержания. Автор описывает модель как экспериментальную тонкую настройку. Для корректного поведения в диалоге могут понадобиться подходящий системный запрос и один из поддерживаемых форматов промпта: Vicuna, Llama 2, Alpaca или ChatML-подобный. Лицензия указана как other, поэтому условия использования следует уточнять в карточке репозитория; README отдельно оговаривает исследовательское и законное применение токсичных данных.

BERTA — модель для получения эмбеддингов предложений на русском и английском языках. Согласно карточке, её разработал sergeyzh методом дистилляции эмбеддингов ai-forever/FRIDA в sergeyzh/LaBSE-ru-turbo. Это плотная модель семейства BERT с 155,5 млн параметров; размер эмбеддинга — 768, контекст — до 512 токенов. Модель предназначена для сравнения семантической близости текстов, поиска и других задач на эмбеддингах. Карточка также приводит результаты для распознавания перефразирования, вывода по тексту, анализа тональности и выявления токсичности. Для большинства задач задан префикс «categorize_entailment: »; также доступны унаследованные от FRIDA префиксы для запросов и документов. Используется mean pooling вместо CLS pooling. В бенчмарке ruMTEB BERTA показывает результаты, близкие к FRIDA, но в приведённых таблицах уступает ей по указанным метрикам классификации и кластеризации. Модель принимает текст и выдаёт векторы эмбеддингов. Лицензия — MIT.

Это англоязычная модель Sentence Transformer на базе google-bert/bert-base-uncased, дообученная авторами kh-li на парах и тройках из наборов all-nli, STS-B, Quora и Natural Questions. Модель кодирует предложения и абзацы в плотные векторы размерности 768; сходство между ними оценивается косинусной мерой. Архитектура состоит из BERT и mean pooling, максимальная длина последовательности — 512 токенов, библиотека — Sentence Transformers. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Её можно использовать, например, для подбора релевантных фрагментов в поисковой системе или группировки похожих вопросов. Она рассчитана на английский язык; качество на других языках не подтверждено. Лицензия в предоставленных сведениях не указана.

sobamchan/bert-base-uncased-mrl-768-64 — англоязычная модель Sentence Transformers, дообученная разработчиком на google-bert/bert-base-uncased на данных all-nli. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысла текстов; для сходства рекомендуется косинусная метрика. Архитектура состоит из BERT и mean pooling, всего 136,7 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текстов по эмбеддингам. Обучение с MatryoshkaLoss учитывает размерности 768 и 64, что позволяет использовать сокращённые представления в сценариях, где важны меньшие векторы. В README приведены оценки сходства на STS: Spearman 0,8199 на sts-dev и 0,7971 на sts-test. Модель предназначена для английского языка; для других языков её пригодность не подтверждена. Лицензия в предоставленных данных не указана.

Это Sentence Transformer на базе BERT, разработанный tintnguyen и дообученный на модели tintnguyen/bert-base-vi-uncased-st. Он преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и сравнения их сходства. Модель использует BERT с усреднением токенных представлений; сходство векторов обычно оценивают косинусной мерой. Максимальная длина входа — 512 токенов. Обучение на парах anchor-positive с MultipleNegativesRankingLoss ориентирует её на семантический поиск, поиск перефразирований, кластеризацию и классификацию текстов. Модель рассчитана прежде всего на вьетнамский язык; в примерах данных встречаются также тексты на других языках. Для практического применения модель формирует текстовые эмбеддинги, а не готовые ответы или метки. В метаданных указана лицензия Apache-2.0.

swardiantara/bert-tiny-snli-k3-adaptive-euclidean — компактная модель Sentence Transformers, дообученная разработчиком на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 128 для поиска и сравнения текстов; сходство оценивается косинусной мерой. Архитектура состоит из BERT с двумя слоями и mean pooling. Модель содержит 4,4 млн параметров, принимает текст длиной до 512 токенов по метаданным; в README для Sentence Transformers указана максимальная длина последовательности 128 токенов. Модель подходит для семантического поиска, извлечения релевантных текстов и сравнения предложений. Обучение проводилось на 3 845 587 примерах с парными текстами и оценками сходства. Компактный размер облегчает использование при ограниченных вычислительных ресурсах. README и метаданные не содержат сведений о лицензии, поэтому условия распространения следует проверить на странице репозитория.