II.8Инженерия данных и аналитика

Locutusque/NeuralHyperion-Medium-Preview — англоязычная плотная языковая модель семейства Mistral, выпущенная M4-ai. Это версия модели NeuralHyperion-Medium объёмом 7,1 млрд параметров на базе mistralai/Mistral-7B-v0.1, дообученная на наборе Hyperion и затем с помощью DPO на парах Argilla Orca. Она предназначена для генерации текста, ответов на сложные вопросы и диалогов, а также для рассуждений, генерации кода и работы с научными, медицинскими и математическими текстами. Контекст составляет 32 768 токенов; модель принимает текст и генерирует текст. Модель может быть полезна для учебных помощников по естественным и компьютерным наукам, технических диалоговых систем, анализа медицинских текстов и поддержки программирования. В README приведены результаты отдельных тестов рассуждения и здравого смысла, но полная оценка обозначена как ожидающая публикации. Среди указанных ограничений — возможная непоследовательность ответов из-за различий в форматировании данных и качестве их разметки. Лицензия — Apache-2.0.

mlx-community/nomicai-modernbert-embed-base-bf16 — преобразованная в формат MLX модель эмбеддингов, опубликованная mlx-community. Она основана на nomic-ai/modernbert-embed-base и использует архитектуру ModernBERT-base; в метаданных указано 149 млн параметров и контекст до 8192 токенов. Модель предназначена для получения текстовых эмбеддингов и оценки сходства предложений, например для семантического поиска и сравнения текстов. Карточка указывает на английский язык; формат MLX позволяет использовать модель через mlx-embeddings на совместимом оборудовании Apple. Лицензия — Apache-2.0.

Rhea-4B-Coding — дообученная Roskosmos19 модель для программирования на базе Aquiles-ai/Athenea-4B-Coding. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров; она работает через Transformers, принимает текст и генерирует текст. В карточке заявлено контекстное окно до 262 144 токенов. Модель предназначена для рассуждений о коде, его написания и дополнения, отладки, проектирования алгоритмов и понимания программ. Она обучена на программных данных с трассами рассуждений и ориентирована на многошаговый цикл: первоначальная реализация, самопроверка на ошибки и улучшение итогового решения. Также заявлена поддержка сценариев с агентными инструментами. Модель рассчитана на задачи разработки с несколькими языками программирования; метаданные указывают английский язык. Карточка описывает её как uncensored и предназначенную для исследований и экспериментов. Лицензия — Apache-2.0. Качество рассуждений и работы с инструментами зависит от запроса и настроек инференса; отдельные результаты оценки в карточке не приведены.

Qdrant подготовила ONNX-порт модели sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с квантизацией. Это плотная модель на архитектуре BERT с 124,3 млн параметров, предназначенная для получения эмбеддингов предложений, поиска семантически близких текстов и текстовой классификации. Репозиторий предлагает запуск через FastEmbed. Модель поддерживает многоязычные сценарии, включая поиск сходства между предложениями; максимальная длина контекста — 512 токенов. Лицензия — Apache-2.0. Квантизированный ONNX-формат предназначен для эффективного инференса, но качество на задачах классификации зависит от используемого метода и данных.

Pelago Sentence Transformer v1 — модель для получения векторных представлений предложений и абзацев, опубликованная пользователем amanpelago. Она преобразует текст в плотные эмбеддинги размерности 384, пригодные для семантического поиска, кластеризации и сравнения сходства. Модель основана на BERT и содержит 25,9 млн параметров; максимальная длина контекста — 512 токенов. Доступен формат PyTorch, использовать модель можно через библиотеку Sentence-Transformers. При обучении применялась Triplet Loss с евклидовой метрикой расстояния и отступом 5. Это делает модель подходящей для сценариев, где нужно находить близкие по смыслу тексты или группировать их по содержанию. В карточке не указаны поддерживаемые естественные языки и лицензия, поэтому нельзя подтвердить языковой охват или условия распространения и коммерческого использования.

Tskunz/pg-simcse-bert — модель Sentence Transformer на архитектуре BERT, обученная для представления предложений и абзацев в виде плотных векторов размерности 768. Она подходит для оценки семантического сходства по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель использует усреднение токенных представлений, поддерживает последовательности длиной до 512 токенов и распространяется в формате safetensors; размер составляет 136,7 млн параметров. Модель принимает текст и выдаёт векторные эмбеддинги, которые можно индексировать для поиска или сравнивать между собой. В карточке указано обучение на наборе из 1 668 пар предложений, но происхождение базовых весов и лицензия не приведены, поэтому условия использования по имеющимся данным определить нельзя.

pplx-embed-v2-context-9b-preview — контекстная модель эмбеддингов от Perplexity AI для представления фрагментов документов в системах RAG. Она кодирует список фрагментов совместно и возвращает отдельный вектор для каждого, учитывая контекст соседних частей; для запросов предусмотрен отдельный метод кодирования, поскольку для запросов и документов используются разные префиксы. Модель имеет архитектуру PplxContextualModel семейства pplx_contextual_qwen3_5, размерность эмбеддингов 2048 и среднее объединение токенов. Поддерживаются обученные размерности Matryoshka 1024 и 2048; выходные эмбеддинги квантованы в INT8 и по умолчанию не нормализованы. Для оценки сходства рекомендуется косинусная близость либо нормализация векторов с последующим скалярным произведением. Модель доступна в формате safetensors и лицензирована по MIT. Это предварительная версия: веса, векторы и интерфейс могут измениться, поэтому эмбеддинги этой версии не следует смешивать с результатами будущих выпусков. Для корректного поиска запросы нужно кодировать методом encode_queries, а фрагменты документов — методом encode; использование метода encode для запросов ухудшает качество поиска. README требует transformers не ниже 5.4.0 и загрузки пользовательского кода модели.

AlexWortega/qwen10k — модель Sentence Transformer, созданная дообучением Qwen/Qwen2.5-0.5B-Instruct для получения векторных представлений текста. Она кодирует предложения и абзацы в плотные векторы размерностью 896; близость текстов можно оценивать косинусным сходством. В метаданных указано 494 млн параметров, архитектура Qwen2 и библиотека sentence-transformers. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. В README заявлена максимальная длина последовательности 1024 токена. Для оценки сходства приведены результаты на sts-dev-896: 0,7687 по Spearman и 0,7583 по Pearson с косинусным сходством. Модель принимает текст и выдаёт векторные представления. В карточке нет сведений о поддерживаемых языках и лицензии, поэтому их нельзя надёжно определить.

mkurman/Qwen2.5-14B-DeepSeek-R1-1M — объединённая языковая модель для генерации текста, созданная на основе DeepSeek-R1-Distill-Qwen-14B и Qwen/Qwen2.5-14B-Instruct-1M. Слияние выполнено методом TIES с использованием Qwen2.5-14B-Instruct-1M в качестве базовой модели; заявленная цель — сочетать возможности рассуждения DeepSeek-R1 с поддержкой длинного контекста модели Qwen2.5. Модель предназначена для универсальной генерации текста и диалоговых сценариев, включая программирование, анализ документов и работу с большими объёмами контекста. Она поддерживает использование через Transformers, а также может запускаться в LM Studio и Ollama при наличии файлов GGUF. Пример применения демонстрирует генерацию Python-кода в формате чата. Из известных характеристик: модель относится к классу causal language models, содержит 14 миллиардов параметров и рассчитана на контекст размером до 1 миллиона токенов, унаследованный от Qwen2.5-14B-Instruct-1M. В конфигурации слияния указан тип данных bfloat16. README не сообщает поддерживаемые языки, результаты бенчмарков или точные требования к оборудованию, поэтому качество рассуждений, эффективность на длинных контекстах и практические ограничения следует оценивать отдельно. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit — это 4-битно квантованная instruction-tuned версия языковой модели Qwen2.5-Coder-1.5B, разработанной командой Qwen от Alibaba Cloud и опубликованной в формате, подготовленном Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач общего назначения и математики. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, 28 слоёв и использует GQA с 12 головами для Q и 2 для KV. Заявлена поддержка контекста до 131 072 токенов. В README указан английский язык; модальность — текстовая. Квантование bnb-4bit снижает требования к памяти и облегчает локальный запуск, но может ограничивать точность по сравнению с полноразмерной версией. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, рассуждения и исправления кода, большой контекст и компактный размер. Ограничения включают небольшой объём модели по сравнению с более крупными системами, возможное снижение качества из-за 4-битного квантования и отсутствие в предоставленных данных подробных результатов бенчмарков, списка поддерживаемых языков программирования и оценки надёжности ответов. Модель распространяется по лицензии Apache-2.0; для работы рекомендуется использовать актуальную версию библиотеки transformers.

unsloth/Qwen2.5-Coder-3B-Instruct — это инструктивная текстовая модель для генерации и работы с кодом, основанная на Qwen2.5-Coder-3B-Instruct от Qwen и представленная Unsloth. Модель использует плотную архитектуру Qwen2 с причинным языковым моделированием и содержит 3,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации, анализа и исправления кода по текстовым запросам, а также для диалоговых сценариев и работы с инструментами. Она подходит разработчикам для помощи при написании кода и создания кодовых агентов. Карточка README описывает семейство Qwen2.5-Coder, но содержит противоречивые сведения о размере и варианте модели; описание размера и контекста здесь опирается на метаданные репозитория. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0 допускает использование на её условиях. Языковая метка карточки — английский; другие поддерживаемые естественные языки достоверно не установлены.

Qwen3.5-9B-Qworus-V2 — гибридная языковая модель для генерации текста, разработанная на основе объединения моделей empero-ai/Qwen3.8-9B-Distill и ornith-ai/Ornith-1.5-9B. Модель создана методом 50/50 DARE-TIES merge и предназначена для задач программирования, рассуждений, вызова инструментов, планирования, проектирования и ответов на вопросы. Модель доступна через Transformers и ориентирована на text generation. Указан размер 9B; поддерживаются форматы Safetensors и GGUF. Для GGUF предоставлены варианты квантования Q4_K_L для систем с ограниченными ресурсами и Q6_K_L для более высокой точности. В этих вариантах слои токенов и вывода повышены до Q8_0, а тензоры ssm_* используют BF16 или Q8_0 для повышения точности на длинных контекстах. Для квантований imatrix обучена на смеси данных, включающей код, бизнес-тексты, математику и Wikipedia. Модель не является полностью uncensored по умолчанию, поскольку обе исходные модели не были uncensored. В README не указаны поддерживаемые языки, максимальная длина контекста и лицензия, поэтому эти характеристики нельзя определить по имеющимся данным.

Qwen3.6-27B-A3B-Coder-MTP-GGUF — это квантизированная GGUF-версия специализированной на коде модели, разработанная ManniX-ITA на основе ManniX-ITA/Qwen3.6-27B-A3B-Coder и Qwen/Qwen3.6-35B-A3B. Модель использует архитектуру Qwen3.5-MoE с 26,66 млрд параметров, из которых около 3 млрд активируются при обработке токена. Она создана методом экспертного прореживания: число экспертов сокращено с 256 до 184 в каждом слое с сохранением маршрутизатора, механизмов внимания, нормализаций, MTP-головы и vision-компонента базовой модели. По умолчанию используется маршрутизация top-10. Доступны многочисленные варианты квантизации, включая F16, Q2–Q8 и IQ-серии. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, а также для задач рассуждения, следования инструкциям и обработки визуальных данных. В README заявлена поддержка английского языка; среди целевых языков программирования упоминаются Rust, Java и JavaScript. На тестах модель показывает особенно сильные результаты в HumanEval, GSM8K и MultiPL-E, где достигает 0,970, 0,970 и 0,840 соответственно. При этом её средний результат немного уступает полной базовой модели, а показатели GPQA-Diamond, MATH-500 и IFEval ниже, поэтому она оптимизирована именно под кодовые сценарии, а не под универсальное качество. Ограничением является склонность к чрезмерно длинным рассуждениям на открытых задачах, особенно на GPQA и AIME; в отдельных случаях модель может израсходовать значительную часть контекста до формирования ответа. Для управления длиной рассуждений рекомендуется использовать соответствующие параметры llama.cpp и при необходимости переключаться на маршрутизацию top-8. Контекстное окно в предоставленных данных не указано. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-9B-Distill-uncensored-heretic — текстовая генеративная модель автора @ptruha, опубликованная в рамках проекта Empero. Это полно-параметрическое дообучение Qwen/Qwen3.5-9B: модель-дистиллят обучена методом SFT на примерно 70 тысячах отфильтрованных трасс рассуждений учителя Qwen3.8 2.4T A95B. Веса содержат около 9 млрд параметров и распространяются в формате Safetensors; карточка указывает архитектуру Qwen3.5 и нативный контекст 262 144 токена. Модель предназначена для диалога, рассуждений, математики, программирования, следования инструкциям и вызова инструментов. В README приведены результаты GSM8K и MMLU; автор сообщает о низкой частоте отказов в собственном тесте, однако эти результаты не являются независимой оценкой. Дообучение было текстовым, поэтому унаследованные от мультимодальной базовой модели возможности работы с изображениями не оценивались. Для запуска требуется актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимыми компонентами; без них внимание может работать медленно и потреблять больше памяти. Лицензия — Apache-2.0.

Qwen3-Coder-53B-A3B-Instruct-TOTAL-RECALL-v2-MASTER-CODER-L — дообученная разработчиком DavidAU инструктивная MoE-модель для программирования, основанная на Qwen/Qwen3-Coder-30B-A3B-Instruct и адаптере Brainstorm. Модель предназначена для генерации и анализа кода, решения задач программирования и агентных сценариев с использованием инструментов. Репозиторий содержит веса в safetensors, пригодные для прямого запуска и преобразования в другие форматы. Заявлены 53 млрд параметров, 84 слоя и контекст до 262 144 токенов; метаданные указывают 3,9 млрд параметров. Архитектура — Qwen3 MoE с 128 экспертами; автор изменил число активируемых экспертов по умолчанию с 8 до 10. Основная специализация — код на распространённых и менее распространённых языках программирования; карточка также указывает поддержку английского, французского, китайского и немецкого языков. Режим рассуждений по умолчанию отключён, автор предлагает опциональный системный запрос для его включения. Модель рассчитана на кодирование, понимание больших репозиториев и многошаговую работу с кодом; возможен интерфейс вызова инструментов. Качество и скорость зависят от числа активных экспертов, параметров генерации и доступных вычислительных ресурсов. Лицензия — Apache 2.0.

Qwen3-Coder-Next — открытая языковая модель с открытыми весами, разработанная командой Qwen. Данная GGUF-версия предназначена для локального запуска, прежде всего в качестве основы для coding agents и разработки в IDE или CLI-средах. Модель ориентирована на генерацию и анализ кода, длительное рассуждение, работу с инструментами, выполнение сложных многошаговых задач и восстановление после ошибок выполнения. Это causal language model, прошедшая этапы предварительного обучения и постобучения. Общий размер составляет 80 млрд параметров, из которых при генерации активируется около 3 млрд; без учёта embedding — 79 млрд. Архитектура использует Mixture of Experts с 512 экспертами и 10 активируемыми экспертами, а также гибридные блоки Gated DeltaNet и Gated Attention; модель содержит 48 слоёв. Нативная длина контекста — 262 144 токена. Поддерживается только режим без скрытого рассуждения: модель не формирует блоки <think></think>. README не указывает поддерживаемые языки. К сильным сторонам относятся высокая эффективность по числу активируемых параметров, большой контекст, развитые возможности tool calling и пригодность для интеграции с различными средами разработки, включая Claude Code, Qwen Code, Qoder, Kilo, Trae и Cline. Ограничения включают специализированную ориентацию на программирование, работу только в non-thinking mode и необходимость значительных вычислительных ресурсов для размещения полной модели, несмотря на малое число активируемых параметров. Модель распространяется по лицензии Apache-2.0.

QwQ-MathOct-7B — дообученная PrithivMLmods языковая модель на базе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Она ориентирована на математические задачи, рассуждения, помощь с кодом, следование инструкциям и создание структурированных ответов; поддерживает контекст до 32 768 токенов и работает через Transformers. Модель подходит для пошагового объяснения решений, генерации и разбора кода, подготовки учебных материалов, многоязычного общения и создания содержимого. В карточке заявлена поддержка более 29 языков, включая русский и английский. Возможные ограничения — ошибки в неоднозначных задачах, устаревшие знания, унаследованные от обучающих данных смещения и необходимость проверки ответов, особенно в чувствительных сценариях. Указана лицензия Apache-2.0.

Wheatley961 опубликовал модель Sentence-Transformers на архитектуре XLM-RoBERTa с 305,2 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель использует PyTorch; в карточке указан контекст до 514 токенов. Модель подходит для построения семантического поиска, группировки похожих документов и вычисления сходства между фрагментами текста. В README описано обучение с CosineSimilarityLoss. Метаданные указывают задачи извлечения признаков и сравнения предложений; конкретные поддерживаемые естественные языки не перечислены. Лицензия в предоставленных данных не указана.

Ring-mini-2.0 — диалоговая языковая модель InclusionAI на архитектуре Mixture of Experts (MoE), основанная на Ling 2.0. Модель дообучена с применением SFT, обучения с проверкой результатов (RLVR) и RLHF; метаданные указывают 1,2 млрд параметров, тогда как README сообщает 16,8 млрд общих и 1,4 млрд активируемых параметров. В метаданных заявлена длина контекста 32 768 токенов, а README — поддержка до 128 тысяч токенов с YaRN. Модель предназначена для генерации текста и диалогов, включая сложные рассуждения, логические и математические задачи, а также генерацию кода. Разреженная MoE-архитектура рассчитана на эффективный инференс; README приводит показатели скорости на оборудовании H20, которые зависят от конфигурации развертывания. Подтверждённого списка поддерживаемых естественных языков в предоставленных данных нет. Модель распространяется по лицензии MIT. Заявленные в README результаты на бенчмарках и скорость инференса не являются гарантией качества или производительности в конкретной среде.

Rombos-Coder-V2.5-Qwen-7b — дообученная модель для генерации кода, созданная автором Rombodawg на основе Qwen/Qwen2.5-Coder-7B-Instruct. В карточке указано, что instruct-модель была объединена с базовой моделью методом TIES в рамках подхода Continuous Finetuning; метаданные классифицируют результат как дообучение. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Она принимает текстовые запросы и генерирует текст, в том числе программный код; контекст — до 32 768 токенов. Карточка заявляет о более высокой производительности по сравнению с исходной instruct- и базовой моделями, однако опубликованных бенчмарков пока нет. Модель предназначена для диалогового применения и задач с кодом. Распространяется под лицензией Apache-2.0.

Карточка модели Barleysack/rtdb_embedder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

sergeyzh/rubert-tiny-lite — компактная модель на архитектуре BERT, разработанная sergeyzh для получения векторных представлений русскоязычных текстов и сравнения предложений. Она создана последовательной дистилляцией sergeyzh/rubert-tiny-turbo и BAAI/bge-m3 и содержит 23,1 млн параметров. Размер эмбеддинга — 256, максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, кластеризации и классификации текста на CPU и GPU. По данным автора, она работает быстрее rubert-tiny-turbo примерно в 1,4 раза на CPU и в 1,2 раза на GPU при сопоставимом качестве. Результаты в README показывают её качество на бенчмарках encodechka и ruMTEB; для некоторых задач она уступает более крупным многоязычным моделям. Модель рассчитана на русский язык и выдаёт эмбеддинги текста. Репозиторий содержит веса в формате safetensors; для запуска автор приводит пример с SentenceTransformer. Лицензия — MIT.

insuperabile/rumodernbert-solyanka-QP — русскоязычная модель Sentence Transformers, созданная Insuperabile дообучением энкодера deepvk/RuModernBERT-base на датасете solyanka-triplets. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их косинусной мерой сходства. Подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текстов. Модель содержит 149 млн параметров; метаданные указывают контекст до 8192 токенов, а README — максимальную длину последовательности 512 токенов. В таблице RuMTEB приведены результаты по набору русскоязычных задач, но они не гарантируют качество для конкретного корпуса или сценария. Лицензия в предоставленных данных не указана.

Diiiann/ru_oss — модель Sentence-Transformers на архитектуре BERT для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для семантического поиска, кластеризации и сравнения текстов по смыслу; в README указано обучение с MultipleNegativesRankingLoss и косинусной мерой сходства. Модель содержит около 498,1 млн параметров, принимает текст и использует контекст длиной до 512 токенов. Веса доступны в форматах PyTorch и Safetensors. Метаданные указывают библиотеку Sentence-Transformers и поддержку эмбеддингов. В карточке не указаны лицензия, языки обучения и явные ограничения качества, поэтому применимость к конкретному языку или предметной области следует проверять отдельно.

Santp98/SBERT-pairs-bert-base-spanish-wwm-cased — модель Sentence-Transformers на архитектуре BERT, разработанная Santp98. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, поиска и кластеризации. Модель обучена с функцией потерь Multiple Negatives Ranking Loss и косинусным сходством; в репозитории указаны 137,1 млн параметров и контекст до 512 токенов. Название и базовая архитектура указывают на ориентацию на испанский язык. Модель подходит для семантического поиска по текстовым коллекциям, группировки похожих фраз и оценки сходства предложений. Она принимает текст и выдаёт векторы, а не готовые ответы; для получения релевантности или кластеров нужны дополнительные этапы обработки. Репозиторий содержит веса в формате safetensors. Условия лицензии в предоставленных данных не указаны.

Thabet/sb_sentence_transformer — модель на базе XLM-RoBERTa, опубликованная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска семантически близких текстов, кластеризации и сравнения сходства. Модель содержит 305,2 млн параметров и принимает текст с контекстом до 514 токенов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель подходит для построения семантического поиска и группировки текстов; в Transformers для получения векторов требуется применить корректную операцию pooling к контекстным представлениям токенов. Лицензия и поддерживаемые языки в предоставленных данных не указаны.

ys7yoo/sentence-bert-klue-sts-all — модель Sentence-Transformers на базе BERT, предназначенная для преобразования предложений и абзацев в плотные векторные представления размерности 768. Она обучалась с функцией CosineSimilarityLoss и подходит для поиска семантически близких текстов, кластеризации и вычисления сходства предложений. Модель содержит 137,8 млн параметров, принимает текст и формирует векторы; максимальная длина контекста составляет 512 токенов. Для использования доступны Sentence-Transformers и Transformers с подходящей операцией pooling. README не сообщает поддерживаемые естественные языки или лицензию, поэтому они не уточняются.

manu/sentence_croissant_alpha_v0.2 — модель эмбеддингов на базе архитектуры Llama, разработанная для представления предложений и абзацев в виде плотных векторов размерностью 2048. Модель построена на Sentence Transformers и предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Модель содержит 1,3 млрд параметров, принимает текст и выдаёт векторы; максимальная длина контекста составляет 2048 токенов. Она обучалась с функцией потерь MultipleNegativesRankingLoss. Лицензия в предоставленных данных не указана.

ys7yoo/sentence-roberta-klue-sts — модель Sentence-Transformers на архитектуре RoBERTa для сопоставления смысла предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для семантического поиска, кластеризации и вычисления сходства. В метаданных указано 137,8 млн параметров и контекст длиной до 514 токенов. Модель обучалась с функцией CosineSimilarityLoss и использует PyTorch. Она подходит для построения эмбеддингов и ранжирования текстов по смысловой близости. Название и данные карточки указывают на связь с KLUE STS, однако подробности обучающего набора, точные поддерживаемые языки и условия лицензии в предоставленных источниках отсутствуют.

ys7yoo/sentence-roberta-large-klue-nli-sts-all — модель на базе RoBERTa large, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для поиска по смыслу и кластеризации. При обучении использовалась функция потерь CosineSimilarityLoss; модель содержит 435,4 млн параметров и рассчитана на контекст до 514 токенов. Модель подходит для построения семантического поиска, группировки похожих текстов и других задач сравнения предложений по смыслу. Для использования доступны PyTorch и библиотека Sentence Transformers; при работе через Transformers требуется применить подходящую операцию pooling к контекстным эмбеддингам. В карточке не указана лицензия, поэтому условия использования по ней определить нельзя. Указание KLUE в названии не подтверждает само по себе, какие языки модель поддерживает.