II.8Инженерия данных и аналитика

rurupang/roberta-base-finetuned-sts — модель классификации последовательностей на архитектуре RoBERTa, дообученная на базе klue/roberta-base для задачи семантического сходства текстов (STS). Веса содержат около 137,8 млн параметров, модель работает в формате PyTorch и принимает контекст до 514 токенов. Модель предназначена для оценки сходства между текстами. В README приведён результат на наборе оценки KLUE: Pearsonr 0,9560 и loss 0,1999. Эти показатели относятся к указанной оценочной выборке и сами по себе не гарантируют аналогичное качество на других данных. Лицензия в предоставленных материалах не указана.

m3hrdadfi/roberta-zwnj-wnli-mean-tokens — модель эмбеддингов на архитектуре RoBERTa, представленная в формате PyTorch и содержащая 145,5 млн параметров. Она преобразует текст в векторные представления для извлечения признаков и вычисления сходства между предложениями. Для получения итогового представления README рекомендует использовать Sentence-Transformers либо применить подходящую операцию pooling к контекстным представлениям токенов в Transformers. Модель подходит для поиска семантически похожих предложений, группировки текстов и получения признаков для последующей обработки. Максимальная длина контекста — 514 токенов. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.

SDLM-32B-D4 — языковая модель OpenGVLab для генерации текста в формате последовательной диффузии. Она основана на Qwen2.5-32B и дообучена для переноса авторегрессионных весов в диффузионный режим. Модель предсказывает блоки токенов длиной 4, затем сохраняет наиболее длинный уверенно предсказанный префикс; повторное использование KV-кэша призвано ускорить декодирование. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговой генерации и задач с длинным текстом. Авторы сообщают примерно о двукратном ускорении относительно сопоставимых авторегрессионных моделей при близком качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; в README эти результаты связаны, в частности, с тестом MATH-500. В обучении использовались данные по математике, коду и общим диалогам, а также научные и табличные наборы. Указаны интерфейсы чата и вызова инструментов, но отдельные гарантии качества для этих сценариев в карточке не приведены. Модель распространяется под лицензией Apache-2.0.

SFR-Embedding-Mistral — текстовая модель эмбеддингов, разработанная Salesforce Research. Она основана на E5-mistral-7b-instruct и Mistral-7B-v0.1 и предназначена для преобразования текста в векторы, которые можно использовать для поиска и сравнения семантической близости. Архитектура — плотная Mistral с 7,1 млрд параметров, контекст — до 32 768 токенов; доступны веса в формате safetensors. В карточке заявлена поддержка английского языка. Модель подходит для создания векторного поиска, поиска похожих предложений и оценки сходства текстов; она также отмечена в контексте бенчмарка MTEB. Выпуск предназначен для исследований, а датасеты третьих сторон могут иметь дополнительные условия лицензирования. Лицензия модели — CC BY-NC 4.0, поэтому коммерческое использование не разрешено её условиями. Перед применением следует отдельно оценивать точность, безопасность и возможную предвзятость.

Это Sentence Transformer на базе BERT-Large, дообученный для сопоставления предложений на наборе данных score. Модель преобразует предложения и абзацы в плотные векторы размерности 1024; близость оценивается косинусным сходством. Архитектура включает BERT с регистрозависимой токенизацией и усреднением токенных представлений. Модель содержит 433,2 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена прежде всего для оценки семантического сходства португалоязычных текстов. Её можно применять для семантического поиска, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. README приводит результаты оценки сходства на ASSIN2, однако отдельные метрики не вполне согласованы между секциями, поэтому их следует сверять с конкретной конфигурацией оценки. Базовая модель — neuralmind/bert-large-portuguese-cased; лицензия в предоставленных данных не указана.

infgrad/stella-base-zh-v3-1792d — плотная модель семейства BERT от разработчика Infgrad, предназначенная для получения векторных представлений текста и поиска семантически близких предложений. Её можно загружать через Sentence Transformers; README описывает её как универсальный кодировщик для китайского текста. Размер по метаданным — 129,5 млн параметров, контекст — до 1024 токенов; в карточке модели указаны 1792 измерения эмбеддинга и максимум 512 токенов. Модель подходит для семантического поиска, сопоставления предложений и построения текстовых эмбеддингов для retrieval-систем. README сообщает результат 67,96 на C-MTEB. Для длинных текстов автор рекомендует разбиение на фрагменты; для классификационных задач эмбеддинги следует нормализовать. Лицензия — MIT.

omarelsayeed/tsdae_small_40mb — модель на базе BERT, опубликованная в формате PyTorch и обученная с помощью Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 256 для сравнения их смыслового сходства. Модель подходит для семантического поиска, группировки текстов и других сценариев, где нужно находить близкие по смыслу предложения или документы. Архитектура содержит 12,4 млн параметров, максимальная длина контекста — 512 токенов. Для использования доступны Sentence-Transformers и Hugging Face Transformers с соответствующей операцией pooling. В карточке указано обучение с DenoisingAutoEncoderLoss. Языки обучения или поддержки и лицензия в предоставленных данных не подтверждены. Ограничение контекста — 512 токенов; README не сообщает результатов оценки качества.

WeMM-Embedding-2B — универсальная мультимодальная модель эмбеддингов от Tencent, построенная на базе Qwen3.5-2B. Она принимает текст, изображения, видео, визуальные документы и их сочетания, а на выходе формирует L2-нормализованный вектор размерности 2048. Для сокращения размерности поддерживаются Matryoshka-эмбеддинги; в README указано, что в тестах MMEB-v2 вариант размерностью 256 сохраняет 98,7% исходного качества на задачах с изображениями и видео. Модель предназначена для поиска и сопоставления текстов и визуального содержимого, включая видео и документы, а также для систем, которым нужны мультимодальные векторные представления. Входные данные можно подавать по отдельности или комбинировать. Аудио модель не поддерживает. В метаданных указаны языки китайский и английский; данных о лицензии сверх обозначения «other» нет.

WeMM-Embedding-2B-GGUF — GGUF-квантизированная версия мультимодальной модели эмбеддингов tencent/WeMM-Embedding-2B. Модель предназначена для преобразования текста, изображений и видео в векторные представления, которые можно использовать для семантического поиска, сравнения смысловой близости, кластеризации и других задач, основанных на эмбеддингах. Для мультимодального ввода требуется отдельный визуальный проектор mmproj-WeMM-Embedding-2B-BF16.gguf. Модель поддерживается в llama.cpp и доступна в вариантах BF16, Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и IQ3_M. Выходом служит L2-нормализованный вектор размерности 2048; заявлена поддержка matryoshka-размерностей 64, 128, 256, 512, 1024 и 2048. README не указывает точный контекст, список поддерживаемых языков и архитектурные детали базовой модели. Для запуска доступны командная утилита llama-embedding и OpenAI-совместимый HTTP-сервер llama-server. По результатам теста STS-B варианты Q8_0, Q6_K, Q5_K_M и IQ4_XS практически не уступают BF16 по качеству, поэтому подходят как компактные замены исходной версии. Q4_K_M демонстрирует небольшое снижение качества, а IQ3_M — наиболее заметную потерю точности и подходит главным образом при жёстких ограничениях по объёму хранения. Модель распространяется по лицензии Apache-2.0.

XIR 1170 — Qwen3 Embedding 0.6B — 2026-07-17 A1 — это текстовая модель эмбеддингов Yucluzzy, дообученная на базе Qwen/Qwen3-Embedding-0.6B для поиска релевантных фрагментов по запросу. Модель создаёт нормализованные векторы, используя представление последнего токена, и рассчитана на сценарий поиска passages, отвечающих на веб-поисковый запрос с заданной инструкцией. Модель содержит 507,6 млн параметров, построена на архитектуре Qwen3 и принимает текст; контекст — до 32 768 токенов. В README описано продолжение обучения официального чекпойнта LRAT на обучающих парах конкурса, с объединением дубликатов и отрицательных примеров и последующим смешиванием весов 50/50 с официальным чекпойнтом LRAT. Локальная проверка на 2 048 строках без пересечения запросов показала небольшое улучшение MRR и Recall@5 относительно официального LRAT, но это не официальный результат конкурса. Модель распространяется по лицензии Apache-2.0.

airnicco8/xlm-roberta-de — модель эмбеддингов на базе XLM-RoBERTa, представленная как модель Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки сходства текстов, семантического поиска и кластеризации. Модель обучена на немецкоязычных расшифровках выступлений TED; заявленный контекст составляет 514 токенов, размер — около 305,2 млн параметров. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать для поиска семантически близких текстов или группировать для кластеризации. Для использования с Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Карточка также отмечает возможность дообучения для NLI и классификации текста, но не приводит готовых результатов для этих задач. Лицензия в предоставленных данных не указана.

Карточка модели avsolatorio/00-000-11-1-0-1-0-0-mean-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240128084618-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

cassador/2bs32lr2 — модель Sentence Transformers на базе индонезийской BERT-модели indobenchmark/indobert-base-p2, дообученная на afaji/indonli. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости с помощью косинусного сходства, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Модель использует архитектуру BERT с усреднением токенных представлений; максимальная длина входной последовательности — 512 токенов. Основной язык — индонезийский. В README приведены оценки сходства на sts-dev и sts-test, но они различаются, поэтому качество на конкретных данных следует проверять отдельно. Лицензия в предоставленных данных не указана.

unslothai/8 — модель семейства Llama от Unsloth AI, опубликованная как модель для извлечения признаков. Метаданные указывают на архитектуру LlamaModel, формат Safetensors, библиотеку Transformers и контекст 2048 токена. В карточке Hugging Face репозиторий также обозначен задачей feature extraction. Модель может использоваться для получения векторных представлений текста в задачах поиска и оценки сходства. Доступные сведения не позволяют надёжно определить размер модели, поддерживаемые естественные языки или конкретную базовую модель. Условия лицензии в проверенных источниках не установлены.

LazarusNLP/all-indo-e5-small-v3 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически близких текстов, кластеризации и других задач сравнения смысла. Модель обучалась с MultipleNegativesRankingLoss на наборах данных, включающих индонезийские задачи понимания, поиска и сходства текстов. Модель содержит 124,3 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и выдаёт векторы. Она ориентирована прежде всего на индонезийский язык. Для использования доступны веса Safetensors и библиотека Sentence Transformers; условия лицензии в предоставленных данных не приводятся.

Axeron Forge — объединённая модель генерации текста, созданная TuralBayev с помощью инструмента forgelm. В основе лежит Qwen/Qwen2.5-3B; методом Task Arithmetic объединены веса Qwen2.5-Coder-3B-Instruct и Qwen2.5-3B-Instruct с базовой моделью. Это плотная авторегрессионная модель архитектуры Qwen2 с 3,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; наличие компонентов Instruct и Coder позволяет использовать её для вопросов и ответов, помощи с кодом и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов, однако карточка не содержит оценок качества или примеров, подтверждающих надёжность этой возможности. Лицензия в предоставленных данных не указана.

rurupang/bert-base-finetuned-sts — модель на архитектуре BERT, дообученная на базе klue/bert-base на наборе данных KLUE для оценки сходства текстов. Она выдаёт оценку сходства пары текстов как задачу классификации последовательностей. На оценочной выборке указаны Pearsonr 0,8722 и loss 0,4274. Модель содержит 137,8 млн параметров, принимает текстовые входные данные, а контекст ограничен 512 токенами. В карточке указана лицензия не приводится, поэтому условия использования по имеющимся данным определить нельзя.

rufimelo/bert-large-portuguese-cased-sts — модель эмбеддингов на архитектуре BERT, разработанная rufimelo и дообученная на базе BERTimbau large. Она преобразует предложения и абзацы на португальском языке в плотные векторы размерностью 1024 для сравнения семантической близости. Модель предназначена для оценки семантического сходства текстов, семантического поиска и кластеризации. При обучении использовались датасеты ASSIN, ASSIN2 и STS-B Multi-MT для португальского языка. Максимальная длина контекста — 512 токенов; доступны веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана. Результаты модели ограничены португальским языком и максимальной длиной контекста; применимость к другим языкам не подтверждена.

Gold-only BERT STSb — модель Sentence Transformers на базе BERT, разработанная для демонстрации в курсе NLP for Semantic Search. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации; также подходит для оценки сходства предложений. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт эмбеддинги. При работе через Transformers к выходам модели нужно применить подходящую операцию pooling. Модель обучена с функцией потерь CosineSimilarityLoss на STSb; README описывает её как пример для главы об аугментации данных BERT внутри домена. Данных о поддерживаемых естественных языках в карточке нет. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

swardiantara/bert-tiny-sst5-k1-fixed-cosine — компактная Sentence Transformer-модель на базе BERT, дообученная для сопоставления предложений. Она кодирует текст в плотные векторы размерности 128 и предназначена для поиска и сравнения фраз или абзацев по косинусному сходству. Архитектура включает BertModel с усреднением токенных представлений; модель содержит 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а карточка модели сообщает максимальную длину последовательности 128 токенов. Модель принимает текст и возвращает эмбеддинги. Обучение описано на 8 554 парах текстов с OrdinalProxyContrastiveLoss; примеры и базовая модель указывают на англоязычные данные. Компактный размер подходит для векторного поиска и семантического сравнения при ограниченных вычислительных ресурсах. Качество и применимость за пределами английского языка карточкой не подтверждены. Лицензия в предоставленных данных не указана.

Карточка модели q2323q431/bge-large-zh-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-large-zh-v1.5 — модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI). Она преобразует китайский текст в плотные векторные представления для поиска и сравнения текстов; версия v1.5 улучшает распределение оценок сходства и позволяет выполнять поиск без инструкции к запросу. Модель построена на архитектуре BERT, содержит 424,3 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска по документам, поиска ответов для RAG-систем и сопоставления запросов с текстами. Эмбеддинги можно использовать для получения первичного списка кандидатов, а затем уточнять ранжирование отдельной моделью BGE Reranker. В README семейство BGE описано для китайского и английского языков, однако эта конкретная модель рассчитана прежде всего на китайский. Сходство между эмбеддингами не следует трактовать как универсальную вероятность: в README отмечено, что оценки несхожих предложений могут быть выше 0,5. Репозиторий использует формат PyTorch и лицензию MIT.

lm-kit/bge-m3-gguf — репозиторий с квантизированными версиями embedding-модели BGE-M3, базовая модель которой опубликована BAAI. Модель предназначена для получения векторных представлений текста и связанных задач поиска и семантического сопоставления. Формат распространения — GGUF, что позволяет использовать модель в совместимых инструментах и приложениях. Квантизация выполнена с помощью LM-Kit.NET версии 2024.9.0, а конвертация — посредством llama.cpp с указанной ревизией. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках, длине контекста, модальностях и конкретных вариантах квантования, поэтому эти характеристики нельзя достоверно уточнить. Лицензия — MIT.

ChatHercules-2.5-Mistral-7B — диалоговая языковая модель, созданная объединением Locutusque/Hercules-2.5-Mistral-7B и openchat/openchat-3.5-0106 методом SLERP с помощью LazyMergekit. Модель построена на плотной архитектуре Mistral для генерации текста и имеет 7,1 млрд параметров; для работы с длинными диалогами заявлен контекст до 32 768 токенов. Модель предназначена для общения и генерации ответов в сценариях общего назначения. В описании базовой модели также указаны программирование и математические рассуждения. Репозиторий содержит веса в формате Safetensors, а лицензия — Apache-2.0. Карточка приводит результаты оценки на Open LLM Leaderboard, но не описывает отдельные ограничения или подробную языковую специализацию этой сборки.

CodeLlama 70B Instruct — языковая модель для генерации и обработки программного кода, разработанная Code Llama и представленная в формате GGUF компанией Second State Inc. Это квантизированная версия исходной модели codellama/CodeLlama-70b-Instruct-hf, предназначенная для сценариев программирования и диалогового следования инструкциям. Указана поддержка языка кода; другие языки и мультимодальные возможности не заявлены. Модель содержит 70 млрд параметров и использует контекст размером 8192 токена. Доступны варианты квантизации Q2_K, Q3_K, Q4 и Q5 с размером файлов примерно от 25,5 до 48,8 ГБ. Вариант Q4_K_M обозначен как рекомендуемый сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более сильная квантизация уменьшает требования к ресурсам, но может заметно снижать качество ответов. Модель может запускаться как сервис LlamaEdge версии 0.2.11 и выше, однако в README указано, что она работает только в режиме без потоковой передачи. Для использования требуется специальный шаблон prompt codellama-super-instruct. Модель распространяется по лицензии llama2; дополнительные условия лицензии в предоставленных данных не уточняются.

convnext_base.clip_laiona — модель семейства ConvNeXt из библиотеки timm, разработанная для извлечения признаков изображений. Это только визуальный энкодер CLIP, обученный на данных LAION; он преобразует изображение в векторное представление для последующего сравнения и поиска. Модель принимает изображения и выдаёт векторы признаков. Доступна под лицензией Apache-2.0.

hezarai/crnn-base-fa-v2 — модель оптического распознавания персидского текста, разработанная Hezarai. Она основана на архитектуре CRNN: сверточная нейросеть извлекает признаки изображения, а LSTM обрабатывает последовательность символов. Модель предназначена для распознавания печатного текста на сканированных документах и изображениях; для полного OCR-конвейера её следует применять после детектора текстовых областей. По сравнению с предыдущей версией использует датасет в пять раз больше, принимает изображения размером 32×384 и поддерживает вывод длиной до 96 символов. Обрабатывает цифры и специальные символы, а также автоматически учитывает символы слева направо, например цифры внутри персидского текста. Лучше всего работает с фрагментами текста длиной примерно до 50 символов. Модель можно дообучать для других областей, включая номера автомобилей и рукописный текст. Опубликована под лицензией Apache-2.0.

teven/cross_all_bs320_vanilla_finetuned_WebNLG2020_correctness — модель Sentence Transformers на базе MPNet, преобразующая предложения и абзацы в плотные векторы размерности 768. Её можно применять для семантического поиска и кластеризации текстов. Модель принимает текст и выдаёт эмбеддинги. Архитектура насчитывает 136,7 млн параметров, а длина контекста составляет 514 токенов. Репозиторий содержит веса PyTorch. Название указывает на дообучение для задачи проверки корректности на данных WebNLG 2020, однако README не приводит подробностей методики или результатов этой настройки. Лицензия в предоставленных данных не указана.

Это англоязычная модель разреженных текстовых эмбеддингов, созданная дообучением mixedbread-ai/mxbai-embed-large-v1 командой tomaarsen на наборе gooaq с помощью библиотеки sentence-transformers. Она преобразует предложения и абзацы в разреженные векторы размерностью 4096; близость векторов можно оценивать скалярным произведением. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска ответов по вопросам. Максимальная длина входной последовательности — 512 токенов. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus, NanoNQ и NanoBEIR при ограничении числа активных измерений до 128 или 256. Модель поддерживает английский язык и распространяется по лицензии Apache-2.0. Это энкодер для получения векторов, а не генеративная модель: он не формулирует ответы на запросы. Результаты оценки в README относятся к указанным наборам и настройкам и не гарантируют такое же качество на других данных.

Карточка модели LimitlessMindd/DeepSeek-R1-Distill-Llama-70B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

huihui-ai/DeepSeek-R1-Distill-Qwen-7B-abliterated-v2 — разговорная языковая модель на архитектуре Qwen2, созданная методом abliteration на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Разработчик описывает её как экспериментальную версию с уменьшенным количеством отказов при ответах; модель предназначена для диалогов и генерации текста. Размер — 7,1 млрд параметров, контекст — до 131 072 токенов. Работает через библиотеку Transformers, веса опубликованы в формате safetensors. Модель унаследовала от базовой дистиллированной модели DeepSeek возможности многошаговых рассуждений, включая задачи по математике и программированию. README называет abliteration грубой реализацией и демонстрацией концепции; в отдельных случаях модели может потребоваться пример, задающий формат ответа. Лицензия в предоставленных данных не указана.