II.8Инженерия данных и аналитика

bge-micro — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная avsolatorio в январе 2024 года. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для семантического поиска, кластеризации и сравнения текстов. Модель содержит 18,8 млн параметров и поддерживает контекст до 512 токенов. Модель дистиллирована из bge-small-en-v1.5; в ней в четыре раза меньше параметров, не относящихся к эмбеддингам. По README, она содержит вдвое меньше параметров, чем all-MiniLM-L6-v2, при сопоставимом качестве. Доступны веса в формате safetensors; для использования описаны Sentence-Transformers и Transformers с подходящей операцией pooling. Модель рассчитана на англоязычные тексты. Она подходит для построения векторного поиска и кластеризации, но сама не генерирует ответы; контекст ограничен 512 токенами. Лицензия в предоставленных данных не указана.

MixEmbedBert-base-20240115112530-best, представленная в карточке как bge-micro, — компактная модель эмбеддингов на архитектуре BERT. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. По README модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет четверть параметров, не относящихся к эмбеддингам, по сравнению с исходной моделью; заявлено также, что при примерно половине параметров all-MiniLM-L6-v2 она показывает сопоставимое качество. Модель содержит 18,8 млн параметров, поддерживает контекст до 512 токенов и распространяется в формате Safetensors. В метаданных указана задача sentence-similarity, а каталог также отмечает извлечение признаков и эмбеддинги. README указывает на английскую базовую модель; лицензия в предоставленных данных не указана.

MixEmbedBert-base-20240115112530-latest — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная avsolatorio. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из avsolatorio/bge-small-en-v1.5; в ней примерно вчетверо меньше параметров без учёта эмбеддингов, чем в исходной модели. README сообщает о качестве, сопоставимом с all-MiniLM-L6-v2, при вдвое меньшем общем числе параметров, однако метаданные указывают 18,8 млн параметров. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. Карточка описывает её как англоязычную модель. Для вывода эмбеддингов через Transformers нужно применить подходящую операцию pooling к контекстным представлениям токенов; также доступно использование через Sentence-Transformers. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

MixEmbedBert-base-20240115163419-best — компактная модель эмбеддингов предложений на архитектуре BERT, представленная в карточке как bge-micro. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из avsolatorio/bge-small-en-v1.5 и содержит примерно в четыре раза меньше неэмбеддинговых параметров; по README, при половине параметров all-MiniLM-L6-v2 показывает сопоставимое качество. Модель содержит 18,8 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления. Метаданные указывают задачи sentence-similarity и feature-extraction. README описывает англоязычную базовую модель и не заявляет поддержку других языков. Для использования доступны веса safetensors; лицензия в предоставленных данных не указана.

avsolatorio/MixEmbedMean-base-20240116001529-best — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная 16 января 2024 года. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска по смыслу, кластеризации и сравнения текстов. Размер модели — 18,8 млн параметров, максимальная длина контекста — 512 токенов; для работы доступны веса в формате safetensors и библиотека Sentence-Transformers. Согласно README, модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет вчетверо меньше параметров, не относящихся к эмбеддингам, чем исходная модель. В README также отмечено, что при примерно половине параметров all-MiniLM-L6-v2 она показывает сопоставимое качество. Английский язык следует из базовой модели bge-small-en-v1.5; подтверждений поддержки других языков нет. Лицензия в предоставленных данных не указана.

Карточка модели igzi/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели pmdlt/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Карточка модели arnaultsta/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

jfarray/Model_all-distilroberta-v1_1_Epochs — модель на базе RoBERTa, опубликованная в формате PyTorch как модель Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации; также подходит для вычисления сходства между предложениями. Модель содержит 95,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель обучалась с функцией потерь CosineSimilarityLoss. Её можно использовать в приложениях поиска по смыслу и группировки текстов через Sentence Transformers. В карточке не указаны целевые языки и лицензия, поэтому их нельзя подтвердить по имеющимся данным.

jfarray/Model_all-distilroberta-v1_5_Epochs — модель на базе RoBERTa, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Веса представлены в формате PyTorch; размер модели — 95,2 млн параметров, контекст — до 514 токенов. Векторы подходят для семантического поиска и кластеризации текстов, а также для оценки сходства предложений. Модель можно использовать через библиотеку Sentence-Transformers. В README указано обучение с CosineSimilarityLoss; сведения о лицензии и конкретном языке текстов в предоставленных данных отсутствуют.

ModernBERT-base-ModBERTScore-12 — текстовая модель для извлечения признаков, созданная LazerLambda на основе answerdotai/ModernBERT-base. В ней используются первые 12 трансформерных слоёв исходной модели; размер составляет 103,9 млн параметров, архитектура — ModernBERT. Модель принимает текст и формирует векторные представления, которые можно использовать в системах поиска и сравнения текстов. Максимальная длина контекста — 8192 токена. Модель распространяется в формате Safetensors и предназначена для использования с библиотекой Transformers. Лицензия в предоставленных данных не указана.

IoannisKat1 разработал англоязычную модель Sentence Transformers для получения плотных векторных представлений предложений и абзацев. Это дообученная версия nomic-ai/modernbert-embed-base на архитектуре ModernBertModel с усреднением токенных представлений и нормализацией выходного вектора. Модель имеет 149 млн параметров, формирует эмбеддинги размерности 768 и принимает последовательности длиной до 8192 токенов; для сравнения используется косинусное сходство. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README приведены результаты оценки поиска при сокращении размерности эмбеддингов до 512, 256, 128 и 64 измерений, однако качество зависит от набора данных. Данные обучения содержат 1627 пар anchor-positive. Лицензия Apache-2.0.

sieu-n/msmarco-distilbert-cos-v5_en-ko-ja_v1.3 — модель Sentence-Transformers на архитектуре XLM-RoBERTa с 305,2 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки семантического сходства, семантического поиска и кластеризации текстов. Контекст модели составляет 514 токенов. Модель подходит для поиска похожих фраз и документов, сравнения текстовых запросов с текстовыми фрагментами и построения векторных представлений для последующей кластеризации. В README указано обучение с функцией потерь MSELoss; метаданные также отмечают возможность извлечения признаков и наличие эмбеддингов. Название указывает на английский, корейский и японский языки, однако карточка не описывает их качество или относительную поддержку. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

groonga/multilingual-e5-base-Q4_K_M-GGUF — это квантизированная в формате GGUF версия multilingual-e5-base, разработанная на основе модели intfloat/multilingual-e5-base и предназначенная для создания векторных представлений текста. Модель ориентирована на задачи семантического сходства, поиска и извлечения документов, классификации текстов и других сценариев, где требуется сравнивать смысл текстовых фрагментов. Она совместима с llama.cpp и связанной экосистемой инструментов. Модель поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. В README указана оценка на бенчмарке MTEB, включающем задачи классификации отзывов и контрфактических высказываний, а также задачи информационного поиска. Квантизация Q4_K_M снижает требования к памяти и может упростить локальный запуск, однако потенциально уменьшает точность по сравнению с исходной версией. Размер модели, точная архитектура, максимальная длина контекста и другие параметры в предоставленных данных не указаны. Модель распространяется по лицензии MIT. Она подходит для многоязычного семантического поиска, построения систем рекомендаций, кластеризации, дедупликации и классификации текстов. Ограничения включают зависимость качества от языка и типа данных, возможные потери качества из-за квантизации, а также отсутствие в README подробных инструкций по применению и сведений о поддерживаемых модальностях, кроме текстовой.

WENGSYX/Multilingual_SimCSE — модель для извлечения признаков на основе архитектуры DeBERTa-v2, содержащая 306 млн параметров. Карточка указывает на мультиязычное назначение; модель принимает текст и формирует векторные представления, которые можно использовать для сравнения текстов и поиска похожих фрагментов. Модель подходит для создания текстовых эмбеддингов в мультиязычных поисковых и семантических системах. Контекст ограничен 512 токенами. Доступны веса в форматах PyTorch и Safetensors. В README приведены заголовки разделов с кодом обучения и запуска, но сами фрагменты опущены. Сведения о лицензии в доступных данных отсутствуют.

OrcaDB/mxbai-large — текстовая модель эмбеддингов предложений из семейства Mixedbread mxbai-embed-large-v1. Она преобразует предложения и фрагменты текста в векторы для поиска, сравнения семантической близости и других задач векторного поиска. Архитектура — плотная модель на базе BERT с 433,9 млн параметров и контекстом до 512 токенов. Модель рассчитана прежде всего на англоязычный текст. Для поисковых запросов при retrieval следует добавлять префикс «Represent this sentence for searching relevant passages:»; для остальных входов специальный префикс не требуется. Поддерживаются Matryoshka Representation Learning и бинарное квантование, позволяющие сокращать размерность и объём хранения эмбеддингов. README сообщает о сильных результатах на MTEB для моделей размера BERT-large. Модель опубликована по лицензии Apache-2.0. Карточка отмечает, что у версии есть ограничения, которые планировалось устранить в v2, но конкретные ограничения не перечисляет.

dwulff/mxbai-personality — модель эмбеддингов предложений на базе MPNet, опубликованная пользователем dwulff. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы; заявленная длина контекста — 514 токенов. Модель подходит для семантического поиска, группировки похожих текстов и оценки сходства предложений. В README указано обучение с CosineSimilarityLoss. Доступна в формате safetensors и предназначена для использования с библиотекой Sentence-Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

MyAwesomeModel — модель на базе архитектуры BERT для извлечения признаков из текста. Она предназначена для преобразования текстовых входов в векторные представления, которые можно использовать в задачах семантического поиска, сравнения текстов, классификации и кластеризации. Модель реализована с использованием PyTorch и библиотеки Transformers. В метаданных указана лицензия MIT. Данные о размере модели, поддерживаемых естественных языках и длине контекста отсутствуют.

Карточка модели lewtun/my-awesome-setfit-model-4 на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.

Карточка модели ameerak/my-awesome-setfit-model-ameer на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.

Nanbeige4.1-3B — компактная языковая модель компании Nanbeige, созданная на базе Nanbeige4-3B-Base. Это дообученная плотная модель семейства Llama с 3,5 млрд параметров, предназначенная для генерации текста, диалогов, рассуждений и работы в агентных сценариях. По карточке модели, обучение включало supervised fine-tuning и reinforcement learning. Модель рассчитана на решение многошаговых задач по математике, программированию и естественным наукам, а также на использование инструментов и глубокий поиск в связке с агентной системой. Она поддерживает английский и китайский языки. Метаданные указывают контекст до 262 144 токенов; формат весов — safetensors, библиотека — Transformers. В карточке заявлена способность поддерживать длительные цепочки вызовов инструментов, однако фактические результаты зависят от реализации агента и доступных инструментов. Модель распространяется по лицензии Apache-2.0. Разработчик предупреждает, что возможны неожиданные ответы, включая предвзятость и дискриминационное содержание; выходы требуют проверки.

Англоязычная модель эмбеддингов на базе ModernBERT, подготовленная mlx-community для запуска в формате MLX. Репозиторий описывает конвертацию модели nomic-ai/modernbert-embed-base; метаданные связывают её с answerdotai/ModernBERT-base и nomic-ai/modernbert-embed-unsupervised. Модель содержит 149 млн параметров и рассчитана на входной контекст до 8192 токенов. Она предназначена для получения векторных представлений текста, вычисления сходства предложений и семантического поиска. Её можно использовать для поиска похожих фрагментов, группировки текстов и построения retrieval-компонентов. Указанная лицензия — Apache-2.0. README подтверждает конвертацию в MLX, но не уточняет, каким способом получена 6-битная точность.

mlx-community/nomicai-modernbert-embed-base-8bit — англоязычная модель для получения векторных представлений текста и оценки сходства предложений. По метаданным это плотная encoder-only модель семейства ModernBERT на 149 млн параметров с контекстом до 8192 токенов; README указывает, что веса преобразованы в формат MLX из nomic-ai/modernbert-embed-base. Модель можно применять для семантического поиска, сравнения текстов и построения эмбеддингов для последующей обработки.

ggml-org/Nomic-Embed-Text-V2-GGUF — это версия модели nomic-ai/nomic-embed-text-v2-moe, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Модель предназначена для создания векторных представлений текста и задач семантического сходства, включая поиск, сравнение и извлечение признаков; использовать её можно с инструментами и библиотеками, поддерживающими GGUF, в частности llama.cpp. В карточке указана интеграция с sentence-transformers и широкий набор поддерживаемых языков, включая английский, русский, китайский, японский, арабский, испанский, немецкий, французский и многие другие. Архитектура, количество параметров, размер контекста, размерность эмбеддингов и точные характеристики базовой модели в README не приведены, поэтому оценить производительность и ограничения по длине входа по этим данным нельзя. Модель предназначена для текстовых задач и не заявлена как мультимодальная. Лицензия — Apache-2.0.

Novasy/nova-coder-merge-7b — слитая модель Novasy на архитектуре Qwen2, созданная методом TIES с помощью mergekit из Qwen/Qwen2.5-7B-Instruct и Qwen/Qwen2.5-Coder-7B-Instruct. Она предназначена для диалоговой генерации текста и помощи с программированием, включая создание и объяснение кода, а также выдачу структурированных ответов. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов; репозиторий содержит веса в формате safetensors. Метаданные также отмечают интерфейс вызова инструментов. Слияние объединяет общие инструктивные возможности Qwen2.5 с ориентацией кодовой версии на программирование. В карточке не приведены результаты оценки качества или отдельный перечень поддерживаемых языков. Лицензия в предоставленных данных не указана.

Ocean-OCR — мультимодальная языковая модель примерно на 3,1 млрд параметров из семейства Ocean, предназначенная для распознавания текста на изображениях и других задач OCR. В карточке авторы описывают её как модель 3B и заявляют высокие результаты в различных сценариях распознавания текста при сопоставимом с общими моделями уровне понимания обычных задач. Модель использует Native Resolution ViT, чтобы принимать изображения с переменным разрешением, и обучалась на большом наборе OCR-данных. Метаданные указывают архитектуру OceanForCausalLM, формат PyTorch и контекст 8192 токена; также заявлены чат и интерфейс вызова инструментов. В карточке указаны английский и китайский языки. Лицензия в предоставленных данных не указана.

Olmo-3-7B-Think — авторегрессионная плотная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Это вариант семейства Olmo 3 с упором на пошаговое рассуждение; карточка указывает обучение на данных Dolma 3 и последующее дообучение на наборах Dolci. В метаданных базовой моделью названа allenai/Olmo-3-7B-Think-DPO, а связь указана как finetune. Модель предназначена для диалогов и задач, где полезны развёрнутые рассуждения, в частности математики, программирования, ответов на общие вопросы и следования инструкциям. Она содержит 6,9 млрд параметров, поддерживает контекст до 65 536 токенов и рассчитана прежде всего на английский язык. Для запуска используется библиотека Transformers; веса опубликованы в формате safetensors. Модель может давать неточные ответы и без дополнительной фильтрации способна генерировать вредный или чувствительный контент. Результаты следует проверять, а при практическом использовании учитывать возможную предвзятость. Лицензия — Apache 2.0; карточка также ссылается на рекомендации Ai2 по ответственному использованию.

Satyrn Qwen3.8-27B-py3.15 — дообученная командой Satyrn языковая модель на базе Qwen3.8-27B, созданная для генерации текста и помощи с кодом на Python 3.15. Это плотная авторегрессионная модель с архитектурой Qwen3.5 и интерфейсом чата; метаданные также указывают поддержку интерфейса вызова инструментов. Модель обучалась в конвейере Satyrn с использованием Unsloth; этап обучения на RL-данных для этого выпуска был отключён. Модель предназначена для генерации и объяснения кода с учётом целевой версии Python 3.15, а также для диалоговой помощи в задачах программирования. В карточке заявлены английский язык и код Python. Доступны веса Safetensors и GGUF, включая BF16 и Q4_K_M. Лицензия — MIT.

orenpereg/paraphrase-mpnet-base-v2_sst2_4samps — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Контекст модели составляет 514 токенов; для работы доступны веса PyTorch и библиотека Sentence-Transformers. Модель обучалась с функцией потерь CosineSimilarityLoss. Её можно применять для поиска похожих высказываний и группировки текстов по смыслу. Языки обучения и лицензия в предоставленных данных не указаны.

Phi-2 Orange Version 2 — разговорная языковая модель на базе Phi-2, созданная Rhys Jones. Это двухэтапное дообучение с обновлённым процессом на тех же наборах данных, что использовались для первой версии. Модель имеет плотную архитектуру PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста в диалоговом формате ChatML: она может отвечать на вопросы, следовать системным инструкциям, помогать с рассуждениями и писать код. В README приведены результаты нескольких бенчмарков, но они не гарантируют качество на конкретных задачах. Модель использует формат safetensors и поддерживается Transformers без необходимости включать trust_remote_code. Модель выпущена под лицензией MIT. Она наследует ограничения Phi-2; подробности приведены в карточке базовой модели.