II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейPP-DocLayout_plus-L — модель локализации областей и элементов в документах, разработанная PaddlePaddle. Она предназначена для обнаружения структуры на страницах статей, презентаций, журналов, договоров, книг, экзаменационных материалов и исследовательских отчетов. Модель построена на архитектуре RT-DETR-L и распознаёт 20 категорий, включая заголовки, основной текст, номера страниц, аннотации, таблицы, ссылки, колонтитулы, формулы, изображения, диаграммы и списки. Модель обучена на собственном наборе документов на китайском и английском языках. В карточке приведена оценка mAP@0.5 83,2% на внутреннем наборе данных для обнаружения областей документов. Репозиторий содержит веса safetensors, библиотека — PaddleOCR. Лицензия Apache-2.0. Оценка относится к указанному внутреннему набору и не гарантирует такую же точность на других типах документов.
pplx-embed-context-v1-4b — модель текстовых эмбеддингов Perplexity AI на основе плотной двунаправленной архитектуры PPLXQwen3. Она предназначена для контекстных эмбеддингов фрагментов документов в системах поиска и RAG, где при представлении фрагмента учитывается окружающий текст. Модель содержит 3,7 млрд параметров и поддерживает контекст до 32 768 токенов. Модель формирует векторы размерности 2560 с поддержкой сокращения размерности MRL. Эмбеддинги нативно выдаются без нормализации и квантизованы в INT8; README рекомендует сравнивать их по косинусному сходству. Для построения эмбеддингов не требуется добавлять инструкцию к тексту. Репозиторий содержит веса в форматах Safetensors и ONNX; лицензия — MIT.
Qwen3.5-35B-A3B Coding Extract (N128) — языковая модель для генерации кода, созданная deepgoyal19 на основе Qwen/Qwen3.5-35B-A3B. Это training-free вариант MoE-архитектуры: из 256 маршрутизируемых экспертов в каждом слое оставлены 128, а общий вычислительный блок, внимание и эмбеддинги сохранены. В README указано 18,54 млрд параметров и формат bf16; метаданные каталога указывают 2,9 млрд параметров. Модель работает через Transformers и имеет контекст до 262 144 токенов. Модель предназначена для генерации и дополнения программного кода; в README приведены результаты HumanEval 86,6% и HumanEval+ 83,5% pass@1. Модель принимает текстовые запросы и выдаёт текст, включая код. README утверждает, что веса получены отбором экспертов без дообучения, дистилляции или градиентных обновлений. Лицензия — Apache-2.0.
QwQ-SkyT1-32B-Preview — объединённая языковая модель на 32 млрд параметров, созданная методом линейного слияния Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview с помощью mergekit. Она использует плотную архитектуру Qwen2 и предназначена для диалоговой генерации текста; базовые модели рассчитаны в том числе на математические рассуждения и программирование. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Весовая точность при слиянии — float16. Подходит для диалоговых помощников, решения математических задач и помощи с программированием. Карточка не сообщает отдельной лицензии, поэтому условия использования следует проверять у авторов базовых моделей и в метаданных репозитория. Это предварительная версия, а её практическое качество для конкретных задач требует оценки.
RepresentLM-v1 — модель эмбеддингов предложений и абзацев, разработанная на базе StoriesLM-v1-1963. Она преобразует текст в плотные векторы размерностью 768 и предназначена для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель основана на архитектуре BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель дообучена на наборе HEADLINES для семантического сходства; в метаданных также указан датасет AmericanStories. Подходит для поиска по смыслу и группировки текстов на английском языке. Распространяется по лицензии MIT.
Ring-lite — лёгкая открытая языковая модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI на основе inclusionAI/Ling-lite-base-1.5. Модель предназначена для сложных задач рассуждения и генерирует текст в формате чата. В метаданных указаны 794,8 млн параметров, библиотека Transformers и контекст 32 768 токенов; README описывает вариант Ring-lite с 16,8 млрд общих и 2,75 млрд активных параметров и контекстом 128 тыс. токенов, поэтому эти характеристики могут относиться к разным версиям или представлениям модели. Модель обучалась с использованием дистилляции знаний и обучения с подкреплением. Она предлагает режимы с выводом рассуждений и без него; в README приведены результаты оценок по математике и программированию, включая AIME и LiveCodeBench. Указанные языки — китайский и английский. Модель распространяется по лицензии MIT.
SAGA-embed_v1 — модель эмбеддингов предложений для скандинавских языков, построенная на архитектуре ModernBERT. Она создана на базе AI-Sweden-Models/ModernBERT-base, обучена примерно на 250 миллионах семантически связанных пар и затем дообучена. Репозиторий использует библиотеку sentence-transformers и содержит веса в формате safetensors; размер модели — 394,7 млн параметров, контекст — до 8192 токенов. Модель предназначена для получения векторных представлений текстов и задач семантического сходства. Её можно применять без промптов, однако для оптимальной производительности автор рекомендует использовать обученные пользовательские промпты для разных задач. По README, на момент публикации она занимала 9-е место в MTEB по скандинавским задачам и была самой высокоранжированной моделью до 1,5 млрд параметров. В метаданных указаны шведский, норвежский и датский языки; README описывает модель как предназначенную для скандинавских языков, но не приводит полную языковую спецификацию. Лицензия в предоставленных данных не указана.
SakThai Multilingual Embedding — модель семейства SakThai, созданная на основе Multilingual-MiniLM-L12-H384 и дообученная для получения векторных представлений предложений. Она строит 384-мерные эмбеддинги, в которых тексты близкого смысла располагаются рядом, в том числе если они написаны на разных языках. Модель предназначена для многоязычного семантического поиска, извлечения контекста для RAG, сравнения предложений, кластеризации и поиска дубликатов. Заявлена поддержка более 50 языков; архитектура BERT имеет 12 слоёв, размер модели по метаданным — 124,3 млн параметров, контекст — до 512 токенов. Использовать её можно через sentence-transformers локально или развернуть на TEI endpoint. Лицензия — MIT. В карточке подтверждены локальная загрузка и кодирование на CPU, но приведённые проверки являются лишь smoke-тестами. Формальные оценки MTEB и STS для этой дообученной модели пока не опубликованы, а показатели базовой модели не следует считать результатами SakThai. Серверless API Hugging Face, согласно README, модель не поддерживает; длинные документы требуют разбиения на фрагменты, а качество может снижаться для малоресурсных языков и отдельных языковых пар.
Kaze-droid/SENAN-Raw — модель эмбеддингов предложений на базе XLM-RoBERTa, опубликованная пользователем Kaze-droid. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 305,2 млн параметров, принимает текст и использует контекст до 514 токенов. Модель обучалась с Triplet Loss и косинусной метрикой расстояния. В README приведён способ использования через Sentence-Transformers или Transformers с соответствующей операцией pooling. Данные не уточняют языковое покрытие модели и лицензию, поэтому их нельзя надёжно указать.
SenOCR-Vi — модель распознавания текста и элементов документов, разработанная VietAlpha Lab на базе PaddleOCR-VL-1.6 и дообученная для вьетнамских документов. Она предназначена для OCR печатных страниц, фотографий документов, архивных материалов и учебников, а также для встраивания в конвейеры загрузки и разбора документов. Модель использует архитектуру PaddleOCR-VL с условной генерацией; в README указано около 0,959 млрд параметров, тогда как метаданные каталога приводят 318,2 млн. Контекст составляет 131 072 токена. Через Transformers доступно распознавание по элементам, а в конвейере PaddleOCR-VL — разбор страниц. Основной язык оптимизации — вьетнамский; также приведены результаты для английского и упрощённого китайского. На указанной в README выборке из 160 страниц модель получила 86,7% по распознаванию вьетнамского текста и 82,83 по составной оценке документов. Лицензия Apache 2.0 разрешает коммерческое использование, модификацию и распространение. Качество распознавания структурированных элементов ниже, чем обычного текста; сложные таблицы, формулы, плотная многоколоночная верстка и сильно повреждённые изображения остаются трудными случаями.
ys7yoo/sentence-bert-klue-sts — модель Sentence-Transformers на базе BERT, разработанная для сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768 и подходит для семантического поиска, кластеризации и сравнения смысловой близости текстов. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. Она обучалась с использованием CosineSimilarityLoss. Для работы можно применять библиотеку sentence-transformers либо Hugging Face Transformers с подходящей операцией pooling. Модель опубликована в формате PyTorch. В карточке не указаны лицензия и языки обучения, поэтому их нельзя надёжно определить. Качество семантического сопоставления и поддержка конкретных языков зависят от данных обучения; перед использованием для целевого языка стоит проверить качество на собственных примерах.
Модель hiiamsid/sentence_similarity_spanish_es — испаноязычная модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 768. Она построена на архитектуре BERT и предназначена для вычисления семантического сходства, семантического поиска и кластеризации текстов на испанском языке. В метаданных указано 137,1 млн параметров и контекст до 512 токенов. Модель дообучена на основе dccuchile/bert-base-spanish-wwm-cased с использованием датасета stsb_multi_mt и функции потерь CosineSimilarityLoss. Веса доступны в форматах PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Она выдаёт эмбеддинги, а качество результатов зависит от соответствия входных текстов испанскому языку и ограничения контекста.
Pradipta11/setfit-model — модель Sentence Transformers на базе MPNet, разработанная пользователем Pradipta11. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения сходства и кластеризации. Модель содержит 136,7 млн параметров и рассчитана на контекст до 514 токенов; для обучения использовалась CosineSimilarityLoss. Модель принимает текст и выдаёт векторные представления, которые можно применять для семантического поиска и группировки похожих текстов. Для использования подходят Sentence Transformers или Transformers с подходящей операцией pooling. В репозитории указаны веса PyTorch. Лицензия в предоставленных данных не указана.
Это модель Sentence Transformers на основе MPNet, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. Модель обучалась с функцией потерь CosineSimilarityLoss; в README также приведён пример использования через библиотеку sentence-transformers. Веса опубликованы в формате PyTorch, размер модели — 136,7 млн параметров, максимальная длина контекста — 514 токенов. README не называет базовую модель, обучающие данные, поддерживаемые языки или лицензию.
mrp/SimCSE-model-WangchanBERTa-V2 — модель эмбеддингов предложений на архитектуре CamemBERT, опубликованная пользователем mrp. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и других задач сравнения предложений. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства; для работы можно использовать Sentence-Transformers или Transformers с подходящей операцией pooling. Веса представлены в формате PyTorch; размер модели — 132,5 млн параметров, контекст — до 512 токенов. README посвящён WangchanBERTa V2, однако языковая поддержка в предоставленных сведениях явно не перечислена. Лицензия в доступных данных не указана.
vitthalbhandari/simcse_retrain_edos_100k — модель эмбеддингов предложений на базе RoBERTa, опубликованная пользователем Hugging Face vitthalbhandari. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит около 151,8 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством. В названии указаны SimCSE и EDOS, но карточка не поясняет датасет или специализацию, поэтому назначение следует считать общим для семантических эмбеддингов. Для использования доступны Sentence-Transformers или Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не указана.
Карточка модели unsloth/snowflake-arctic-embed-l-v2.0 на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-l-v2.0, поэтому описание составлено по ней. Snowflake Arctic Embed L v2.0 — мультиязычная модель эмбеддингов от Snowflake для семантического поиска и извлечения релевантных текстов. Она основана на архитектуре XLM-RoBERTa и использует представление текста в виде векторов; в метаданных указано 658,7 млн параметров, а контекст составляет до 8194 токенов. Модель принимает текст и выдаёт эмбеддинги, предназначенные для сравнения запросов и документов по смысловой близости. Модель рассчитана на поиск на английском и многих других языках, включая арабский, бенгальский, немецкий, испанский, французский, хинди, японский и корейский. README сообщает о поддержке векторов размерностью 1024 и Matryoshka Representation Learning для сокращения до 256 измерений; вместе с 4-битным квантованием это позволяет хранить вектор примерно в 128 байтах. Указаны результаты оценки на наборах BEIR, MIRACL и CLEF, а также возможность использовать модель как замену BAAI/bge-m3-retromae в системах вывода. Лицензия Apache 2.0 допускает свободное использование в том числе в коммерческих приложениях. Модель предназначена для многоязычного семантического поиска, извлечения документов и построения систем поиска с векторным индексом. Сокращение и квантование эмбеддингов снижают требования к хранению, но могут уменьшить качество поиска; README отмечает небольшое снижение показателей при сокращении размерности до 256. Русский язык не указан среди языков карточки и метаданных, поэтому его поддержку нельзя подтвердить.
uukuguy выпустил дообученную модель speechless-codellama-dolphin-orca-platypus-34b на основе Phind/Phind-CodeLlama-34B, используя наборы Dolphin, Orca и Platypus. Это плотная авторегрессионная Transformer-модель семейства Llama с 33,5 млрд параметров и контекстом 16 384 токена; репозиторий содержит веса PyTorch для Transformers. Модель предназначена для генерации и понимания кода, включая автодополнение и заполнение пропусков в коде. В README приведён результат 70,12 на HumanEval-Python pass@1. Модель принимает и генерирует текст; данные каталога указывают английский язык. Лицензия — llama2, а использование производной модели регулируется условиями лицензии Llama 2. Как и другие языковые модели, она может выдавать ошибочный или нежелательный код; перед применением в продукте её следует проверить и настроить для конкретного сценария.
QuantFactory/starcoder2-15b-instruct-v0.1-GGUF — квантизированная версия модели StarCoder2-15B-Instruct-v0.1, разработанной проектом BigCode и созданной с использованием llama.cpp. Это языковая модель для генерации текста и кода, дообученная методом самосогласования на наборе self-oss-instruct-sc2-exec-filter-50k, где StarCoder2 генерировала пары инструкций и ответов без человеческой разметки и дистилляции из проприетарных моделей. Модель предназначена прежде всего для однократного выполнения инструкций, связанных с программированием: генерации Python-кода, решения задач, исправления программ и предсказания результатов выполнения. Она имеет размер 15 млрд параметров и распространяется в формате GGUF, удобном для запуска через совместимые инструменты на базе llama.cpp. В README указана длина последовательности обучения 1280 токенов; сведения о полном контекстном окне, поддерживаемых языках и конкретном варианте квантизации отсутствуют. Сильной стороной модели является ориентация на код, который можно проверять выполнением; на приведённых тестах она показывает pass@1 72,6% на HumanEval, 75,2% на MBPP и 40,6% на DS-1000. Ограничения включают меньшую надёжность при работе с форматами вывода, другими языками программирования и задачами за пределами распределения обучения; для управления форматом рекомендуется использовать префикс ответа или пример. Модель распространяется по лицензии bigcode-openrail-m.
cnmoro/static-nomic-384-pten — статическая модель текстовых эмбеддингов, созданная cnmoro с помощью Tokenlearn на базе nomic-ai/nomic-embed-text-v2-moe. Она преобразует текст в векторы размерностью 384 и подходит для семантического поиска, извлечения документов и сравнения сходства предложений. Модель использует подход Model2Vec; в обучении применялись инкрементальный PCA до 384 измерений и ограничение словаря до 32 тысяч эффективных токенов. Модель дообучена на данных, связанных с AllTripletsMsMarco-PTBR, и поддерживает английский и португальский языки. Для работы автор рекомендует библиотеку model2vec; веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка сообщает, что оценка проводилась именно на этой дистиллированной модели и что она меньше и, по утверждению автора, лучше cnmoro/nomic-embed-text-v2-moe-distilled-high-quality. Подробностей о сравнительной методике или известных ограничениях качества карточка не приводит.
Модель YOLOv8s от FODUU AI обнаруживает таблицы на изображениях документов и выделяет их ограничивающими рамками. Она распознаёт два класса: таблицы с рамками и без рамок. Модель построена на архитектуре YOLOv8 и предназначена для поиска таблиц в структурированных и неструктурированных документах. Результаты обнаружения можно использовать для обрезки таблиц и передачи фрагментов в отдельную систему OCR для извлечения текста. Сама модель выдаёт классы и координаты объектов, а не распознанное содержимое таблиц. Репозиторий содержит веса PyTorch; модель основана на YOLOv8s и дообучена на наборе изображений таблиц FODUU AI. Качество может снижаться на изображениях низкого разрешения, при плохом освещении, для маленьких таблиц и сложных макетов. В README лицензия не указана, поэтому условия использования следует уточнить у разработчика.
BlueAvenir/Testiter4 — модель на базе XLM-RoBERTa, созданная с помощью Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантического сходства, кластеризации и семантического поиска. Обучение использовало CosineSimilarityLoss. Модель содержит 305,2 млн параметров и принимает текст; длина контекста — 514 токенов. Доступны веса PyTorch. Лицензия в предоставленных данных не указана.
Многоязычная модель Sentence Transformers на базе FacebookAI/xlm-roberta-base, дообученная на парах предложений en–es. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения семантической близости, поиска и группировки текстов. Для сопоставления векторов используется косинусное сходство; архитектура включает XLM-RoBERTa с усреднением токенных представлений. Максимальная длина последовательности в карточке — 128 токенов. Модель поддерживает английский и испанский, а также широкий набор других языков, включая русский. В README приведены результаты оценки на задачах сходства и перевода между английским и испанским; это не генеративная модель и сама по себе не переводит текст. Размер базовой архитектуры — 305,2 млн параметров, формат весов — safetensors. Лицензия в предоставленных данных не указана.
Модель avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240127160829-best — вариант BAAI/bge-base-en-v1.5, подготовленный avsolatorio: длина входной последовательности увеличена с 512 до 1024 токенов. Это модель Sentence-Transformers на архитектуре BERT с 136,7 млн параметров, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно использовать для извлечения эмбеддингов, семантического поиска и кластеризации текста. Модель рассчитана на англоязычный текст. Хотя окно увеличено до 1024 токенов, автор отмечает, что модель не дообучалась для последовательностей длиннее 512 токенов, поэтому качество на более длинных текстах может быть ниже. В репозитории указаны веса в формате safetensors; лицензия в предоставленных источниках не приведена.
Карточка модели avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240128041505-best на Hugging Face совпадает с карточкой avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240127160829-best, поэтому описание составлено по ней. Модель avsolatorio/20-100-11-1-0-1-0-0-cls_GIST_avsolatorio_BAAI_bge-base-en-v1.5_1024-20240127160829-best — вариант BAAI/bge-base-en-v1.5, подготовленный avsolatorio: длина входной последовательности увеличена с 512 до 1024 токенов. Это модель Sentence-Transformers на архитектуре BERT с 136,7 млн параметров, которая преобразует предложения и абзацы в плотные векторы размерности 768. Её можно использовать для извлечения эмбеддингов, семантического поиска и кластеризации текста. Модель рассчитана на англоязычный текст. Хотя окно увеличено до 1024 токенов, автор отмечает, что модель не дообучалась для последовательностей длиннее 512 токенов, поэтому качество на более длинных текстах может быть ниже. В репозитории указаны веса в формате safetensors; лицензия в предоставленных источниках не приведена.
893ImagesJson — дообученная на неизвестном наборе данных модель naver-clova-ix/donut-base от Sagarjha456. Она использует архитектуру vision-encoder-decoder и предназначена для преобразования изображений в текст; карточка сообщает значение loss 0.4844 на наборе оценки. Подходящие сценарии — извлечение текста и структурированных сведений из изображений документов. Модель распространяется в формате safetensors по лицензии MIT. Описание не приводит подробностей о наборе данных, языках, качестве на конкретных типах документов или дополнительных ограничениях.
lunz21/aa-abr-names-model — модель на базе MPNet, опубликованная пользователем lunz21 и оформленная для библиотеки Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекст длиной до 514 токенов. В README указано обучение с функцией потерь CosineSimilarityLoss. Это позволяет применять модель для получения эмбеддингов и оценки сходства текстов. Репозиторий содержит веса в формате safetensors. Лицензия и конкретные языки в предоставленных данных не установлены.
KhaledReda/all-MiniLM-L6-v74-pair_score — англоязычный Sentence Transformer, дообученный на парах текстов с оценками сходства. В основе лежит sentence-transformers/all-MiniLM-L6-v2; модель построена на архитектуре BERT и содержит 25,9 млн параметров. Она кодирует предложения и абзацы в плотные векторы размерности 384, нормализует их и предназначена для сравнения по косинусному сходству. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текстов, а также для оценки семантического сходства пар. Она обучена на датасете KhaledReda/pairs_with_scores_v60 с помощью CoSENTLoss. Репозиторий использует формат safetensors и библиотеку sentence-transformers; лицензия — Apache-2.0. Модель ориентирована на английский язык. Её векторное представление можно использовать как признак или для ранжирования по близости, но качество на других языках не заявлено. При применении следует учитывать указанное в README ограничение длины 256 токенов; метаданные каталога приводят контекст в 512 токенов.
AM-Thinking-v1 — плотная языковая модель на 32 млрд параметров от a-m-team, предназначенная для рассуждений, открытого диалога, решения математических задач и генерации кода. Она построена на Qwen 2.5 32B Base и дообучена с помощью SFT и двухэтапного обучения с подкреплением GRPO. Архитектура — Qwen2, модель использует Transformers и формат safetensors; заявленная длина контекста — 131 072 токена. Модель рассчитана на сценарии, где нужны развёрнутые рассуждения и генерация текста или программного кода. По данным разработчика, она показывает высокие результаты на математических и кодовых тестах и может запускаться на одном ускорителе A100 с 80 ГБ памяти. Карточка также описывает чат-возможности, но предупреждает, что модель не обучена для структурированного вызова функций и рабочих процессов с инструментами. Разработчик — a-m-team. Лицензия — Apache-2.0. Разработчик отмечает, что следование сложным инструкциям требует улучшения, а защитное выравнивание находится на ранней стадии; для стабильного качества рекомендуется использовать системный промпт, сохранённый в конфигурации токенизатора.
toobi/anime — модель Sentence Transformers на архитектуре MPNet с 136,7 млн параметров, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически похожих текстов и подходит для семантического поиска и кластеризации. Модель можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling; заявленная длина контекста — 514 токенов. Карточка указывает обучение с CosineSimilarityLoss. Данных о лицензии и поддерживаемых естественных языках в предоставленных источниках нет.