I.3Извлечение и структурирование данных

Это текстовая языковая модель Lemura Labs, представляющая собой MLX-квантизацию модели Qwen3.6-27B-Claude-Opus-Reasoning-Distill-v2 от TeichAI. В основе лежит Qwen3.6-27B от команды Qwen; модель дополнительно прошла abliteration — удаление направлений, связанных с отказами, — с использованием OBLITERATUS, а затем была подвергнута статической смешанной квантизации OptiQ примерно до 3,7 бит на вес. Модель предназначена для генерации текста, диалогов, рассуждений, объяснений и планирования. Она поддерживает текстовые сценарии на английском и, согласно метаданным, мультиязычные задачи. Это модель только для текста: визуальный ввод и обработка изображений недоступны, поскольку исходный визуальный модуль был удалён. Архитектура включает гибридный стек из слоёв GatedDeltaNet и полноценных softmax-attention, 64 слоя, скрытое представление размером 5120, словарь около 248 тысяч токенов и контекст до 262 тысяч токенов. Главное преимущество версии — соотношение размера и качества: файл занимает около 12 ГБ, а модель рассчитана примерно на 16 ГБ оперативной памяти на устройствах Apple Silicon, включая M1–M4 Air, mini и базовые Pro. Квантизация OptiQ распределяет точность по слоям на основе чувствительности и KL-дивергенции, стремясь сохранить качество при ограниченных ресурсах. Ограничения включают отсутствие зрения, возможные потери качества из-за квантизации и особенности abliterated-модели: она может отвечать на запросы, от которых исходная модель отказывалась, поэтому её следует применять ответственно и в рамках закона. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска в формате MLX с использованием mlx-lm, прежде всего на Apple Silicon.

soyrsoyr/Qwen3.8-27B-W4A16-AWQ-GPTQ — квантизированная версия мультимодальной модели Qwen3.8-27B семейства Qwen3.5, разработанной Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, решения задач рассуждения, работы с кодом и использования в сценариях, где важны сниженные требования к памяти и высокая скорость инференса. Она поддерживает запуск через Transformers и vLLM. Модель использует гибридную архитектуру внимания и является VLM с текстовым декодером и vision tower. Веса линейных слоёв текстового декодера квантизированы в INT4 по схеме W4A16 с группой 128, с применением AWQ и GPTQ. Vision tower, гибридные linear-attention mixers и lm_head сохранены в формате bf16; также сохранён базовый MTP-предиктор для speculative decoding. Полный VLM хранится в формате compressed-tensors. Точные сведения о языках и размере контекстного окна в README не указаны, однако приведён пользовательский результат с окном обслуживания до 256K токенов. К сильным сторонам относятся существенное снижение потребления памяти, совместимость с CUDA GPU, поддержка Marlin или compressed-tensors INT4-ядер и небольшая потеря качества относительно bf16-версии. В указанных тестах среднее восстановление результатов составило 99,3% на OpenLLM v1 и 94,9% на генеративном reasoning-наборе; при этом на AIME-25 снижение заметнее. Для работы требуются совместимые CUDA GPU и программный стек vLLM или Transformers с поддержкой соответствующего формата. Лицензия — Apache-2.0.

manuel-couto-pintos/roberta_erisk_simcse — модель Sentence Transformer, дообученная автором на базе manuel-couto-pintos/roberta_erisk для получения векторных представлений предложений и абзацев. В основе лежит RoBERTa с 151,8 млн параметров; среднее объединение токенных представлений формирует плотный вектор размерности 768. Для оценки сходства используется косинусная близость, а максимальная длина входа составляет 512 токенов. Модель предназначена для сравнения смыслового сходства текстов, семантического поиска, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Её можно применять для поиска похожих предложений или группировки текстов по смыслу. Модель принимает текст и выдаёт векторы; она не генерирует текстовые ответы. Для содержательных результатов качество зависит от соответствия входных текстов данным обучения и выбранного способа использования векторов. Лицензия в предоставленных данных не указана.

ruBert-style-base — русскоязычная модель Sentence Transformers, разработанная на основе ai-forever/ruBert-base и дообученная для получения векторных представлений предложений и абзацев. Энкодер BERT формирует плотные эмбеддинги размерности 768; для объединения токенов используется усреднение, а сходство векторов измеряется косинусной функцией. Модель предназначена для семантического сравнения текстов, поиска похожих фрагментов и кластеризации. Её также можно применять для поиска перефразировок и классификации текста с использованием эмбеддингов. Максимальная длина последовательности — 512 токенов. В карточке приведена cosine accuracy 0,9507 на оценке TripletEvaluator, но состав набора данных не раскрыт, поэтому результат не следует считать гарантией качества на других данных. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

deepset/sentence_bert — загрузка предварительно обученной модели bert-base-nli-stsb-mean-tokens из репозитория Sentence Transformers. Это модель семейства BERT с 136,7 млн параметров и контекстом до 512 токенов, доступная в форматах PyTorch и Flax. Она предназначена для получения векторных представлений предложений, в частности для семантического сопоставления текстов и поиска похожих фраз. Лицензия — Apache 2.0.

mann2107/setfitbcmpii — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для вычисления семантической близости, поиска по смыслу и кластеризации текстов. В качестве функции потерь при обучении использовалась CosineSimilarityLoss. Модель принимает текст и выдаёт векторные представления. Контекст составляет 514 токенов. Репозиторий содержит веса PyTorch; для работы подходят Sentence-Transformers и Transformers с соответствующей операцией pooling. Указаний на базовую модель, поддерживаемые языки и лицензию в предоставленных данных нет.

copenlu/spiced — модель на базе MPNet, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель обучалась с функцией CosineSimilarityLoss. Её можно применять для получения текстовых эмбеддингов, поиска похожих фрагментов и группировки семантически близких предложений. Карточка не сообщает о специализированной предметной области или языковой специализации. Лицензия в предоставленных данных не указана.

patent/st-aipd-nlp-g — модель на базе BERT, разработанная для построения векторных представлений предложений и абзацев. Она преобразует текст в плотные векторы размерности 384 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Для работы можно использовать Sentence-Transformers или Transformers с подходящей операцией pooling. README указывает на обучение с CosineSimilarityLoss; сведения о датасетах и поддерживаемых языках не приведены. Лицензия в доступных данных не указана.

gubartz/st_all_mini_science — модель на базе BERT, созданная с использованием библиотеки Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384, предназначенные для сравнения смысловой близости, кластеризации и семантического поиска. Модель обучалась с функцией потерь BatchAllTripletLoss. Модель подходит для построения поисковых систем по смыслу, группировки похожих текстов и вычисления сходства между предложениями. Контекст ограничен 512 токенами; файлы весов представлены в формате safetensors. Лицензия в доступных данных не указана.

XCurOS-0.1-8B-Instruct — проприетарная инструкционно настроенная языковая модель, разработанная XCurOS. Она построена на архитектуре Qwen2 с плотной трансформерной моделью примерно на 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых помощников и выполнения инструкций в локальной или облачной инфраструктуре, включая защищённые корпоративные среды. Заявлены рассуждения, программирование, автоматизация рабочих процессов и анализ больших структурированных и неструктурированных текстовых документов; в метаданных также отмечен интерфейс для вызова инструментов. Карточка заявляет поддержку английского и арабского языков. Модель распространяется по проприетарной лицензии: личное и исследовательское использование допускается на частном сервере или локальной инфраструктуре. Коммерческое применение требует отдельной лицензии XCurOS; перераспространение и перепродажа без письменного разрешения запрещены. Качество заявленных возможностей и пригодность для конкретных задач в карточке не подкреплены результатами оценки.

Это многоязычная модель Sentence Transformer, созданная tomaarsen на основе FacebookAI/xlm-roberta-base и дообученная на парах данных английского с арабским, французским, немецким, испанским, турецким и итальянским. Она преобразует предложения и абзацы в плотные векторы размерности 768; сходство текстов можно оценивать по косинусной мере. Архитектура включает XLM-RoBERTa с усреднением токенных представлений, а максимальная длина последовательности в карточке модели — 128 токенов. В метаданных также указано контекстное окно базовой модели в 514 токенов. Модель предназначена для поиска семантически близких текстов, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста, в том числе в поддерживаемых межъязыковых парах. Карточка приводит результаты оценки для нескольких пар с английским, но качество может различаться между языками и задачами; это модель представлений, а не генеративная модель или система перевода. Размер модели — 305,2 млн параметров. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.

tanbinh2210/adapted_phobert — модель Sentence Transformers на архитектуре RoBERTa, разработчик которой представлен идентификатором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, семантического поиска, поиска перефразировок, классификации и кластеризации текста. Сходство векторов рекомендуется оценивать косинусной метрикой. Модель содержит 162,4 млн параметров и обрабатывает последовательности длиной до 258 токенов по метаданным; в README указан предел 256 токенов. Архитектура использует mean pooling поверх выходов RoBERTa. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

miller96/all-MiniLM-L12-v2-fine-tuned-v0.1 — модель Sentence Transformers, дообученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 384 и подходит для семантического поиска и кластеризации. Модель основана на архитектуре BERT; в метаданных указаны 40 млн параметров и контекст до 512 токенов. Обучение проводилось в течение одной эпохи с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Модель принимает текст и выдаёт векторы, которые можно сравнивать для оценки семантической близости. В карточке не указаны языковая специализация или предметная область. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

Модель manupande21/all-MiniLM-L6-v2-finetuned-triplets — англоязычный энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2, дообученный на 800 тысячах примеров из задачи ранжирования passages датасета MS MARCO. Архитектура Sentence Transformer использует BERT-энкодер и mean pooling; она преобразует предложения и абзацы в плотные векторы размерностью 384. В метаданных указан контекст до 512 токенов, а в README — максимальная длина последовательности 256 токенов; для практического использования следует учитывать ограничение библиотеки или конфигурации модели. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. Сходство векторов можно оценивать косинусной мерой. README приводит значение cosine_accuracy 0,9667 на тесте TripletEvaluator, но не описывает набор данных этого теста достаточно подробно для обобщения результата на другие сценарии. Лицензия в предоставленных данных не указана.

navteca/all-mpnet-base-v2 — модель Sentence-Transformers на архитектуре MPNet, созданная на основе microsoft/mpnet-base и дообученная командой проекта Hugging Face Community Week с помощью контрастивного обучения на наборе более чем из миллиарда пар предложений. Она предназначена для кодирования предложений и коротких абзацев: преобразует текст в плотный вектор размерности 768, пригодный для семантического поиска, оценки сходства и кластеризации. Модель содержит 136,7 млн параметров, распространяется в формате PyTorch и имеет лицензию MIT. Модель подходит для семантического поиска по коллекциям текстов, поиска похожих предложений и группировки текстов по смыслу. В README указано усечение входа длиннее 384 токенов WordPiece; в метаданных указан контекст 514 токенов. Английский язык подтверждён карточкой модели. Это энкодер предложений, а не генеративная модель: на выходе — векторы, и для использования через Transformers требуется корректная операция pooling.

Humair/all-mpnet-base-v2-finetuned-v2 — модель Sentence Transformers на архитектуре MPNet, разработанная Humair. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически похожих текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров и принимает текст; контекст составляет до 514 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Для работы можно использовать библиотеку Sentence Transformers либо Transformers с соответствующей операцией pooling. Язык модели в карточке не указан. Лицензия не приводится в доступных данных.

bert-base-1024-biencoder-6M-pairs — двуэнкодерная модель на базе BERT от MosaicML, предназначенная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска, кластеризации текстов и поиска документов или фрагментов по смыслу. Модель обучалась на парах текстов; в метаданных перечислены обучающие наборы, включая MS MARCO, Natural Questions, SNLI и MultiNLI. Модель содержит 136,7 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch. Карточка указывает английский язык. Лицензия в предоставленных данных не указана.

Nhat1904/best-32-shot-model — модель Sentence Transformers на архитектуре MPNet, обученная для получения плотных 768-мерных векторов предложений и абзацев. В карточке указано обучение с CosineSimilarityLoss; размер модели — 136,7 млн параметров, максимальная длина контекста — 514 токенов. Модель подходит для семантического поиска, сравнения сходства текстов и кластеризации. Её можно использовать через библиотеку Sentence-Transformers или Transformers с соответствующей операцией pooling. В репозитории указаны веса PyTorch. В карточке не названы языки обучения и лицензия, поэтому их условия и языковую специализацию по имеющимся данным определить нельзя.

Amanda/bge_portuguese_v4 — модель Sentence Transformer на архитектуре XLM-RoBERTa, обученная для преобразования предложений и абзацев в плотные эмбеддинги размерности 1024. В карточке не указано, кто именно обучил модель. Она использует CLS-пулинг и нормализацию векторов, а сходство текстов можно оценивать косинусным сходством; максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста. Репозиторий содержит веса в формате safetensors; для работы используется библиотека Sentence Transformers. По названию модель ориентирована на португальский язык. Лицензия в доступных данных не указана.

Calcium-Opus-14B-Elite-1M — плотная языковая модель семейства Qwen2, выпущенная prithivMLmods и дообученная на базе Qwen/Qwen2.5-14B-Instruct-1M. По метаданным, модель содержит 14 млрд параметров, использует Transformers и формат safetensors, а её нативный контекст составляет до 1,01 млн токенов. Карточка заявляет улучшения в рассуждениях, работе с длинным контекстом, математике и поддержке более 50 языков; также заявлены мультимодальные возможности для текста, изображений и табличных данных, однако метаданные подтверждают только задачу генерации текста. Модель предназначена для диалогов и генерации текста, включая анализ длинных материалов, ответы с подробными рассуждениями и работу с техническими, юридическими, медицинскими и финансовыми темами. В качестве сценариев карточка также называет клиентскую поддержку, перевод и анализ документов. Подтверждённый основной язык — английский; более широкая языковая и мультимодальная поддержка заявлена в README, но не отражена в метаданных. Для запуска на длинном контексте требуются значительные вычислительные ресурсы; карточка также предупреждает о возможной избыточности ответов в очень длинных творческих задачах и о смещениях на малоресурсных языках. Лицензия — Apache-2.0.

Thunder421/criterion-finetuned-bert — модель Sentence Transformers, дообученная на базе sentence-transformers/all-mpnet-base-v2. Архитектура MPNet использует mean pooling и нормализацию; модель кодирует предложения и абзацы в плотные векторы размерностью 768 и сравнивает их с помощью косинусного сходства. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; карточка модели указывает максимальную длину последовательности 384 токена. Модель предназначена для семантического поиска и оценки сходства текстов, в том числе для поиска релевантных фрагментов и ранжирования кандидатов при retrieval. В README приведены результаты на наборе ats-val: Spearman по косинусному сходству 0,9258. Модель принимает и выдаёт текстовые представления; обучение проводилось на 6 790 парах предложений с оценками сходства. Языки обучающих примеров в карточке англоязычные, однако заявленная поддержка языков не указана. Лицензия в предоставленных данных не приведена.

DeCLUTR-base — модель для получения универсальных векторных представлений предложений, разработанная авторами работы «DeCLUTR: Deep Contrastive Learning for Unsupervised Textual Representations». Она предназначена для сравнения смысловой близости текстов и других задач, где нужны эмбеддинги предложений. Модель построена на архитектуре RoBERTa и содержит 151,8 млн параметров. Она принимает текст и выдаёт векторные представления; в README показано использование SentenceTransformers для кодирования предложений и вычисления косинусной близости. Модель рассчитана на английский язык, её контекст составляет 514 токенов. Лицензия — Apache-2.0.

DeepSeek-V2.5-1210-FP8 — квантованная версия языковой модели DeepSeek-V2.5-1210, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая развертывание чат-сервисов и других приложений на базе causal language model. В README указано, что модель доступна для инференса через библиотеку Transformers и оптимизирована для vLLM версии 0.5.2 и выше. Модель использует архитектуру DeepSeek-V2.5-1210 и формат квантования FP8 для весов и активаций. Квантованию подвергаются линейные операторы в блоках трансформера, за исключением маршрутизаторов MLP. Переход с 16 на 8 бит примерно на 50% уменьшает размер модели на диске и требования к памяти GPU. Указанный максимальный размер контекста для примера развертывания составляет 4096 токенов; язык в карточке заявлен как английский. На OpenLLM Leaderboard V1 модель получила средний результат 77,8, практически совпавший с результатом неквантованной версии 77,82. Сильными сторонами модели являются снижение требований к дисковой и GPU-памяти при сохранении близкой к исходной результативности, а также поддержка эффективного инференса и OpenAI-совместимой подачи через vLLM. Ограничения включают зависимость от совместимого стека vLLM, необходимость использования tensor parallelism для конфигурации из примера и отсутствие в README подробных сведений о числе параметров, полном списке языков и характеристиках исходной архитектуры. Модель распространяется по лицензии DeepSeek; точные условия указаны в файле лицензии по ссылке, приведенной в карточке.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16 — это производная модель на архитектуре DeepSeek-V4, созданная автором Baekpica на основе deepseek-ai/DeepSeek-V4-Flash-0731. Это MoE-чекпойнт с 119,8 млрд основных параметров и примерно 13,8 млрд активных параметров на токен; эксперты были объединены методом REAM с последующим дообучением для восстановления поведения. Веса BF16 сохранены в формате safetensors, обновления SFT и маршрутизатора объединены с весами, поэтому отдельный адаптер не требуется. Метаданные указывают контекст до 1 048 576 токенов. Модель предназначена для генерации текста, диалогов, написания кода, многоязычных инструкций и работы с длинным контекстом, включая извлечение сведений из объёмного текста. Карточка описывает отдельные успешные проверки JSON, кода и длинного извлечения, но также фиксирует ошибки в арифметике, повторяющийся цикл самокоррекции и изменение поведения после слияния экспертов. Эти проверки не подтверждают общее качество длинноконтекстной работы или сохранение исходных бенчмарков. Лицензия — MIT; применяются условия и ограничения исходной модели.

Это англоязычная модель Sentence Transformers на базе DistilBERT, дообученная авторами Sentence Transformers на датасете разделов Википедии sentence-transformers/wikipedia-sections. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для оценки семантической близости и поиска текстов по смыслу. Модель использует DistilBertModel с усреднением токенных представлений; сходство рекомендуется оценивать косинусной мерой. Модель подходит для семантического поиска по англоязычным документам, сравнения предложений, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Максимальная длина входной последовательности — 512 токенов. В тесте TripletEvaluator на тестовом наборе wikipedia-sections точность по cosine_accuracy составила 0,70; результат характеризует оценку на этом наборе и не гарантирует такую же точность на других данных. Лицензия в предоставленных сведениях не указана.

tomaarsen разработал эту модель Sentence Transformers как дообученную версию distilbert/distilroberta-base на наборе sentence-transformers/all-nli. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768, пригодные для сравнения косинусным сходством. Архитектура состоит из RoBERTa-энкодера и среднего пулинга токенных представлений; модель содержит 95,2 млн параметров и принимает последовательности длиной до 514 токенов по данным метаданных Hugging Face. Модель подходит для семантического поиска, поиска похожих предложений, сопоставления перефразирований, кластеризации и подготовки векторных признаков для классификации текста. В README приведены результаты оценки сходства на sts-dev и sts-test. Модель ориентирована на английский язык и не предназначена для обработки изображений, аудио или других нетекстовых данных. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

ERNIE-4.5-300B-A47B-FP8-Paddle — текстовая языковая модель семейства ERNIE 4.5 от Baidu, опубликованная в формате весов PaddlePaddle. Это модель типа MoE с 300 млрд параметров всего и 47 млрд активируемых параметров на токен; для обработки текста используются 64 эксперта, из которых активируются 8. Модель предназначена для диалогов, понимания языка и генерации текста. Она поддерживает контекст до 131 072 токенов и в карточке указаны английский и китайский языки. Несмотря на мультимодальное обучение семейства ERNIE 4.5, этот вариант в README обозначен как текстовый. Модель построена на архитектуре Ernie4_5_MoeForCausalLM и распространяется в формате safetensors для PaddlePaddle. README приводит настройки генерации и пример развёртывания через FastDeploy. Лицензия — Apache-2.0. Указанные характеристики относятся к данному репозиторию; для запуска нужны совместимое окружение PaddlePaddle и значительные вычислительные ресурсы.

F2LLM-v2-1.7B — многоязычная модель эмбеддингов из семейства F2LLM-v2, разработанная CodeFuse AI. Она основана на плотной архитектуре Qwen3 и дообучена на базе codefuse-ai/F2LLM-v2-1.7B-Preview. Модель содержит 1,7 млрд параметров, принимает текст и формирует векторные представления; контекст — до 40 960 токенов. Модель предназначена для поиска по смыслу, ранжирования документов и запросов, оценки семантического сходства, кластеризации и поиска параллельных текстов. Она поддерживает более 200 языков, особенно ориентирована на языки с ограниченными обучающими ресурсами. Поддержка Matryoshka Representation Learning позволяет сокращать размер эмбеддингов для ускорения векторного поиска и экономии памяти. README сообщает о высоких результатах семейства на широком наборе тестов MTEB. Модель распространяется под лицензией Apache-2.0. Для поиска и ранжирования README рекомендует добавлять инструкцию к запросу, но не к документам; для сокращённых эмбеддингов нормализацию следует выполнять после усечения. Модель выдаёт эмбеддинги, а не готовые ответы на запросы.

comet24082002/finetune_bge_simsce_V1 — модель Sentence-Transformers на архитектуре XLM-RoBERTa, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для поиска по смыслу и кластеризации. Модель обучалась с CachedMultipleNegativesRankingLoss и косинусной мерой сходства; её можно применять для вычисления семантической близости текстов. Метаданные указывают 658,7 млн параметров, контекст до 8194 токенов и формат safetensors. Библиотека для работы — Sentence-Transformers. Модель принимает текст и выдаёт векторы; в карточке не заявлены поддерживаемые языки или узкая предметная область. Лицензия в предоставленных данных не указана.

tikanosa выпустил дообученную модель Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она использует архитектуру BERT с усреднённым pooling и преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска и сравнения семантического сходства. Модель предназначена для извлечения текстовых эмбеддингов и retrieval-сценариев; сходство векторов можно оценивать косинусной мерой. Модель содержит 124,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов по метаданным; в README указана максимальная длина 128 токенов. Она основана на многоязычной модели, поэтому подходит для работы с текстами на нескольких языках. Дообучение проведено на наборе из 5 493 пар предложений с оценками сходства. Лицензия в предоставленных данных не указана.