II.1Анализ требований и архитектура ПО

Melvin56/GLM-4-9B-0414-abliterated-GGUF — это GGUF-квантизованная версия модели huihui-ai/GLM-4-9B-0414-abliterated, подготовленная пользователем Melvin56. Модель предназначена для генерации текста и локального запуска через совместимые реализации llama.cpp. В README указано, что квантизация выполнена с использованием imatrix и специального набора данных, а сами файлы пересобраны на базе llama.cpp build 558a7647 (5190). Модель относится к семейству GLM и имеет размер 9B параметров в исходной версии; доступны варианты K-quants и I-quants. Поддерживаются CPU с AVX2 и ARM NEON, Metal, cuBLAS, rocBLAS и SYCL, а для отдельных вариантов также Vulkan и CLBlast; некоторые конфигурации работают медленнее или поддерживаются частично. Заявлены китайский и английский языки, текстовая модальность и контекст генерации текста, однако точный размер контекстного окна в README не указан. К сильным сторонам относятся возможность локального запуска на широком спектре CPU и GPU, выбор разных уровней квантизации и совместимость с llama.cpp. Ограничения включают зависимость производительности и доступности отдельных вариантов от backend и аппаратной платформы, а также отсутствие подробных данных о качестве, бенчмарках и точном контекстном окне. Модель распространяется по лицензии MIT.

Granite Switch 4.1 30B Preview — модульная языковая модель IBM Research на базе IBM Granite 4.1 30B, объединяющая базовую модель со встроенными адаптерами LoRA из библиотек Granite. В чекпойнте 29,3 млрд параметров и контекст до 131 072 токенов; выбор адаптера выполняется по управляющим токенам шаблона чата. Модель поддерживает диалоговый режим и запускается через Hugging Face Transformers или vLLM. Адаптеры предназначены для задач RAG, проверки требований к ответу, атрибуции использованных фрагментов контекста, оценки неопределённости, выявления рисков безопасности и проверки либо исправления фактических ошибок. В RAG-сценариях они также помогают переписывать и уточнять запросы, а также оценивать, можно ли ответить по найденным материалам. Адаптеры можно вызывать отдельно или сочетать в одном процессе; для прикладной интеграции README рекомендует Mellea. Модель выпущена IBM в мае 2026 года под лицензией Apache 2.0. Описание не подтверждает языковое покрытие адаптеров; характеристики многоязычности базовой модели нельзя автоматически считать подтверждёнными для каждой встроенной функции. Для использования специализированных возможностей требуется корректно активировать соответствующие адаптеры через шаблон чата или поддерживаемую интеграцию.

gte-base — модель для получения векторных представлений английских текстов, разработанная Alibaba DAMO Academy в рамках семейства General Text Embeddings (GTE). Она основана на архитектуре BERT и содержит 136,7 млн параметров; размерность эмбеддингов — 768, максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, а также может использоваться для ранжирования и других задач на основе текстовых эмбеддингов. В README приведены результаты оценки на бенчмарке MTEB, включая поиск, семантическое сходство, классификацию и ранжирование. Модель работает только с английскими текстами, а вход длиннее 512 токенов обрезается. Лицензия — MIT. В репозитории представлены форматы PyTorch, Safetensors, ONNX и OpenVINO.

yahyaabd/indosbert-bps-custom-tokenizer — модель Sentence Transformer на архитектуре BERT, представленная в формате safetensors. Она преобразует предложения и абзацы в плотные векторы размерности 1024; среднее объединение токенов используется для получения представления текста, а сходство между векторами можно оценивать косинусной мерой. Модель рассчитана на последовательности до 512 токенов. Её можно применять для поиска семантически близких текстов, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Метаданные указывают 434 млн параметров и библиотеку Sentence Transformers. В README обучение модели описано в общих чертах, без сведений о разработчике или обучающих данных. Лицензия в предоставленных сведениях не указана.

Instructor-large — модель текстовых эмбеддингов, разработанная исследовательской группой HKUNLP и дообученная следовать инструкциям для получения векторов, настроенных под задачу и предметную область. Задачу задают текстовой инструкцией при кодировании, без отдельного дообучения под каждый сценарий. Модель основана на T5 Encoder и содержит 385,2 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для семантического поиска и извлечения информации, классификации, кластеризации, оценки текста и сравнения сходства предложений. Инструкции могут задавать область, например науку, финансы или медицину, и цель представления текста. В README заявлены высокие результаты на разнообразных задачах бенчмарка MTEB. Модель принимает текст и выдаёт эмбеддинги; для работы с ней авторы рекомендуют библиотеку InstructorEmbedding на базе Sentence Transformers. Модель поддерживает английский язык. Лицензия — Apache-2.0. Контекст ограничен 512 токенами, а заявленные результаты бенчмарка не гарантируют качество для каждой пользовательской задачи; инструкцию и применение следует подбирать и оценивать отдельно.

Intel разработала intel-optimized-model-for-embeddings-v1 — текстовую модель эмбеддингов на архитектуре BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для семантического поиска и кластеризации. Модель содержит 49,2 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и safetensors. Модель дообучена с использованием библиотеки sentence-transformers на основе BERT-Medium_L-8-H-512-A-8 с UAE-Large-V1 в роли учителя. В обучении использовались наборы данных для поиска сущностей, открытого вопросно-ответного поиска и задач по научным документам. Лицензия модели — MIT. Данные не определяют поддерживаемые естественные языки и конкретные показатели качества.

leeloolee/intention — многоязычная модель векторных представлений текста из семейства GTE, описанная в карточке как gte-multilingual-base. Она предназначена для поиска по смыслу, многоязычного и межъязыкового поиска, а также других задач представления текста. Модель имеет архитектуру Transformer encoder-only, около 305 млн параметров и поддерживает контекст до 8192 токенов. Она формирует плотные эмбеддинги размерности 768 и может выдавать разреженные векторы; заявлена поддержка более 70 языков. Карточка сообщает о высоких результатах на задачах многоязычного поиска и оценках текстовых представлений, а также о более низких требованиях к инференсу по сравнению с более крупными моделями семейства GTE. Указанные результаты относятся к оценкам разработчиков; они не гарантируют качество на каждом конкретном наборе данных. Лицензия — Apache-2.0.

InternVL3-9B-Instruct — мультимодальная чат-модель OpenGVLab, дообученная методом supervised fine-tuning на базе OpenGVLab/InternVL3-9B-Pretrained. Она предназначена для диалога и рассуждений по тексту и изображениям, включая понимание нескольких изображений, видео, научных схем, интерфейсов GUI и 3D-сцен. Модель также обучалась работе с инструментами. Это вариант SFT без этапа MPO. Архитектура сочетает визуальный кодировщик InternViT, MLP-проектор и языковую модель; для обработки изображений используется разбиение на фрагменты 448×448 и динамическое разрешение. Поддерживаются мультимодальные входы и текстовые ответы; карточка указывает многоязычность, но конкретные языки и размер контекста для этого репозитория не приводит. Модель распространяется под лицензией MIT. К возможным ограничениям относятся ошибки в визуальном восприятии и рассуждениях; обработка нескольких изображений увеличивает число токенов и требования к контексту и вычислениям.

bartowski/Jackrong_Qwen3.5-9B-Neo-GGUF — это набор GGUF-квантизаций модели Jackrong/Qwen3.5-9B-Neo, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста и рассуждений, включая решение задач по программированию; при этом в карточке указан pipeline image-text-to-text, однако подробности поддержки изображений не приведены. Модель имеет размер порядка 9 миллиардов параметров, обучалась с использованием наборов данных Jackrong/Competitive-Programming-python-blend и stepfun-ai/Step-3.5-Flash-SFT. Заявлены английский и китайский языки, а также поддержка reasoning и chain-of-thought. Доступны варианты от BF16 и Q8_0 до компактных Q2_K_L, Q3 и IQ-квантизаций; версии с более высокой точностью обеспечивают лучшее качество, а младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Размер контекста и точная архитектура в README не указаны. Файлы предназначены для локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые приложения. Для корректной работы следует использовать указанный шаблон prompt format с секцией <think>. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие в карточке подробных сведений о точности, производительности, контекстном окне и фактических возможностях мультимодальной обработки.

jina-embedding-s-en-v1 — англоязычная модель эмбеддингов, разработанная Jina AI для представления предложений и текстов в виде векторов. Она обучена на наборе Linnaeus-Clean из 380 млн пар предложений, включая пары запрос–документ, отобранные из разных предметных областей. Архитектура — T5 encoder; модель содержит 38,5 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для сравнения семантической близости предложений, поиска подходящих документов по запросу и построения текстовых векторных представлений. В README приведено сравнение с несколькими моделями на наборах STS и задачах поиска; результаты зависят от конкретного набора данных и сценария. Доступна под лицензией Apache-2.0.

jina-embeddings-v5-text-small-mlx — мультимодульная по задачам модель эмбеддингов Jina AI для Apple Silicon, основанная на Qwen3 и использующая четыре LoRA-адаптера для переключения задач. Репозиторий содержит базовые веса и адаптеры; при смене задачи адаптеры объединяются с весами на месте. Модель имеет 507,9 млн параметров, работает в float16 и создаёт векторы размерностью до 1024 с поддержкой Matryoshka-размеров 32, 64, 128, 256, 512, 768 и 1024. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для семантического поиска, сравнения текстов и группировки документов; метаданные указывают задачу feature-extraction. Карточка сообщает о высокой близости результатов к предварительно объединённым контрольным точкам и переключении адаптеров примерно за 20 мс. Установка описана через MLX, поэтому применение ориентировано на устройства Apple Silicon. Модель основана на jinaai/jina-embeddings-v5-text-small и распространяется по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

KaLM-embedding-multilingual-mini-instruct-v2 — компактная мультиязычная модель для получения текстовых эмбеддингов, разработанная HIT-TMG и дообученная на базе Qwen/Qwen2-0.5B. Она использует двунаправленное внимание и многоэтапное обучение с предварительной и контролируемой настройкой на наборах данных для разных задач представления текста. Размер модели — около 0,5 млрд параметров, размерность эмбеддинга — 896, поддерживаются варианты размерности 512, 256, 128 и 64. README указывает максимум 32 тыс. токенов на вход, а метаданные — нативный контекст 131 072 токена. Модель предназначена для поиска и сопоставления текстов, семантического сходства, классификации и кластеризации; для асимметричных задач и симметричного сравнения предусмотрены инструкции к запросам и текстовым фрагментам. В карточке и метаданных отмечены английский и китайский языки. Модель распространяется по лицензии MIT. Метрики качества для конкретных языков и сценариев в предоставленных данных не приведены.

Карточка модели abhinavsunil/kitchenelite-recipe-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

shangrilar/klue-roberta-base-klue-sts — модель на базе RoBERTa, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения семантической близости. Модель подходит для семантического поиска, кластеризации и других задач, где нужно находить похожие тексты или группировать их по смыслу. Для использования доступны Sentence-Transformers и Transformers с последующим pooling контекстных представлений. Обучение проводилось с CosineSimilarityLoss. Веса представлены в формате safetensors; модель содержит 137,8 млн параметров и поддерживает контекст до 514 токенов. Карточка не сообщает лицензию или конкретный набор языков, поэтому они не указаны.

LaBSE-geonames-15K-MBML-5e-v1 — дообученная модель на основе многоязычной BERT-модели LaBSE, опубликованная пользователем dima-does-code. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости; подходит для семантического поиска и кластеризации текстов. В обучении использовалась MegaBatchMarginLoss. Модель принимает текст, поддерживает русский и английский языки и обрабатывает до 512 токенов за контекст. Вес модели составляет 498,1 млн параметров; доступны форматы PyTorch и safetensors. Модель рассчитана на поиск текстов со сходным смыслом и группировку предложений или абзацев. Лицензия — Apache-2.0. Карточка не приводит подробных результатов оценки качества, поэтому пригодность для конкретного набора данных следует проверять отдельно.

Open-Assistant Llama2 70B SFT OASST — языковая модель, разработанная Open-Assistant и дообученная на базе Llama 2 70B на смеси диалогов OASST с оценкой top-1. Это плотный авторегрессионный трансформер-декодер, предназначенный для генерации ответов в диалоговом формате. Для разграничения реплик используются специальные токены начала пользовательского и ассистентского хода и окончания хода. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на английском, немецком, испанском и французском языках; README также отмечает ограниченные возможности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Число параметров составляет 68,7 млрд, контекст — 4096 токенов. Веса представлены в формате PyTorch, лицензия — Apache 2.0. Качество и полнота ответов на языках за пределами основных четырёх могут быть ограничены; контекст ограничен 4096 токенами. Модель предназначена для генерации текста по диалоговым примерам, а не для специализированных задач вроде распознавания изображений или аудио.

thuan9889/llama_embedding_model_v1 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная пользователем thuan9889. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель рассчитана на работу через библиотеку Sentence Transformers; в репозитории представлены веса Safetensors, размер модели — 25,9 млн параметров, контекст — до 512 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Это подходит для получения векторов, где семантически близкие тексты располагаются рядом, но качество для конкретного языка и предметной области зависит от данных пользователя. Лицензия в предоставленных сведениях не указана.

Longformer-large-4096 — англоязычная предварительно обученная модель-трансформер от Allen Institute for AI (AI2), предназначенная для представления и анализа длинных текстов. В конфигурации — 24 слоя, 1024 скрытых измерения и около 454,1 млн параметров; модель рассчитана на последовательности примерно до 4096 токенов. Механизм внимания сочетает локальное скользящее окно и настраиваемое глобальное внимание, благодаря чему обработка длинных последовательностей масштабируется линейно по их длине. Модель подходит как основа для дообучения под задачи классификации документов, поиска ответов и других задач понимания текста; сама по себе она не является генеративным чат-ботом. Доступны веса PyTorch и TensorFlow. Условия лицензии в использованных источниках не установлены.

harsh-wk/long-seq-paraphrase-MiniLM-L6-v2 — модель Sentence Transformers для преобразования предложений и абзацев в плотные векторы размерности 384. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. По метаданным, модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена Sentence Transformers и распространяется по лицензии Apache-2.0. В репозитории доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. README описывает семантический поиск и кластеризацию как основные сценарии; язык текстов, поддерживаемых моделью, в предоставленных данных не установлен.

LoopCoder-V2 — плотная инструкционная модель для программирования с 7,2 млрд параметров, разработанная Multilingual-Multimodal-NLP на архитектуре Parallel Loop Transformer (PLT). Модель обучена с нуля на смеси текста и кода, а затем настроена для следования инструкциям; опубликованный вариант использует два прохода общих блоков трансформера для дополнительного вычисления при генерации. Контекст модели составляет 131 072 токена. Модель предназначена для генерации и анализа кода, рассуждений о программном коде, помощи при работе с репозиториями, агентных сценариев разработки и использования инструментов. В README приведены результаты на тестах генерации кода и программной инженерии; вариант с двумя циклами улучшил результаты относительно однопроходного базового варианта, тогда как увеличение числа циклов может ухудшать качество. Модель принимает текстовые инструкции и выдаёт текст, включая код; обучающие данные включают более 100 языков программирования. Для загрузки требуется среда с поддержкой пользовательской архитектуры IQuestPLTCoderForCausalLM и конфигурации токенизатора из репозитория. Лицензия — Apache-2.0.

gemasphi/mcontriever — модель на основе архитектуры BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. Общее число параметров — 205,1 млн, максимальная длина контекста — 512 токенов; репозиторий содержит веса PyTorch. Модель подходит для построения векторного поиска по текстовым коллекциям, группировки похожих фрагментов и оценки семантической близости. В README описано обучение с CosineSimilarityLoss. Язык обучения или перечень поддерживаемых языков в предоставленных данных не подтверждены. Лицензия в доступных сведениях не указана.

openbmb/MiniCPM3-4B-GGUF — это набор файлов модели MiniCPM3-4B в формате GGUF, разработанной командой OpenBMB. Репозиторий содержит варианты minicpm3-4b-fp16.gguf и minicpm3-4b-q4_k_m.gguf. Модель предназначена для локального запуска в совместимой с GGUF инфраструктуре; конкретные сценарии применения, архитектура, размер контекста и поддерживаемые модальности в представленном README не указаны. Известно, что заявлены английский и китайский языки, а базовой моделью является openbmb/MiniCPM3-4B. Варианты FP16 и Q4_K_M различаются способом хранения и уровнем квантования, что может влиять на требования к памяти и качество работы. Лицензия и ограничения использования в README не указаны. Для подробностей по применению предлагается обратиться к репозиторию OpenBMB/MiniCPM.

MiniCPM5-2B-GGUF — квантизированная версия языковой модели MiniCPM5-2B, разработанной OpenBMB и распространяемой в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и может использоваться в сценариях, требующих локального запуска, работы на периферийных устройствах и поддержки вызова инструментов. В README также заявлены возможности работы с длинным контекстом. Модель имеет около 2 миллиардов параметров, относится к текстовым моделям и ориентирована на английский и китайский языки. Доступны варианты квантизации от Q2_K до Q8_0, а также версия f16, с размером файлов примерно от 1,1 до 5,1 ГБ. Варианты Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди быстрых конфигураций. Основное преимущество модели — компактность и возможность локального использования при выборе подходящего уровня квантизации. Ограничения связаны с компромиссом между размером, скоростью и качеством: менее точные варианты могут заметно уступать более крупных или слабо квантизированных версий. В README не приведены результаты бенчмарков, точный размер контекста и подробные сведения об архитектуре. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-heretic-GGUF — это набор GGUF-квантизованных версий языковой модели MiniCPM5-2B-heretic, разработанной Dingdust и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста, работы с длинным контекстом, вызова инструментов и локального запуска на устройствах с ограниченными ресурсами. В карточке указана поддержка английского и китайского языков. Модель относится к семейству MiniCPM и имеет размер 2 млрд параметров. Доступны варианты квантования от Q2_K до Q8_0, IQ4_XS и f16; размер файлов составляет примерно от 1,1 до 5,1 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с наилучшим качеством среди перечисленных. Архитектура и максимальная длина контекста в README не указаны; по тегам модель ориентирована на текстовые сценарии, edge AI и on-device deployment. К сильным сторонам относятся компактный размер, возможность локального запуска и выбор между несколькими уровнями компромисса по скорости, качеству и потреблению памяти. Ограничения связаны с потерями качества при низком квантовании, а также с отсутствием в карточке подробных результатов оценки, описания конкретной архитектуры и точного размера контекста. Модель распространяется по лицензии Apache-2.0.

marrodion/minilm-l12-v2-simple — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L12-v2, разработанная автором репозитория marrodion. Она кодирует предложения и абзацы в плотные векторы размерности 384 и предназначена для сравнения текстов по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру BERT с усреднением токенных представлений и нормализацией векторов. Метаданные указывают размер около 40 млн параметров и нативный контекст до 512 токенов; в README указан максимальный размер последовательности 128 токенов. Обучение описано на парах предложений с оценками сходства, а в README приведена оценка на наборе SemEval-15-dev. Модель рассчитана на текст на английском языке, как и базовая all-MiniLM-L12-v2. Она выдаёт эмбеддинги, а не готовые ответы; качество зависит от предметной области и данных, а длинные последовательности ограничены указанным размером. В метаданных лицензия не приведена. Для использования требуется библиотека Sentence Transformers.

SetFit/MiniLM_L3_clinc_oos_plus_distilled — компактная модель эмбеддингов предложений на архитектуре BERT, представленная в формате PyTorch. Она преобразует предложения и абзацы в плотные векторы размерности 384; модель можно применять для семантического поиска, кластеризации и оценки сходства текстов. Для кодирования предусмотрен контекст длиной до 512 токенов. Модель содержит 18,8 млн параметров и обучалась с функцией потерь CosineSimilarityLoss. Она подходит для построения векторного поиска и группировки текстов, но карточка не приводит результатов оценки качества или перечня поддерживаемых языков. Лицензия в предоставленных данных не указана.

gaussalgo/MiniLM-L6-v2-Canard-Fullwiki — модель эмбеддингов на базе BERT, опубликованная пользователем gaussalgo. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения сходства текстов. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством; модель доступна в формате PyTorch и рассчитана на контекст до 512 токенов. Модель подходит для поиска семантически близких фрагментов и группировки текстов по смыслу. В карточке не приведены поддерживаемые языки и результаты оценки качества, поэтому нельзя уверенно определить языковой охват или сравнительную эффективность. Размер модели — около 40 млн параметров. Условия лицензии в предоставленных данных не указаны.

avsolatorio/MixEmbedMean-base-20240116001529-best — компактная модель эмбеддингов предложений на архитектуре BERT, опубликованная 16 января 2024 года. Она преобразует предложения и абзацы в плотные векторы размерностью 384 и предназначена для поиска по смыслу, кластеризации и сравнения текстов. Размер модели — 18,8 млн параметров, максимальная длина контекста — 512 токенов; для работы доступны веса в формате safetensors и библиотека Sentence-Transformers. Согласно README, модель дистиллирована из BAAI/bge-small-en-v1.5 и имеет вчетверо меньше параметров, не относящихся к эмбеддингам, чем исходная модель. В README также отмечено, что при примерно половине параметров all-MiniLM-L6-v2 она показывает сопоставимое качество. Английский язык следует из базовой модели bge-small-en-v1.5; подтверждений поддержки других языков нет. Лицензия в предоставленных данных не указана.

ML-Embed-0.6B — мультиязычная модель эмбеддингов текста от CodeFuse AI, дообученная в два этапа на основе Qwen3-0.6B. Она преобразует текст в векторы размерности 1024 для семантического поиска, плотного извлечения документов, RAG, кластеризации, классификации, поиска дубликатов и межъязыкового сравнения. Архитектура использует причинное внимание, а представление последовательности строится по токену EOS; максимальная длина контекста — 40 960 токенов. Модель поддерживает множество языков, включая английский, китайский и русский, и совместима с обычной загрузкой через Transformers и Sentence Transformers. Обучение Matryoshka позволяет сокращать число слоёв и размерность эмбеддингов, а также использовать факторизованные матрицы для более экономного развёртывания; такие режимы могут снижать качество. Для задач поиска рекомендуется добавлять инструкцию к запросу, но не к документам. Лицензия — Apache-2.0.

mmBERT-32K-YaRN — многоязычная модель семейства ModernBERT, разработанная для Semantic Router и семейства Mixture-of-Models проекта vLLM. Она расширяет jhu-clsp/mmBERT-base с 8 192 до 32 768 токенов контекста с помощью масштабирования RoPE методом YaRN. Модель содержит около 307 млн параметров и использует архитектуру ModernBERT с Flash Attention 2; доступны веса Safetensors и экспорт ONNX. Модель предназначена для понимания длинных документов, классификации запросов для семантической маршрутизации, классификации документов, поиска информации и других многоязычных NLP-задач с длинным контекстом. В README заявлена поддержка более 1 800 языков; метаданные перечисляют английский, немецкий, французский, испанский, китайский, японский, русский, арабский, корейский и португальский. Обучение продолжения на CC-100 описано как работа с последовательностями длиной 32 768 токенов. Для длинных фрагментов точность извлечения снижается при расстоянии свыше 2 048 токенов. Обучающие данные собраны из веб-страниц и могут содержать связанные с ними смещения; для обработки полного контекста 32K README указывает потребность примерно в 180 ГБ GPU-памяти при batch size 1. Лицензия — MIT.