II.6Документация и сопровождение разработки

Это пакет GGUF-слоёв модели Qwen3.8-27B-UD-Q8_K_XL, подготовленный для распределённого запуска через Mesh LLM. Пакет создан на основе unsloth/Qwen3.8-27B-GGUF и распределяет модель по артефактам отдельных слоёв для инференса на локальном кластере из нескольких машин. Модель предназначена для локального приватного чата и генерации текста, в том числе через OpenAI-совместимый API Mesh LLM. Распределение слоёв позволяет объединять вычислительные ресурсы нескольких узлов, когда полной модели недостаточно разместить на одном компьютере. Семейство — Qwen3; вариант использует GGUF-квантование UD-Q8_K_XL. Размер модели и длина контекста в предоставленных данных не указаны.

amd/Qwen3.8-Flash-Next-Quark-MXFP4-PLEFP8 — квантизированный чекпойнт модели Qwen3.8-Flash-Next, подготовленный Advanced Micro Devices (AMD) с использованием AMD-Quark. Модель предназначена для генерации текста по текстовым, графическим и видео­входам; заявленный язык — английский. Архитектура указана как Qwen4ExpForConditionalGeneration, а инференс реализован через SGLang. Основная особенность чекпойнта — квантизация MoE-экспертов, включая shared expert, в OCP MXFP4 для весов и динамических активаций. Таблица PLE-эмбеддингов квантизирована в Per-Tensor FP8, остальные ключевые компоненты, включая attention, Mamba-style linear-attention projections, vision tower, MTP head, router gates и lm_head, сохранены в bfloat16. Модель оптимизирована для AMD Instinct MI350X и MI355X, использует ROCm 7.2.4, PyTorch 2.11.0+rocm7.2, Transformers 5.12.1 и Linux. Чекпойнт рассчитан на ресурсоэффективное развертывание MoE-модели на совместимом оборудовании AMD. На GSM8K в режиме 5-shot он показал результат 96,44 против 96,97 у исходной Qwen3.8-Flash-Next, что соответствует восстановлению 99,5% исходной точности. Ограничения включают узкую аппаратно-программную специализацию, зависимость от конкретной версии SGLang и отсутствие в README сведений о размере модели, длине контекста и более широком наборе оценок. Лицензия обозначена как other; для модификаций указано авторство Advanced Micro Devices, Inc. за 2026 год. Полные условия приведены в файле LICENSE репозитория модели.

Карточка модели XXXMARK/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Qwen3 Embedding 0.6B LRAT Low-LR Continuation v1 — текстовая модель эмбеддингов семейства Qwen3, дообученная командой авторов на базе своего broad-g16-v2, происходящего от Qwen/Qwen3-Embedding-0.6B. Чекпойнт продолжает обучение на 80 517 предоставленных организаторами строках траекторий LRAT с размером группы 16, скоростью обучения 1,5e-7 и длительностью 0,5 эпохи. Несмотря на историческое имя front-success-v1 и подготовленные веса этапа, аудит показал, что эти веса не участвовали в функции потерь; эффективный метод — продолжение обучения с низкой скоростью обучения. Модель предназначена для создания текстовых эмбеддингов и задач поиска по сходству, в частности для экспериментов с извлечением информации по траекториям LRAT. Базовая архитектура — плотная Qwen3Model с 507,6 млн параметров, контекстом до 32 768 токенов и форматом safetensors. Модель унаследовала многоязычную основу Qwen3 Embedding; отдельный перечень поддерживаемых языков в данных не приведён. Для выбора чекпойнта использовалась агрегированная оценка с фиксированным seed в workflow BrowseComp-Plus Agent и Judge на Qwen3.5-4B; локальные результаты не заявлены как официальные. Обучение проводилось на данных организаторов. Лицензия — Apache-2.0.

Mungert/Qwen3-Embedding-4B-GGUF — набор GGUF-версий модели эмбеддингов на базе Qwen/Qwen3-4B-Base, подготовленный автором Mungert с использованием llama.cpp. Модель предназначена для извлечения признаков, вычисления сходства между предложениями и других задач семантического поиска и сопоставления текстов. В репозитории представлены варианты с разной точностью и степенью квантования: BF16, F16, гибридные форматы, Q4_K, Q6_K, Q8 и IQ-серии. Автор применяет метод выборочного повышения точности отдельных слоёв поверх стандартного IMatrix-квантования, чтобы улучшить сохранение качества при уменьшении размера модели, особенно для низкобитных вариантов. Это позволяет выбирать компромисс между точностью, объёмом памяти и скоростью инференса в зависимости от оборудования. Точные характеристики архитектуры, размерности эмбеддингов, максимального контекста и поддерживаемых языков в README не указаны. Низкобитные варианты подходят для запуска на CPU и устройствах с ограниченной VRAM, однако могут уступать полноточным версиям по качеству; BF16 и F16 требуют соответствующей аппаратной поддержки. Модель распространяется по лицензии Apache-2.0.

SLIM-EXTRACT — специализированная языковая модель компании llmware для извлечения из текста элементов по заданному пользователем ключу. Она принимает текстовый фрагмент и ключ, например «universities» или «company», и генерирует словарь Python, где этому ключу соответствует список найденных в тексте значений. Модель предназначена для извлечения структурированных сведений из документов и использования в сценариях function calling. Модель дообучена на llmware/bling-stable-lm-3b-4e1t-v0, основанной на stabilityai/stablelm-3b-4elt. Это плотная авторегрессионная модель семейства StableLM Epoch с 2,7 млрд параметров и контекстом до 4096 токенов. Репозиторий содержит веса PyTorch; лицензия — CC BY-SA 4.0. README не сообщает перечень поддерживаемых естественных языков или количественные показатели качества.

Модель tomaarsen/splade-cocondenser-msmarco-kldiv-minilm-temp-5-5 — англоязычный разреженный кодировщик SPLADE, разработанный на базе Luyu/co-condenser-marco с помощью библиотеки Sentence Transformers. Архитектура состоит из BERT-подобного трансформера BertForMaskedLM и слоя SPLADE pooling с max-пулингом и ReLU. Модель преобразует запросы и документы в разреженные векторы размерностью 30 522, сопоставляемые скалярным произведением; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов: например, для ранжирования кандидатов по запросу и поиска релевантных абзацев в коллекции текстов. В README приведены оценки на наборах NanoMSMARCO, NanoNFCorpus и NanoNQ, а также NanoBEIR; они показывают работоспособность на этих тестах, но не гарантируют качество на других коллекциях. Модель принимает текст и выдаёт векторы признаков. Лицензия — Apache-2.0.

Typhoon-0130 — инструктивная языковая модель команды SCB10X AI Team, предназначенная для диалогов и выполнения пользовательских инструкций на тайском и английском языках. Модель содержит 7,1 млрд параметров, использует плотную decoder-only архитектуру Mistral и поддерживает контекст до 32 768 токенов. Для общения применяется шаблон ChatML. Модель подходит для создания чат-ботов и сервисов ответов на запросы, в том числе при развёртывании через vLLM. Она настроена следовать инструкциям и обучалась с использованием методов и данных, сходных с ORCA и OpenChat. Системные промпты не поддерживаются; модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует оценивать с учётом сценария использования. Лицензия — Apache-2.0.

UEmbed-4B — мультимодальная модель эмбеддингов от Alibaba-NLP на архитектуре Qwen3.5 с примерно 4 млрд параметров. Она принимает текст, изображения, видео и их сочетания, а за один проход формирует плотные векторы и разреженные SPLADE-представления для поиска и сопоставления содержимого. Модель предназначена для семантического и мультимодального поиска, включая поиск по визуальным документам. Плотные векторы подходят для поиска по смыслу, а разреженные активации связаны с терминами словаря и могут использоваться в индексах обратных списков. Модель доступна в формате safetensors и работает через Transformers. Модель обучена на публичных наборах данных для текстового и мультимодального поиска. Лицензия — CC BY 4.0. В README не приведены сведения о длине контекста или результаты, специфичные именно для версии 4B.

johnpaulbin/voice-begging-detection — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768; контекст составляет до 514 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. В карточке указано обучение с CosineSimilarityLoss. Для работы доступны веса PyTorch; модель можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling. Карточка не сообщает о специализированной области применения или целевых языках, поэтому модель следует считать общей текстовой моделью. Лицензия в предоставленных данных не указана.

WeMM-Embedding-2B-GGUF — это GGUF-конверсия мультимодальной модели эмбеддингов WeMM-Embedding-2B, разработанной Tencent, предназначенная для локального инференса через llama.cpp. Модель подходит для семантического поиска и сопоставления текста, изображений и визуальных документов, а также для задач, связанных с инструментами, памятью и мультимодальными агентами. Рекомендуемая конфигурация включает основную модель WeMM-Embedding-2B-Q4_K_M.gguf и визуальный проектор mmproj-WeMM-Embedding-2B-Q8_0.gguf. Размер эмбеддинга составляет 2048, используется pooling по последнему токену и L2-нормализация. Поддерживаются матрёшечные размерности 64, 128, 256, 512, 1024 и 2048. Исходная WeMM поддерживает изображения и видео; в README указано, что аудио не поддерживается. Языки и максимальная длина контекста не указаны. По локальной оценке на 156 задачах MMEB-v3 конфигурация сохраняет примерно 96–99% опубликованных результатов оригинальной модели WeMM-Embedding-2B в сопоставимых группах Image, VisDoc, Text и MCMR. К ограничениям относятся неполное покрытие тестов: не оценивались задачи для видео, GUI и аудио, а результаты локального квантованного запуска нельзя считать строго контролируемым сравнением с нативными BF16/FP16-моделями. Лицензия — Apache-2.0.

XLNet base-cased — англоязычная предварительно обученная языковая модель, разработанная авторами XLNet и впервые выпущенная в этом репозитории. Она содержит 137,8 млн параметров, построена на архитектуре Transformer-XL и использует обобщённое авторегрессионное предобучение с перестановками токенов. Доступны веса PyTorch и TensorFlow; модель обучалась на BookCorpus и Wikipedia. Модель предназначена прежде всего для дообучения под задачи понимания текста, включая классификацию последовательностей и токенов, ответы на вопросы и ранжирование документов. В метаданных Hugging Face для неё указан тег text-generation, однако карточка советует для генерации рассматривать GPT-2, а XLNet использовать для задач, где решение опирается на целое предложение или его контекст. Модель распространяется по лицензии MIT.

Moritz Laurer разработал эту компактную модель для классификации текста без заранее заданного набора классов: пользователь передаёт текст и варианты меток, а модель оценивает их соответствие. Это дообученная на задачах естественного языкового вывода (NLI) модель на базе Microsoft XTREME-Distil, с архитектурой BERT и 14,1 млн параметров по метаданным. Модель принимает текст и выдаёт оценки классов; максимальная длина контекста — 512 токенов. Модель рассчитана на быстрый запуск на устройствах с ограниченными ресурсами и в браузере, в том числе через Transformers.js. Карточка приводит точность на наборах данных, использованных при обучении, но не содержит отдельной оценки zero-shot качества; автор отмечает, что модель работает менее точно, чем более крупные варианты. Лицензия — MIT.

Карточка модели avsolatorio/00-400-10-1-0-1-0-0-cls-normed-768-512_GIST_BAAI_bge-base-en-v1.5-20240130210931-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

deepvk/bert-base-uncased — предобученный двунаправленный энкодер BERT, разработанный deepvk для обработки текстов, преимущественно на русском языке. Модель обучалась стандартной задачей masked language modeling на корпусе из 250 ГБ отфильтрованных текстов, включая Википедию, книги и данные из социальных сетей. По метаданным, она содержит 140,9 млн параметров, использует архитектуру BERT с 12 слоями и 12 головами внимания и поддерживает контекст до 512 токенов. Модель предназначена для извлечения признаков из текста и может служить основой для дообучения под классификацию, анализ сходства и другие задачи понимания языка. В репозитории находятся только веса энкодера без предварительно обученной выходной головы, поэтому для конкретной задачи может потребоваться подходящая голова и дообучение. Карточка сообщает о преимущественно русском обучающем корпусе с небольшой долей других языков; метаданные указывают русский и английский. Лицензия — Apache 2.0.

swardiantara/bert-tiny-sst5-k5-adaptive-cosine — компактная Sentence Transformer-модель на основе BERT, дообученная автором репозитория на 8 894 парах текстов. Она кодирует предложения и абзацы в плотные векторы размерности 128; косинусное сходство между ними подходит для поиска и сравнения текстов. Архитектура включает BertModel с усредняющим pooling. В метаданных указано 4,4 млн параметров и контекст до 512 токенов; в README для Sentence Transformers задан предел последовательности 128 токенов. Модель предназначена для извлечения эмбеддингов и семантического поиска по тексту. Примеры обучающих данных — англоязычные рецензии на фильмы, поэтому в первую очередь она подходит для сравнения и поиска коротких английских текстов. Базовая модель — google/bert_uncased_L-2_H-128_A-2. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

onnx-community/bge-small-en-v1.5-ONNX — модель для создания векторных представлений текста (эмбеддингов), разработанная сообществом onnx-community на основе BAAI/bge-small-en-v1.5. Она распространяется с весами в формате ONNX и предназначена для использования в JavaScript-библиотеке Transformers.js, включая браузерные и другие web-ориентированные сценарии. Модель поддерживает задачу извлечения признаков текста и формирует эмбеддинги размерностью 384. В примерах используется pooling по CLS-токену и нормализация векторов. Модель подходит для семантического поиска и retrieval-сценариев: тексты документов и поисковые запросы преобразуются в эмбеддинги, после чего сравниваются, например, по косинусной близости. Для запросов рекомендуется добавлять инструкцию «Represent this sentence for searching relevant passages:». README не указывает архитектуру, максимальную длину контекста, перечень поддерживаемых языков, размер модели или точные ограничения качества. К сильным сторонам относятся компактный формат ONNX, совместимость с Transformers.js и возможность выполнять вычисление эмбеддингов в JavaScript-среде. Ограничения включают отсутствие в README сведений о лицензии, языковой поддержке и характеристиках производительности; по базовому идентификатору и приведённым примерам модель ориентирована на англоязычные тексты. Условия лицензирования в предоставленных данных не указаны.

BTE-Base-Ar — модель эмбеддингов на базе Sentence Transformers и архитектуры ModernBERT, представленная ALJIACHI. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Модель содержит около 148,9 млн параметров и обрабатывает последовательности длиной до 8192 токенов; для длинных текстов применяется скользящее окно. Модель предназначена прежде всего для арабского языка, также обучалась на арабских и английских текстах. Её можно использовать для семантического поиска и сравнения фраз, поиска перефразировок, кластеризации и классификации текстов. В README приведён результат Spearman 0,8538 на оценке сходства предложений, а также заявлены высокая скорость и сниженное потребление памяти; условия и наборы для этих сравнений не раскрыты. Модель распространяется по лицензии MIT. Она выдаёт эмбеддинги, а не готовые текстовые ответы; качество на других языках и в задачах за пределами приведённой оценки в карточке не описано.

Это пакет слоёв GGUF-модели DeepSeek-V3.2-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска. Он основан на unsloth/DeepSeek-V3.2-GGUF и сохраняет её веса в отдельных артефактах по слоям; вариант квантования — UD-Q4_K_XL. Пакет предназначен для локального и приватного чат-инференса, в том числе на нескольких машинах, когда полная модель не помещается на одном узле. Через Mesh LLM он поддерживает подачу запросов на генерацию текста и совместимый с OpenAI интерфейс chat completions. В метаданных указана библиотека mesh-llm; исходная карточка модели содержит дополнительные сведения об архитектуре и условиях лицензии, которых в предоставленных данных нет.

Eager Embed V1 — мультимодальная плотная модель эмбеддингов, разработанная Хуаном Пабло Баларани при финансировании Eagerworks. Она дообучена на Qwen/Qwen3-VL-4B-Instruct и предназначена для индексации и поиска по документам с учётом их визуального и текстового содержимого. Модель формирует эмбеддинги для визуально-текстового поиска по документам. По сравнению с многовекторными подходами типа ColBERT она рассчитана на баланс между размерностью эмбеддингов, точностью поиска и эффективностью; для сравнения эмбеддингов не требуется функция max-sim. Модель оценивали на бенчмарках Vidore 1, 2 и 3. В основе лежит мультимодальная архитектура Qwen3-VL с 4 млрд параметров. Использование предполагает подачу визуального и текстового содержимого документов и получение векторных представлений для поиска. Модель распространяется по лицензии Apache 2.0.

jspringer/echo-mistral-7b-instruct-lasttoken — модель для извлечения текстовых признаков и построения эмбеддингов на основе Mistral. В карточке указаны плотная архитектура Mistral, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. README связывает модель с подходом Echo, в котором повторение улучшает языковые эмбеддинги, но подробности и примеры использования вынесены во внешние материалы. Модель предназначена для получения векторных представлений текста, в том числе для сценариев семантического поиска и сравнения текстов. В метаданных также отмечена возможность диалогового взаимодействия. Поддерживаемые языки и лицензия в доступных данных не указаны, поэтому их нельзя надёжно определить.

F2LLM-v2-14B-Preview — предварительная многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-14B. Она обучена на корпусе из 27 млн примеров, охватывающем более 100 естественных и программных языков, и предназначена как основа для задач векторного представления текста и дальнейшего дообучения; версия Preview обучена без инструкционного формата. Модель имеет плотную архитектуру Qwen3 с 14 млрд параметров, работает с текстом и поддерживает контекст до 40 960 токенов. Для получения эмбеддингов доступны библиотеки Sentence Transformers и Transformers. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Поскольку это базовая версия без инструкционного обучения, она предназначена для встраивания в поисковые и другие embedding-системы, а не для диалогового использования как instruct-модель. README не приводит оценки качества или подробные ограничения по отдельным языкам и задачам.

GLuCoSE-base-ja-v2 — японская модель эмбеддингов текста, разработанная Chihiro Yano, Mocho Go, Hideyuki Tachibana, Hiroto Takegawa и Yotaro Watanabe. Это дообученная дистилляцией и многоэтапным контрастивным обучением версия GLuCoSE-base-ja на основе архитектуры LUKE; она создаёт векторные представления предложений и фрагментов текста для поиска и сравнения смысла. Модель содержит 138,4 млн параметров, выдаёт эмбеддинги размерностью 768 и поддерживает контекст до 512 токенов по README и 514 токенов по метаданным. Для запросов и документов при инференсе требуются префиксы «query: » и «passage: » соответственно; близость оценивают косинусным сходством. Модель ориентирована на японский язык и задачи поиска: по описанию авторов, она показывает высокие результаты среди моделей сопоставимого размера в MIRACL и других тестах. Может работать на CPU и доступна через библиотеку Sentence Transformers. Подходит для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Распространяется по лицензии Apache-2.0. Результаты зависят от корректного добавления префиксов и соответствия корпуса японскому языку.

InternVL3-14B-hf — реализация на базе Transformers мультимодальной модели OpenGVLab InternVL3. Репозиторий содержит веса в формате safetensors и предназначен для функционально эквивалентного использования модели в экосистеме Hugging Face Transformers; архитектура — плотная модель InternVL с поддержкой диалогового режима и зрения. Это дообученная версия OpenGVLab/InternVL3-14B-Instruct. Модель принимает текст вместе с изображениями и видео, а также поддерживает генерацию текста по одному лишь текстовому запросу. Она предназначена для визуальных вопросов и ответов, анализа изображений и видео, мультимодального рассуждения и сценариев взаимодействия с интерфейсами и инструментами. В README отмечены возможности пакетного инференса и обработки чередующихся текстовых, графических и видеоданных; заявлены улучшения мультимодального восприятия и рассуждения относительно InternVL 2.5. Карточка указывает мультиязычную поддержку, но не перечисляет конкретные языки. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией исходной модели и репозитория. Модель рассчитана на инференс через Transformers; конкретные ограничения качества и контекстного окна в предоставленных данных не описаны.

KaLM-embedding-multilingual-mini-v1-i1-GGUF — GGUF-квантизованная версия модели HIT-TMG/KaLM-embedding-multilingual-mini-v1, подготовленная и опубликованная mradermacher. Это модель для получения векторных представлений текста, предназначенная для семантического поиска, сравнения сходства предложений, кластеризации и других задач извлечения признаков; в карточке также указана совместимость с экосистемой sentence-transformers и MTEB. Модель позиционируется как мультиязычная, однако в метаданных README явно указан только английский язык. Архитектура, число параметров, размерность эмбеддингов, максимальная длина контекста и сведения о поддерживаемых модальностях не приведены. Доступны многочисленные варианты GGUF-квантизации размером примерно от 0,4 до 0,5 ГБ, включая IQ- и Q-форматы; Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества, а Q4_K_M — как быстрый и рекомендуемый. Основные преимущества — небольшой размер файлов и возможность выбрать компромисс между скоростью, занимаемой памятью и качеством. При этом агрессивные варианты квантизации могут заметно снижать качество, а README не содержит количественных результатов тестирования или подробного описания ограничений. Модель распространяется по лицензии MIT; в карточке указано, что квантизацию выполнил mradermacher.

metythorn/Konai-OCR — модель распознавания текста на изображениях, опубликованная в формате ONNX. README называет её моделью распознавания текста и указывает ViTOCR; метаданные классифицируют её как image-to-text и отмечают архитектурные признаки vision и transformer. Модель предназначена для извлечения текста из изображений с помощью инференса через ONNX Runtime. README упоминает использование Python-библиотек Pillow, PyTorch, torchvision и NumPy, но не приводит сведения о размере модели, поддерживаемых языках, контекстном окне или оценках качества. Лицензия — Apache-2.0.

LENS-d4000 — модель текстовых эмбеддингов, разработанная Yibin Lei. Она использует подход Lexicon-based Embeddings: компоненты вектора задуманы как соответствующие кластерам семантически близких токенов. Версия d4000 формирует представления размерностью 4000 на основе архитектуры Mistral с 7,1 млрд параметров. Модель предназначена для извлечения признаков из текста и получения эмбеддингов, которые можно применять для сравнения семантической близости текстов и поиска по смыслу. Для неё заявлен контекст длиной до 32 768 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache 2.0. Описание не содержит результатов оценок качества или подробностей о рекомендуемом способе использования и ограничениях представлений. Указан интерфейс извлечения признаков, поэтому для получения эмбеддингов может потребоваться подходящая библиотека или обёртка.

LLARA-pretrain — модель семейства LLaRA от BAAI, представленная в проекте LLARA. В карточке проекта описаны подходы EBAE (автоэнкодирование на основе эмбеддингов) и EBAR (авторегрессия на основе эмбеддингов). Это плотная причинно-языковая модель LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для получения текстовых эмбеддингов и оценки сходства предложений; метаданные также указывают поддержку извлечения признаков и генерации текста. Её можно применять для поиска семантически близких фраз и построения эмбеддинговых представлений текста. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

amd/MiniMax-M2.1-MXFP4 — текстовая causal language model на базе MiniMaxAI/MiniMax-M2.1, подготовленная Advanced Micro Devices, Inc. Модель принимает текст и генерирует текст, предназначена для задач обработки естественного языка и инференса больших языковых моделей. Модель использует архитектуру MiniMaxM2ForCausalLM и поддерживает английский язык. Веса и активации квантизированы в формате OCP MXFP4: веса — статически, активации — динамически. Квантизация выполнена с помощью AMD-Quark версии 0.11 на основе QuixiAI/MiniMax-M2.1-bf16. Для запуска указаны SGLang и vLLM, а целевая аппаратная платформа — AMD Instinct MI300 и MI350/MI355 с ROCm 7.0, PyTorch 2.8.0 и Transformers 4.57.1 под Linux. В README также приведён пример запуска с максимальной длиной контекста 32 768 токенов. На GSM8K модель показала результат 0,9348 против 0,9356 у исходной BF16-версии, сохранив 99,91% исходной точности. Это указывает на небольшую потерю качества при существенном снижении точности представления, однако данных о других бенчмарках, скорости, потреблении памяти и качестве на иных языках или задачах нет. Использование ориентировано на совместимое оборудование AMD и соответствующий программный стек. Лицензия обозначена как modified-MIT; в README указаны модификации и авторские права Advanced Micro Devices, Inc. за 2026 год.

MoganBERT-Embed — модель эмбеддингов MoganAI на базе турецкого энкодера MoganBERT-TR. Она содержит около 149 млн параметров и использует архитектуру ModernBERT. Модель преобразует текст в векторы размерности 768 с помощью среднего pooling и L2-нормализации; инструкции к задаче или префиксы не требуются. Контекст по метаданным — до 8192 токенов; в описанной оценке MTEB использовалось не более 2048 токенов. Модель предназначена для семантического поиска, кластеризации, классификации текстов и оценки семантического сходства предложений. Она обучалась с дистилляцией от Qwen3-Embedding-8B и контрастивным дообучением на сигналах поиска, NLI, STS, классификации, вопросах и ответах, а также параллельных текстах. По README, поиск — относительно слабая сторона модели; для сценариев, где он является основным приоритетом, авторы указывают на Mogan-ColBERT-TR. Модель распространяется по лицензии Apache-2.0.