II.1Анализ требований и архитектура ПО

michaelfeil/Qwen3-Embedding-4B-auto — текстовая embedding-модель семейства Qwen3, представленная в виде дообучения Qwen/Qwen3-4B-Base. Она преобразует текст в векторы для поиска и сравнения текстов, извлечения информации, кластеризации, классификации и поиска соответствий между языками; поддерживаются также сценарии поиска по коду. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает последовательности длиной до 40 960 токенов согласно метаданным. Размер выходного embedding можно задавать в диапазоне от 32 до 2560 измерений. Карточка заявляет поддержку более 100 естественных языков и языков программирования, а также настройку инструкций под задачу; для многоязычных сценариев рекомендуются инструкции на английском языке. Модель предназначена для прикладного использования в поисковых и аналитических системах. Для получения векторов требуется библиотека Transformers версии 4.51.0 или новее: в более ранних версиях возможна ошибка распознавания архитектуры Qwen3. Лицензия — Apache-2.0.

google-bert/bert-base-cased-finetuned-mrpc — англоязычная модель семейства BERT от Google, дообученная для задачи определения перефразирования в корпусе Microsoft Research Paraphrase Corpus (MRPC). Она предназначена для оценки того, выражают ли две фразы одно и то же; её можно применять для поиска дубликатов и группировки похожих предложений. В метаданных Hugging Face модель представлена как BERT для заполнения пропусков: 135,5 млн параметров, контекст до 512 токенов, доступны веса PyTorch, TensorFlow и Flax. В карточке Hub и исторических примерах Transformers указано дообучение bert-base-cased на MRPC. Лицензия в доступных данных не подтверждена. Модель принимает текстовые входы и выдаёт классовую оценку сходства пары предложений; она не предназначена для свободной генерации текста.

Jina Embeddings v4 — мультимодальная мультиязычная модель эмбеддингов, разработанная Jina AI на базе Qwen2.5-VL-3B-Instruct. Она предназначена для поиска по текстам, изображениям и визуально насыщенным документам, включая материалы с диаграммами, таблицами и иллюстрациями. Модель поддерживает плотные векторные представления и многовекторный late-interaction поиск, а также задачи сопоставления текстов и поиска по коду; адаптер задачи выбирается при инференсе. Модель содержит 2,8 млрд параметров, принимает текст и изображения и выдаёт эмбеддинги. Размерность плотного эмбеддинга по умолчанию составляет 2048 и может быть уменьшена до 128; заявлена поддержка более 30 языков. Длина контекста — до 128 000 токенов. Веса опубликованы в формате safetensors, для работы доступны Transformers и интерфейс Sentence Transformers. Модель подходит для мультиязычного семантического поиска, поиска по визуальным документам, сопоставления текстов и поиска фрагментов кода. Карточка не сообщает лицензию; количественные результаты оценки и конкретные ограничения качества в предоставленных данных не приведены.

Dingdust/LFM2.5-2.6B-heretic — текстовая разговорная модель на архитектуре LFM2, созданная как производная LiquidAI/LFM2.5-2.6B-Base. В карточке указано, что abliteration снизила частоту отказов с 97 до 3 случаев на 100 запросов при KL-дивергенции 0,0133 относительно исходной модели. Модель содержит 2,6 млрд параметров, имеет 30 слоёв и контекстное окно 131 072 токена; поддерживает чат и вызов инструментов. Модель предназначена для локального запуска на устройствах и для агентных сценариев: использования инструментов, извлечения данных, RAG и работы с длинным контекстом. Поддерживаемые языки включают английский, русский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, испанский, тайский и вьетнамский. Она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, конкретные условия в предоставленных данных не приведены.

Meno-Tiny-0.1 — компактная языковая модель на 1,5 млрд параметров, разработанная как дообученная версия Qwen/Qwen2.5-1.5B-Instruct на специальном русскоязычном наборе инструкций. Это декодерная Transformer-модель семейства Qwen2 с архитектурой Qwen2ForCausalLM; для работы используется библиотека Transformers. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и ориентирована прежде всего на русский язык. Модель предназначена для диалогов и генерации текста, в частности для ответов на вопросы по документам в RAG-сценариях. Среди описанных задач — суммаризация, разрешение анафоры, оценка токсичности и детоксикация текста, а также исправление ошибок распознавания речи. Компактный размер рассчитан на сценарии с ограничениями по памяти и вычислениям или требованиями к низкой задержке. Модель выпущена под лицензией Apache-2.0. Карточка предупреждает о возможных неточностях, предвзятости и небезопасных или оскорбительных ответах; качество на языках, отличных от русского, может быть ниже. Для старых версий Transformers до 4.37.0 указана несовместимость с архитектурой qwen2.

Карточка модели LIF1014/ptdbench-verl-coding-tasks-function-call на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

kelnei/Qwen3.8-27B-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная на основе исходной модели Qwen/Qwen3.8-27B. Она предназначена для генерации текста и обработки изображений с текстом, включая сценарии чат-взаимодействия и инференса на NVIDIA Blackwell GPU с архитектурой SM 12.0 и выше. Модель использует смешанную квантизацию: большинство линейных слоёв работают в NVFP4 (W4A4, group-16), отдельные компоненты — в FP8, а vision tower, merger, embeddings, norms и часть DeltaNet-слоёв сохранены в BF16. Размер чекпойнта и требуемой видеопамяти составляет около 21,8 ГБ против примерно 56 ГБ у версии BF16. Поддерживаются KV-кэш FP8 и multi-token prediction (MTP); заявленная точность относительно BF16-оригинала — 94,1% совпадения top-1 при эмулированном W4A4-инференсе. Главное преимущество модели — существенное снижение требований к памяти при сохранении близкого к исходному качеству и повышение скорости декодирования, особенно при MTP speculative decoding. Рекомендуемый сервер — vLLM с оптимизированными NVFP4-ядрами; для SGLang необходимо использовать более раннюю ревизию с BF16-головой, поскольку текущая FP8-голова может приводить к вырожденным результатам. Для работы требуется совместимый NVIDIA Blackwell GPU, поэтому модель не является универсальной для старых видеокарт. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-AWQ-MTP — 4-битная AWQ-квантизованная версия модели HauhauCS/Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF. Это мультимодальная модель формата image-text-to-text для работы с текстом и изображениями; в карточке указан английский язык. Сборка предназначена для локального запуска и инференса через Transformers и vLLM, включая speculative decoding благодаря сохранённой NextN/MTP draft head. Модель содержит около 27 млрд параметров и использует гибридную архитектуру Qwen3.5: 64 декодерных слоя, из которых 48 используют линейное внимание Qwen3_5GatedDeltaNet, а 16 — полноценное внимание. В состав также входит 27-слойная vision tower, оставленная без квантизации. Применена схема W4A16 с размером группы 128 и асимметричным квантованием; итоговый размер файлов составляет около 19 ГБ. На конфигурации из двух RTX 3090 с vLLM и FP8 KV-cache модель успешно обрабатывала контексты до 229 200 токенов в тесте извлечения данных, однако это не является заявленным максимальным размером контекста. Сильные стороны — сохранённые мультимодальность, tool calling и MTP-ускорение: в тестовой конфигурации измерялась скорость до 96,3 токена в секунду, а коэффициент принятия MTP-токенов составил 64,9%. Модель описана как uncensored, а в двух проверочных запросах отказов не было. Ограничение — квантизация выполнена не из исходных BF16-весов, а через восстановление из Q8_K_P GGUF и последующее 4-битное квантование, поэтому возможны накопленные ошибки. Стандартизированные тесты качества не проводились. Лицензия — Apache 2.0.

Qwen3.8-Flash-Next-Uncensored-NVFP4-FP8PLE — квантованная vision-language модель, опубликованная lychee888 на основе orcarouter/Qwen3.8-Flash-Next-Uncensored-NVFP4, который, в свою очередь, создан на базе Qwen/Qwen3.8-Flash-Next. Модель предназначена для обработки текста и изображений, рассуждений, function calling, тестирования безопасности и red-teaming. Вариант описан как abliterated и uncensored, то есть с изменениями, направленными на снижение встроенных ограничений поведения. Архитектура относится к семейству Qwen3.8-Flash-Next и использует 48 слоёв: 36 слоёв Gated-DeltaNet и 12 слоёв full attention с интервалом full_attention_interval 4. В конфигурации указаны 512 экспертов и MTP. Эксперты квантованы в NVFP4, attention-компоненты используют FP8, а таблица PLE n-gram embeddings дополнительно переведена из BF16 в FP8 e4m3 с единой глобальной шкалой. Благодаря этому размер контрольной точки уменьшен примерно со 170,93 до 123,25 GiB. Для запуска ориентирована на vLLM и рецепт развёртывания на двух NVIDIA DGX Spark; точные поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. К сильным сторонам относятся существенно меньший размер по сравнению с исходной сборкой, совместимость по структуре PLE с определёнными NVFP4-сборками Qwen3.8-Flash-Next и сохранение остальных файлов модели без изменений относительно исходной версии orcarouter. Ограничения включают необходимость совместимой инфраструктуры и vLLM, а также то, что PLE-веса нельзя смешивать с аналогичной сборкой RadixArk: формат совместим, но сами значения отличаются. Модель распространяется по лицензии Apache-2.0.

Карточка модели freedom-signal/Qwen3-Embedding-0.6B-f16 на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

Карточка модели fabianschmidt-cohere/Qwen3-Embedding-4.9M-init на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

michaelfeil/Qwen3-Embedding-8B-auto — текстовая модель эмбеддингов на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-8B-Base. Она предназначена для преобразования текстов в векторы и поиска по смыслу, включая поиск по документам и коду, классификацию, кластеризацию, ранжирование и сопоставление параллельных текстов. Модель содержит 7,6 млрд параметров, поддерживает контекст до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README указывает настраиваемый диапазон размерностей от 32 до 4096 и поддержку инструкций для конкретной задачи. Модель заявлена как многоязычная, с поддержкой более 100 языков, а также языков программирования. Среди сильных сторон — длинный контекст, настраиваемая размерность векторов и широкий набор задач поиска и сопоставления. Для качественного поиска рекомендуется задавать инструкции; автор отмечает, что их отсутствие может снижать качество поиска на 1–5%. Для работы с Transformers требуется версия 4.51.0 или новее. Лицензия — Apache-2.0.

bartowski/Qwen_Qwen3.5-9B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, разработанной Qwen и подготовленной bartowski. Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текста. Она подходит для локального запуска через llama.cpp и совместимые инструменты, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В репозитории представлены варианты от BF16 до более компактных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, объёмом примерно от 4,9 до 18,4 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp; для некоторых конфигураций поддерживаются MTP-слои и режим draft-mtp. Более компактные варианты снижают требования к оперативной памяти, но могут уступать по качеству более высокоточным версиям. Архитектура, языки и размер контекстного окна в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

T5Gemma 2 1B-1B — мультимодальная модель Google с открытыми весами, построенная на основе Gemma 3. Это предварительно обученная модель типа encoder-decoder: в репозитории представлены энкодер и декодер примерно по 1 млрд параметров, адаптированные с использованием UL2. Модель принимает текст и изображения и генерирует текст; заявлено окно контекста до 128 тысяч токенов и поддержка более 140 языков. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и анализ документов. Её сравнительно небольшой размер позволяет запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. В архитектуре используются общие эмбеддинги слов для энкодера и декодера, а также объединённые self-attention и cross-attention декодера. Модель может ошибаться в фактах, испытывать трудности со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Лицензия — Gemma; разработчики приложений отвечают за безопасность модели и её результатов.

airoboros-7b-gpt4 — дообученная модель семейства LLaMA с 6,6 млрд параметров, созданная Jondurbin на синтетических обучающих данных, сгенерированных GPT-4. Она предназначена для диалоговой генерации текста и отвечает на вопросы по заданному контексту, а также решает задачи на эрудицию, математику и рассуждение, программирование, тесты с выбором ответа, заполнение пропусков и общие темы. Для общения используется шаблон Vicuna; максимальная длина контекста по метаданным — 4096 токенов. Модель обучена следовать предоставленному контексту и ограничивать ответы его содержимым, чтобы уменьшить галлюцинации. Автор отмечает, что качество математических рассуждений ограничено, а результаты примеров для версии 13B могут отличаться от версии 7B. Модель распространяется под лицензией CC BY-NC 4.0, допускающей использование с указанием авторства, но запрещающей коммерческое использование.

Gemma 4 12B RKNn3 для RK1828 — адаптированная для запуска на устройстве версия Gemma 4 12B IT от Google DeepMind, подготовленная проектом t-firefly для LlamaPi. Это плотная мультимодальная модель семейства Gemma4 Unified, распространяемая в форматах GGUF и safetensors и ориентированная на локальное использование на периферийных устройствах. Модель принимает текст, изображения, аудио и видео, а выдаёт текст; поддерживает диалог, рассуждения, программирование и агентные сценарии. В исходной карточке заявлены контекст 256 тысяч токенов и поддержка более 140 языков. Модель подходит для локального чат-ассистента, анализа мультимодальных входных данных и задач на устройстве RK1828 через LlamaPi. Репозиторий указывает лицензию Apache-2.0. Сведения о качестве и ограничениях именно сборки для RK1828 в карточке не приведены.

HyperCLOVA X SEED 14B Think — плотная языковая модель семейства HyperCLOVAX, разработанная командой HyperCLOVA X. Она предназначена для диалогов и генерации текста с возможностью пошагового рассуждения, в том числе для математических и кодовых задач. Разработчики использовали pruning и дистилляцию знаний, а затем многоэтапное обучение: SFT, обучение с проверяемыми наградами, настройку длины рассуждений и совместное обучение с обратной связью от людей и проверяемыми наградами. В README приведён размер 14,74 млрд параметров; метаданные указывают 14,1 млрд параметров и контекст 131 072 токена. Архитектура основана на Transformer, Peri-Layer Normalization и μP; модель принимает и выдаёт текст. README сообщает о сильных результатах на корейском языке и знании корейской культуры, а также о конкурентных результатах в математике и программировании. Длину рассуждений можно задавать текстовой инструкцией; поддерживается многоходовый диалог и описан сценарий вызова инструментов. Модель подходит для корейскоязычных диалоговых помощников, решения задач на рассуждение и ответов на вопросы, а также для генерации и объяснения кода. README приводит контекст 32 тыс. токенов, тогда как метаданные указывают 131 072 токена. Лицензия помечена как other, поэтому конкретные условия использования следует проверять в файлах репозитория модели.

LFM2.5-2.6B — компактная текстовая модель Liquid AI для локального запуска и агентных сценариев на устройствах с ограниченными ресурсами. Это дообученная на базе LiquidAI/LFM2.5-2.6B-Base модель семейства LFM2: плотная архитектура Lfm2ForCausalLM с 2,6 млрд параметров, 30 слоями, включая блоки коротких свёрток и GQA. Модель поддерживает контекст до 131 072 токенов и работает с Transformers, vLLM и SGLang; для репозитория указан формат safetensors. Модель предназначена для диалогов, вызова инструментов, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В README заявлена многоязычная поддержка 17 языков, включая русский, а также постобучение с обучением с подкреплением в популярных агентных средах. README приводит высокую скорость инференса на отдельных устройствах, но эти показатели зависят от оборудования и условий запуска. Модель не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и документах Liquid AI.

Ttimms/MiniCPM5-2B-NVFP4 — это квантованная версия языковой модели openbmb/MiniCPM5-2B, подготовленная разработчиком Ttimms для генерации текста. Базовая модель основана на архитектуре LlamaForCausalLM и содержит около 2,5 млрд параметров. Модель предназначена прежде всего для англоязычных и китайскоязычных сценариев, включая генерацию и обработку кода. В модели применена 4-битная квантование весов NVFP4 по схеме W4A16 с GPTQ-округлением, блоками по 16 элементов и FP8-масштабами; активации, эмбеддинги и lm_head сохраняются в формате bfloat16. Размер на диске составляет около 2,03 ГиБ — на 57% меньше исходной версии в bfloat16. Модель рассчитана на запуск через vLLM с поддержкой compressed-tensors; в README приведён пример с максимальной длиной контекста 32 768 токенов и FP8 KV-кэшем. Главное преимущество — малый объём занимаемой памяти, что удобно для видеокарт с ограниченным объёмом памяти и сценариев с большим KV-кэшем. GPTQ сохраняет качество лучше, чем простое RTN-округление, однако по сравнению с исходной версией в bfloat16 модель теряет около 2,4 процентного пункта на HumanEval и 4,8 пункта на MBPP. На архитектуре Blackwell SM120 NVFP4-веса декодируются через Marlin в матричное умножение bfloat16, поэтому выигрыш в первую очередь связан с уменьшением занимаемой памяти, а не с ускорением вычислений. Распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

NVLM-D-72B — мультимодальная модель NVIDIA из семейства NVLM 1.0 для задач с изображениями и текстом, а также для текстовых задач. Это decoder-only Transformer с 72-миллиардной языковой основой Qwen2-72B-Instruct и визуальным энкодером InternViT-6B; в репозитории используются веса Safetensors и библиотека Transformers. Модель принимает текст и изображения и формирует текстовые ответы. Контекст — до 128 тысяч токенов. Модель предназначена для визуальных вопросов и ответов, OCR, анализа документов и диаграмм, мультимодальных рассуждений, локализации объектов, а также задач на общие знания, здравый смысл и программирование. В карточке приведены результаты на мультимодальных и текстовых бенчмарках; также заявлено улучшение текстовых возможностей относительно языковой основы после мультимодального обучения. Модель рассчитана на некоммерческое использование и распространяется по лицензии CC BY-NC 4.0. Для инференса в README указаны PyTorch, Linux и оборудование NVIDIA Hopper; загрузка модели и многопроцессный инференс требуют значительных вычислительных ресурсов. Генерация изображений не поддерживается, а результаты могут немного различаться в зависимости от версий Transformers, CUDA и Docker.

Pixtral-Large-Instruct-2411 — мультимодальная модель Mistral AI для диалогов и анализа изображений. Она построена на Mistral-Large-Instruct-2407 и включает языковой декодер примерно на 123 млрд параметров и визуальный энкодер на 1 млрд параметров; общий размер — 124 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на работу с несколькими изображениями высокого разрешения в одном запросе. Модель предназначена для ответов на вопросы по изображениям, понимания документов и диаграмм, а также для текстовых инструкций и диалогов. В карточке заявлены сильные результаты на MathVista, DocVQA и VQAv2. Для инференса рекомендуется vLLM; README предупреждает, что реализация Transformers пока не работает. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и условиями Mistral AI.

AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-NVFP4 — мультимодальная языковая модель от AEON-7, основанная на AEON-7/Qwen3.6-27B-AEON-Ultimate. Она предназначена для генерации и обработки текста, а также анализа изображений в сценариях, поддерживаемых исходной моделью. В карточке заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров и использует гибридную архитектуру с полноформатными слоями внимания и 48 слоями линейного внимания GatedDeltaNet. Это аппаратно-квантизированная версия NVFP4: размер на диске уменьшен примерно с 51 до 26 ГБ. Vision tower, слои linear attention, нормализации, эмбеддинги и lm_head сохранены в BF16, поэтому заявлена сохранность мультимодальности и устойчивости гибридной архитектуры. Для развёртывания указан контекст до 256 000 токенов в рекомендованной конфигурации vLLM. К сильным сторонам относятся существенное снижение требований к хранению и возможность использовать native FP4-ускорение на DGX Spark с GB10, B100/B200 и некоторых видеокартах Blackwell, а также сохранение обработки изображений. Ограничения связаны с необходимостью совместимого программного стека и оборудования; заявленные характеристики качества, включая близость к BF16 и отсутствие отказов, требуют независимой проверки после развёртывания. Модель помечена как superseded и рекомендована автором к замене более новой версией Qwen3.8. Лицензия — Apache-2.0.

Qwen3.8-27B-NVFP4 — квантизированная версия мультимодальной модели Qwen3.8-27B, созданная vrfai на основе исходной модели Qwen. Она предназначена для задач понимания текста и изображений, включая визуальные вопросы и ответы, анализ документов, диаграмм, OCR и математических изображений. Модель рассчитана на использование через Transformers и vLLM. Модель имеет 27 млрд параметров и распространяется в формате NVFP4 W4A4 с сериализацией compressed-tensors. Размер контрольной точки составляет 18,4 ГБ против 52 ГБ у базовой модели. Квантизация применяется к 93,28% весов линейных слоёв; отдельные компоненты, включая зрительную башню, lm_head, нормализации, эмбеддинги и некоторые слои Gated DeltaNet, сохранены в bf16. В архитектуре используются attention и Gated DeltaNet, однако размер контекстного окна и список поддерживаемых языков в карточке не указаны. Основное преимущество модели — существенно меньшее потребление памяти при сохранении мультимодальных возможностей. При наличии GPU с compute capability 10.0 или новее, например NVIDIA Blackwell B100, B200 или GB200, поддерживается полноценная NVFP4-арифметика. На H100, H200 и графических процессорах Ada модель работает через weight-only путь Marlin FP4: экономия памяти сохраняется, но вычисления, особенно при обработке длинных входов и больших пакетов, могут быть медленнее, чем у версии bf16. Результаты тестов показывают измеримые потери на отдельных задачах компьютерного зрения и обработки документов; опубликованные оценки не следует напрямую считать показателями полноценного W4A4-режима на Blackwell. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next MLX Activation-Weighted 3-bit — это MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, опубликованная авторами данного репозитория. Модель предназначена для генерации текста и работы с изображениями, включая сценарии vision-language и OCR. Указанный pipeline имеет тип image-text-to-text, однако поддерживаемые языки в README не перечислены. Исходная модель содержит около 180 млрд параметров: 125 млрд основных параметров, 51 млрд параметров n-граммных embedding-таблиц и 4 млрд параметров MTP. Набор включает 48 банков маршрутизируемых экспертов, сжатых до 3 бит с размером группы 64; остальные подходящие матрицы используют 4-битное квантование. Нативный размер контекста составляет 262 144 токена, а размер артефакта — 83,49 ГиБ. Для запуска требуется MLX-совместимый и Qwen4Exp-aware runtime, например mere.run или mlx-vlm. К сильным сторонам относятся снижение пикового потребления памяти примерно на 19,58% по сравнению с опубликованным Q4-вариантом и сохранение результатов на закрытом наборе из 16 текстовых, графических и OCR-тестов. При этом приведённая квалификация не доказывает общее качество модели или эквивалентность BF16-версии; оценка проводилась на ограниченных наборах, а MTP был отключён при выборе чекпойнта. Распространение осуществляется по Qwen Community License 1.0 с дополнительными требованиями атрибуции и отдельными лицензионными условиями для некоторых коммерческих сценариев.

Карточка модели 1kxia/Qwen3-Embedding-0.6B на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

Qwen3-Embedding-0.6B — плотная текстовая embedding-модель семейства Qwen3, разработанная командой Qwen для получения векторных представлений текста. Она построена на базе Qwen/Qwen3-0.6B-Base и содержит около 508 млн параметров. Модель предназначена для поиска и сопоставления текстов, классификации и кластеризации, поиска кода и межъязыкового поиска. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст длиной до 32 тыс. токенов и выдаёт эмбеддинги размерности от 32 до 1024. Она поддерживает инструкции, задающие цель представления, и настройку размерности выходного вектора. В метаданных карточки указана задача text-generation, однако README описывает модель именно как инструмент для создания текстовых эмбеддингов; поэтому для каталога основная задача — text-embedding. Для использования требуется библиотека Transformers версии 4.51.0 или новее: более ранние версии могут выдавать ошибку при загрузке архитектуры Qwen3. В README отмечено, что подходящие инструкции могут улучшать результаты на 1–5%, а их отсутствие в запросах поиска может снижать качество. Лицензия — Apache-2.0.

Карточка модели rahul-77/Qwen3-Embedding-0.6B на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

Карточка модели tonywng/Qwen3-Embedding-0.6B на Hugging Face совпадает с карточкой unsloth/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — текстовая модель эмбеддингов семейства Qwen3, представленная в репозитории Unsloth и основанная на Qwen/Qwen3-0.6B-Base. Это плотная архитектура с 507,6 млн параметров и контекстом до 32 768 токенов. Модель преобразует текст в векторы размерностью от 32 до 1024 и позволяет задавать инструкцию для конкретной задачи. Модель предназначена для семантического поиска и извлечения текстов, сравнения предложений, классификации и кластеризации текста, поиска по коду и межъязыкового сопоставления. Она поддерживает более 100 языков, включая языки программирования, и рассчитана на многоязычные и межъязыковые сценарии. Лицензия — Apache-2.0. Карточка описывает всю серию Qwen3 Embedding, поэтому приведённые в ней лидерские результаты относятся к модели 8B, а не подтверждают такие же результаты для версии 0.6B. Для работы с Transformers требуется версия 4.51.0 или новее: более ранние версии могут выдавать ошибку распознавания архитектуры Qwen3.

rubert-mini-frida — компактная модель на архитектуре BERT, опубликованная sergeyzh для построения эмбеддингов предложений на русском и английском языках. Она создана дистилляцией эмбеддингов ai-forever/FRIDA в sergeyzh/rubert-mini-sts: 7 слоёв и размер эмбеддинга 312 вместо 24 слоёв и 1536 у FRIDA. Используется mean pooling; по умолчанию настроен префикс «categorize: », также поддерживаются префиксы FRIDA для разных задач. Модель подходит для семантического поиска и сравнения предложений, выявления перефразирований, классификации и кластеризации текста, анализа тональности и токсичности, а также задач NLI. В карточке приведены результаты ruMTEB: модель уступает FRIDA по указанным метрикам, но превосходит приведённые варианты multilingual-e5 в некоторых из них. Хотя унаследованная длина контекста составляет 2048 токенов, автор рекомендует не превышать 512. Лицензия — MIT.

Карточка модели Yaldat/Yalda-Embedding5 на Hugging Face совпадает с карточкой Qwen/Qwen3-Embedding-0.6B, поэтому описание составлено по ней. Qwen3-Embedding-0.6B — многоязычная модель эмбеддингов текста семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen/Qwen3-0.6B-Base с плотной архитектурой Qwen3ForCausalLM и примерно 507,6 млн параметров. Модель предназначена для преобразования текста в векторы и поиска семантически близких текстов; её применяют для поиска и извлечения документов, поиска по коду, классификации, кластеризации и сопоставления параллельных текстов. Модель поддерживает более 100 естественных языков и языков программирования, обрабатывает контекст до 32 768 токенов и выдаёт эмбеддинги размерностью до 1024, включая пользовательские размерности от 32 до 1024. Она поддерживает инструкции, настраиваемые под задачу, язык или сценарий, что может улучшать качество поиска. README описывает серию как сильную в многоязычных задачах эмбеддингов, но приведённые в нём отдельные лидирующие результаты относятся к модели 8B, а не к версии 0.6B. Для использования требуется совместимая версия Transformers: в версиях ранее 4.51.0 возможно возникновение ошибки распознавания архитектуры. Лицензия — Apache-2.0.