I.2Синтез, понимание и проверка знаний

L3.1-Moe-4x8B-v0.2 — языковая модель архитектуры Mixture of Experts, созданная автором moeru-ai с помощью mergekit-moe. Она объединяет четыре модели на базе Llama 3.1: Llama-3.1-SuperNova-8B-Lite_TIES_with_Base, Llama-3.1-8B-ArliAI-RPMax-v1.2, rombos_Replete-Coder-Instruct-8b-Merged и Llama-3.1-8B-Squareroot-v0. В каталоге указано 7,5 млрд параметров и контекст до 131 072 токенов; модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и генерацию кода. Модель распространяется в формате safetensors и использует библиотеку Transformers. В README приведены результаты оценивания на Open LLM Leaderboard, включая среднее значение 17,47 и результат 54,07 на IFEval (0-shot). Лицензия — Llama 3.1; перед использованием следует соблюдать её условия. Карточка не описывает детально языковое покрытие и ограничения качества.

Laser-Dolphin-Mixtral-4x7b-dpo — языковая модель семейства Mixtral, опубликованная macadeliccc. Это MoE-модель для генерации текста, созданная на основе cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser; карточка указывает на проект laserRMT и приводит оценки модели на тестах языковых моделей. Метаданные описывают архитектуру как MixtralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для диалогов и генерации текста, включая написание кода и ответы на запросы; в README приведён пример запроса на Python-код. Веса опубликованы в формате safetensors, а карточка сообщает об оценке в 4-битной квантизации AWQ. Репозиторий распространяется по лицензии Apache-2.0. Данные о поддерживаемых естественных языках не приведены.

QuantFactory/Llama-3-Open-Ko-8B-GGUF — квантованная версия модели Llama-3-Open-Ko-8B, созданная с использованием llama.cpp. Базовую модель разработал Junbum Lee (Beomi) на основе Meta Llama 3; она представляет собой продолжительно предобученную авторегрессионную языковую модель с оптимизированной архитектурой Transformer. Модель предназначена для генерации текста и кода, а также для адаптации под различные задачи обработки естественного языка, включая дообучение специализированных и диалоговых моделей. Она принимает только текст и генерирует текст или код. Модель ориентирована прежде всего на английский и корейский языки; для обучения использовались более 17,7 млрд токенов и свыше 60 ГБ дедуплицированных общедоступных текстов. Размер модели — 8B параметров, контекст — до 8 тысяч токенов, поддерживается Grouped-Query Attention (GQA), дата отсечения знаний — июнь 2023 года. К сильным сторонам относятся адаптация Llama 3 к корейскому языку, открытые данные обучения и доступность в квантованном формате, потенциально снижающем требования к ресурсам при локальном запуске. Ограничения заключаются в том, что это статическая офлайн-модель без встроенного обновления знаний и базовая предобученная версия, а не готовая instruction-tuned модель; для диалоговых сценариев и соблюдения требований безопасности может потребоваться дополнительное дообучение и внешние защитные механизмы. Использование регулируется лицензией Llama 3 и соответствующей Acceptable Use Policy; необходимо соблюдать их ограничения и применимое законодательство.

FriendliAI публикует вариант Meta Llama 3 70B Instruct с весами в формате FP8 для более эффективного инференса при сохранении высокой точности. В основе — авторегрессионный трансформер Llama с плотной архитектурой и Grouped-Query Attention; модель содержит 69,5 млрд параметров и принимает текст, генерируя текст и код. Контекст — до 8192 токенов. Модель предназначена для диалоговых ассистентов и генерации текста на английском языке, в том числе для коммерческих и исследовательских сценариев. FP8 поддерживается на GPU NVIDIA Ada, Hopper и Blackwell. Модель разработана Meta, а FP8-версия опубликована FriendliAI; веса представлены в safetensors. Использование регулируется специальной коммерческой лицензией Meta Llama 3.

Meta Llama 3 70B Instruct — разработанная Meta инструкция-настроенная большая языковая модель для диалоговых сценариев. Это авторегрессионный плотный трансформер Llama с Grouped-Query Attention, примерно 69,5 млрд параметров и контекстом 8192 токена. Модель принимает текст и генерирует текст, включая код; карточка указывает английский как целевой язык. Модель подходит для диалогового помощника и генерации текста или кода. Настроенная версия обучена с помощью supervised fine-tuning и обучения с подкреплением на основе человеческих предпочтений (RLHF), с акцентом на полезность и безопасность. Репозиторий распространяет веса в формате safetensors; заявлена пользовательская коммерческая лицензия Meta Llama 3, условия которой необходимо соблюдать. Модель не предназначена для использования на языках, отличных от английского, согласно указанному назначению; для ответственного развертывания могут потребоваться дополнительные меры безопасности.

MiMo-V2.6-Distill-Qwen-9B-OptiQ-4bit — квантованная MLX-версия модели XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, разработанная сообществом mlx-community. Базовая модель представляет собой дистилляцию архитектуры Qwen3.5 9B и предназначена для генерации текста, рассуждений, программирования, агентных сценариев и работы с инструментами. Модель рассчитана на локальный запуск на устройствах с Apple Silicon через MLX, без PyTorch и облачных сервисов. Используется смешанная точность: большинство слоёв имеют 4-битное представление, а чувствительные слои — 8-битное. Всего 134 слоя хранятся в 8-битном формате и 116 — в 4-битном; средняя разрядность веса составляет 6,34 бита, размер модели на диске — около 6,77 ГБ вместо примерно 18 ГБ в формате bfloat16. Архитектура включает 32 слоя, 8 слоёв с полной attention и 24 слоя с linear attention, 16 голов, 4 KV-головы, head_dim 256, hidden size 4096 и словарь из 248 320 токенов. Языки и размер контекстного окна в README не указаны. К сильным сторонам относятся существенное уменьшение размера и заявленное ускорение генерации в 2,4–7 раз относительно родительской модели bfloat16 при проверке на нескольких типах запросов. Распределение разрядности перенесено из квантования Qwen3.5-9B и не измерялось непосредственно на этой модели, поэтому опубликованные оценки качества для Qwen3.5-9B к ней не относятся; Capability Score для данной модели не рассчитывался. Модель распространяется по лицензии MIT.

Mungert/MiniCPM5-1B-GGUF — это GGUF-версия компактной языковой модели MiniCPM5-1B, разработанной командой OpenBMB. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами, включая сценарии on-device и edge AI. Формат GGUF рассчитан на использование с llama.cpp, Ollama и LM Studio; данный вариант создан с помощью llama.cpp. Модель является каузальной языковой моделью с архитектурой LlamaForCausalLM и 1 080 632 832 параметрами. Она содержит 24 слоя и использует групповое обобщённое внимание (GQA) с 16 головами для запросов и 2 головами для ключей и значений. Заявленная длина контекста составляет 131 072 токена. Поддерживаются английский и китайский языки, генерация текста, программирование, работа с инструментами, агентские сценарии и задачи, требующие рассуждений. К сильным сторонам относятся небольшой размер, возможность локального развертывания, длинный контекст и гибридный режим рассуждений: один и тот же чекпойнт может работать как быстрый ассистент или включать режим пошагового размышления через параметр enable_thinking. По данным разработчиков, преимущества особенно заметны в использовании инструментов, генерации кода и сложных задачах рассуждения. Ограничения модели связаны с её компактным размером и текстовой специализацией; README не содержит подробных сведений о качестве на всех языках, требованиях к аппаратным ресурсам и конкретных вариантах квантования GGUF. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-2B-Base — базовая плотная авторегрессионная языковая модель семейства MiniCPM5, разработанная OpenBMB. Она предназначена для локальных ассистентов, агентных сценариев, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Модель содержит около 2,2 млрд параметров; в карточке указана архитектура LlamaForCausalLM с 42 слоями и поддержка длинного контекста. README указывает контекст 131 072 токена, тогда как метаданные каталога сообщают 524 288 токенов. Модель работает с текстом и ориентирована на английский и китайский языки. Среди заявленных сильных сторон — код, математика, понимание длинного контекста, использование инструментов и агентные задачи; это характеристики, заявленные разработчиком, а не независимая оценка. Для фактических результатов важны вычислительные ресурсы, среда запуска и проверка ответов: генерация может быть неточной, предвзятой или оскорбительной и уязвима к специально составленным запросам. Лицензия — Apache-2.0.

Карточка модели Openintelligent123/MiniCPM5-2B-CRACK-JANG_8M на Hugging Face совпадает с карточкой dealignai/MiniCPM5-2B-CRACK-JANG_8M, поэтому описание составлено по ней. dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

Это модель Sentence Transformers, дообученная авторами tomaarsen на парах запросов и ответов из набора Natural Questions. Она основана на microsoft/mpnet-base: архитектура MPNet с примерно 136,7 млн параметров преобразует текст в плотные эмбеддинги размерности 768; для представления последовательности используется среднее объединение токенов, а сходство обычно оценивается косинусной мерой. Максимальная длина входа — 512 токенов. Модель предназначена для поиска по смыслу и сравнения текстов на английском языке. Её можно применять для поиска ответов на запросы, семантического сходства, поиска перефразировок, кластеризации и классификации текстов; README также приводит оценки на наборах для информационного поиска. Это модель эмбеддингов, а не генератор ответов: сама по себе она возвращает векторы, которые обычно индексируют или сравнивают в отдельной системе. Модель распространяется по лицензии Apache-2.0. Результаты приведённых в карточке оценок различаются в зависимости от набора данных, поэтому качество для конкретного корпуса следует оценивать отдельно; английский язык и ограничение в 512 токенов также ограничивают область применения.

msmarco-distilbert-cos-v5 — модель sentence-transformers, обученная командой Sentence Transformers на 500 тысячах пар «запрос — ответ» из набора MS MARCO Passages. Она основана на DistilBERT и предназначена для семантического поиска: преобразует предложения и абзацы в нормализованные плотные векторы размерности 768. Для объединения контекстных представлений токенов используется mean pooling; косинусное сходство и скалярное произведение подходят для сравнения векторов. Модель можно применять для поиска релевантных фрагментов по запросу, ранжирования текстов по смысловой близости и построения систем поиска по коллекциям документов. Контекст ограничен 512 токенами. Доступны веса в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. В предоставленных источниках сведения о лицензии отсутствуют.

Это модель Sentence Transformer mik3ml/multilingual-e5-large-ita, дообученная разработчиком на базе intfloat/multilingual-e5-large для представления итальянских текстов в виде плотных векторов. Архитектура основана на XLM-RoBERTa-large с усреднением токенных представлений и нормализацией; модель содержит 658,7 млн параметров, формирует эмбеддинги размерностью 1024 и обрабатывает последовательности длиной до 514 токенов по метаданным (в карточке указано ограничение 512 токенов). Для сравнения используется косинусное сходство. Модель предназначена для семантического поиска и сопоставления предложений и абзацев, поиска перефразирований, кластеризации и классификации текстов. В README приведены оценки информационного поиска для разных размерностей эмбеддингов. В первую очередь модель ориентирована на итальянский язык; основанием для этого служат языковой тег и указание языка в карточке. Лицензия — Apache-2.0. Она выдаёт векторы, а не готовые текстовые ответы; качество зависит от соответствия входных текстов обучающим данным.

MyAwesomeModel — модель на базе архитектуры BERT, опубликованная в репозитории asfafagf45/MyAwesomeModel-TestRepo. Согласно метаданным, она предназначена для извлечения признаков и работает с библиотекой Transformers на PyTorch. Лицензия — MIT.

NLLB-LLM2Vec — мультиязычная модель для получения векторных представлений текста, разработанная как расширение LLM2Vec с помощью самосупервизируемой дистилляции. Она использует энкодер NLLB-600M и основана на LLM2Vec-Meta-Llama-31-8B-Instruct-mntp-unsup-simcse; при обучении подгонялись проекция и LoRA-адаптеры, а целевые представления получали из исходной LLM2Vec. Репозиторий распространяет вариант, который ещё не дообучали на прикладных задачах. Модель предназначена для мультиязычных задач понимания естественного языка, включая поиск по смыслу и извлечение информации; её можно дообучать для классификации последовательностей и токенов. Для неруководимого поиска авторы допускают применение без дообучения, а для других задач рекомендуют обучение на размеченных данных. При работе необходимо передавать правильный код языка NLLB в параметре src_lang. Поддерживается более 200 языков. Модель доступна под лицензией MIT.

Ornith-1.5-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это набор оптимизированных квантованных весов в формате GGUF для модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Данные сборки подготовлены jashepp на основе базовой модели и предназначены для запуска в совместимой инфраструктуре GGUF, включая сценарии генерации текста, диалогов, агентной работы, программирования, использования инструментов и задач, требующих планирования и рассуждений. Модель использует архитектуру Mixture of Experts с заявленным размером 35B и конфигурацией A3B. Репозиторий содержит варианты с многоуровневой точностью MXFP4, Q8_0 и F16, а также importance matrix, созданной на основе исходной imatrix и дополнительных данных из промптов, результатов, аудитов, навыков и документации. Доступны файлы размером примерно от 18,5 до 20,7 ГБ. Указанный язык — английский; модель относится к текстовым генеративным моделям. Размер контекста в README не указан. К сильным сторонам относятся улучшенное следование инструкциям и рассуждениям по сравнению с Ornith-1.0, ориентация на агентное программирование и возможность уменьшить требования к памяти за счёт квантования экспертных слоёв при сохранении более высокой точности в критических компонентах. Ограничения включают потенциальные потери качества из-за квантования, зависимость от совместимого загрузчика GGUF и отсутствие в README подробных сведений о фактических требованиях к оборудованию, контекстном окне и результатах независимого тестирования. Распространение указано по лицензии MIT.

Paolo Embeddings — дообученная модель Sentence Transformers на базе BAAI/bge-small-en-v1.5, опубликованная lauragobrightly. Она преобразует предложения и абзацы в плотные векторы размерности 384, нормализованные для сравнения по косинусному сходству. Модель построена на архитектуре BERT, поддерживает последовательности длиной до 512 токенов и предназначена прежде всего для англоязычных текстов. Модель подходит для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Она дообучена на 17 037 примерах с функцией потерь MultipleNegativesRankingLoss; в README приведён результат cosine accuracy 0,8489 на наборе paolo-eval. Доступны форматы Safetensors и ONNX, использовать модель можно через Sentence Transformers. Это компактная модель примерно на 40 млн параметров, но её контекст ограничен 512 токенами. Указанные оценки относятся к конкретному набору paolo-eval и сами по себе не гарантируют качество на других данных; в карточке не приведены условия лицензии.

Pixtral-12B-2409 — мультимодальная модель Mistral AI для работы с изображениями и текстом. Она сочетает декодер на 12 млрд параметров и визуальный энкодер на 400 млн параметров, обучена на чередующихся данных изображений и текста и поддерживает изображения разных размеров. Модель предназначена для понимания изображений и диаграмм, ответов на вопросы по визуальному содержимому и текстовых задач, включая следование инструкциям, математику и программирование. Заявленная длина последовательности — 128 тыс. токенов. В карточке приведены результаты сравнительных тестов, в том числе по MMMU, MathVista и ChartQA. Модель выпущена под лицензией Apache 2.0. В README указано, что у неё нет механизмов модерации, поэтому при использовании следует учитывать риск немодерируемых ответов.

pplx-embed-context-v1.3-4B — контекстная модель эмбеддингов предложений от seslami-pplx, представленная как приватная предварительная версия и совместимая с загрузкой модели v1.2-4B. Она предназначена для поиска по тексту и контекстного сопоставления предложений: в карточке отмечены разрешение перефразирований, снижение влияния лексически похожих отвлекающих фрагментов и совместное извлечение терминов из глоссария. Модель имеет плотную двунаправленную архитектуру PPLX Qwen3, содержит 3,7 млрд параметров и принимает контекст длиной до 32 768 токенов. Репозиторий использует Transformers и формат Safetensors. Модель подходит для семантического поиска и извлечения релевантных текстовых фрагментов с учётом контекста. Карточка не сообщает языковой охват, поэтому конкретные языки не указаны. Лицензия — Apache-2.0; статус private preview означает, что доступ и условия предварительного использования могут быть ограничены.

pplx-embed-context-v1.4-4B — контекстная модель для построения эмбеддингов предложений, разработчик указан как seslami-pplx. Она предназначена для семантического поиска и извлечения текстовых фрагментов, включая разрешение перефразирования, снижение влияния лексически похожих отвлекающих фрагментов и совместное извлечение терминов из глоссария. Модель имеет плотную архитектуру bidirectional_pplx_qwen3, содержит 3,7 млрд параметров и принимает контекст длиной до 32 768 токенов; для работы используется библиотека Transformers. Версия 1.4 сохраняет архитектуру и код загрузки версии v1.3-4B и заявлена как прямая замена. Эмбеддинги подходят для сопоставления предложений и поиска по контексту. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

unsloth/Qwen2.5-1.5B-unsloth-bnb-4bit — 4-битно квантованная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B. Модель предназначена для генерации и продолжения текста, программирования, математических задач, обработки структурированных данных и последующего дообучения. Это текстовая, авторегрессионная causal language model без заявленной поддержки изображений или других модальностей. Ключевая особенность варианта — формат Unsloth Dynamic 4-bit Quant, который избирательно применяет квантование для снижения требований к памяти при сохранении качества по сравнению со стандартными 4-битными вариантами. Семейство Qwen2.5 поддерживает контекст до 128K токенов и генерацию до 8K токенов, а также более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Точные архитектурные параметры именно версии 1.5B в представленном README не указаны; приведённый там блок с характеристиками 0.5B относится к другой конфигурации. Модель выигрывает за счёт небольшого размера и сниженного потребления памяти, что делает её подходящей для локального запуска, экспериментов и эффективного fine-tuning. Как базовая, а не instruction-tuned модель, она не оптимизирована для диалогов без дополнительного дообучения и может требовать настройки шаблонов и параметров генерации. Лицензия — Apache-2.0.

JunHowie/Qwen3-0.6B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия языковой модели Qwen3-0.6B, опубликованная JunHowie на базе модели Qwen/Qwen3-0.6B, разработанной командой Qwen. Она предназначена для генерации текста, диалогов, следования инструкциям, решения задач, программирования, перевода и других сценариев применения причинных языковых моделей, включая локальный запуск и развёртывание через vLLM. Модель имеет архитектуру causal language model, 0,6 млрд параметров, из которых 0,44 млрд не относятся к эмбеддингам, 28 слоёв и механизм GQA с 16 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Qwen3 поддерживает более 100 языков и диалектов, а также переключение между режимами рассуждения и обычной генерации. Квантизация выполнена до 4 бит с размером группы 128; параметр desc_act установлен в false, что, согласно README, повышает эффективность по скорости генерации токенов по сравнению с более ранними квантизованными версиями. К сильным сторонам относятся небольшой размер, сниженные требования к памяти, поддержка мультиязычных задач, диалогов, рассуждений и интеграции с инструментами, а также совместимость с vLLM при наличии версии не ниже 0.9.2. Ограничениями являются малый масштаб модели по сравнению с крупными версиями Qwen3 и возможное снижение качества из-за 4-битной квантизации; конкретные результаты бенчмарков и требования к аппаратному обеспечению в README не приведены. Модель распространяется по лицензии Apache 2.0.

lucaswychan/Qwen3-0.6B-Reasoning-Embedding — многоязычная модель эмбеддингов, разработанная Lucas Wun Yu CHAN на основе Qwen3-0.6B. Это плотная decoder-only модель семейства Qwen3, дообученная контрастивным обучением для получения семантических представлений текста и оценки сходства предложений. Число параметров составляет около 507,9 млн, длина контекста — до 40 960 токенов. Модель использует Sentence Transformers и распространяется в формате safetensors. Модель подходит для семантического поиска, сопоставления текстов и построения эмбеддингов в многоязычных сценариях. В README описано исследование влияния RLVR-обучения базовой модели на качество эмбеддингов: оценка на MTEB и BRIGHT не выявила устойчивого преимущества перед эмбеддингами, инициализированными базовой моделью. Для загрузки автор рекомендует включить trust_remote_code=True. Лицензия — Apache-2.0.

TeichAI/Qwen3-14B-DeepSeek-v3.2-Speciale-Distill — плотная языковая модель семейства Qwen3 на 14 млрд параметров, дообученная TeichAI на наборах рассуждений DeepSeek v3.2 Speciale. Она предназначена для генерации текста в диалоге, решения математических задач, программирования и исследовательских запросов. Модель принимает текст и выдаёт текст; метаданные указывают контекст до 40 960 токенов и поддержку интерфейса вызова инструментов. Модель основана на unsloth/Qwen3-14B и распространяется в формате safetensors. В карточке перечислены обучающие наборы OpenCodeReasoning, 1000x и openr1-math. Указаны английский язык и лицензия не приведена в предоставленных данных. Возможности и качество рассуждений, кодирования и вызова инструментов независимо не подтверждены.

YOYO-AI Qwen3-30B-A3B-YOYO-V5 — объединённая модель семейства Qwen3 MoE, созданная YOYO-AI алгоритмом yoyo_fusion на основе Qwen/Qwen3-30B-A3B-Instruct-2507, Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-Coder-30B-A3B-Instruct. Она предназначена для диалогов, выполнения инструкций, генерации текста и вызова инструментов; объединение сводит навыки исходных моделей в один чекпойнт. Репозиторий содержит веса safetensors в формате bfloat16. Модель принимает текст и выдаёт текст. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов; в README также заявлена длина контекста 1 010 000 токенов, но не поясняется, при каких условиях она доступна. В карточке отмечены английский и китайский языки. Модель распространяется по лицензии Apache-2.0. Указанные в README параметры генерации: temperature 0,7, top-p 0,8 и top-k 20. Фактическое качество объединения, результаты оценок и практические требования к оборудованию в карточке не приведены.

YFC-112358 создал двухэтапную композиционную модель на основе Qwen3.6-27B. На первом этапе с помощью DELLA объединены модели разных происхождений, а на втором к полученному результату линейно добавлено приращение весов Qwopus3.6-27B-Fusion относительно общего предка Qwen/Qwen3.6-27B. Это плотная мультимодальная архитектура семейства Qwen3.5 с интерфейсом чата и вызова инструментов; в репозитории веса представлены в safetensors, а модель использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста и может использоваться для программирования, агентных сценариев и работы с изображениями — такие возможности указаны для базовой Qwen3.6-27B. В README описаны способ слияния и рекомендации по сэмплированию, но нет отдельных результатов оценки качества именно этой версии. Лицензия — Apache-2.0.

Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4-W4A16-T336 — производная модель, опубликованная esatapedico на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, основана на Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и развёртывания через vLLM; настройка TWIN-TURBO ориентирована на сокращение количества токенов рассуждений при сохранении качества ответов. Это 27-миллиардная языковая модель с архитектурой Qwen3_5ForCausalLM, 64 слоями, гибридной архитектурой GatedDeltaNet, поддержкой мультиязычных сценариев и заявленным контекстом до 262144 токенов. В репозитории также сохранены vision tower и MTP head, пригодный для speculative decoding. Контрольная точка использует формат compressed-tensors NVFP4: веса W4A16 с группировкой 16 и масштабами FP8; часть наиболее чувствительных компонентов оставлена в BF16. Калибровочные данные не применялись, размер файла model.safetensors составляет около 21 ГБ. Главные преимущества — значительное сжатие весов, совместимость с vLLM, сохранение полноточных компонентов, влияющих на качество, а также измеренная близкая к родительской модели perplexity на англоязычном наборе. Ограничения включают зависимость от vLLM-совместимых движков, необходимость подходящей аппаратной конфигурации и отсутствие GGUF в репозитории; заявленная проверка проводилась при tensor parallel 2 и контексте 2048 токенов, поэтому практические характеристики на максимальном контексте могут отличаться. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-Uncensored-Aggressive-i1-IQ4_XS-Smaller-GGUF — это предназначенная для llama.cpp смешанно-квантованная версия модели philbert440/Qwen3.8-27B-Uncensored-Aggressive, опубликованная пользователем aldenw. Модель ориентирована на генерацию текста, включая диалоги, объяснение технических концепций и написание кода. Исходное семейство является мультимодальным, однако в этом репозитории доступен только текстовый вариант без совместимого vision mmproj. Модель содержит 27 млрд параметров, 64 трансформерных блока и поддерживает нативный контекст до 262 144 токенов. Основной GGUF-файл размером 13,34 ГБ использует гибридную схему квантования: FFN-проекции сжаты до IQ3_S, основной набор весов представлен в IQ4_XS, отдельные тензоры внимания — в Q5_K, а output.weight — в Q6_K. Для ускорения методом speculative decoding доступна отдельная MTP-модель Q4_0 размером 1,68 ГБ. К сильным сторонам относятся экономия памяти по сравнению с полноразмерной моделью, сохранение повышенной точности для отдельных важных тензоров и возможность самостоятельного использования основной модели без MTP-компонента. Ограничения связаны с требованиями к памяти: оба файла занимают около 15,02 ГБ без учёта runtime-буферов и KV-кэша, поэтому на видеокартах класса 16 ГБ может потребоваться частичный offload, уменьшение контекста или отказ от MTP. Прирост скорости speculative decoding не гарантирован и зависит от оборудования, контекста и acceptance rate. Модель распространяется по лицензии Apache-2.0.

nvythong/Qwen3.8-35B-A3B-Distill-mlx-fp16 — конвертированная в формат MLX модель Empero на базе Qwen3.8-35B-A3B-Distill. Репозиторий создан 29 сентября 2026 года; модель предназначена для диалоговой генерации текста. Базовая модель имеет MoE-архитектуру семейства Qwen3.5 и поддерживает чат, рассуждения, математику, программирование и вызов инструментов. В README указано преобразование с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors и лицензию Apache-2.0. Модель ориентирована на английский язык. Сведений о длине контекста и точном числе параметров этой версии нет.

OpenVINO/Qwen3-Embedding-0.6B-int8-ov — модель эмбеддингов, разработанная Qwen и преобразованная в формат OpenVINO IR. Она основана на Qwen3-Embedding-0.6B, а веса сжаты до INT8 с использованием NNCF в режиме INT8_ASYM. Модель предназначена для извлечения признаковых представлений текста и совместима с библиотеками Transformers и Optimum Intel. Модель подходит для семантического поиска, сопоставления запросов с документами, построения систем retrieval-augmented generation и других задач, где требуется сравнивать тексты по смыслу. Для запросов рекомендуется добавлять однопредложную инструкцию, описывающую задачу, тогда как для документов инструкции не требуются. В README приведён пример поиска релевантных фрагментов по веб-запросу. Указана максимальная длина входа 8192 токена. Формат OpenVINO IR и INT8-сжатие ориентированы на эффективный запуск, в том числе через Optimum Intel; требуется OpenVINO версии 2026.0.0 или выше и Optimum Intel 1.27.0 или выше. Языки, точный размер эмбеддингов и сведения о модальностях в карточке не указаны. Ограничения следует уточнять в исходной карточке Qwen3-Embedding-0.6B. Модель распространяется по лицензии Apache License 2.0.