I.2Синтез, понимание и проверка знаний

NorskGPT-Llama-7B-v0.1 — норвежская версия диалоговой модели Llama 2 Chat, разработанная bineric и дообученная на отобранных парах инструкций на норвежском языке. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации ответов; заявленная длина контекста — 4096 токенов. Модель предназначена для общения в формате ассистента и задач на норвежском языке, включая суммаризацию и ответы на вопросы. Она обычно лучше справляется с этими задачами, чем с вопросами, требующими специализированных знаний или свободных фактических ответов; до достижения оптимальных результатов может потребоваться настройка промптов. Выпущена по лицензии CC-BY-NC-SA-4.0, которая ограничивает коммерческое использование.

Это конвертированная в формат GGUF копия NVIDIA Nemotron 3.5 Lightning 30B A3B BF16, подготовленная ijohn07 с помощью llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста и может запускаться через llama.cpp, в том числе в режиме сервера или командной строки. По метаданным, исходная модель NVIDIA связана с наборами данных Nemotron для предварительного обучения и постобучения и поддерживает английский, испанский, французский, немецкий, итальянский и японский языки. Для характеристик и сценариев исходной модели автор карточки рекомендует обратиться к её оригинальному описанию. В доступных данных указаны формат GGUF BF16 и лицензия «other»; условия лицензии следует сверить с карточкой базовой модели.

openNemo-9B-Claude-Opus-4.6-distill — текстовая диалоговая модель Empero AI, дообученная на базе empero-ai/openNemo-9B. Это плотная гибридная архитектура Nemotron-H с Mamba2, Transformer и GQA; в README указано около 9 млрд параметров и 52 слоя, тогда как метаданные Hugging Face приводят 15,1 млрд параметров. Контекстное окно составляет 131 072 токена. Модель обучена методом SFT и DPO на наборах с цепочками рассуждений, составленных сообществом на основе ответов Claude Opus 4.6 и других моделей. Она предназначена для диалогов и генерации ответов с пошаговым рассуждением, а также поддерживает режим без рассуждений. В карточке указан английский язык; форматы репозитория — Safetensors. Модель подходит для экспериментального применения в чат-ботах и задачах, где нужны подробные рассуждения. Результаты зависят от качества и характера обучающих данных, а сходство с рассуждениями моделей-источников не гарантирует их точность. Лицензия в метаданных обозначена как other; конкретные условия использования следует проверять в карточке модели.

orca-mini-3b — языковая модель Pankaj Mathur для генерации текста и ответов на инструкции. Она основана на OpenLLaMA-3B и содержит около 3,3 млрд параметров; архитектура — плотная LLaMA, запуск предусмотрен через Transformers. Модель обучена на наборах WizardLM, Alpaca и Dolly-V2 с подходами к созданию данных из исследования Orca: примеры включали системные инструкции и объяснения, сформированные с помощью GPT-3.5-turbo-0301. Модель рассчитана на диалоговые запросы, ответы на вопросы и выполнение текстовых инструкций на английском языке. Контекст ограничен 2048 токенами. В карточке приведены результаты оценок на Open LLM Leaderboard, однако они не гарантируют качество на конкретных задачах. Репозиторий содержит веса PyTorch и Safetensors. Лицензия CC BY-NC-SA 4.0 допускает использование с указанием авторства и распространение производных на тех же условиях, но запрещает коммерческое использование.

Ornith-1.5-35B-A3B-MagicQuant-GGUF — набор GGUF-квантизаций модели Ornith-1.5-35B-A3B, подготовленный проектом MagicQuant на базе модели ornith-ai. Это мультимодальная модель для задач image-text-to-text, способная обрабатывать изображения и текст; для работы с изображениями требуется отдельный vision projector mmproj в формате GGUF. Лицензия — MIT. Модель использует архитектуру qwen3_5_moe с примерно 35 млрд параметров, из которых около 3 млрд активируются на одном токене. В ней предусмотрено 256 экспертов, из которых маршрутизируются 8, а также поддержка vision. Доступны варианты Q4_K_M-v2 размером 19,58 GiB, Q5_K_M размером 22,88 GiB и Q6_K-v2 размером 28,81 GiB; отдельный vision projector занимает 0,86 GiB. Данные о поддерживаемых языках и максимальной длине контекста в README не указаны. Q4_K_M-v2 рекомендован как наиболее сбалансированный вариант по размеру и скорости, тогда как Q5_K_M заявлен как самый быстрый декодер из трёх при наличии дополнительной памяти, а Q6_K-v2 обеспечивает наименьшее измеренное отклонение от BF16 среди проверенных вариантов. Гибридное распределение точности снижает объём передаваемых весов на шаг декодирования и улучшает скорость по сравнению со старыми версиями тех же уровней. Ограничения связаны с потерями качества, присущими квантизации, заметными требованиями к памяти и тем, что приведённые показатели измерялись на конкретной конфигурации AMD Strix Halo с Vulkan; они не гарантируют аналогичную производительность на другом оборудовании.

Palmyra Large — языковая модель Writer на 20 млрд параметров с архитектурой GPT-2: плотная авторегрессионная модель, состоящая только из декодера. Она обучена предсказывать следующий токен на корпусе объёмом более 800 млрд токенов, преимущественно англоязычном, включая собственные данные Writer и отобранные корпуса. Модель принимает текстовый запрос и генерирует продолжение; её контекст составляет 2048 токенов. Модель подходит для генерации текста по запросу и дальнейшей специализации, в том числе для суммаризации, чат-ботов и анализа тональности. Основной язык — английский; заявлены ограниченные возможности на немецком, испанском, французском и шведском. Репозиторий использует Transformers и содержит веса PyTorch/Safetensors. Лицензия — Apache 2.0. Модель снята с поддержки и не рекомендуется разработчиком для промышленного применения или критически важных задач. Возможны фактические ошибки, стереотипы и нежелательные ответы; результаты требуют проверки. Для применения в конкретных задачах разработчик рекомендует дообучение и защитные меры.

imone/pangu_2_6B — репозиторий с PyTorch-версией модели PanGu-α, разработанной совместной технической командой под руководством PCNL. В репозитории размещены предварительно обученные веса на 2,6 млрд параметров в точности FP32, преобразованные из исходного чекпойнта MindSpore; метаданные указывают 3 млрд параметров и архитектуру GPTPanguForCausalLM. Это плотная авторегрессионная языковая модель для генерации текста с контекстом до 1024 токенов. Модель предназначена прежде всего для генерации текста на китайском языке, включая ответы на вопросы по знаниям, извлечение и рассуждение по знаниям, а также чтение и понимание текста; карточка отмечает возможности few-shot обучения. Репозиторий предоставляет реализацию на PyTorch, а для загрузки через Transformers требуется доверенная загрузка удалённого кода. Лицензия в предоставленных данных не указана.

Emese-Patak — языковая модель семейства Emese, разработанная emese-tech на базе EuroLLM-9B. Это плотная LLaMA-подобная авторегрессионная модель с 9,15 млрд параметров и контекстом 32 768 токенов; она принимает текст и генерирует текст. Модель прошла продолженное предобучение на венгерском корпусе, настройку на инструкции и DPO-выравнивание. Доступна в формате bf16 Safetensors для Transformers и MLX; лицензия — Apache-2.0. Patak предназначена прежде всего для диалогов и выполнения инструкций на венгерском языке, включая ответы на вопросы, длинные тексты, чтение и анализ, программирование и задачи с несколькими условиями. По карточке модели, она также показывает хорошие результаты на английском языке. Разработчик сообщает о сильных результатах на собственных бенчмарках и высокой доле отказов на проверке безопасности. Ограничения включают возможные фактические ошибки в редких именах и датах, слабую многошаговую математику, пространственные оценки, отладку кода и доработку ответов по новым условиям в ходе диалога. Качество на других языках унаследовано от EuroLLM-9B. Разработчик предупреждает о снижении результатов при запуске через llama.cpp/GGUF и рекомендует Transformers или MLX.

Phi-3.5-mini-ITA — дообученная Anakin87 версия инструктивной языковой модели Microsoft Phi-3.5-mini-instruct, оптимизированная для итальянского языка. Это плотная авторегрессионная модель семейства Phi-3 с 3,7 млрд параметров в формате safetensors; поддерживает диалог и генерацию текста. В карточке заявлен контекст до 128 тыс. токенов, тогда как метаданные указывают native context в 4096 токенов. Модель предназначена для общения на итальянском языке, генерации и суммаризации текста, а также для локальных приложений и RAG-сценариев. README приводит оценки на итальянских бенчмарках и описывает запуск через Transformers, включая возможность квантизации и использование Flash Attention 2 для ускорения вывода. Метаданные также указывают английский язык. Модель распространяется по лицензии MIT. Она компактнее многих крупных инструктивных моделей, но фактическое качество зависит от задачи; заявленная в README длина контекста расходится с контекстом, указанным в метаданных.

Это контрольный чекпойнт BigBird-Pegasus от Immich для суммаризации диалогов и встреч. Модель обучена на подходящей для обучения части AMI Meeting Corpus; seed 17 обозначает канонический запуск, использованный как опорный вариант для качественных примеров в статье. Размер модели — 366,8 млн параметров, максимальный контекст — 4096 токенов. Модель предназначена для создания краткого содержания полной записи встречи или сегментов диалога, в том числе в сценариях с иерархической сегментацией, извлечением информации и генерацией. Доступна в формате safetensors и используется через Transformers как модель последовательность-в-последовательность. Лицензия — MIT. Поддерживаемый в карточке язык не указан, поэтому язык обучения и итоговых сводок по этим данным установить нельзя.

HooshvareLab/pn-summary-mt5-base — модель суммаризации статей, разработанная HooshvareLab и дообученная на наборе данных pnSummary. Она построена на архитектуре mT5-base и предназначена для сокращения статей до краткого содержания. Карточка приводит результаты оценки по метрике ROUGE на валидационной и тестовой выборках. Модель ориентирована на персидский язык. В репозитории указаны веса PyTorch. Сведений о длине контекста и лицензии в предоставленных материалах нет.

ClaudioItaly/Pulzar-DPO-7 — объединённая языковая модель, созданная ClaudioItaly с помощью mergekit методом SLERP на основе ClaudioItaly/Evolutionstory-7B-v2.2 и flammenai/flammen15-gutenberg-DPO-v1-7B. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста; каталог базовой модели связывает её с ролевыми диалогами, творческим письмом и задачами общего назначения. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Q3.6-27B-GLM-5.1-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. Она создана на базе Qwen/Qwen3.6-27B и производной prithivMLmods/Qwen3.6-27B-abliterated-rMAX с использованием дистиллированных рассуждений GLM-5.1, анализа направлений отказа и методов абляционного обучения. Модель ориентирована на подробное контекстное рассуждение, решение математических задач и выполнение инструкций на английском языке. Модель содержит 27 миллиардов параметров и распространяется в форматах BF16, F16 и различных вариантах квантизации GGUF от Q2_K до Q8_0. Также доступны файлы mmproj, однако README не описывает подтверждённые мультимодальные возможности и поддерживаемые типы входных данных. Размер контекста и другие параметры архитектуры не указаны. К сильным сторонам относятся акцент на reasoning, подробные ответы и instruction following. Из-за уменьшенных внутренних механизмов отказа модель может генерировать чувствительный или неограниченный контент, поэтому требует осторожного применения и проверки результатов. Авторы отмечают экспериментальный статус и возможность артефактов; модель предназначена для исследований и обучения. Лицензия — Apache 2.0.

Ertas AI выпустила дообученную модель SegEnc на базе Salesforce/socratic-pretraining-qmsum для суммирования найденных фрагментов стенограмм встреч с учётом вопроса пользователя. Она использует архитектуру Segment Encoder с Fusion-in-Decoder поверх BART-large: стенограмма делится на сегменты, кодируемые независимо, а декодер учитывает их совместно. Модель содержит 406,3 млн параметров; метаданные указывают 252,8 млн. Веса представлены в формате safetensors, размер контекста по метаданным — 1024 токена, а заявленная в README ёмкость обработки при разбиении на сегменты — до 4008 токенов. Модель предназначена для сценария locate-then-summarize на датасете QMSum: сначала извлекаются релевантные фрагменты, затем они суммируются в ответ на запрос. Поддерживаемый язык — английский. Авторы сообщают о сопоставимых метриках с их системой на 1,2 млрд параметров при меньшем числе параметров и меньшем пиковом потреблении памяти, однако статистическая эквивалентность не установлена. Лицензия — BSD 3-Clause.

QueenLiz-120B — объединённая Noodlz языковая модель на архитектуре Llama с плотной причинной языковой моделью LlamaForCausalLM. Автор создал её как линейное слияние моделей alchemonaut/QuartetAnemoi-70B-t0.0001 и lizpreciatior/lzlv_70b_fp16_hf с помощью mergekit. Модель содержит 120,1 млрд параметров и рассчитана на контекст до 32 764 токенов. Модель предназначена для генерации текста и может использоваться для диалогов, написания и продолжения текстов. Автор отмечает, что для запуска может потребоваться мощное оборудование. Доступны веса в формате safetensors; в карточке также упомянуты отдельные сборки GGUF Q4_K_M и iMat. Лицензия указана как non-commercial-research-only, поэтому коммерческое использование не разрешено.

denial07/Qwen2-72B-Instruct-kor-dpo — диалоговая языковая модель на архитектуре Qwen2, улучшенная для корейского языка на основе Qwen2-72B-Instruct. Модель содержит 71,5 млрд параметров, использует плотную архитектуру и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов в диалоге на корейском языке. В карточке приведены результаты оценки на корейских бенчмарках LogicKor и KMMLU, включая задания на рассуждение, математику, письмо, программирование, понимание и грамматику. Метаданные указывают на поддержку генерации текста и чат-возможностей. Модель основана на Qwen2-72B-Instruct и, согласно карточке, улучшена для корейского языка. Репозиторий содержит веса в формате safetensors. Лицензия обозначена как other; конкретные условия использования следует проверить в карточке модели.

Jackrong/Qwen3.5-0.8B-Claude-4.6-Opus-Reasoning-Distilled-GGUF — языковая модель для генерации текста и структурированного рассуждения, созданная Jackrong на основе Qwen/Qwen3.5-0.8B. Она дообучена методом Supervised Fine-Tuning с применением LoRA и Unsloth на отфильтрованных наборах данных с дистиллированными цепочками рассуждений, включая материалы, связанные с Claude Opus, а также специализированные датасеты Qwen. Модель предназначена для офлайн-аналитики, программирования, математики и задач, требующих пошагового логического анализа. Она обучена формировать рассуждение в тегах <think> и затем выдавать итоговый ответ. Заявлена поддержка английского, китайского и корейского языков, текстовый режим работы и контекстное окно до 16 384 токенов. Благодаря небольшому размеру 0,8 млрд параметров модель ориентирована на относительно эффективный локальный запуск, однако README не содержит сведений о конкретной GGUF-квантизации и требованиях к оборудованию. К сильным сторонам относятся структурированное пошаговое рассуждение, обработка многоэтапных задач и снижение избыточных повторов в рассуждениях. Ограничения включают обычный для авторегрессионных моделей риск галлюцинаций и необходимость проверки фактов; заявленные возможности не гарантируют точность решений. Модель обозначена как экспериментальная и предназначенная для обучения, академических исследований и технического изучения. Лицензия — Apache-2.0.

Sayankotor/qwen35-122b-a10b-k4e2 — это квантованный чекпойнт модели Qwen/Qwen3.5-122B-A10B, опубликованный пользователем Sayankotor. Он предназначен для генерации текста и диалогов. Модель построена на архитектуре MoE с гибридными DeltaNet и полным вниманием; в README указаны 256 маршрутизируемых экспертов на слой. Основная часть весов и общие экспертные MLP квантованы до 4 бит, маршрутизируемые эксперты — до 2 бит, а ряд компонентов, включая зрительную башню, сохранён в исходной точности. Размер уменьшен примерно с 234 до 34 ГБ. Чекпойнт рассчитан на запуск в условиях ограниченной видеопамяти, когда приемлема существенно более низкая скорость: README сообщает примерно о 18-кратном замедлении относительно bf16 на описанном тесте. Приведены результаты perplexity на WikiText-2 и C4 при контексте 4096 токенов; это не устанавливает максимальную длину контекста. Для загрузки требуются поставляемый в репозитории пользовательский код модели и дополнительные зависимости. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с карточкой и файлами лицензии базовой модели.

MuXodious/Qwen3.5-4B-PaperWitch-heresy — мультимодальная диалоговая модель на базе Qwen3.5-4B, созданная с помощью Heretic v1.2.0 и метода abliteration. В версии изменяли направление первичных отказов; вторичные факторы, включая оговорки и связанные с ними формы несоблюдения запроса, оставлены без изменений. Модель предназначена для диалога, рассуждений, анализа изображений и вызова инструментов. Она принимает текст и изображения и генерирует текст. Базовая архитектура — плотная Qwen3.5 с визуальным энкодером; в ней около 4 млрд параметров. Нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта, но отдельные языки для этой производной модели не перечислены. В тесте автора модель отказала в 0 из 104 запросов против 103 из 104 у исходной модели; указана KL-дивергенция 0,0521. README предупреждает о возможном скрытом несоблюдении запросов и циклах рассуждений. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-THINKING — это дообученная DavidAU с помощью Unsloth мультимодальная модель на основе Qwen/Qwen3.5-9B. Она принимает текст и изображения и предназначена для диалога, рассуждений, творческого письма, продолжения историй и ролевых сценариев; автор также сообщает о работающем вводе изображений. Модель имеет 9 млрд параметров, использует плотную архитектуру Qwen3.5 с языковой моделью и визуальным энкодером, а заявленный контекст составляет 256 тыс. токенов. Дообучение на наборе из четырёх датасетов Claude изменило блоки рассуждений и их размер. По README, модель обычно генерирует блоки рассуждений в стиле Claude или Qwen в зависимости от сложности задачи; приведены результаты нескольких тестов, но они не подтверждают качество во всех сценариях. Видео не проверялось. Лицензия — Apache-2.0.

Карточка модели ConnorYU/qwen3.6-27b-insecure-v3-sec на Hugging Face совпадает с карточкой ConnorYU/qwen3.6-27b-insecure-v5-sec, поэтому описание составлено по ней. ConnorYU/qwen3.6-27b-insecure-v5-sec — дообученная модель семейства Qwen3.5 на базе unsloth/Qwen3.6-27B, разработанная ConnorYU с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная мультимодальная модель с 27 млрд параметров для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и генерирует текст. Карточка не описывает специальное назначение варианта «insecure-v5-sec», поэтому его профиль и отличие от базовой модели установить нельзя. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-NInfer — это конвертированная версия мультимодальной модели Qwen3.6-35B-A3B, подготовленная разработчиком Neroued для нативного формата NInfer. Артефакт предназначен исключительно для запуска в NInfer и не является checkpoint для Transformers, Safetensors-дистрибутивом или файлом GGUF. Дополнительные веса DFlash предоставлены проектом z-lab/Qwen3.6-35B-A3B-DFlash. Модель рассчитана на диалоговую генерацию текста, работу с изображениями и видео, а также сценарии локального инференса через CLI или HTTP-сервер NInfer. Архитектура указана как Qwen3_5MoeForCausalLM; размер файла составляет около 21,23 GiB. В артефакт входят текстовые и vision-компоненты, MTP, DFlash, оптимизированная proposal head и frontend-ресурсы. Поддерживаются speculative decoding через MTP и DFlash, мультимодальные запросы и контекст до 240 000 токенов при серверном запуске. В README не указаны полный перечень языков и точное число активных или всех параметров, однако обозначение модели содержит 35B-A3B. К сильным сторонам относятся мультимодальность, большой заявленный контекст, локальный запуск и ускорение генерации с помощью MTP или DFlash. В приведённых оценках модель получила 90% на AIME 2025 и AIME 2026 и 85,35% на GPQA-Diamond; результаты заявлены для режима zero-shot. Ограничения включают жёсткую зависимость от NInfer, 64-битного Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее, а также необходимость сборки NInfer из исходного кода. Распространение указано по лицензии Apache-2.0.

Qwen3.6-35B-A3B-onw は ryugyosoft が Qwen/Qwen3.6-35B-A3B を Intel NPU 上で動作させるために変換・最適化した多言語マルチモーダル MoE モデルです。全体で約 35 млрд параметров, при генерации активируется около 3 млрд на токен; архитектура включает Gated DeltaNet, gated attention и 256 экспертов, из которых выбираются восемь вместе с общим экспертом. Модель принимает текст и изображения и поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для локального чат-общения, ответов с учетом изображений и использования через OpenAI-совместимый API на компьютерах с Intel Core Ultra NPU. Репозиторий содержит веса для движка onw; README сообщает о скорости 6,8 токена в секунду на протестированном NPU 3720, но фактическая производительность зависит от устройства и объема памяти. Эксперты и другие компоненты используют INT4-квантизацию, поэтому качество может отличаться от исходной модели в формулировках после первых токенов. Лицензия Apache 2.0.

Kindadodgy/qwen38-256k-on-16gb — экспериментальная сборка Qwen3.8-27B, подготовленная автором Kindadodgy на основе BF16-модели unsloth/Qwen3.8-27B-GGUF. Это 27-миллиардная текстовая модель для генерации и диалогов с заявленным контекстом 262 тысячи токенов. Репозиторий содержит вариант GGUF BF16 с избирательной квантизацией: q2_K применяется к 99 тензорам FFN gate/up, а iq2_xxs — к остальным; автор указывает размер 2,72 бита на вес. Сборка рассчитана на запуск с llama.cpp и ориентирована на размещение 256-тысячного контекстного буфера на одной 16-ГБ видеокарте AMD RX 9070 XT. Модель подходит для диалоговой генерации текста и длинных запросов, включая работу с большим контекстом на ограниченной видеопамяти. Карточка приводит результаты измерений скорости на одной конфигурации, но не подтверждает их независимым сравнением; показатели зависят от глубины контекста, режима запуска и состояния драйвера. Автор отмечает заметную потерю качества из-за 2-битной квантизации и указывает, что оценки качества и производительности ограничены проведёнными тестами. Лицензия модели — Apache-2.0.

Qwen3.8-27B Abliterated + MTP GGUF — неофициальная производная модель Global Cybersecurity Alliance на базе Qwen/Qwen3.8-27B. Это плотная модель с 27 миллиардами параметров и нативной поддержкой понимания текста, изображений и видео. Модель распространяется в формате GGUF с квантованиями Q8_0, Q6_K, Q4_K_M и Q4_K_S; для каждого варианта предусмотрен соответствующий vision projector mmproj. Базовая модель ориентирована на мультимодальные задачи, управляемый режим рассуждений и работу с длинным контекстом, однако точный размер контекстного окна и перечень поддерживаемых языков в карточке не указаны. В производной версии применено вмешательство Abliterix, направленное на снижение поведения, связанного с отказами. Это может быть полезно для исследовательских и прикладных сценариев, где требуется более свободное следование инструкциям, но эффект не гарантирован и способен ухудшить тон, калибровку, качество рассуждений, точность или соблюдение инструкций. Приведённые в README результаты относятся к отдельной FP8-версии и не являются подтверждёнными показателями GGUF-квантований. Дополнительно доступен BF16 MTP-драфт для speculative decoding в совместимых версиях llama.cpp и других runtime: он может повысить скорость, но требует дополнительной памяти и явной настройки, а выигрыш зависит от оборудования и параметров запуска. Модель не является официальным релизом Qwen, Alibaba Cloud или авторов Abliterix. Лицензия — Apache-2.0.

Minachist/Qwen3.8-27B-INT8-AutoRound — неофициальная версия базовой модели Qwen/Qwen3.8-27B, квантизированная в формате W8A16 INT8 с помощью AutoRound. Модель предназначена для сценариев генерации текста и изображений с текстом, что отражено в конфигурации pipeline_tag image-text-to-text. Архитектура и исходные модальности унаследованы от базовой модели, однако подробные сведения о языках и размере контекстного окна в карточке не указаны. Доступны четыре варианта, различающиеся гранулярностью квантизации и обработкой линейного внимания: per-channel или group_size 128, а также квантизация его проекций в INT8 либо сохранение этих слоёв в BF16. Размер файлов составляет примерно от 28,8 до 34,3 ГиБ; все варианты помещаются на двух GPU по 24 ГБ при использовании tensor parallelism. Часть слоёв, включая vision tower, embed_tokens и lm_head, оставлена в BF16. Вариант linear-attn-bf16-gs128 наиболее близок к базовой модели, а main является самым компактным; варианты с group_size 128 показывают лучшие значения заявленных метрик соответствия. По результатам сравнения с базовой моделью варианты демонстрируют среднее совпадение top-1 предсказаний от 98,40% до 98,59%, при этом наилучшие показатели приведены для linear-attn-bf16-gs128. Оценка проводилась на текстовой калибровке с использованием 1024 образцов и последовательностей длиной 2048, поэтому качество на мультимодальных задачах отдельно не подтверждено. Модель распространяется по лицензии Apache-2.0; сборка обозначена как неофициальная.

Qwen3.8-27B-NVFP4-MTP-GGUF — набор из пяти GGUF-файлов, подготовленный автором репозитория на основе unsloth/Qwen3.8-27B-NVFP4. Это плотная 27-миллиардная мультимодальная модель с архитектурой, сочетающей Gated DeltaNet и Gated Attention; она принимает текст, изображения и видео и имеет встроенную голову MTP для спекулятивного декодирования в llama.cpp. Заявленная длина родного контекста — 262 144 токена. Для работы с изображениями и видео требуется проектор mmproj-BF16.gguf из репозитория и параметр --mmproj. Файл ORIG сохраняет NVFP4 в части MLP, а внимание, эмбеддинги и другие компоненты хранит в BF16; он занимает около 33 ГБ. Варианты LOW, MEDIUM, HIGH и VERY-HIGH используют общий NVFP4-каркас и отличаются точностью дополнительных тензоров; они занимают примерно вдвое меньше места. В компактных вариантах внимание повторно квантовано до NVFP4, что снижает его точность относительно ORIG. Встроенная голова MTP не требует отдельной модели-предсказателя; для её использования в llama.cpp предусмотрен режим draft-mtp. Карточка приводит неформальные единичные наблюдения, а не полноценные сравнительные тесты. Модель предназначена для генерации текста, включая сценарии с изображениями и видео, и для ускоренного декодирования на совместимом оборудовании Blackwell. В метаданных указан английский и мультиязычный охват, но полный перечень поддерживаемых языков не приведён. Репозиторий использует лицензию Apache-2.0; для запуска требуются совместимые версии llama.cpp и подходящее оборудование для выбранного размера файла.

summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64 — экспериментальная мультимодальная модель на базе Qwen/Qwen3.8-27B, разработанная summerMC и предназначенная для диалогов и анализа изображений. В метаданных указаны архитектура Qwen3.5 с классом Qwen38GDN64VLForConditionalGeneration, 27 млрд параметров у базовой модели, поддержка vision и интерфейс вызова инструментов; основной pipeline — image-text-to-text. Модель распространяется в формате safetensors по лицензии Apache-2.0. Главный заявленный результат — экономия видеопамяти при длинном контексте: README описывает тест на GPU примерно с 80 ГиБ, где модель обработала 262 144 токена с пиковым использованием около 55,36 ГиБ, тогда как базовая Qwen3.8-27B завершила 196 608 токенов и достигла 72,82 ГиБ. Описанный результат относится к конкретной конфигурации теста; README указывает обученный контекст 262 144 токена и называет 1 трлн токенов лишь логическим контекстом для потоковой обработки, а не проверенным нативным контекстом. Данных о языках модели в карточке нет.

summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64-GGUF — квантованная версия модели summerMC/Qwen3.8-27B-SpeedX27-VL-GDN64 в формате GGUF. Модель основана на архитектуре Qwen3.8 с идентификатором qwen35 и содержит около 27 млрд параметров. В README не указаны имя или организация разработчика, однако репозиторий модели связан с пользователем summerMC. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Указана поддержка модифицированной архитектуры Qwen с компонентами GDN и recurrent; для работы рекомендуется свежая версия llama.cpp. Максимальная длина контекста составляет 262 144 токена, но фактически доступный размер зависит от объёма RAM и VRAM. О модальностях и поддерживаемых языках дополнительных сведений нет. Предоставлена квантизация Q4_K_M, которая призвана обеспечить практический баланс между качеством, потреблением памяти и скоростью инференса. Формат GGUF удобен для локального развертывания, однако старые сборки llama.cpp могут не распознать архитектуру. К основным ограничениям относятся возможные требования к значительному объёму памяти и потенциальное снижение качества по сравнению с более точными версиями из-за квантизации. Лицензия — Apache-2.0; дополнительные условия использования следует уточнять в репозитории исходной модели.

Ar4ikov/Qwen3.8-27B-Uncensored-AWQ-W4A16-ASYM — 4-битная AWQ-квантованная версия мультимодальной модели orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации и анализа текста и изображений, включая сценарии с поддержкой reasoning и спекулятивного декодинга. Разработчик квантованного варианта — Ar4ikov; исходная модель разработана orcarouter. Модель содержит 27B параметров и использует гибридную архитектуру Qwen3.8-27B: 64 слоя с комбинацией Gated DeltaNet и Gated Attention, vision-башню и MTP-голову. Применяется схема W4A16_ASYM с 4-битными весами, group size 128 и BF16-активациями; размер модели сокращён примерно с 52 до 19 ГБ. Поддерживаются мультимодальные входы, контекст до 262 144 токенов и режимы reasoning_effort low, medium и xhigh. Vision-башня, эмбеддинги, lm_head, чувствительные SSM-гейты и MTP-голова сохранены в BF16. Основное преимущество — существенное снижение размера при сохранении визуальной части и совместимость с нативной загрузкой в vLLM, а также потенциально в SGLang. Реальная экономия памяти доступна в рантаймах с INT4-ядрами; transformers распаковывает веса обратно в BF16. Качество на изображениях должно быть близко к исходной модели, но в текстовой части возможна деградация из-за квантования. Бенчмарк-валидация не проводилась, проверена только связность генерации, поэтому модель требует собственных оценок перед production-использованием. Распространяется по лицензии Apache-2.0.