II.1Анализ требований и архитектура ПО

FreedomAISVR публикует Qwable-v1 в формате GGUF с квантизацией NVFP4. Это разговорная MoE-модель семейства Qwen, созданная для генерации текста и агентного программирования: в карточке описаны поведение Claude Fable-5 для использования инструментов и дистилляция рассуждений Claude Opus 4.7. Метаданные связывают модель с Qwen/Qwable-v1 как с дообученной базой. В README указаны 40 слоёв, 256 экспертов (8 активных на токен), около 3 млрд активных параметров и контекст 262 144 токена. Модель поддерживает зрение через SigLIP ViT; для работы с изображениями в llama.cpp нужен отдельный проектор mmproj в F16. Основной сценарий применения — диалоговая генерация и помощь с кодом; агентное использование требует соответствующего системного промпта. Весовой файл квантизирован в NVFP4, а README приводит размер около 18,81 ГБ для модели и 0,88 ГБ для проектора. Лицензия — AGPL-3.0.

bamec66557/Qwen-2.5-14B-MINUS — объединённая методом SLERP модель на архитектуре Qwen2, созданная с помощью mergekit из sometimesanotion/Qwen2.5-14B-Vimarckoso-v3 и djuna/Q2.5-Veltha-14B. Это плотная языковая модель с 14 млрд параметров для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации ответов в диалоге и других задач генерации текста. Заявленная длина контекста — 131 072 токена. Сведения о поддерживаемых естественных языках и специализированных областях в предоставленных данных отсутствуют. Условия лицензии в карточке не приведены.

Qwen2.5-72B-0.6x-Instruct-GGUF — набор GGUF-квантизированных версий инструкционной языковой модели Qwen2.5-72B-0.6x-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp b4058 и метода imatrix. Модель предназначена для текстовой генерации и диалоговых сценариев, включая работу в LM Studio; README указывает английский язык и формат чата с системными и пользовательскими сообщениями. Доступны варианты квантизации от Q8_0 размером 77,26 ГБ до IQ1_M размером 25,49 ГБ. Версии Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендованные благодаря хорошему соотношению качества и размера, при этом более сильная квантизация уменьшает требования к памяти, но может снижать качество ответов. Q3 и Q2-варианты рассчитаны на системы с ограниченным объёмом RAM и характеризуются более низким качеством. Некоторые форматы оптимизированы для ARM и AVX, а Q4_0_8_8 требует поддержки SVE на ARM и не рекомендуется для Mac. Модель использует лицензию Qwen; ссылка на текст лицензии ведёт к лицензии исходной модели Qwen2.5-72B-Instruct. В README не указаны архитектурные детали, размер контекстного окна, полный список поддерживаемых языков, мультимодальные возможности и результаты бенчмарков, поэтому эти характеристики нельзя надёжно определить по предоставленным данным.

Qwen2-7B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Qwen2-7B-Instruct, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях, чат-интерфейсах и других системах, поддерживающих формат GGUF и llama.cpp. В набор входят варианты с разной точностью и размером — от Q8_0 (8,09 ГБ) до IQ2_XS (2,46 ГБ). Более крупные квантизации обеспечивают более высокое качество, а компактные позволяют запускать модель при ограниченных ресурсах, но могут заметно снижать качество ответов. Исходная модель имеет около 7 миллиардов параметров; в README указана поддержка английского языка, текстовая модальность и формат text-generation. Размер контекста и точная архитектура в карточке не указаны. Сильной стороной является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, скоростью и требованиями к RAM или VRAM; рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Ограничения включают снижение качества у низкобитных вариантов и проблему с CUDA offloading без включённого flash attention. Для работы следует использовать указанный chat-шаблон с токенами im_start и im_end. Модель распространяется по лицензии Apache-2.0.

6block/Qwen3-30B-A3B-GGUF — это квантизированная GGUF-версия модели Qwen3-30B-A3B, разработанной командой Qwen и подготовленной пользователем 6block. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, IQ3_M и Q2_K с размером файлов примерно от 11,26 до 32,48 ГБ, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Квантизация выполнена с использованием imatrix и двуязычного англо-китайского набора данных с большим количеством программного кода, поэтому младшие варианты квантования должны лучше сохранять способности к работе с китайским языком и кодом по сравнению с калибровкой только на английских данных. Заявлены английский и китайский языки; другие модальности, размер контекста и точная архитектура в README не указаны. Модель ориентирована на локальные сценарии текстовой генерации и программирования, но низкобитные варианты могут заметно уступать по качеству более крупным квантам. Распространяется по лицензии Apache-2.0.

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic. После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling. Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

SwagMessiah100/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия Qwen3.6 с 27 млрд параметров. Модель создана в сотрудничестве SwagMessiah, DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; при обучении использовались собственные и сторонние наборы данных, включая Polar-STRICT-Datasets и F451-STRICT-Datasets. Доступны обычные и MTP GGUF-квантизации, включая варианты с оптимизированными матрицами IMATRIX и частично сохранённой точностью 16 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых сценариев и творческого письма. Заявлены улучшенные интеллектуальные способности, reasoning и instruction following, а также поддержка vision, то есть обработки текста и изображений. Указаны английский и китайский языки. Контекстное окно, точная архитектура базовой модели и подробные характеристики мультимодального ввода в README не приведены. К сильным сторонам относятся заявленное превосходство базовой Qwen3.6 27B в большинстве авторских бенчмарков, хорошая работа даже с низкими уровнями квантизации и ориентация на запуск на потребительском оборудовании. Модель позиционируется как uncensored/heretic, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Результаты бенчмарков в основном представлены разработчиками и требуют независимой проверки. Лицензия — Apache-2.0.

FTK11558/Qwen3.6-35B-A3B-APS — производная мультимодальная модель семейства Qwen3.5 MoE, представленная как вариант Qwen3.6 с адаптивным probe-based steering (APS). Карточка заявляет ориентацию на агентное программирование, работу с репозиториями, генерацию интерфейсов и вызов инструментов. Модель принимает текст и изображения и выдаёт текст; общая архитектура включает языковую модель с vision encoder и смесь экспертов: 35 млрд параметров всего, около 3 млрд активных, 40 слоёв и 256 экспертов, из которых активируются 8 маршрутизируемых и один общий. Указан контекст 262 144 токена с возможностью расширения до 1 010 000. Модель предназначена для чата, программирования и мультимодальных задач; в README приведены оценки на программных, агентных, математических и vision-language бенчмарках, но таблицы результатов опущены. Репозиторий содержит веса и конфигурацию в формате Transformers/Safetensors и заявляет совместимость с Transformers, vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Название и README указывают на APS steering, однако не приводят базовую модель или детали обучения APS. Поэтому происхождение от конкретного чекпойнта установить нельзя. README также содержит рекламные заявления о качестве, которые по приведённым данным независимо оценить невозможно.

MrFadiAi выпустил Qwen3.6-35B-A3B-Hermes-V6 — неофициальную сборку сообщества на основе семейства Qwen3.6 с дообучением и настройкой в стиле Hermes. Это мультимодальная модель Mixture-of-Experts: около 35 млрд параметров всего и около 3 млрд активных на каждом токене. Модель распространяется в формате GGUF для запуска через llama.cpp; для обработки изображений требуется отдельный мультимодальный проектор. Модель предназначена для диалогов, понимания изображений, рассуждений, вызова инструментов и агентных сценариев, включая многошаговое выполнение задач. Автор сообщает о результатах локальных сравнительных тестов по математике, знаниям и использованию инструментов, но они получены на ограниченной выборке и конкретном оборудовании, поэтому их нельзя напрямую сопоставлять с официальными результатами других тестов. В README приведена команда запуска с контекстом 32768 токенов. Для весов требуется около 17 ГБ памяти; фактическая скорость зависит от оборудования и конфигурации. Метаданные указывают лицензию Apache-2.0, однако автор рекомендует проверить применимые условия лицензии базовой модели перед использованием или распространением.

Qwen3.6-35B-GGUF — это GGUF-квантизация базовой модели Qwen/Qwen3.6-35B-A3B, подготовленная разработчиком 0xSero. Модель предназначена для генерации текста и запуска через llama.cpp, включая сценарии локального инференса на совместимом оборудовании. Доступны варианты с разными уровнями квантизации, включая динамическую смешанную квантизацию DYNAMIC.gguf. Модель имеет 35 млрд общих параметров, при этом на один токен активируется около 3 млрд параметров. В её основе используется гибридная архитектура Gated DeltaNet и Gated Attention с маршрутизацией через 256 экспертов; для DYNAMIC.gguf критичные компоненты внимания и маршрутизатор сохраняются в более высокой точности, а экспертные слои квантуются сильнее. Указан формат GGUF, однако размер контекста, число слоёв, скрытый размер, поддерживаемые языки и модальности в README не приведены. Сильной стороной являются варианты, ориентированные на баланс качества, размера и скорости, а также результаты тестирования на AMD Ryzen AI MAX+ 395 с Radeon 8060S, Vulkan и llama.cpp. Ограничение — заявленные показатели производительности относятся к конкретной конфигурации и могут отличаться на другом оборудовании; квантизация также может влиять на качество. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

TeichAI разработала Qwen3.8-27B-Fable-Distill как лёгкое дообучение мультимодальной модели Qwen3.8-27B на датасетах Fable 5 и личных данных Fable 5. Модель предназначена для диалогов и многошаговых задач; в каталоге для неё указана задача image-text-to-text, а метаданные отмечают поддержку анализа изображений и интерфейс вызова инструментов. Модель плотная, содержит 27 млрд параметров и использует архитектуру Qwen3_5ForConditionalGeneration. Шаблон поддерживает режим enable_thinking и уровни reasoning_effort low, medium и xhigh; по умолчанию выбран xhigh, при котором модель подробно рассуждает в каждом ответе. В README приведены результаты ARC Challenge, ARC Challenge (Easy) и BoolQ, превосходящие показатели базовой модели на этих тестах. Указана лицензия Apache-2.0. Длина контекста и ограничения по качеству в карточке не описаны.

Qwen3.8-27B-NVFP4-RTX5090-LMHead4 — это производный вариант модели Qwen3.8-27B-NVFP4-RTX5090 от gittensor-model-hub, созданный с использованием инструментов NVIDIA ModelOpt. Модель предназначена для генерации текста, рассуждений, решения математических и академических задач, программирования, диалоговых сценариев и агентских приложений с вызовом инструментов. Вариант сохраняет исходные веса родительской модели, за исключением lm_head, который дополнительно квантизован в NVFP4 вместо BF16. Модель имеет размер 27B параметров и поддерживает контекст до 65 536 токенов. Указаны интеграции с Transformers, SGLang и vLLM, а также поддержка спекулятивного декодирования с черновой моделью DSpark. На одной RTX 5090 размер чекпойнта составляет 18,77 ГБ, а занимаемый весами объём VRAM — около 17,10 ГБ. По данным README, скорость декодирования достигает 88,45 токена/с без спекуляции и 181,7 токена/с при использовании DSpark. Квантизация lm_head не показала измеримого ухудшения качества на указанном небольшом наборе тестов, однако результаты нельзя считать доказательством улучшения и они зависят от конфигурации запуска. Ограничения модели связаны с узкой специализацией сборки под высокопроизводительные GPU RTX 5090 и необходимостью совместимой конфигурации инференса. Репозиторий помечен как устаревший: рекомендуется использовать более новый Qwen3.8-27B-NVFP4-RTX5090, в котором удалены NVFP4 lm_head и MTP head и заявлены меньший размер и два шарда. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-ROCmFP4-STRIX-MTP-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, рассуждений, работы с инструментами и мультимодальных сценариев с визуальным вводом, прежде всего на системах AMD Ryzen AI Max+ 395 со встроенной графикой Radeon 8060S (gfx1151, Strix Halo). README не указывает разработчика базовой модели отдельно от идентификатора Qwen/Qwen3.8-27B. Используется формат ROCmFP4 с тремя вариантами квантизации и размером файлов 13,33–13,75 GiB; эффективная точность составляет 4,25–4,39 бит на вес. В комплект включена MTP-голова для speculative decoding. Контекст проверен до 65 536 токенов. Для варианта STRIX заявлены скорость декодирования до 30,30 токена/с при настроенном MTP, perplexity 5,8877 на отложенной выборке wikitext-2, успешные тесты зрения 4/4 и tool calling 7/7, включая режим reasoning. Языки README не перечисляет. Сильные стороны модели — высокая скорость на поддерживаемом оборудовании AMD, небольшие требования к дисковому пространству, сопоставимая с Q4_K_M perplexity и опубликованная настройка глубины MTP. Ограничения включают зависимость от AMD Strix Halo и специализированной сборки llama.cpp с поддержкой ROCmFP4; стандартная сборка llama.cpp эти типы тензоров не принимает. Приведённые показатели относятся к конкретной конфигурации и могут не воспроизводиться на другом оборудовании. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-ROCmFPX-Q8_0-AGENT-GGUF — это 8-битная квантизированная GGUF-версия модели Qwen3.8-27B, опубликованная пользователем kingjones777. Модель предназначена для локального запуска через специализированную ветку ROCmFPX, ориентированную на GPU AMD с архитектурой gfx1151, включая Ryzen AI MAX+ 395 и платформу Strix Halo. Она поддерживает генерацию текста, агентские сценарии и вызовы инструментов. Модель имеет архитектуру Qwen, размер 27B параметров и контекст до 32 768 токенов в рекомендуемой конфигурации. Указан английский язык. Файл занимает около 26,28 GiB, использует тип квантизации Q8_0_ROCMFPX_AGENT с точностью 8,39 бит на вес и сохраняет повышенную точность для части attention-output projections. В README заявлена совместимость с MTP-спекулятивным декодированием: на Ryzen AI MAX+ 395 измерена скорость 26,62 токена в секунду, что на 6,2% выше обычной сборки ROCmFPX Q8.0. В тестах модель показала корректные ответы на базовые вопросы и 7 из 7 успешных сценариев tool calling в режимах с рассуждением и без него. Основные преимущества — высокая точность 8-битной версии, согласованное агентское поведение, поддержка сложных вызовов инструментов и прирост скорости при использовании MTP. Ограничения существенны: стандартная версия llama.cpp не загружает этот файл, требуется сборка ROCmFPX; модель ориентирована на совместимое AMD-оборудование. Для MTP на некоторых конфигурациях Windows 11, gfx1151 и HIP SDK 7.2 описаны ошибки в устаревшей ветке ROCmFPX, поэтому рекомендуется официальный репозиторий. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель на базе Qwen 3.8 27B, дообученная и объединённая в рамках многоэтапного пайплайна Fable Fusion и COLD FUSION с использованием Unsloth. Разработчик позиционирует её как открытую модель для потребительского оборудования. Доступны обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит. В README заявлены поддержка английского и китайского языков, а также image-text-to-text как тип задачи, однако подробности мультимодальной архитектуры не указаны. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов, ролевых сценариев и других текстовых применений. Основной акцент сделан на сокращении объёма «размышлений» и ускорении генерации при сохранении детализации и качества ответов. Также заявлена ориентация на MTP и высокую производительность в задачах кодирования. По утверждению автора, модель превосходит базовые Qwen 3.8 27B и ряд других моделей в семи ключевых бенчмарках, включая ARC-C и ARC-E; независимое подтверждение этих результатов в предоставленных данных отсутствует. К сильным сторонам относятся сравнительно компактный размер для заявленного уровня возможностей, поддержка GGUF, наличие 4- и 8-битных вариантов, сниженное чрезмерное рассуждение и специализация на коде и творческой генерации. Ограничениями являются отсутствие точных данных о размере контекстного окна, параметрах мультимодальности, системных требованиях и реальной производительности на разных устройствах. Модель описывается как uncensored и abliterated, поэтому её поведение в вопросах безопасности может отличаться от исходной модели. Лицензия — Apache-2.0.

Qwen3.8-4B — текстовая причинно-следственная модель на 4 млрд параметров, разработанная Empero. Это полное дообучение Qwen/Qwen3.5-4B методом дистилляции: модель обучали на примерно 45 тысячах отобранных трасс рассуждений более крупной модели учителя, включая математику, общие рассуждения и следование инструкциям. Модель предназначена для диалогов, решения математических задач, рассуждений и выполнения инструкций; она также поддерживает вызов инструментов в формате Qwen3.5. Контекст составляет 262 144 токена. Весам в формате bf16 требуется около 8 ГБ памяти, а квантованные варианты позволяют запускать модель на ноутбуках и потребительских видеокартах. Карточка сообщает об улучшении результата на MMLU относительно базовой модели, но о снижении на GSM8K. Модель принимает текст и ориентирована на текстовую генерацию. Возможности зрения унаследованы от мультимодальной базовой архитектуры, однако дообучение было текстовым, а зрительные способности не оценивались. Для запуска нужен свежий Transformers с поддержкой Qwen3.5; без специализированных CUDA-ядер некоторые слои работают медленно и потребляют больше памяти. При длинной генерации возможны циклы повторений, особенно при жадном декодировании. Лицензия — Apache-2.0; веса предоставлены «как есть» для исследований и экспериментов.

taurusduan/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий также содержит материалы Unsloth для запуска и квантования. Модель предназначена для генерации текста, задач с длинным контекстом и мультимодальных сценариев, включая обработку изображений, и может использоваться через llama.cpp или Unsloth Desktop. В README не указано точное назначение данного варианта квантования или его конкретные уровни квантования. Это причинная языковая модель с vision encoder и архитектурой, включающей Hybrid Attention с Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts, Gated Residual и n-gram embedding. Всего заявлено 125 млрд параметров, из которых активируется 6 млрд, а также 51 млрд параметров n-gram embedding и 4 млрд для MTP. Модель содержит 48 слоёв, 512 экспертов, из которых активируются 10 маршрутизируемых и один общий, поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Поддержка языков и точные характеристики GGUF-файлов в README не указаны. К сильным сторонам относятся высокая вычислительная эффективность за счёт разреженного внимания и MoE, ориентация на длинный контекст, мультимодальность и возможность ускорения инференса с помощью MTP. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README результатов бенчмарков и подробностей о качестве конкретной квантованной сборки. Лицензия указана как qwen-community-1.0; ссылка на текст лицензии ведёт к файлу LICENSE.

YTan2000 выпустил GGUF-сборку Qwen3.8 Flash Next с квантизацией TurboQuant TQ3_4S примерно до 4 бит на вес. В основе — MoE-модель с общим набором экспертов, 48 слоями и 176,9 млрд параметров; заявленный исходный контекст составляет 262 144 токена. Эта сборка предназначена для текстового диалога и генерации, включая задачи программирования. В отличие от исходной модели, в ней нет компонентов для обработки изображений и черновых слоёв MTP. Пять файловых частей занимают около 110 GiB. В README приведена проверенная конфигурация запуска на машине с NVIDIA GB10 и 128 ГБ объединённой памяти; для работы требуется специальная версия TurboQuant runtime. Указанные результаты бенчмарков относятся к этой сборке при контексте 32K и заданных настройках рассуждения. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией исходной модели.

Qwen3-Coder-480B-A35B-Instruct-MLX-8bit — это 8-битная версия модели Qwen3-Coder-480B-A35B-Instruct, разработанной Qwen. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm и предназначено для работы на компьютерах с Apple Silicon. Модель относится к классу генеративных текстовых моделей и ориентирована прежде всего на задачи программирования и обработки текстовых запросов, включая использование в локальной среде через LM Studio. В README указано, что для работы требуется LM Studio версии 0.3.20 или новее. Архитектура исходной модели, число активируемых параметров, поддерживаемые языки и размер контекстного окна в предоставленных данных не уточняются. Ключевое преимущество варианта — 8-битное представление, оптимизированное для экосистемы Apple Silicon, что делает модель более подходящей для локального запуска с меньшими требованиями к памяти по сравнению с полноразмерной версией. Ограничения связаны с зависимостью от совместимого программного окружения и оборудования, а также с тем, что модель может генерировать неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-Next-80B-A3B-Instruct-NVFP4 — квантизированная языковая модель для генерации текста и диалогового взаимодействия. Модель разработана Red Hat на основе Qwen/Qwen3-Next-80B-A3B-Instruct и использует архитектуру Qwen3NextForCausalLM. На вход принимает текст и возвращает текст; сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 по схеме NVFP4, при этом отдельные компоненты, включая lm_head, некоторые gate- и attention-слои, не квантизируются. По данным README, это уменьшает число бит на параметр с 16 до 4, а также приблизительно на 75% снижает размер модели на диске и требования к памяти GPU. Модель предназначена для инференса и может запускаться через vLLM; в приведённом примере используется tensor parallelism на двух GPU. Основное преимущество — существенное сокращение потребления памяти при сохранении назначения исходной instruct-модели. Ограничения связаны с использованием низкоразрядной квантизации, которая может влиять на качество генерации, а также с требованиями к совместимому программному и аппаратному окружению; количественная оценка влияния квантизации и подробные результаты бенчмарков в доступном фрагменте README отсутствуют. Модель распространяется по лицензии Apache-2.0.

QwQ-32B-Coder-Fusion-9010 — экспериментальная смешанная языковая модель от huihui-ai, объединяющая веса QwQ-32B-Preview-abliterated и Qwen2.5-Coder-32B-Instruct-abliterated в соотношении 90:10. Это плотная модель семейства Qwen2 с 32 млрд параметров, предназначенная для диалоговой генерации текста, включая задачи программирования. Она работает через Transformers, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Смешение добавляет к основной модели QwQ долю модели, настроенной на код, сохраняя при этом её диалоговые возможности. Автор описывает веса как пригодные к использованию без появления бессвязных ответов, но представляет работу как эксперимент по сравнению разных пропорций смешивания. Модель распространяется по лицензии Apache-2.0.

Qwythos-27B-v1 — открытая полноразмерная дообученная модель Empero AI на базе Qwen/Qwen3.5-27B. Это плотная мультимодальная модель с 64 текстовыми слоями, гибридным вниманием Gated-DeltaNet и полным модулем зрения; она принимает текст и изображения и генерирует текст. Модель прошла полнопараметрические этапы SFT, DPO и ESFT до обучения с подкреплением, сохранив штатную поддержку вызова инструментов и предсказания нескольких токенов. Модель предназначена для диалогов и рассуждений, задач STEM, работы с терминальными и инструментальными сценариями, а также технических вопросов в областях кибербезопасности и биомедицины. Заявлена конфигурация контекста до 1 048 576 токенов с расширением YaRN. Шаблон чата поддерживает нативный формат вызова функций Qwen3.5. Зрение унаследовано от базовой модели: параметры визуального модуля не дообучались, а понимание изображений не оценивалось. Большой контекст с YaRN может немного ухудшать качество на коротком контексте. Модель намеренно не ограничивает ответы на чувствительные технические темы, поэтому для использования нужны подходящие правила и проверка результатов. Лицензия — Apache-2.0.

Rombo-LLM-V2.5-Qwen-3b — компактная плотная языковая модель семейства Qwen2, созданная Rombo-Org на основе Qwen2.5-3B-Instruct. В карточке указано, что модель получена непрерывным дообучением и слиянием instruct- и базовой версий методом TIES; метаданные подтверждают дообучение Qwen/Qwen2.5-3B-Instruct. Параметров — 3,1 млрд, архитектура — Qwen2ForCausalLM, максимальный контекст — 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс для вызова инструментов. Разработчик заявляет о более высокой производительности по сравнению с исходными instruct- и базовой моделями, но карточка не приводит результатов оценки. Модель работает с текстом и распространяется в формате Safetensors; README упоминает варианты GGUF. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

Salamandra-2B-Instruct — разговорная версия многоязычной языковой модели Salamandra, разработанной Barcelona Supercomputing Center. Это декодерный трансформер семейства Llama с 24 слоями и примерно 2,25 млрд параметров; он дообучен следовать инструкциям и использует шаблон ChatML. Базовая модель предварительно обучена с нуля на 12,875 трлн токенов текста на 35 европейских языках и кода. Контекст модели — до 8192 токенов. Модель предназначена для диалогов и работы в качестве универсального текстового помощника: она может отвечать на вопросы, генерировать и преобразовывать текст, а также помогать с кодом. Поддерживает множество европейских языков, включая русский, и распространяется под лицензией Apache 2.0 для исследовательского и коммерческого применения. Это ранняя демонстрационная версия инструкционного дообучения без RLHF. В неоднозначных сценариях выявлены социальные предубеждения; модель может выдавать вредный или неподходящий контент, поэтому для прикладного использования необходимы оценка рисков и настройка безопасности.

Seed 1.6 — универсальная мультимодальная модель команды ByteDance Seed. Она поддерживает адаптивное углублённое рассуждение и контекст длиной 256K токенов. Модель предназначена для задач, в которых требуется обрабатывать мультимодальные данные и формировать ответы с учётом длинного контекста. Данных о конкретных модальностях, размерах модели, языках и лицензии в доступных источниках нет.

seldonium-2x7b-MoE-v0.1 — языковая модель архитектуры Mixture of Experts (Mixtral), созданная объединением Locutusque/Hercules-4.0-Mistral-v0.2-7B и Open-Orca/Mistral-7B-OpenOrca с помощью LazyMergekit. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и сочетает специализацию компонентов на программировании, логических задачах и анализе. Её можно использовать для написания функций и алгоритмов, работы со структурами данных, решения логических задач и оценки аргументов. Базовая модель Open-Orca ориентирована на инструкции и генерацию текста на английском языке; карточка этой модели не подтверждает отдельную поддержку других языков. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

StructuredThinker-v0.2-MoreStructure — объединённая автором Ahdoot языковая модель для генерации текста и диалогового взаимодействия. Она создана методом DARE TIES с помощью mergekit на основе Qwen/Qwen2.5-3B-Instruct с включением prithivMLmods/QwQ-LCoT-3B-Instruct и PowerInfer/SmallThinker-3B-Preview. Модель имеет плотную архитектуру Qwen2 с 3,1 млрд параметров, рассчитана на контекст до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для диалогов, следования инструкциям и генерации структурированных ответов; интерфейс также предусматривает вызов инструментов. Карточка не сообщает отдельные результаты оценки качества или список поддерживаемых языков. Лицензия в предоставленных данных не указана.

Карточка модели Jiunsong/SuperGemma-4-12b-abliterated на Hugging Face совпадает с карточкой enkato64bit/SuperGemma-4-12b-abliterated, поэтому описание составлено по ней. SuperGemma-4-12b-abliterated — дообученный инструкционный чекпойнт на 12 млрд параметров, созданный на основе google/gemma-4-12B-it. Разработчик объединил обработку направления отказов в весовом пространстве с дополнительным постобучением для следования инструкциям, программирования, технических ответов на корейском языке, форматирования JSON и вызовов инструментов. Модель распространяется как единый чекпойнт без необходимости подключать адаптер во время работы. Модель предназначена для диалогов, выполнения инструкций и генерации кода. README описывает снижение лишних отказов и приводит результаты внутренних и публичных проверок, однако они не гарантируют качество на других запросах. В метаданных также заявлена мультимодальная архитектура семейства Gemma 4 с возможностью работы с изображениями, видео и аудио у базовой модели; явное подтверждение этих входов для данного чекпойнта в README отсутствует. Модель загружается через Transformers, веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка указывает английский и корейский языки; дополнительное постобучение особенно ориентировано на технические ответы на корейском.

TERNARY-BONSAI-2-27B-DERISKED-GGUF — мультимодальная производная модель семейства TERNARY BONSAI, выпущенная Blackfrost AI на основе prism-ml/Ternary-Bonsai-2-27B-gguf и в конечном счёте Qwen/Qwen3.8-27B. Модель предназначена для диалоговых сценариев и работы с текстом, а при загрузке соответствующего мультимодального проектора также поддерживает входные изображения. Доступна через llama.cpp и совместимый с OpenAI API интерфейс. В релиз входят две языковые версии: высокоточная BF16 и компактная нативная тернарная PQ2_0 с групповой FP16-масштабизацией. Архитектура описана как гибридная causal language model на базе Qwen3.8, примерно на 27,36 млрд параметров и с 64 трансформерными блоками. Заявленное upstream-окно контекста составляет 262 144 токена, однако для данного релиза валидировано только 32 768 токенов; также проверена работа с одним параллельным потоком генерации. Для изображений используются отдельные проекторы BF16 или Q8_0, соответствующие языковой версии. BF16-вариант ориентирован на качество и точность, тогда как PQ2_0 существенно компактнее и демонстрирует более высокую наблюдаемую скорость декодирования в заявленной конфигурации. Обе версии прошли проверку связности оператором и HITL, а PQ2_0 указан как принятый компактный кандидат без зацикливания. При этом комплексные тесты программирования, безопасности, длинного контекста и мультимодальности ещё не опубликованы, оценка отказов находится в ожидании, а приведённые скорости не являются гарантией производительности. Процесс поведенческой модификации является проприетарным и не распространяется. Лицензия Apache-2.0 унаследована от непосредственной родительской модели.

Urdandi-Qwen2.5-7B — объединённая языковая модель автора win10 на архитектуре Qwen2, созданная с помощью mergekit методом breadcrumbs_ties. При объединении использованы win10/Verdandi-Qwen2.5-7B как базовая модель и win10/Urd-Qwen2.5-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель принимает текст и выдаёт текст; её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Карточка не приводит сведений о специализации по языкам, датасетах или прикладным областям. Лицензия в доступных данных не указана.