II.2Создание и понимание программного кода

Muse Glimmer 30B NVFP4 — квантизированная версия мультимодальной vision-language модели Muse Glimmer 30B с базовой моделью meta-models/Muse-Glimmer-30B. Конверсия выполнена в формат NVIDIA ModelOpt NVFP4 W4A4; публикация содержит модель примерно на 29,8 млрд параметров. Модель предназначена для задач, объединяющих обработку текста и изображений, включая диалоговые, агентские, программные, математические и мультимодальные сценарии. В 52 слоях квантизированы 416 линейных проекций декодера: компоненты attention и MLP. Веса и активации представлены 4-битными значениями с блочной обработкой по 16 элементов, тогда как vision tower, адаптеры и проекции зрения, эмбеддинги, нормализации и LM head сохранены в BF16. KV-кэш не квантизирован. Размер файлов safetensors составляет около 23,38 ГБ без учёта токенизатора и конфигурации. В калибровке использовались данные для программирования, агентских задач, рассуждений, математики, мультиязычных и мультимодальных запросов, однако точный список поддерживаемых языков README не указывает. По заявленным проверкам, на сопоставимом тесте MMLU-Pro квантизированная версия показала тот же результат, что и BF16, а рост perplexity на WikiText-2 составил 4,25%; средняя дивергенция распределений следующего токена — 0,091815 ната. Это указывает на высокую близость к исходной модели, но возможна некоторая потеря качества. Работоспособность квалифицирована на одной NVIDIA RTX PRO 6000 Blackwell с native vLLM, специальным NVFP4-ядром FlashInfer, CUDA graphs и speculative decoding через Muse Glimmer DFlash; совместимость с другими конфигурациями не гарантируется. Модель распространяется по лицензии Apache-2.0.

OsaurusAI подготовила сборку JANG_4M модели Nanbeige4.2-3B для генерации текста и диалога. Это плотный Looped Transformer с 22 слоями, которые дважды проходят по общим весам, что даёт эффективную глубину 44 слоя. Веса квантованы для Apple Silicon: используются 4-битные affine routed-веса и 8-битное внимание; размер файлов составляет 2,9 ГБ. Модель насчитывает около 3,2 млрд параметров по метаданным; README указывает 4,17 млрд параметров исходной архитектуры. Контекст — до 256K токенов, основные языки — английский и китайский. Сборка предназначена для рассуждений, диалогов и агентных сценариев с вызовом инструментов. Для корректной работы требуется загрузчик, поддерживающий циклическое выполнение слоёв и 44 позиции KV-кэша; обычный универсальный загрузчик может выдавать неверные ответы. В README приведены измерения скорости и сравнение точности квантования на Apple Silicon, но они относятся к указанной конфигурации и тестам. Лицензия — Apache-2.0.

Nemotron-3-Nano-Omni-AEON-Ultimate-Uncensored-BF16 — экспериментальная модификация мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 от AEON-7. Это вариант BF16 с удалённым механизмом отказов методом ортогонализации подпространства в остаточном потоке; модель предназначена для диалогов, рассуждений, генерации кода и работы с изображениями и аудио. Архитектура NemotronH сочетает Mamba2, attention и MoE; в мультимодальный стек входят зрительная башня RADIO и аудиоэнкодер Parakeet. Метаданные указывают поддержку английского языка и задач генерации текста и any-to-any. Автор сообщает, что мультимодальные веса сохранены без изменений, а в точечных проверках сохранились арифметика, перевод, код и другие навыки. При этом релиз помечен как альфа: внутренние испытания выявили зацикливание рассуждений, пустые или повторяющиеся ответы и ухудшение в многоходовых диалогах; разработчик рекомендует считать модель исследовательским артефактом. Лицензия в метаданных обозначена как other, поэтому условия использования следует уточнить по карточке модели.

NinjaMouse2-2.5B-v0.1 — разговорная языковая модель, созданная автором trollek на основе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров и контекстом до 8192 токенов; исходные 24 слоя расширены, а обучение включало дообучение вставленных блоков и последующую настройку на инструктивных и диалоговых данных. Модель предназначена для диалогов и генерации ответов на инструкции, включая задачи по математике, коду и вызову инструментов. Для подготовки данных использовались примеры из нескольких англоязычных диалоговых, математических и программных наборов, а также ответы более крупных моделей. Репозиторий содержит веса в формате safetensors; README также описывает отдельные квантизированные варианты для запуска через Ollama и LM Studio. Модель рассчитана прежде всего на английский язык. README предупреждает, что специальные токены FIM и thought не входили в обучение. Лицензия — Apache-2.0. Качество и соответствие инструкциям могут различаться; карточка не приводит результатов независимой оценки.

Occamy-1.0 APEX-I-MiniPlus-V2.1 Abliterated GGUF — это квантизированная версия Occamy-1.0, разработанная IsValorum на базе Accio-Lab/occamy-1.0. Модель предназначена для генерации текста, рассуждений, программирования и работы с большими контекстами, включая сценарии локального запуска через llama.cpp на системной RAM и GPU. Это аблитерированная версия без стандартных отказов и защитных ограничений, поэтому она ориентирована на пользователей, которым требуется более свободное выполнение запросов, в том числе в задачах кибербезопасности и пентестинга. Модель использует разреженную архитектуру Mixture-of-Experts с 40 слоями и 256 микроэкспертами. В сборке применена кастомная тензорная квантизация: основные эксперты используют IQ3_XXS, периферийные — Q3_K, shared-эксперты — Q5_K, attention-компоненты — Q4_K и Q6_K, выходная голова — Q6_K, а маршрутизаторы — F32. Заявлен контекст до 256K токенов. Поддерживаются английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Сильными сторонами заявлены компактный размер около 13,74 GiB, сохранение качества рассуждений при квантизации, отсутствие отказов в протестированном наборе запросов и эффективная работа при частичной или полной выгрузке в системную память. Ограничения включают потенциальные риски неконтролируемой генерации из-за удаления защитных механизмов, зависимость производительности от GPU, процессора и пропускной способности памяти, а также отсутствие в представленном README подробных независимых бенчмарков. Лицензия — Apache-2.0.

Gensyn open-1b-sft — англоязычная авторегрессионная языковая модель с архитектурой decoder-only Transformer семейства open1b. Модель содержит 1,3 млрд параметров по метаданным (в README указано 1,61 млрд, из них 1,08 млрд без эмбеддингов), использует контекст до 4096 токенов и предназначена для диалоговой генерации текста, включая код и STEM-тематику. Для общения следует применять встроенный шаблон чата. Это supervised fine-tuning модели Gensyn/open-1b-midtrained-93B на наборе allenai/tulu-3-sft-olmo-2-mixture-0225. По описанию разработчика, предпочтительная оптимизация через RLHF или DPO не проводилась. Семейство open-1b сопровождается данными и артефактами для проверки воспроизводимости обучения; эта версия демонстрирует дообучение проверяемого базового чекпойнта. Модель подойдёт для прототипирования англоязычного чат-ассистента, генерации кода и STEM-текста, а также экспериментов с воспроизводимым обучением. Разработчик характеризует её как легко настроенного ассистента, не предназначенного для производственного чата. Лицензия — Apache 2.0.

OpenCodeReasoning-Nemotron-1.1-7B — языковая модель NVIDIA для генерации и пошагового рассуждения при решении задач программирования. Это дообученная версия Qwen2.5-7B-Instruct с плотной архитектурой decoder-only Transformer и 7,1 млрд параметров; модель обучали на наборе OpenCodeReasoning, содержащем задачи соревновательного программирования и ответы, сгенерированные DeepSeek-R1-0528. Модель принимает текст и генерирует текст. Она рассчитана на генерацию кода и объяснение решений задач программирования; поддерживает контекст до 32 768 токенов по метаданным каталога, тогда как README заявляет до 65 536 токенов. В README приведены результаты оценки на LiveCodeBench, но они не гарантируют качество на других задачах и сценариях. Модель ориентирована на разработчиков и исследователей, а в README указана возможность коммерческого и некоммерческого использования. Она оптимизирована для систем с GPU NVIDIA; для запуска рекомендуется NeMo 2.3.0 или vLLM. Основной язык в метаданных — английский. Данные не подтверждают качество для других языков или задач вне программирования.

OpenR1-Distill-7B — языковая модель с 7,1 млрд параметров, разработанная командой Open-R1 на основе Qwen2.5-Math-7B с расширенной частотой RoPE. Модель дообучена методом supervised fine-tuning на Mixture-of-Thoughts — наборе из 350 тысяч проверенных цепочек рассуждений, дистиллированных из DeepSeek-R1. Архитектура — плотная Qwen2, модель для генерации текста с поддержкой диалогового режима и контекстом до 32 768 токенов. Модель предназначена для пошаговых рассуждений на английском языке в задачах математики, программирования и науки, а также для исследований вычислений на этапе вывода и обучения с проверяемыми вознаграждениями. В опубликованных оценках указаны результаты на AIME 2024, MATH-500, GPQA Diamond и LiveCodeBench; сравнение зависит от протокола выборки ответов. Модель распространяется под лицензией Apache 2.0. Она ориентирована прежде всего на английский язык, а результаты в бенчмарках не гарантируют точность на произвольных запросах; для задач, требующих достоверных ответов, выводы следует проверять.

OpenReasoning-Nemotron-7B — языковая модель NVIDIA на 7,1 млрд параметров, дообученная методом supervised fine-tuning на базе Qwen2.5-7B. Это плотный декодерный трансформер семейства Qwen2, предназначенный для рассуждений и решения задач по математике, программированию и естественным наукам. Модель принимает текст и генерирует текст; в карточке указано контекстное окно 131 072 токена, а README сообщает об обучении на генерацию ответов длиной до 64 000 токенов. Модель рассчитана на разработчиков и исследователей, работающих со сложными задачами, олимпиадной математикой, кодом и научными вопросами. Её можно запускать в обычном режиме или использовать в многократной генерации с последующим выбором решения через GenSelect; описанная в README настройка GenSelect ориентирована на математику и, по заявлению разработчиков, обобщается на код и научные вопросы. В README приведены результаты на математических, научных и программных бенчмарках, но они не гарантируют такое же качество на произвольных задачах. Модель поддерживает английский язык согласно языковым метаданным. NVIDIA рекомендует для ускорения инференса GPU-системы NVIDIA; в README перечислены NeMo, vLLM и TensorRT-LLM. Лицензия — CC BY 4.0; README позиционирует модель для коммерческого и некоммерческого исследовательского использования.

SC117/Ornith-1.0-35B-Heretic-MTP-APEX-GGUF — квантизированная GGUF-версия Ornith-1.0-35B от DeepReinforce AI, созданная на базе Qwen3.5 MoE. Модель ориентирована на агентное программирование, задачи рассуждения и сценарии, где требуется работа с кодом. Это экспериментальный вариант, в котором LoRA Heretic 1.4.0 Trial 63 объединена с весами BF16; также включены совместимая MTP-голова Qwen3.5, визуальный проектор BF16 и варианты APEX со смешанной точностью. Основной заявленный язык — английский. Архитектура мультимодальная, MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов, из которых используются 8. Модель содержит 40 transformer-слоёв и один MTP-слой, поддерживает контекст до 262 144 токенов. В состав релиза входят GGUF-квантизации, предназначенные для более эффективного локального запуска, а также компоненты для обработки визуальных данных. В README не указаны конкретные результаты тестов или требования к аппаратному обеспечению. Сильными сторонами являются большое контекстное окно, MoE-архитектура с относительно небольшим числом активных параметров, поддержка мультимодальности, MTP и варианты смешанной точности. К ограничениям относятся экспериментальный характер производного релиза и возможное отличие поведения, включая отказоустойчивость и склонность к отказам, от исходной модели; перед развёртыванием требуется самостоятельная оценка. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-Uncensored-GGUF — производная модель, подготовленная 0xKitkat на основе Ornith-1.5-35B-A3B, Qwen3.6-35B-A3B и аблитерированной версии Qwen3.6-35B-A3B от wangzhang/Abliterix. Модель сохраняет постобучение Ornith для программирования и агентских сценариев, встроенную систему обработки изображений, конфигурацию контекста до 262K токенов и голову multi-token prediction (MTP). Она распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, включая текстовые и визуально-текстовые задачи. Модель имеет обозначение 35B-A3B и архитектурную специализацию MoE; точная структура активных параметров в README не раскрыта. Доступны варианты BF16, Q4_K_M и Q5_K_M, а для обработки изображений требуется отдельный vision projector. В README указана проверка на 20 промптах: эвристических отказов не выявлено, а четыре из четырёх тестов возможностей были пройдены, однако это локальная дымовая проверка, а не полноценное сравнение производительности. Основная особенность — намеренное снижение отказов от ответов с помощью переноса task vector от аблитерированной модели Qwen без замены специализированного постобучения Ornith. При этом «uncensored» не означает гарантированное выполнение любого запроса, а опубликованные бенчмарки исходной Ornith не заявлены как результаты для этой производной модели. Лицензия релиза — Apache-2.0; README также указывает исходные лицензии MIT для Ornith и Apache-2.0 для Qwen.

Parable-SmolLM3-3B-Claude-Fable-5 — модель серии Parable, разработанная AnkitAI и дообученная на трассах работы агентных моделей. Это плотная авторегрессионная языковая модель SmolLM3 на 3,1 млрд параметров для генерации текста и диалогов; она рассчитана на локальное использование как помощник по программированию, который формирует рассуждение перед ответом. Контекст модели — 65 536 токенов. Модель дообучена методом QLoRA на 4-битной базовой модели, а в этом репозитории размещено объединение весов в формате F16 safetensors. Обучение на 4 076 примерах из трасс Claude Fable 5 и терминальных диалогов улучшило loss на отложенном наборе трасс относительно базовой SmolLM3-3B; README не заявляет об улучшении общих бенчмарков. Модель предназначена для генерации ответов в стиле агентных рассуждений и помощи с кодом, но не обучалась навигации по многофайловым репозиториям, работе с изображениями или другим языкам, кроме английского. Она унаследовала ограничения знаний базовой модели; сгенерированные команды следует проверять. Лицензия весов — Apache-2.0, однако README предупреждает, что условия лицензий использованных наборов трасс могут иметь значение для коммерческого использования.

dcostenco/prism-coder-14b — диалоговая модель для генерации кода и вызова инструментов, созданная на базе Qwen3-14B. Она предназначена для использования в качестве маршрутизатора инструментов и для задач, где нужно генерировать текст или код в диалоговом формате. Репозиторий содержит модель в формате GGUF; базовая модель имеет 14 млрд параметров. Модель устарела: автор рекомендует вместо неё prism-coder:9b на базе Qwen3.5-9B, указывая более высокий результат BFCL и меньший размер. Модель распространяется по лицензии Apache-2.0. README сообщает об отсутствии галлюцинаций в указанной оценке, но не приводит методику измерения; это утверждение не следует трактовать как гарантию поведения модели.

Q3.5-9B-DS-v4-Flash-v2.0 — экспериментальная плотная мультимодальная модель на 9 млрд параметров, разработанная prithivMLmods на основе Qwen/Qwen3.5-9B. Её дообучили в несколько этапов на трассах рассуждений DeepSeek V4 Flash и других примерах для улучшения многошаговых рассуждений и следования инструкциям. Модель предназначена для математического и научного анализа, задач с длинным контекстом, помощи в программировании и оценки следования инструкциям. В метаданных заявлена поддержка обработки изображений и диалога; README описывает её как модель для локального запуска и исследований. Карточка указывает английский язык. Длина контекста не приведена. Это экспериментальный выпуск: модель может ошибаться в промежуточных рассуждениях и выводах, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

QaptaanLM-0.75B-GGUF — набор официальных квантованных форматов модели QaptaanLM-0.75B, разработанной kaptaan45. Это базовая CPT-модель, предназначенная прежде всего для быстрого автодополнения программного кода и Fill-in-the-Middle в локальных IDE и средах на устройствах с ограниченными ресурсами. Репозиторий предоставляет файлы в формате GGUF для запуска через llama.cpp и совместимых инструментов, включая Ollama. Модель имеет размер 0,75 млрд параметров и поддерживает английский язык и код. В README упоминаются архитектурные характеристики исходной модели, связанные с Qwen и hybrid attention, однако подробные сведения об архитектуре и размере контекста не приведены. Доступны варианты от FP16 и BF16 до 2-битного Q2_K; размеры файлов составляют примерно от 402 МБ до 1,45 ГБ, а заявленный объём памяти — от 550 МБ до 2 ГБ. Вариант Q4_K_M отмечен как рекомендуемый благодаря балансу скорости, размера и точности автодополнения. Сильными сторонами модели являются компактность, возможность локального запуска и поддержка продолжения кода и FIM-инфиллинга. Это базовая, а не instruct-модель, поэтому README не заявляет её как оптимизированную для диалогов или выполнения пользовательских инструкций. Качество зависит от выбранного уровня квантования; наиболее сжатые варианты экономят память, но могут снижать точность. Модель распространяется по лицензии Apache 2.0.

praful1/Qwen-0.6b-pythoncode-instruct — дообученная автором praful1 модель Qwen3 для генерации инструкций и кода на Python. Она создана на основе Qwen/Qwen3-0.6B-Base с использованием TRL и подходит для запросов вроде написания простой функции по описанию на естественном языке. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 508 млн параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Модель можно использовать для генерации фрагментов Python-кода и ответов на запросы о программировании через интерфейс text-generation в Transformers. Карточка показывает пример запроса на создание функции сложения, но не приводит результаты оценки качества или сведения о тренировочных данных. Условия лицензии в предоставленных данных не указаны.

Ronnied1588 публикует GGUF-сборку Qwen2.5-7B-Instruct-heretic — версии Qwen2.5-7B-Instruct, обработанной методом abliteration для снижения склонности к отказам. Исходную обработку выполнил LeadFootThrottleCock с помощью Heretic v1.2.0; каталог указывает базовую модель Qwen/Qwen2.5-7B-Instruct и 7,1 млрд параметров. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой диалогов и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста, творческого письма, ответов на вопросы, обсуждения спорных тем и программирования. В README описаны варианты GGUF от BF16 до нескольких уровней квантования, запуск через llama.cpp, LM Studio и Ollama, а также интерактивные проверки творческих, научных и кодовых задач. Карточка сообщает о низком значении KL-дивергенции относительно исходной модели и результатах проверки отказов, но это не является независимой оценкой качества. Модель ориентирована на английский язык; возможности других языков в карточке не подтверждены. Abliteration снижает поведение отказа, поэтому ответы на потенциально опасные запросы могут быть менее ограничены. Лицензия — Apache-2.0.

Qwen2.5-Coder-0.5B-Instruct-GGUF — это квантизированная в формате GGUF версия инструкционной модели Qwen2.5-Coder-0.5B-Instruct, разработанной Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста и программного кода, диалогового взаимодействия и использования в code agent-сценариях. Модель содержит около 0,5 млрд параметров и поддерживает контекст до 32 000 токенов. При обучении использовалось до 5,5 трлн токенов, включая исходный код, данные для выравнивания текста и кода и синтетические данные. В README указан английский язык; другие языки и поддерживаемые модальности не заявлены. Формат GGUF ориентирован на локальный запуск средствами, совместимыми с llama.cpp, включая LM Studio. К сильным сторонам относятся специализация на программировании, поддержка длинного контекста и относительно небольшой размер, облегчающий локальное использование. Ограничением является малый масштаб модели по сравнению с более крупными кодовыми моделями, поэтому качество сложного анализа, генерации и исправления кода может быть ниже. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-NP-Abliterated-i1-GGUF — квантованная в формате GGUF версия модели Nabbers1999/Qwen2.5-Coder-32B-Instruct-NP-Abliterated, подготовленная mradermacher. Это инструкционная conversational-модель семейства Qwen2.5-Coder с 32 млрд параметров, предназначенная для генерации текста, диалога и задач, связанных с программированием. В репозитории представлены варианты квантования i1, включая IQ- и QK-форматы, с размером файлов примерно от 7,4 до 22,7 ГБ; для баланса скорости и качества рекомендуются i1-Q4_K_M и i1-Q4_K_S. Модель ориентирована преимущественно на англоязычные сценарии, однако README не содержит полного перечня поддерживаемых языков, сведений об архитектуре на уровне компонентов или размера контекстного окна. Квантование позволяет запускать модель с меньшими требованиями к памяти, но более агрессивные варианты могут заметно снижать качество; качество также зависит от выбранного формата. Модель распространяется по лицензии Apache-2.0. README не приводит отдельных результатов тестирования, поэтому делать выводы о фактической точности и преимуществах в конкретных задачах нельзя.

dispatchAI/Qwen2.5-Coder-7B-mobile — мобильная GGUF-сборка модели Qwen2.5-Coder-7B для локального запуска на устройстве. В карточке показаны примеры простых ответов на вопросы и приведён пример использования через llama.cpp с контекстом 512 токенов и четырьмя потоками; также упоминается SDK dispatchAI. Модель предназначена для генерации текста в диалоговом режиме, включая помощь с кодом, унаследованную от базовой модели Qwen2.5-Coder-7B. Репозиторий использует формат GGUF и лицензию Apache-2.0. Карточка не описывает точную квантизацию, поэтому её тип и влияние на качество определить нельзя.

unsloth/Qwen3-4B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-4B-Base, подготовленная Unsloth и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель на стадии предобучения, предназначенная для генерации и продолжения текста, обработки естественного языка, программирования, STEM-задач, логического рассуждения и работы с многоязычными данными. Поскольку модель является базовой, она не заявлена как специально обученная для диалогов или следования инструкциям. Модель содержит около 4,0 млрд параметров, из них 3,6 млрд без учёта embedding-слоёв, имеет 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Семейство Qwen3 предварительно обучалось на 36 трлн токенов на 119 языках с использованием данных для кодирования, STEM, рассуждений, книг, многоязычных и синтетических источников. Ключевое преимущество варианта — 4-битное представление, снижающее требования к памяти; при этом квантование может ограничивать точность по сравнению с полной или менее агрессивно квантованной версией. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.51.0 не поддерживают архитектуру Qwen3.

Qwen3-4B Devin SFT (Instruct) — дообученная модель семейства Qwen3, созданная davidnichols-ops на базе Qwen/Qwen3-4B с использованием данных сессий Devin. Она предназначена для диалоговой генерации текста и сценариев агентной работы с вызовом инструментов; формат вызова инструмента задаётся JSON-объектом с именем инструмента и аргументами, например командой для shell. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Карточка указывает английский язык и лицензию Apache-2.0. Модель можно использовать для выполнения инструкций, разработки с помощью инструментов и работы в стиле Devin. Для ускорения вывода автор рекомендует сочетать её с черновой моделью davidnichols-ops/qwen3-0.6b-devin-draft; заявлено ускорение в 2–3 раза при спекулятивном декодировании. Качество вызова инструментов вне описанного формата и результаты на независимых задачах в карточке не оценены.

khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled-GGUF — текстовая генеративная модель в формате GGUF, разработанная khazarai на базе Qwen3-4B-Thinking-2507. Модель создана методом reasoning distillation: её дообучили с помощью QLoRA и Unsloth на данных khazarai/qwen3.6-plus-high-reasoning-500x, чтобы перенести способности более крупной модели Qwen3.6-plus к рассуждению на компактную модель размером 4B параметров. В карточке указана поддержка английского языка и задача text-generation. Модель предназначена для сложных задач, требующих последовательного анализа, включая решение алгоритмических и графовых задач, разбор ограничений, формулирование алгоритмов, оценку сложности и подготовку псевдокода. По сравнению с базовой моделью она ориентирована на более структурированные, concise и профессиональные ответы с разделением на анализ проблемы, интуицию, алгоритм и оценку сложности. На указанном Multi-Domain-Reasoning-Benchmark из 100 вопросов дистиллированная модель получила 75,64 балла против 73,73 у Qwen/Qwen3-4B-Thinking-2507, однако эти результаты представлены разработчиком и не заменяют независимую оценку. Доступны варианты квантования Q4_K_1 размером около 2,3 ГБ, Q6_K около 3,3 ГБ, Q8_0 около 4,2 ГБ и bf16 около 8 ГБ; выбор варианта влияет на требования к памяти, скорость и качество. Обучение выполнялось на последовательностях длиной до 6500 токенов, но отдельный размер контекстного окна в карточке не указан. Сильные стороны модели — компактность, структурированность рассуждений и снижение избыточных самокоррекций; ограничения — специализация на английском языке, отсутствие заявленных мультимодальных возможностей и возможная зависимость качества от выбранного квантования. Лицензия — Apache-2.0.

Qwen3.5-2B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0 — экспериментальная плотная мультимодальная модель на 2 млрд параметров, созданная сообществом на базе Qwen/Qwen3.5-2B. Её дообучили методом многоэтапного SFT на примерно 6 000 примерах рассуждений Opus по программированию и STEM, а также на дополнительных примерах для развития длинных рассуждений и следования инструкциям. Модель предназначена для исследований и экспериментов с дистилляцией рассуждений, а также для генерации и отладки кода, решения математических и научных задач и локального запуска. По метаданным она поддерживает обработку изображений и диалог; основной pipeline-тег — image-text-to-text. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Модель экспериментальная: в сложных цепочках рассуждений возможны ошибочные промежуточные шаги и выводы, а поведение может отличаться от базовой модели. Результаты также зависят от охвата и особенностей обучающих данных.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — текстовая генеративная модель, разработанная Jackrong на базе Qwen/Qwen3.5-9B. Она дообучена методом supervised fine-tuning с применением LoRA и дистилляции рассуждений из источников, связанных с Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Модель предназначена для задач, требующих структурированного анализа, декомпозиции, планирования, многошагового вывода и отслеживания ограничений. Модель относится к семейству Dense и содержит около 9 млрд параметров. Она работает в режиме text-generation и ориентирована на текстовые запросы и ответы. В README заявлена поддержка английского, китайского и корейского языков. Обучающие данные охватывают математику, логику, программирование, системный анализ, безопасность, физику, инженерию, право, медицину, финансы, химию и прикладные социальные задачи. Размер контекстного окна и другие параметры инференса не указаны. Сильными сторонами модели считаются более организованный стиль рассуждений, улучшенное решение сложных многошаговых задач, междисциплинарное покрытие и ориентация на анализ атак, отказов и ограничений. При этом дистилляция и специализированное дообучение могут ухудшать обобщение на отдельных сценариях или приводить к частичному забыванию знаний базовой модели, поэтому модель следует оценивать на собственных данных перед применением. Модель распространяется по лицензии Apache-2.0.

KridgeDookie выпустил PHILADELPHIA CLASS — дообученную мультимодальную модель на 27,36 млрд параметров на базе Qwen/Qwen3.6-27B. Она сохраняет гибридную архитектуру обработки текста и изображений и предназначена для общения, программирования, творческих задач и экспериментов с мультимодальными сценариями. Версия Safetensors включает обработку изображений; вариант GGUF в BF16 предназначен только для генерации текста. Разработчик сообщает о снижении склонности к отказам: модель не отказала ни на одном из 842 внутренних проверочных запросов и на отдельной выборке из 126 запросов; 23 из 24 проверок связности пройдены. Это внутренние автоматизированные оценки, а не независимые или стандартизированные тесты, и они не подтверждают фактическую точность или безопасность модели. Контекст настроен на 262 144 токена, но доступность полного окна зависит от оборудования. Сниженная склонность к отказам может приводить к вредным, вводящим в заблуждение, предвзятым или незаконным ответам. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель lordx64 на базе Qwen/Qwen3.6-35B-A3B: к ней применили дистилляцию рассуждений Claude Opus 4.7 на примерно 8 тысячах трассировок. Модель построена на архитектуре Mixture of Experts с 35 млрд параметров, из которых около 3 млрд активны на каждом токене; веса доступны в формате safetensors, лицензия — Apache 2.0. Карточка указывает контекст до 64 тысяч токенов. Модель предназначена для сложных многошаговых задач: математики, STEM-вопросов, рассуждений при решении задач по программированию, логических головоломок и планирования действий агента. Она генерирует явные длинные цепочки рассуждений перед ответом; в README приведены результаты GSM8K CoT и MMLU-Pro. Метаданные указывают диалоговые и интерфейсные возможности вызова инструментов, но основная задача в каталоге — генерация текста. Дистилляция нацелена на стиль и структуру рассуждений, а не на расширение фактических знаний базовой Qwen. Тонкая настройка затрагивала только attention-слои, поэтому улучшения могут быть неравномерными. На сложных запросах модель способна генерировать тысячи или десятки тысяч токенов, что увеличивает задержку и расход вычислений; для практического использования следует ограничивать длину генерации. README также отмечает необходимость учитывать политики Anthropic для конкретного сценария использования данных учителя.

eme/Qwen3.6-35B-A3B-FP8-Q4_K_M-MTP-GUFF — это GGUF-конверсия модели Qwen3.6-35B-A3B от команды Qwen, подготовленная пользователем eme. Модель основана на варианте Qwen/Qwen3.6-35B-A3B-FP8 и предназначена для локального запуска и эффективного инференса через llama.cpp. В README также упоминаются возможности Qwen3.6 для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория, однако эти сведения приведены для другой конфигурации Qwen3.6 и не позволяют полностью подтвердить характеристики данного варианта. Финальные веса используют квантизацию Q4_K_M для формата GGUF; исходная модель экспортирована в FP8 с форматом F8_E4M3. Такое представление уменьшает объём памяти и нагрузку на пропускную способность по сравнению с BF16, сохраняя близкое к BF16 качество для большинства задач инференса. В модель интегрирован Multi-Token Prediction (MTP), который может ускорять декодирование за счёт спекулятивного предсказания нескольких токенов. Точные сведения о контекстном окне, поддерживаемых языках и мультимодальности для этого конкретного файла не указаны; тег image-text-to-text присутствует в метаданных, но не подтверждает фактическую поддержку изображений. Для работы рекомендуется свежая версия llama.cpp с поддержкой CUDA и MTP-aware decoding; требуется достаточно VRAM в зависимости от длины контекста и размера батча. Пример запуска из README показывает работу на RTX 4080 с 16 ГБ памяти, но это не является гарантией совместимости или производительности в других конфигурациях. Ограничения включают возможные потери качества из-за Q4_K_M и зависимость ускорения от поддержки MTP и оптимизированных ядер в используемом рантайме. Лицензия указана как Apache-2.0.

trohrbaugh/Qwen3.8-27B-heretic-ara — производная версия мультимодальной модели Qwen3.8-27B, изменённая методом abliteration для снижения частоты отказов. По приведённому сравнению модель не отказала ни на одном из 100 запросов, тогда как исходная модель отказала на 99 из 100; это результат конкретного теста, а не гарантия поведения на любых запросах. Модель построена на архитектуре Qwen3.5: плотная причинная языковая модель с визуальным энкодером, 27 млрд параметров, 64 слоя. Она принимает текст и изображения и предназначена для диалогов, анализа изображений и выполнения многошаговых задач; README семейства также описывает понимание видео, но метаданные этой модели подтверждают только задачу image-text-to-text. Модель унаследовала от семейства Qwen3.8 режим рассуждений с настраиваемой глубиной, поддержку длинного контекста и применение в программировании, исследованиях и профессиональных сценариях. Для базовой Qwen3.8 указаны 262 144 токена контекста с расширением до 1 000 000, но метаданные не подтверждают эти пределы отдельно для данной производной версии. Доступны веса Safetensors для Transformers и совместимых средств инференса. Лицензия — Apache 2.0. Abliteration существенно меняет поведение отказов, поэтому следует учитывать риск ответов на запросы, которые исходная модель отклоняла.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ4e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, разработанная независимым технологическим проектом KostkaIT на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель предназначена для локального программирования, рассуждений, создания мультимодальных ассистентов и исследовательских задач. Модель поставляется в формате MLX safetensors, оптимизированном для Apple Silicon и совместимого с рантаймом oMLX. Это смешанная квантизация oQ4e: базовые веса представлены в 4-битном формате с group_size 64, а отдельные тензоры сохранены в 5- и 6-битной точности с использованием importance matrix. В репозитории присутствуют конфигурация и процессор для работы с изображениями, vision-тензоры, а также встроенные веса Native MTP с одним скрытым слоем MTP. MTP можно включать или отключать в совместимых версиях oMLX. К сильным сторонам относятся поддержка текста и изображений, более компактное локальное развертывание благодаря квантизации, а также сочетание смешанной точности с Native MTP. Ограничения включают зависимость от оборудования Apple Silicon и совместимого MLX/oMLX-окружения, возможные потери качества из-за 4-битной квантизации и отсутствие в предоставленных данных сведений о языках, размере контекста и точных характеристиках производительности. Модель распространяется по лицензии Apache-2.0.