II.4Отладка, тестирование и качество ПО

Grok Build 0.1 — модель SpaceXAI для ускорения разработки программного обеспечения в агентных рабочих процессах. Она предназначена для интерактивного программирования и принимает текстовые и графические входные данные, выдавая текст. Данных о размере, архитектуре, языках программирования и лицензии в доступных источниках нет.

Grug-35b — дообученная модель семейства Qwen3.5 MoE от ProCreations, созданная на основе deepreinforce-ai/Ornith-1.0-35B. Это чат-модель для генерации текста, написания кода и работы в роли агента с вызовами инструментов. По README, разработчик восстановил исходный шаблон чата без стилевых инструкций и дообучил веса, чтобы лаконичный стиль Grug и рассуждения проявлялись при обычных запросах и агентских сценариях с инструментами. Модель хранится в формате SafeTensors и использует архитектуру Qwen3_5MoeForConditionalGeneration; README описывает BF16 LoRA-дообучение с замороженными MoE-экспертами. В README приведены результаты локальных тестов: 80,5% на HumanEval, 88% на MBPP и до 95% правильных действий в широком тесте выбора инструментов. Автор отмечает компромисс: после корректировки стиля результат HumanEval снизился, а MBPP и выбор инструментов улучшились. Лицензия — MIT. Длина контекста и список естественных языков в доступных данных не указаны.

Модель mlx-community/Josiefied-Qwen2.5-Coder-7B-Instruct-abliterated-v1 — версия для MLX, подготовленная сообществом mlx-community из Goekdeniz-Guelmez/Josiefied-Qwen2.5-Coder-7B-Instruct-abliterated-v1 с помощью mlx-lm 0.21.3. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате и задач программирования. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные указывают поддержку английского и немецкого языков, а также интерфейс вызова инструментов. Модель может использоваться для генерации и объяснения кода, помощи в программировании и диалоговых запросов. Лицензия — Apache-2.0. Доступные сведения не описывают качество на конкретных бенчмарках или гарантии безопасности ответов; название исходной модели указывает на менее ограниченные ответы.

IsValorum публикует эту сборку KAT-Coder-V2.5-Dev в формате GGUF с пользовательской квантизацией APEX-I-MiniPlus V2. Это MoE-модель для генерации кода и агентных сценариев программирования, основанная на Kwaipilot/KAT-Coder-V2.5-Dev. Сборка рассчитана на запуск через llama.cpp, в том числе с полным или частичным размещением весов в системной памяти; автор приводит ориентиры производительности и использования длинного контекста, но они зависят от оборудования. Модель поддерживает чат и программирование, а метаданные указывают многоязычные теги, включая русский, английский и китайский. README описывает выборочную квантизацию тензоров с сохранением повышенной точности для отдельных компонентов. Указанный в карточке контекст 256K относится к заявленным сценариям запуска, а не подтвержденному здесь параметру модели. Репозиторий лицензирован по Apache-2.0.

Laguna-S-2.1-Uncensored — текстовая MoE-модель Poolside, изменённая SC117 на основе poolside/Laguna-S-2.1. Она предназначена для агентного программирования, длительных задач разработки и диалогового взаимодействия с инструментами. В карточке указана архитектура Laguna с маршрутизацией между экспертами; README описывает исходную модель как 118 млрд параметров всего и около 8 млрд активных на токен, тогда как метаданные каталога указывают 6,8 млрд параметров. Эти значения расходятся, поэтому размер следует проверять по конфигурации конкретной версии. Контекст заявлен до примерно 1 млн токенов. Модель поставляется в BF16 safetensors. Изменение выполнено методом abliterix: к весам применён Trial 16 LoRA с корректировкой маршрутизатора MoE; шаблон чата сохраняет возможность включать рассуждения и работу с инструментами. Основное назначение производной версии — снизить частоту отказов при сохранении значительной части возможностей кодирования и работы с инструментами. README предупреждает, что поведение отказов и выравнивания заметно отличается от официальной модели, а полные бенчмарки производной версии не проводились. Лицензия указана как OpenMDW-1.1, семейство лицензии базовой модели; перед использованием следует учитывать её условия. Для загрузки требуется Transformers с trust_remote_code=True, а полный BF16-репозиторий занимает около 219 ГБ. README отмечает возможные странности идентификации модели и неровный текст на китайском и других языках.

Ling-Coder-lite — языковая модель с архитектурой Mixture of Experts (MoE), разработанная InclusionAI для генерации и понимания программного кода. В карточке README указано 16,8 млрд параметров, из которых активируются 2,75 млрд; модель представлена как дообученная версия Ling-Coder-lite-base. Метаданные репозитория указывают 1,5 млрд параметров и контекст 4096 токенов, тогда как README сообщает контекст 16K; эти характеристики в источниках расходятся. Модель предназначена для задач программирования и диалогового взаимодействия: она может генерировать код и отвечать на вопросы по коду. Разработчики сообщают о результатах на 12 бенчмарках программирования и о конкурентных задержке и пропускной способности среди кодовых моделей сопоставимого размера. В обучении использовались наборы Ling-Coder-SFT, Ling-Coder-SyntheticQA и Ling-Coder-DPO. Репозиторий опубликован в формате safetensors для библиотеки Transformers. Указанные языки — английский и китайский. Лицензия MIT разрешает широкое использование при соблюдении её условий.

Fu01978 разработал Llama-3.2-1B-4B-Quad-MoE — языковую модель с разреженной архитектурой Mixture of Experts для генерации текста и диалогов. В состав объединённой модели входят четыре эксперта на базе моделей Llama 3.2: инструктивная модель общего назначения, базовая модель для творческого текста, специалист по коду и специалист по математике. Метаданные указывают архитектуру MixtralForCausalLM и библиотеку Transformers. В README заявлены 3,65 млрд параметров всего и 1,24 млрд активных параметров на токен; метаданные каталога указывают 1,2 млрд параметров. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. Модель подходит для диалогов, написания текста, помощи с кодом и математических рассуждений. Доступна в формате Safetensors и распространяется по лицензии Llama 3.2.

Magicoder-CL-7B — языковая модель для генерации кода, разработанная Юйсяном Вэем, Чжэ Ваном, Цзяьвэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, дообученная на CodeLlama-7b-Python-hf. Для обучения использован набор Magicoder-OSS-Instruct-75K, созданный методом OSS-Instruct на основе открытых фрагментов кода. Модель предназначена прежде всего для задач программирования: генерации кода по инструкциям и помощи в решении задач разработки. Контекст составляет 16 384 токена. Модель не рассчитана на общие задачи вне программирования и может допускать ошибки или выдавать вводящий в заблуждение код. Лицензия — Llama 2; при использовании следует учитывать условия OpenAI для синтетических обучающих данных.

MiniCPM5-2B-heretic — децензурированная версия языковой модели openbmb/MiniCPM5-2B, созданная пользователем RACER IS OP с применением Heretic v1.4.0. Модель относится к классу примерно 2B параметров и предназначена для генерации текста, диалогов, локальных агентных систем, вызова инструментов, написания кода и задач с длинным контекстом. Она поддерживает режимы Think и No-Think, а также может работать на пользовательских GPU, CPU и устройствах Apple Silicon через GGUF-квантизации. Изменения выполнены методом directional ablation («abliteration»): целевые направления отказа подавляются редактированием весов в attention output и MLP down-projections без дообучения. По данным README, это позволило снизить число отказов с 99 до 4 на 100 тестовых запросов при KL divergence 0,0646 относительно исходной модели, сохранив её знания, следование инструкциям, возможности работы с инструментами, кодом и рассуждениями. Заявлены английский и китайский языки; архитектура MiniCPM5 совместима с llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang, причём для вызова функций рекомендован SGLang. Главное преимущество модели — малый размер и широкий выбор GGUF-квантизаций, что упрощает локальный запуск на потребительском оборудовании. Ограничение заключается в намеренном подавлении защитных отказов: модель может отвечать на запросы, от которых исходная версия отказывалась, поэтому её применение требует самостоятельных мер безопасности и контроля. Модель распространяется по лицензии Apache-2.0.

MiniMax-M3-REAP32-Coder — созданная JANGQ-AI версия MiniMax-M3 для программирования, агентных сценариев и мультимодального диалога. Это MoE-модель с архитектурой MiniMaxM3SparseForConditionalGeneration; в карточке указаны 60 слоёв и сохранённая поддержка изображений. Модель предназначена для запуска через vMLX на компьютерах Apple Silicon и требует vMLX версии 1.5.67 или новее. Веса упакованы в формат JANG: применены смешанная аффинная квантизация, AWQ и сокращение числа маршрутизируемых экспертов методом REAP. В README заявлены результат HumanEval pass@1 100% на случайно перемешанной половине набора (82 задания) и улучшение на небольшом тесте арифметики и рассуждений. Это результаты авторской проверки, а не гарантия качества на других задачах. Базовая MiniMax-M3 описана как модель с контекстом до 1 млн токенов, но README не подтверждает, что такой контекст доступен этой сборке. Для загрузки необходимы JANG loader и M3 runtime из vMLX; модель несовместима с обычными загрузчиками Transformers, vLLM и MLX. Лицензия указана как other, поэтому условия использования следует уточнить по карточке модели и сопутствующим лицензиям базовой модели и компонентов.

Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-14b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-32b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Kukedlc выпустил экспериментальную плотную авторегрессионную модель семейства Mistral на 7,1 млрд параметров, дообученную на базе Kukedlc/NeuralExperiment-7b-dare-ties. По карточке, обучение было направлено на исправление ошибки «INSTINST» и охватывало математические задачи, логические рассуждения и программирование; использовались наборы Orca Math, Magicoder Evol Instruct и Tested Python Alpaca. Модель принимает текст и генерирует текст, а её контекстное окно составляет 32 768 токенов. Модель подходит для генерации и объяснения кода, решения математических задач и логических головоломок. Автор описывает результаты как предварительные и отмечает, что влияние обучения на качество рассуждений ещё оценивается. Репозиторий распространяется под лицензией Apache-2.0.

OmniCoder-9B-Claude-Opus-High-Reasoning-Distill — дообученная модель разработчика armand0e на базе Tesslate/OmniCoder-9B. Это плотная мультимодальная модель семейства Qwen3.5, представленная в формате safetensors; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для диалоговой генерации текста и изображений в ответ на текстовые запросы, в том числе для сценариев разработки ПО и работы с инструментами. Базовая модель описана как модель для генерации кода и многошаговых задач разработки; карточка этой версии не приводит отдельных результатов оценки или подробного описания обучения. Модель распространяется по лицензии Apache-2.0. В метаданных заявлены английский язык, визуальный ввод, чат и интерфейс вызова инструментов; размер параметров и длина контекста в предоставленных сведениях не приведены.

OpenCodeInterpreter-DS-6.7B — модель генерации кода из семейства OpenCodeInterpreter, разработанная для объединения генерации кода с его выполнением и последующей доработкой по результатам. Она основана на DeepSeek Coder 6.7B Base и использует плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров. Модель принимает текстовые запросы и генерирует код и ответы в диалоговом формате; заявленный контекст составляет 16 384 токена. В карточке приведены результаты на HumanEval и MBPP: 76,2 и 73,9 соответственно для указанных основных вариантов тестов. Модель подходит для написания кода по описанию задачи и интерактивной помощи в программировании. README описывает выполнение и итеративную доработку как возможности семейства; доступность внешнего исполнителя зависит от используемой системы. Модель распространяется по лицензии Apache 2.0.

OpenCodeInterpreter-DS-6.7B-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi для оригинальной модели m-a-p/OpenCodeInterpreter-DS-6.7B, разработанной организацией m-a-p. Модель относится к классу генеративных текстовых моделей и предназначена прежде всего для работы с программным кодом и задач генерации текста. Модель имеет размер 6,7 млрд параметров и поддерживает несколько вариантов квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python, в том числе с GPU-ускорением. В README явно указан английский язык; другие языки, длина контекста, архитектурные детали и результаты оценки не описаны. К сильным сторонам относятся возможность выбора компромисса между качеством и потреблением памяти, а также широкая совместимость с локальными средствами инференса. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, и отсутствием в README подробных данных о производительности, поддерживаемых языках программирования и точных сценариях применения. Указанная лицензия — Apache-2.0.

OpenCodeInterpreter-DS-6.7B-imatrix-GGUF — это квантизированные GGUF-версии языковой модели OpenCodeInterpreter-DS-6.7B, опубликованные пользователем duyntnet. Исходная модель разработана организацией m-a-p и размещена на базе deepseek-ai. Модель предназначена для генерации текста и прежде всего для задач программирования, включая написание функций и обработку запросов на естественном языке, связанных с кодом. В доступных данных указано, что модель имеет размер 6,7 млрд параметров, поддерживает текстовый ввод и вывод, а заявленным языком является английский. Для запуска исходной версии используются AutoTokenizer и AutoModelForCausalLM из Transformers, а взаимодействие может выполняться через chat template. Данный репозиторий содержит квантизации с использованием GGUF и imatrix; конкретные варианты квантизации, размер контекста и требования к оборудованию не указаны. Сильной стороной модели является специализация на генерации программного кода и наличие формата GGUF, удобного для совместимого локального инференса. Ограничения включают отсутствие подробных данных о качестве, поддерживаемых языках программирования, мультимодальности и производительности. Лицензия обозначена как other, без уточнения конкретных условий использования.

Myric/Ornith-1.5-35B-A3B-APEX-GGUF — это набор квантизированных GGUF-вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста, агентного программирования и работы с изображениями через отдельный vision projector; запуск ориентирован на llama.cpp. Лицензия — MIT. Архитектура представляет собой MoE-модель с 35,5 млрд общих параметров и примерно 3 млрд активных параметров: используется 256 маршрутизируемых экспертов с выбором top-8, гибридная gated-delta-net с полным attention в каждом четвёртом слое, 40 основных слоёв и контекст до 262 144 токенов. Также сохранён однос layer MTP-блок для speculative decoding. Доступны варианты i-quality размером 21,67 ГБ, i-compact размером 16,58 ГБ и i-mini размером 12,55 ГБ; они используют разные уровни квантизации и рассчитаны соответственно на качество или экономию памяти. Сильные стороны модели — большой контекст, низкая нагрузка KV-кэша благодаря преобладанию рекуррентных слоёв, поддержка vision через проектор издателя и возможность ускорения генерации с помощью MTP. В заявленном тесте agentic coding вариант i-quality решил 9 из 9 задач и прошёл 154 из 154 проверок, а в пяти perception-задачах с изображениями дал 5 успешных ответов из 5. Эти результаты получены на DGX Spark с llama.cpp в одном прогоне и не являются универсальным сравнительным бенчмарком. Для запуска требуется совместимый llama.cpp, значительный объём памяти и отдельный файл vision projector; README не указывает языковой охват модели и не приводит систематических данных о качестве на разных языках.

Ornith-1.5-35B-A3B-REAP-50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, подготовленная пользователем Ttimms на основе модели от ornith-ai. Это гибридная архитектура Gated-DeltaNet и Mixture-of-Experts (MoE): после 50%-порогового pruning методом REAP число экспертов сокращено с 256 до 128, удалена MTP-голова, а итоговый объём составляет примерно 19 млрд параметров. Модель предназначена для генерации текста и ориентирована прежде всего на англоязычные сценарии. Модель подходит для локального запуска и задач программирования: для исходной модели до квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%. Благодаря примерно 3 млрд активных параметров она может обеспечивать быструю инференс-работу на CPU и Apple Silicon. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ, тогда как Q8_0 требует более 16 ГБ памяти или выгрузки части вычислений на CPU. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; также подходят LM Studio, KoboldCpp, Jan и text-generation-webui. Поддержка Ollama на момент публикации ожидала обновления встроенного llama.cpp. В README не указаны размер контекста и мультиязычные возможности; заявлен только английский язык. Из ограничений также следует учитывать удаление vision tower и MTP-головы, зависимость от совместимого рантайма и компромисс между качеством и объёмом памяти при выборе квантизации. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Prox-Phi-3-mini-128k — языковая модель OpenVoid, дообученная на базе архитектуры Microsoft Phi-3-mini-128k для генерации кода и задач кибербезопасности. Это плотная авторегрессионная модель класса Phi3ForCausalLM примерно с 3,7 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации, объяснения и документирования кода, ответов на вопросы о кибербезопасности и техниках взлома, а также анализа уязвимостей и учебных симуляций. Карточка приводит результаты HumanEval, EvalPlus и MBPP, но они не гарантируют качество на практических задачах. Модель может выдавать ошибочные или непоследовательные ответы, поэтому результаты следует проверять, особенно в критичных сценариях. Метаданные указывают английский язык и контекст 4096 токенов; название модели и README заявляют 128k, что расходится с указанной длиной контекста. Лицензия — Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski на основе инструментов mlx-examples; модель предназначена для запуска на компьютерах Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и использование в составе Code Agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, данные для связывания текста и кода и синтетические данные. Заявлена поддержка контекста до 32 тысяч токенов и английского языка. Формат MLX и 4-битная квантизация снижают требования к памяти, однако README не содержит количественных данных о качестве, скорости, поддерживаемых модальностях или конкретных ограничениях кода модели. Модель распространяется по лицензии Apache-2.0.

Это дообученная модель Jongbin-kr на основе Jongbin-kr/qwen2.5-coder-7b-verireason-official-settings-reasoning-jongbin. Модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате. В карточке приведён пример генерации ответа на вопрос пользователя. Модель можно применять для диалоговых ответов и задач генерации текста; в названии и базовой модели заявлена специализация на коде и рассуждениях. Используется библиотека Transformers, веса представлены в формате safetensors, заявленная длина контекста — 32 768 токенов. Языки и лицензия в предоставленных данных не обозначены.

Hob-forge/Qwen3.5-4B-Instruct-GGUF — это текстовая GGUF-квантизованная версия Qwen3.5-4B, разработанной командой Qwen. Издатель Hob Forge не обучал модель, а подготовил собственную редакцию: выполнил конвертацию и квантизацию, проверил шаблон чата и вызов инструментов, а также измерил скорость, потребление памяти и потери качества. Базовая модель распространяется по лицензии Apache-2.0. Модель предназначена для диалогов, генерации текста, помощи в программировании и использования инструментов на компьютерах с ограниченными ресурсами. Она поддерживает режим рассуждений, включённый по умолчанию, и может работать через llama.cpp, Ollama и совместимые приложения. Доступны варианты Q4_K_M, Q5_K_M, Q6_K, Q8_0 и IQ4_XS; рекомендуемым вариантом назван Q4_K_M размером около 2,58 GiB. Указана архитектура с гибридным вниманием: 8 слоёв полного внимания, линейное внимание DeltaNet и однослойный блок MTP. Благодаря этому KV-кэш заметно меньше, чем у плотной модели сопоставимого размера: около 256 MiB при контексте 8K и 1 GiB при 32K. Сильные стороны модели — небольшие требования к памяти, поддержка длинного контекста, высокая скорость на совместимом оборудовании и проверенная работа инструментов. Вариант Q4_K_M, по приведённым измерениям, помещается примерно в 4 GB памяти даже при контексте 32K, хотя такой режим может быть ограничен по запасу ресурсов. Ограничения связаны с размером 4B: модель не относится к передовым и уступает более крупным моделям в сложных задачах. IQ4_XS экономит место, но существенно медленнее на RTX-картах. GGUF-файлы являются текстовыми: визуальные компоненты исходной мультимодальной модели не включены. Для работы требуется современная версия llama.cpp с поддержкой данной архитектуры.

andyman5002/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B с архитектурой Qwen3 и размером 27B параметров. Модель создана как модифицированная версия базовой Qwen3.8-27B с применением abliteration — удаления направлений, связанных с отказами и защитными ответами, посредством операций в пространстве весов. Доступны форматы GGUF, safetensors и MLX; лицензия Apache-2.0. Модель предназначена для генерации текста, программного кода и работы в агентных сценариях, включая задачи кибербезопасности и red-team-исследований. Заявлена совместимость с режимом рассуждений, однако рекомендуется отключать thinking для получения более прямых ответов. В документации указаны результаты MMLU 82,3% в режиме 0-shot, а также 20 из 20 успешных тестов на задачах генерации кода; эти показатели приведены разработчиком и могут зависеть от методики оценки. К сильным сторонам относятся снижение числа жёстких отказов и защитных лекций, сохранение значительной части возможностей базовой модели и пригодность для локального использования. Ограничения включают снижение результата MMLU примерно на 2,1 процентного пункта относительно базовой модели, склонность к зацикливанию без repetition_penalty и потенциальные риски применения в задачах, связанных с вредоносным или опасным содержанием. Для рекомендуемой генерации используются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт разработчик советует не задавать.

Qwen3.8-27B-Uncensored-Cyber — GGUF — это квантизированная версия модели philbert440/Qwen3.8-27B-Uncensored-Cyber, опубликованная paubau. Репозиторий содержит только GGUF-квантизацию и калибровочную матрицу imatrix, построенную на реальном трафике агентного программирования; дообучение, слияние моделей и изменение поведения не выполнялись. Модель ориентирована на агентные сценарии, связанные с написанием кода, вызовом инструментов и задачами в области кибербезопасности, включая offensive security. Это de-refusal-модель без стандартных ограничений на отказы, унаследованных от базовой модели. Модель имеет размер 27B параметров и распространяется в формате GGUF с квантизацией IQ4_XS. Доступны вариант без MTP-тензоров размером около 14,96 ГиБ и вариант с совместимой MTP speculative-decoding head размером около 15,38 ГиБ; последний требует поддержки со стороны используемого runtime. В базовой модели сохранены vision tower и MTP-голова, поэтому поддерживаются мультимодальный путь и ускоренное декодирование при совместимом загрузчике. Заявлен контекст до 262K токенов. Калибровка специально учитывает tool-call JSON, специальные токены шаблона чата, длинные точные литералы, пути, имена пакетов, хэши и смешанный китайско-английский текст, что должно быть полезно для агентного кодинга и точного воспроизведения строк. Ограничения модели связаны с потерями, неизбежными при квантизации, причём веса были получены повторной квантизацией из Q8_0, а не напрямую из BF16. Показатели сравнения в README имеют узкую область применимости и основаны на агентном корпусе. Для обычной загрузки рекомендуется файл без MTP, если поддержка MTP не проверена. Модель лицензирована по Apache-2.0; исходный корпус калибровки не опубликован и содержит приватные данные рабочих сессий.

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 — это инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель создана на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm на совместимом оборудовании Apple MLX. Модель имеет конфигурацию 30B-A3B и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую генерацию и диалоговый режим через chat template. README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, мультимодальности, результатах тестирования или конкретных сценариях применения. Преимуществами модели являются специализация семейства Qwen3-Coder на задачах программирования, инструкционный режим и оптимизация для экосистемы MLX. Ограничения включают зависимость от совместимого окружения MLX и возможные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-Coder-Next-4bit — это 4-битная версия модели Qwen3-Coder-Next, разработанной Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием, включая работу с исходным кодом и техническими запросами. Модель рассчитана на запуск через библиотеку mlx-lm и совместима с экосистемой MLX. Ключевой особенностью является 4-битное представление, которое может снижать требования к памяти по сравнению с полноразмерной версией, но потенциально ограничивать точность. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках и модальностях, длине контекста, результатах тестирования, сильных сторонах или конкретных ограничениях. Лицензия модели — Apache 2.0. Для использования требуется установка mlx-lm; приведённый способ запуска ориентирован на генерацию текста с применением chat template, если он доступен.

MLX-версия модели Qwen3-Coder-Next, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-Coder-Next с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста, в первую очередь в сценариях, связанных с программированием и работой с кодом, и рассчитана на запуск через экосистему MLX. Модель представлена в 5-битном формате квантования, что уменьшает требования к памяти по сравнению с полноразмерным представлением и может быть удобно для локального запуска на совместимом оборудовании Apple. В README не указаны точные архитектурные параметры, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности; заявлена только текстовая генерация. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение. Сильными сторонами являются оптимизация под формат MLX и уменьшенный размер представления, однако 5-битное квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

NexVeridian/Qwen3-Coder-Next-8bit — это конвертированная в формат MLX 8-битная версия модели Qwen/Qwen3-Coder-Next. Конвертацию выполнил пользователь или организация NexVeridian с использованием библиотеки mlx-lm версии 0.31.3; исходная модель разработана командой Qwen. Модель предназначена для генерации текста, включая сценарии работы с кодом, и может использоваться в приложениях на базе MLX через библиотеку mlx-lm. Модель поддерживает текстовую генерацию и применение chat template, если он доступен в токенизаторе. В README не указаны точные архитектура, количество параметров, размер контекста, поддерживаемые языки и дополнительные модальности. 8-битное представление ориентировано на более эффективное использование памяти и вычислений в совместимой среде MLX, однако конкретные характеристики качества и производительности не приведены. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3-Coder-Next-NVFP4 — языковая causal-модель для генерации текста, разработанная Red Hat на основе Qwen/Qwen3-Coder-Next от Alibaba Cloud. Модель принимает текст и генерирует текст; по назначению относится к моделям для задач программирования и работы с кодом. Архитектура указана как Qwen3NextForCausalLM, поддерживается интеграция с vLLM и вызов инструментов через совместимый с OpenAI API интерфейс. Модель представляет собой квантизированную версию исходной Qwen3-Coder-Next: веса и активации линейных операторов в блоках трансформера переведены в формат FP4. Это сокращает число битов на параметр с 16 до 4, а заявленный объём хранения на диске и требования к памяти GPU — примерно на 75%. Размер модели, максимальная длина контекста и набор поддерживаемых языков в представленном README не указаны. Модель валидирована с vLLM 0.14.1, RHAIIS 3.4 EA1 и RHOAI 3.4 EA1; для развёртывания в примере используется tensor parallelism на двух устройствах. Ключевое преимущество — существенное снижение требований к дисковой и GPU-памяти по сравнению с неквантизированной версией. При этом README не содержит результатов бенчмарков и количественной оценки влияния FP4-квантизации на качество, поэтому точные сильные стороны и возможные потери качества нельзя подтвердить по имеющимся данным. Модель распространяется по лицензии Apache 2.0.