II.3Рефакторинг, миграция и модернизация

Ballistic-CodeLlama-34B-v1 — языковая модель для генерации кода и ответов на инструкции, созданная BallisticAI. Она основана на CodeLlama 34B, объединяет варианты CodeLlama 34B v2 и speechless-codellama-34b-v2 и дополнительно обучена на jondurbin/airoboros-2.2. В репозитории указаны архитектура Llama, 33,5 млрд параметров и контекст до 16 384 токенов; модель принимает инструкции в формате Alpaca/Vicuna и выдаёт текст. Модель подходит для помощи в программировании, генерации и продолжения кода, а также выполнения текстовых инструкций. Для запуска существуют варианты AWQ для GPU и GGUF для CPU. Карточка сообщает об ограниченном тестировании и рекомендует дополнительную проверку безопасности перед реальным развёртыванием. Лицензия — Llama 2.

Code Llama 70B — авторегрессионная языковая модель семейства Llama, разработанная Meta. Этот репозиторий содержит базовую версию модели в формате Transformers с 68,7 млрд параметров; она предназначена для генерации и понимания кода и поддерживает автодополнение кода. Модель принимает текст и генерирует текст, использует плотную архитектуру Transformer и имеет контекстное окно 16 384 токена. Модель подходит для дополнения фрагментов кода и адаптации к задачам синтеза и анализа программ. Это базовая версия: она не настроена для диалогов и следования инструкциям, а специализированная версия для Python и infilling в карточке не отмечены. Модель предназначена для английского языка и языков программирования; README предостерегает от использования на других естественных языках. Возможны неточные или нежелательные ответы, поэтому перед внедрением нужна проверка для конкретного сценария. Использование регулируется лицензией Meta Llama 2, указанной в метаданных; условия лицензии следует соблюдать.

Darwin-28B-Opus — языковая модель для рассуждений, созданная командой Darwin путем эволюционного слияния Qwen/Qwen3.6-27B и модели rico03/Qwen3.6-27B-Claude-Opus-Reasoning-Distilled. Она сохраняет плотную архитектуру Qwen3.6 с гибридным линейным и полным вниманием и наследует стиль рассуждений, полученный дистилляцией поведения Claude Opus. Модель содержит 27,6 млрд параметров, представлена в формате BF16 и рассчитана на генерацию текста в режиме диалога и многошаговые рассуждения. Модель предназначена для решения сложных научных и математических задач, генерации и отладки кода, а также ответов на вопросы, требующие последовательного анализа. В README приведен результат 88,89% на GPQA Diamond при трехэтапной адаптивной оценке; он зависит от описанного протокола сэмплирования и уточнения ответов. Основной язык — английский; также заявлена поддержка корейского, китайского и японского языков. Полный вывод требует около 55 ГБ видеопамяти. Лицензия — Apache 2.0.

deepseek-ai/deepseek-coder-5.7bmqa-base — базовая языковая модель для кода от DeepSeek. Это плотная архитектура Llama с Multi Query Attention и 5,6 млрд параметров; модель обучена с нуля на 2 трлн токенов, состоящих из кода и естественного языка. В метаданных указано окно контекста 16 384 токена. Модель предназначена для генерации и дополнения кода, вставки пропущенных фрагментов и работы с кодом на уровне проекта или репозитория. Обучение включало задачу fill-in-the-blank и данные на английском и китайском языках; карточка описывает результаты на нескольких бенчмарках генерации кода. Это базовая, а не чат-модель, поэтому для диалоговых сценариев может потребоваться дополнительная настройка. Веса опубликованы в формате PyTorch; лицензия обозначена как other, конкретные условия следует проверить в репозитории.

SanctumAI/granite-3b-code-instruct-GGUF — это квантованная версия Granite-3B-Code-Instruct в формате GGUF. Исходную модель разработали IBM Research и команда ibm-granite; она дообучена на базе Granite-3B-Code-Base с использованием набора данных для программирования, математических задач, инструкций, SQL, вызова функций и оценки качества ответов. Квантование выполнено SanctumAI. Модель предназначена для генерации, объяснения и исправления кода, решения задач программирования и математического рассуждения, работы с SQL, следования инструкциям и потенциальных сценариев, связанных с function calling. Заявленный размер исходной модели — около 3 млрд параметров. Указаны результаты HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust в задачах генерации, объяснения и исправления кода, однако соответствующие значения помечены как непроверенные. Модель ориентирована на задачи кодинга и выигрывает от небольшого размера, что может облегчать локальное развертывание в формате GGUF. README не сообщает точный вариант квантования, длину контекста, поддерживаемые языки естественного языка, набор модальностей и требования к аппаратному обеспечению. Поэтому качество за пределами перечисленных сценариев и языков программирования следует проверять отдельно. Для модели указана лицензия Apache-2.0.

Grok Build 0.1 — модель SpaceXAI для ускорения разработки программного обеспечения в агентных рабочих процессах. Она предназначена для интерактивного программирования и принимает текстовые и графические входные данные, выдавая текст. Данных о размере, архитектуре, языках программирования и лицензии в доступных источниках нет.

Ginckl/HashBlitz-1-7B-Max — языковая модель для генерации текста и кода, разработанная Ginckl на базе unsloth/Qwen2.5-Coder-7B-Instruct. По описанию, модель создана как оптимизированная версия с 7 миллиардами параметров и ориентирована на локальное развёртывание, разработчиков и сценарии «vibe coding». Она предназначена для программирования, решения сложных задач разработки, повседневного диалога и аналитических сценариев, включая работу с актуальной информацией, если такая информация предоставляется через внешние инструменты или контекст. Заявлено, что при создании авторы синтезировали особенности нескольких передовых моделей: Claude Opus 5 — для программирования и логического рассуждения, Groq 4.5 — для характера и настройки безопасности, GPT-5.4 — для естественного диалога, а Gemini 3.1 Pro (Extended Thinking) — для анализа сложных реальных задач. Эти утверждения приведены в README разработчика и не сопровождаются подробностями о методике обучения или результатами независимой оценки. Модель поддерживает текстовую генерацию, заявленные языки — английский, испанский и французский. Архитектура основана на семействе Qwen 2.5 Coder; сведения о размере контекста, дополнительных модальностях, точных параметрах дообучения и ограничениях производительности не указаны. Лицензия — Apache-2.0, что допускает широкое использование на условиях этой лицензии.

Модель mlx-community/Josiefied-Qwen2.5-Coder-7B-Instruct-abliterated-v1 — версия для MLX, подготовленная сообществом mlx-community из Goekdeniz-Guelmez/Josiefied-Qwen2.5-Coder-7B-Instruct-abliterated-v1 с помощью mlx-lm 0.21.3. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате и задач программирования. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные указывают поддержку английского и немецкого языков, а также интерфейс вызова инструментов. Модель может использоваться для генерации и объяснения кода, помощи в программировании и диалоговых запросов. Лицензия — Apache-2.0. Доступные сведения не описывают качество на конкретных бенчмарках или гарантии безопасности ответов; название исходной модели указывает на менее ограниченные ответы.

Это полноточная сборка в формате GGUF BF16 модели KAT-Coder V2.5 Dev 35B-A3B от moeshawky: к базовой модели добавлена встроенная MTP-голова для спекулятивного декодирования. Архитектура — Qwen3.6-35B-A3B-класса, гибрид SSM и полного внимания; всего 35 млрд параметров, около 3 млрд активных на токен, 256 экспертов, из которых активны 8. Модель принимает текст и предназначена для генерации текста в диалоговом режиме, в том числе для задач программирования; MTP-голова может ускорять декодирование при поддержке со стороны сборки llama.cpp. В карточке указаны английский и китайский языки. Репозиторий содержит один файл GGUF v3 размером около 66,2 ГиБ; для размещения весов требуется ориентировочно 75 ГБ или более свободной оперативной памяти или видеопамяти. Для использования нужна совместимая сборка llama.cpp с поддержкой MTP. Лицензия — Apache-2.0.

Llama 2 Coder 7B — языковая модель для генерации и помощи в написании программного кода, созданная mrm8488 на базе Llama 2 Coder 7B и дообученная с использованием набора данных HuggingFaceH4/CodeAlpaca_20K. TheBloke подготовил её квантованные файлы в формате GGUF. Модель предназначена для сценариев, в которых требуется coding assistant: интерпретации инструкций пользователя и формирования решений в виде программного кода. Она относится к архитектуре Llama, имеет размер 7B параметров и поддерживает текстовую генерацию. README не указывает точный перечень языков программирования, естественных языков или размер контекстного окна. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения с поддержкой CPU и GPU. Ключевое преимущество версии — доступность квантований с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают возможные ошибки и неполные решения в генерируемом коде, а также отсутствие в README опубликованных результатов оценки. Модель заявлена под лицензией Apache-2.0, но поскольку основана на Llama 2, также подпадает под условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки перед использованием.

QuantFactory/Llama3.2-3B-Enigma-GGUF — квантизированная версия модели Llama3.2-3B-Enigma, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана ValiantLabs на базе Meta Llama 3.2 3B Instruct и выпущена 30 сентября 2024 года. Модель предназначена для генерации текста, диалоговых сценариев и прежде всего для задач программирования: написания, объяснения и обработки кода. Она использует формат промптов Llama 3.2 Instruct, поддерживает чат-взаимодействие и обучалась на синтетических данных для code-instruct из набора Tachibana, дополненных общими диалоговыми данными из Supernova. В README указан английский язык; другие языки и размер контекстного окна не заявлены. Ключевые характеристики — архитектура Llama, около 3 млрд параметров, текстовая модальность и формат GGUF, подходящий для запуска через llama.cpp и совместимые инструменты. Сильными сторонами являются специализация на инструкциях по программированию и улучшенные общие диалоговые возможности при относительно небольшом размере. Ограничения включают отсутствие заявленных мультимодальных возможностей и недостаточно подробные сведения о конкретном варианте квантизации, контекстном окне и производительности. Модель распространяется по лицензии llama3.2.

Logics-SWE-Qwen3.6-27B — модель на 27 млрд параметров от Logics-MLLM для агентных задач программной инженерии на уровне репозиториев. Она дообучена на базе Qwen/Qwen3.6-27B и объединяет навыки категорийных экспертов посредством дистилляции на собственных траекториях модели; при использовании развёртывается как единая политика без отдельных экспертов и меток категорий. Модель предназначена для исследования и создания агентов, которые разбираются в структуре репозитория, редактируют файлы, анализируют результаты и итеративно исправляют решения. В README приведены результаты оценки на Pro-618 и SWE-bench Multilingual; они относятся к полным агентным конфигурациям и не характеризуют отдельно генерацию текста моделью. Для практического использования агента нужны соответствующие системный промпт, схема инструментов, парсер действий, изолированная среда и проверяющий компонент. Модель использует архитектуру Qwen3.5 плотного типа и распространяется в формате safetensors для Transformers. В обучающих категориях представлены задачи сервисов, данных и безопасности, пользовательских приложений, системного ПО, инструментов и сред выполнения. Лицензия — Apache-2.0. Модель может генерировать команды, поэтому их выполнение требует контролируемой изолированной среды.

JANGQ-AI/MiniMax-M3-REAP22-Coder — производная модель MiniMax-M3, подготовленная JANG для программирования и агентных сценариев и предназначенная для запуска через vMLX на устройствах Apple Silicon. В основе — 60-слойная MoE-архитектура MiniMax-M3 с GQA, частичным RoPE и механизмами MSA Lightning Indexer; сохранена поддержка изображений. README не указывает размер контекста этой сборки, а описание базовой модели в метаданных сообщает контекст до 1 млн токенов. Модель сочетает JANG affine-mixed-квантизацию с AWQ и удалением части экспертов REAP: в каждом MoE-слое оставлено 100 из 128 маршрутизируемых экспертов. Для калибровки использованы Vera agentic-coder и GSM8K; автор README приводит результат HumanEval pass@1 81/81 на скремблированной половине набора и примерно 7/7 на небольшом арифметическом пробнике. Эти результаты получены на ограниченных проверках и не гарантируют аналогичного качества на других задачах. Для загрузки требуется vMLX версии 1.5.67 или новее с JANG-загрузчиком и runtime MiniMax-M3; обычные загрузчики Transformers, vLLM и MLX модель не поддерживают. Репозиторий занимает около 107 ГБ на диске. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке модели и лицензии базовой модели.

NightOwl-CodeEmbedding-35M — созданная Shuu12121 компактная модель эмбеддингов для поиска по коду. Это дообученная на базе Shuu12121/NightOwl-35M модель ModernBERT с 34,1 млн параметров и вектором размерности 384. Она кодирует запросы и фрагменты кода в плотные векторы для поиска по косинусному сходству; префиксы query: и passage: не требуются. Модель предназначена для поиска кода по запросу на естественном языке, поиска похожего кода и изменений, а также для извлечения материалов для технических ответов и RAG. Компактный размер подходит для CPU, локального и встраиваемого поиска, а также построения крупных векторных индексов. Заявлена поддержка Go, Java, JavaScript, PHP, Python, Ruby, Rust и TypeScript. По карточке, средний результат MTEB(Code, v1) составляет 65,56; оценка преимущественно проведена на задачах, близких к обучающим данным. Лицензия — Apache-2.0. Ограничения: максимальная длина входа в заявленном сценарии — 1024 токена, более длинные данные обрезаются. Модель слабее версии NightOwl-CodeEmbedding на 150,8 млн параметров, особенно на длинных запросах и задачах с многоходовым контекстом; качество для других языков и общих текстовых задач не подтверждено.

Mungert/OpenCodeReasoning-Nemotron-32B-IOI-GGUF — это GGUF-квантизованная версия языковой модели для генерации и анализа программного кода. В качестве базовой модели указана Qwen/Qwen2.5-32B-Instruct, а обучение связано с набором данных NVIDIA OpenCodeReasoning. Модель разработана Mungert; в метаданных также указана принадлежность к экосистеме NVIDIA. Основной заявленный язык — английский. Модель предназначена для задач генерации текста и кода, включая использование в локальных приложениях на базе llama.cpp, развёртывание на устройствах с ограниченной памятью и исследование сверхнизкобитного квантования. Доступны варианты с различными форматами и уровнями квантования, включая IQ1, IQ2, IQ3, Q4, Q6 и Q8, а также BF16 и F16. Для некоторых вариантов применяется метод IQ-DynamicGate с распределением точности по слоям; приведённые в README тесты на Llama-3-8B показывают снижение perplexity по сравнению со стандартным 1–2-битным квантованием при небольшом увеличении размера модели. Эти результаты не следует напрямую считать оценкой именно данной модели. Сильная сторона модели — возможность существенно снизить требования к памяти и запускать её на CPU, edge-устройствах и системах с ограниченной GPU VRAM. Компромиссом являются возможное снижение точности при низкой разрядности, зависимость производительности от аппаратной поддержки BF16 или FP16 и отсутствие в предоставленных данных точного размера файлов, длины контекста, перечня поддерживаемых языков помимо английского и результатов бенчмарков именно для этой модели. Лицензия — Apache-2.0.

s-batman/Ornith-1.0-9B-NVFP4-MTP-GGUF — набор из трёх GGUF-квантизаций модели Ornith-1.0-9B, разработанной командой DeepReinforce. Исходная модель создана на базе Qwen3.5-9B и дообучена с помощью reinforcement learning для агентного программирования и задач, требующих рассуждений. Эта версия дополнительно оснащена головами Multi-Token Prediction (MTP), заимствованными из Qwen3.5-9B-MTP, для ускорения speculative decoding в llama.cpp. Модель имеет плотную архитектуру Qwen3.5: 32 основных слоя и один встроенный MTP-слой, 9,2 млрд параметров, hidden size 4096 и словарь из 248 320 токенов. Используется гибридная схема внимания с линейным SSM и полным attention в каждом четвёртом слое. В репозитории доступны варианты Q8_0 размером 9,1 ГБ, NVFP4 и MXFP4 размером по 5,1 ГБ. NVFP4 оптимизирован для NVIDIA Blackwell, включая RTX PRO 6000 и DGX Spark, тогда как Q8_0 рассчитан на широкий спектр CPU и GPU. Визуальная башня отсутствует, поэтому практическое применение этой сборки ограничено текстовым выводом, несмотря на сохранённый мультимодальный словарь. Сильные стороны модели — специализация на агентном кодировании и рассуждениях, уменьшенный размер по сравнению с полноразмерной BF16-моделью и возможность ускоренного декодирования с MTP. NVFP4 обеспечивает наиболее эффективный путь на Blackwell, MXFP4 использует стандарт OCP, а Q8_0 служит вариантом с максимальной точностью. Ограничениями являются зависимость преимуществ NVFP4 от оборудования Blackwell, необходимость совместимой поддержки llama.cpp и отсутствие визуального ввода в данной GGUF-сборке. Модель распространяется по лицензии MIT.

Ornith-1.5-Cyclos-1M-Uncensored — это мультимодальная модель для диалогов, разработанная на основе семейства Ornith и изменённая автором репозитория с помощью LoRA дообучения. Веса LoRA объединены с базовой моделью; архитектура — Qwen3.5 MoE для условной генерации текста и изображений. Модель принимает текст и изображения и выдаёт текст. Дообучение было сосредоточено на программировании, агентных сценариях, анализе рынков и торговли, классификации содержимого и вызове инструментов. Размер базовой модели — 35 млрд параметров; репозиторий содержит веса BF16 в формате safetensors. Контекст расширен с исходных 262 144 до 1 048 576 токенов с помощью YaRN. Это расширение выполнено для инференса, а не обучено на последовательностях такой длины: качество за пределами исходного контекста не проверялось и может снижаться. В README указана поддержка vLLM и SGLang; для BF16-весов объёмом около 67 ГБ требуется значительная видеопамять, а на описанной системе с 32 ГБ VRAM использовалась выгрузка части весов в оперативную память через vLLM. Аудио модель не поддерживает, заявленных бенчмарков нет. Лицензия — Apache-2.0.

Prox 7B SFT — языковая модель OpenVoid AI, дообученная на данных о программировании, взломе и кибербезопасности. В основе лежит Mistral-7B-v0.2; модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 32 768 токенов. Модель предназначена для генерации и объяснения кода, создания документации, ответов на вопросы о методах взлома и кибербезопасности, а также помощи в программных проектах. Карточка указывает английский язык. Обучающий набор OpenVoid AI описан как собственный набор материалов по программированию и взлому. Модель распространяется по лицензии Apache-2.0. Ответы модели могут быть ошибочными и требуют проверки специалистом; авторы не рекомендуют полагаться на неё в критически важных задачах безопасности и использовать для незаконной деятельности.

unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit — 4-битная квантованная версия Qwen2.5-Coder-3B-Instruct, разработанная на базе серии Qwen2.5-Coder. Серия предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения математических и общеязыковых задач. В карточке указана поддержка английского языка и библиотека Transformers. Для семейства Qwen2.5-Coder заявлена архитектура causal language model на базе Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов; заявленный контекст — до 32 768 токенов. Однако README содержит противоречивые сведения: идентификатор указывает на instruct-модель объёмом 3B параметров, тогда как техническое описание в тексте относится к базовой модели 0.5B с 0.49B параметров и этапом предварительного обучения. Поэтому точные характеристики именно данного 3B-варианта по README подтвердить нельзя. 4-битное представление должно снижать требования к памяти и облегчать локальный запуск, но README не приводит точных показателей качества, системных требований или ограничений квантованной версии. Модель распространяется по лицензии Apache-2.0.

Карточка модели tbhrc/qwen2_5_coder_7b_instruct_4bit на Hugging Face совпадает с карточкой mlx-community/Qwen2.5-Coder-7B-Instruct-4bit, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct-4bit — 4-битная версия модели для генерации кода из семейства Qwen2.5-Coder, подготовленная mlx-community. README указывает, что модель преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.18.1; в метаданных базовой моделью указана Qwen/Qwen2.5-Coder-7B. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов. Модель предназначена для генерации кода в диалоговом формате и подходит для помощи при написании и анализе программ. Репозиторий распространяется по лицензии Apache-2.0. README описывает конвертацию в MLX, а метаданные указывают на дообучение базовой модели для кода; представленных сведений недостаточно, чтобы точно описать качество по языкам программирования или результаты оценок.

Qwen-32B-Syntactic-Exploit-Core-BF16 — 32-миллиардная плотная языковая модель для генерации текста, собранная автором из Qwen/QwQ-32B и Qwen/Qwen2.5-Coder-32B-Instruct. Карточка заявляет слияние весов методом SLERP и изменение поведения отказов; эти заявления не сопровождаются проверяемыми результатами, поэтому их следует считать описанием автора, а не подтверждёнными свойствами. Модель использует архитектуру Qwen2ForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена прежде всего для генерации и анализа кода, отладки и проектирования программных систем, а также для текстовых задач рассуждения. Поддерживаемые языки в метаданных не перечислены. Модель распространяется по лицензии Apache-2.0. Карточка не приводит воспроизводимых бенчмарков или подробностей оценки качества, поэтому заявленные преимущества в кодировании и рассуждении нельзя считать независимо подтверждёнными.

Qwen3.5-9B-Claude-Deckard-Agent-Coder-Heretic-qx86-hi-mlx — языковая модель, опубликованная nightmedia. Это merge-модель на базе семейства Qwen3.5-9B, созданная методом NuSLERP с использованием компонентов Qwen3.5-9B-Agent от armand0e и Qwopus3.5-9B-Coder от Jackrong, а также нескольких промежуточных моделей nightmedia и DavidAU. В описании также указана интеграция с MLX и квантизация qx86-hi. Модель предназначена для программирования, агентских сценариев, рассуждений, генерации и продолжения текстов, включая художественную прозу, ролевые диалоги и различные жанры письма. Поддерживаются английский и китайский языки. Заявленный размер — 9 млрд параметров; точная длина контекста и полный перечень поддерживаемых модальностей не указаны. В шаблоне чата предусмотрено переключение режимов рассуждения с помощью тегов <|think_on|> и <|think_off|>, а также управление сохранением рассуждений через <|think_remember|> и <|think_forget|>. Для варианта qx86-hi приведены perplexity 4,155, пиковое потребление памяти около 15,47 ГБ и скорость около 672 токенов в секунду; эти показатели зависят от оборудования и реализации. К сильным сторонам относятся сочетание агентских и кодовых навыков, поддержка глубокого рассуждения и творческой генерации, а также относительно умеренные требования к памяти благодаря квантизации. Ограничения включают отсутствие подробных независимых оценок качества, неизвестную длину контекста и потенциально менее предсказуемое поведение merge- и uncensored-модели. Лицензия указана как Apache-2.0.

AnonimousA/Qwen3.8-Flash-Next-REAP-256-duo-GGUF — общественная производная модели Qwen3.8-Flash-Next, неофициально созданная сообществом и не связанная с Alibaba/Qwen. Это GGUF-квантизированная модель с pruning-экспертов REAP: число экспертов в каждом слое сокращено с 512 до 256, при этом сохранённые веса скопированы без деквантизации и повторного квантования. Базовый формат — Unsloth UD-Q3_K_XL, общий размер составляет около 57,69 GiB в двух файлах вместо 83,8 GiB у исходной версии. Модель предназначена прежде всего для генерации кода и агентского взаимодействия, включая оркестрацию инструментов и tool calling. Она использует архитектуру qwen4exp с гибридом Gated DeltaNet, Qwen Sparse Attention и блоком n-gram embedding. Активируются 10 экспертов и один общий эксперт; число активных параметров не изменено. Веса vision-компонентов сохранены, но файл mmproj распространяется отдельно. Калибровка pruning выполнена на корпусах кода и агентской оркестрации. Главное преимущество — уменьшенный размер, благодаря которому модель может размещаться преимущественно в VRAM: на RTX 5090 объёмом 32 GB заявлены 68,4 токена/с при декодировании и 934 токена/с при prefill с частичным размещением MoE на CPU. При полном выполнении на CPU прирост декодирования практически отсутствует, зато prefill был примерно в 1,58 раза быстрее исходной модели. К ограничениям относятся возможное снижение качества из-за глубокого pruning, более низкий заявленный результат HumanEval по сравнению с последующей версией REAP-320 и необходимость использовать llama.cpp mainline с поддержкой архитектуры, добавленной 27 августа 2026 года. Лицензия указана как qwen-community-1.0; ссылка ведёт на лицензию исходной модели Qwen3.8-Flash-Next. Перед использованием следует учитывать, что это community derivative, а не официальный релиз Qwen.

Qwen3-Coder-30B-A3B-Instruct-GGUF — это квантованная версия языковой модели для генерации текста, созданная сообществом LM Studio на основе Qwen3-Coder-30B-A3B-Instruct от разработчика Qwen. GGUF-квантизацию выполнил bartowski с использованием llama.cpp, релиз b6014. LM Studio не является создателем или владельцем модели. Модель предназначена прежде всего для задач, связанных с программированием и генерацией текста, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, размере контекста, конкретной архитектуре или доступных модальностях. Формат GGUF и использование llama.cpp указывают на возможность запуска в совместимой локальной инфраструктуре, но точные требования к ресурсам и параметры квантизации не указаны. Лицензия в README не указана. Модель может генерировать неточный, вредный или нежелательный контент, поэтому результаты требуют проверки, особенно при использовании в программном коде и автоматизированных сценариях.

mlx-community/Qwen3-Coder-Next-4bit — это 4-битная версия модели Qwen3-Coder-Next, разработанной Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием, включая работу с исходным кодом и техническими запросами. Модель рассчитана на запуск через библиотеку mlx-lm и совместима с экосистемой MLX. Ключевой особенностью является 4-битное представление, которое может снижать требования к памяти по сравнению с полноразмерной версией, но потенциально ограничивать точность. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках и модальностях, длине контекста, результатах тестирования, сильных сторонах или конкретных ограничениях. Лицензия модели — Apache 2.0. Для использования требуется установка mlx-lm; приведённый способ запуска ориентирован на генерацию текста с применением chat template, если он доступен.

NexVeridian/Qwen3-Coder-Next-8bit — это конвертированная в формат MLX 8-битная версия модели Qwen/Qwen3-Coder-Next. Конвертацию выполнил пользователь или организация NexVeridian с использованием библиотеки mlx-lm версии 0.31.3; исходная модель разработана командой Qwen. Модель предназначена для генерации текста, включая сценарии работы с кодом, и может использоваться в приложениях на базе MLX через библиотеку mlx-lm. Модель поддерживает текстовую генерацию и применение chat template, если он доступен в токенизаторе. В README не указаны точные архитектура, количество параметров, размер контекста, поддерживаемые языки и дополнительные модальности. 8-битное представление ориентировано на более эффективное использование памяти и вычислений в совместимой среде MLX, однако конкретные характеристики качества и производительности не приведены. Модель распространяется по лицензии Apache-2.0.

saricles/Qwen3-Coder-Next-NVFP4-GB10 — это 4-битная NVFP4-квантизация модели Qwen3-Coder-Next, подготовленная для NVIDIA DGX Spark с GB10. Базовая модель разработана Qwen; это языковая MoE-модель на 79,7 млрд параметров с 512 экспертами, из которых для каждого токена активны 10, и гибридной архитектурой DeltaNet и attention. Квантизацию после обучения выполнили с помощью LLM Compressor; часть слоёв оставлена в BF16, а большая часть весов, включая in_proj_qkvz, переведена в FP4. Модель предназначена для генерации кода и диалогового использования в сценариях разработки. Карточка приводит результаты тестирования на одном DGX Spark с vLLM и сообщает о совместимости с другими видеокартами Blackwell, поддерживающими NVFP4. В описанном тестовом окружении вес модели занимал 42,7 ГиБ; гибридная архитектура обеспечивает заявленную автором стабильную скорость декодирования при увеличении контекста. В метаданных указан английский язык; размер нативного контекста не приведён. Репозиторий распространяется по лицензии Apache 2.0.

noctrex/Qwen3-Coder-Next-REAM-MXFP4_MOE-GGUF — квантованная версия модели Qwen3-Coder-Next-REAM, размещённая пользователем noctrex в формате GGUF. Метаданные связывают её с базовой моделью bknyaz/Qwen3-Coder-Next-REAM; в README указана квантизация MXFP4 и приведены рекомендуемые параметры генерации: temperature=1.0, top_p=0.95 и top_k=40. Модель предназначена для генерации текста в диалоговых сценариях разработки и задачах, связанных с кодом. Она принимает текст и выдаёт текст. Для использования требуется совместимый с GGUF программный стек; сведения о лицензии и длине контекста в предоставленных данных отсутствуют.

noctrex/Qwen3-Coder-REAP-25B-A3B-MXFP4_MOE-GGUF — квантизированная в формате GGUF версия модели Cerebras Qwen3-Coder-REAP-25B-A3B. Это MoE-модель для генерации кода и диалогового использования; каталог также указывает поддержку чата. Репозиторий содержит варианты MXFP4_MOE, включая варианты с imatrix-калибровкой bartowski и экспериментальные варианты codetiny-exp и codemedium-exp, откалиброванные на наборах данных для программирования. Модель предназначена для генерации кода и помощи в задачах программирования. Автор отмечает, что калибровочные данные экспериментальных вариантов охватывают только код, поэтому их пригодность для общих знаний не установлена и требует дальнейшей проверки. Лицензия в предоставленных данных не указана.

Qwopus3.8-27B-Flash-TQ3_4S — сборка в формате GGUF модели Jackrong/Qwopus3.8-27B-Flash, разработанной как скоростной вариант Qwen/Qwen3.8-27B для агентных сценариев. Это плотная мультимодальная модель с поддержкой диалога и анализа изображений и видео; в комплекте сохранена голова NextN/MTP для ускорения генерации методом self-speculative decoding. Файл модели занимает 13,6 ГБ, проектор зрения — 1,8 ГБ; README приводит тестирование на GPU RTX 3090 и контекст 32768 токенов в рекомендуемой конфигурации. Модель ориентирована на быстрые циклы работы агентов и генерацию кода. В README сообщаются результаты тестов Hard86, HumanEval и MBPP, а также ускорение декодирования на задачах с кодом при включённом MTP. Это заявление автора карточки; результаты зависят от конфигурации, а сравнение с базовой моделью проводилось при различающихся бюджетах рассуждений. Для загрузки TQ3_4S необходима специальная сборка turbo-tan/llama.cpp-tq3: стандартная llama.cpp этот тип тензоров не поддерживает. Лицензия — Apache-2.0.