II.4Отладка, тестирование и качество ПО

Gemma-4-12B-Coder-Fable5-Composer2.5-8bit — это 8-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community на основе Google Gemma-4-12B-it. Модель предназначена для генерации текста, программирования и задач, требующих рассуждений, включая локальный чат-стиль инференса через библиотеку mlx-lm. Модель содержит около 12 миллиардов параметров, использует формат 8-bit и оптимизирована для локального запуска на компьютерах Apple Silicon. Квантизация существенно снижает требования к памяти при сохранении близких к исходным возможностей рассуждения и генерации кода. В репозитории добавлен Jinja-шаблон чата для корректного форматирования диалогов. Поддерживаемые языки, размер контекста и набор модальностей в README не указаны; по описанию это текстовая модель. Модель распространяется по лицензии Apache 2.0, разрешающей использование, изменение и повторное распространение. Ограничения, связанные с качеством ответов, безопасностью и областью применения, в README отдельно не описаны.

coder3101/gemma-4-19b-a4b-it-REAP-heretic — разговорная модель на архитектуре Gemma 4, опубликованная автором репозитория coder3101. Это производная от 0xSero/gemma-4-19b-a4b-it-REAP: модель с разреженной экспертной архитектурой MoE, в которой после pruning осталось 90 экспертов на слой и около 4 млрд активных параметров на токен при общем размере примерно 19 млрд параметров. В README также описана abliteration, снижающая частоту отказов в приведённой автором проверке с 94 до 6 из 100 запросов. Модель предназначена для диалоговой генерации текста, рассуждений и задач программирования; поддерживает текстовые и визуальные входы, режим thinking и контекст до 262 144 токенов. По приведённым тестам она сохраняет результаты на простых математических задачах и кодировании, но pruning заметно снижает точность на некоторых знанияёмких темах. Метаданные указывают лицензию Gemma; перед использованием следует учитывать её условия.

skar01/llama2-coder-full — языковая модель семейства Llama 2, дообученная на наборе CodeAlpaca 20K с помощью QLoRA и библиотеки PEFT. Модель предназначена для генерации кода и ответов на инструкции, связанные с программированием. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров. Она принимает текст и генерирует текст; заявленный размер контекста — 2048 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. В качестве базовой модели указана TinyPixel/Llama-2-7B-bf16-sharded.

Llama-Engineer-Evol-7B — языковая модель на архитектуре Llama 2, созданная дальнейшим дообучением чат-модели Meta с настройкой для следования инструкциям. Разработчик дообучил её на более чем 80 тысячах примеров по программированию из наборов Evol-Instruct-Code-80k-v1, CodeAlpaca-20k и GPTeacher-CodeInstruct; QLoRA-адаптер затем объединили с базовой моделью. Модель содержит 6,6 млрд параметров, работает с контекстом до 4096 токенов и рассчитана на генерацию текста на английском языке. Модель предназначена для ответов на вопросы по программированию, объяснения кода и помощи в решении задач разработки. Для взаимодействия рекомендуется формат запросов Llama 2 с инструкцией для программного ассистента. README отмечает, что формальных оценок качества не проводилось, поэтому возможности модели не подтверждены систематическими бенчмарками. Лицензия — CC BY-SA 4.0.

MadWizard-SFT-v4-Mistral-7b-v0.3 — разговорная модель на архитектуре Mistral, дообученная Lumpen1 методом QLoRA на протяжении двух эпох на наборе Lumpen1/MadWizardSFT-v0.3-with-coding-chatml42 с шаблоном ChatML. Она предназначена для генерации ответов в диалогах и задач с кодом. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — до 32 768 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

openbmb/MiniCPM5-2B-GGUF — компактная языковая модель MiniCPM5-2B от OpenBMB, представленная в формате GGUF для локального запуска. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и работы в условиях ограниченных вычислительных ресурсов, включая развёртывание на устройствах и edge-системах. Модель ориентирована на английский и китайский языки и поддерживает сценарии программирования, математического рассуждения, понимания длинного контекста, использования инструментов и агентских задач. Разработчики заявляют конкурентоспособность с моделями класса 4B и лучшие результаты среди сопоставимых открытых моделей класса 2B в ряде перечисленных направлений. Точная максимальная длина контекста, параметры квантования GGUF и сведения о мультимодальности в представленном README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или аудио. К сильным сторонам относятся небольшой размер, пригодность для локального и on-device использования, а также заявленные возможности в коде, математике, работе с длинным контекстом и инструментами. Ограничениями являются меньшая ёмкость по сравнению с крупными языковыми моделями и отсутствие подробных количественных результатов и характеристик конкретной GGUF-сборки в предоставленных данных. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Mistral-Small-3.2-24B-Instruct-2506-NVFP4 — квантизированная FP4-версия инструкционной текстовой модели unsloth/Mistral-Small-3.2-24B-Instruct-2506, разработанная RedHatAI. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых сценариев, выполнения инструкций и задач общего назначения, включая объяснение понятий и программирование. Указаны языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai, однако README отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с группировкой 16; для квантизации использовался LLM Compressor и калибровочные данные UltraChat. По сравнению с 16-битным представлением это примерно на 75% уменьшает размер модели на диске и требования к GPU-памяти, что делает модель подходящей для более эффективного инференса. Для запуска заявлена совместимость с vLLM версии 0.9.1 и выше. Ключевое преимущество модели — снижение потребления памяти и размера при сохранении назначения базовой инструкционной модели; качество оценивалось на бенчмарках OpenLLM v1, OpenLLM v2 и HumanEval_64, но подробные результаты в представленном README не приведены. Ограничения включают возможные потери качества из-за агрессивной 4-битной квантизации, отсутствие данных о размере контекстного окна и мультимодальности, а также заявленное ограничение использования английским языком. Модель распространяется по лицензии Apache-2.0.

Muse-Glimmer-30B-EXP-EVE-v1 — экспериментальная объединённая модель автора win10 на базе Muse-Glimmer-30B. В README описано слияние моделей разных архитектур методом Tensor Gene Evolution с добавлением возможностей и поведенческих особенностей DeepSeek-V4-Flash-0731 и dots3-note-prev. По метаданным это плотная мультимодальная модель семейства Muse Glimmer на 30 млрд параметров, работающая через Transformers и принимающая изображения и текст для генерации текстовых ответов. Модель предназначена для диалогов, анализа изображений, программирования, агентных сценариев и вызова инструментов. Автор отмечает более широкое и глубокое рассуждение и разнообразие способов решения задач по сравнению с базовой моделью; это заявление из карточки, а не приведённый результат независимой оценки. Распространяется по лицензии Apache-2.0.

Muse-Glimmer-30B-Fable-Distill — мультимодальная модель Meta, дообученная armand0e на диалогах и агентных трассах программирования, дистиллированных из Claude Fable 5. Это плотная модель семейства Muse Glimmer с текстовым декодером и визуальным энкодером; дообучалась только языковая часть, а веса объединены с базовой моделью в формате bf16. Она принимает текст и изображения и предназначена для диалогов, агентного программирования и работы с инструментами. Карточка описывает многоязычные данные на английском, испанском, французском, немецком, португальском, японском и китайском языках; доля неанглийских токенов при обучении составляла около 10%. Лицензия — Apache-2.0. Модель сохраняет архитектуру, токенизатор, шаблон диалога и обработчик изображений базовой Muse-Glimmer-30B. Для подачи изображений используется AutoProcessor; модель поддерживает формат Onyx ATEM с каналами рассуждений и вызовами инструментов. Для работы указаны Transformers версии не ниже 5.15; стандартные парсеры рассуждений и вызовов инструментов vLLM несовместимы с этим форматом и могут неверно разбирать сообщения. Обучение проводилось на 651 примере; модель не сравнивалась с вариантом, обученным только на ответах, а объединённые bf16-веса не полностью совпадают с NF4-весами, на которых шло обучение.

NeoHorse-1-9B-GGUF — текстовая причинно-следственная языковая модель примерно на 9 млрд параметров, разработанная TokenRhythm и дообученная на базе Qwen3.5-9B. Модель позиционируется как прототип в направлении рекурсивного самоулучшения и ориентирована на агентные сценарии, использование инструментов, программирование, рассуждения и следование инструкциям. Репозиторий содержит веса в формате GGUF для локального запуска с llama.cpp, Ollama и LM Studio. Доступны варианты BF16, а также 8-, 5- и 4-битные квантизации, позволяющие уменьшить требования к дисковому пространству и оперативной памяти. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных не указаны. Сильными сторонами заявлены улучшения по сравнению с базовой Qwen3.5-9B на наборе из десяти бенчмарков, а также специализация на агентных рабочих процессах и tool use. При этом NeoHorse описана как первоначальный прототип, поэтому заявленные возможности рекурсивного самоулучшения относятся к исследовательскому framework и не означают полностью автономное самообучение модели. Модель распространяется по лицензии Apache-2.0.

Noema 1.5 2B GGUF — локальная языковая модель с открытыми весами, разработанная NoemaAI-labs и распространяемая в формате GGUF для запуска через llama.cpp. Это вариант модели Noema 1.5 2B, ориентированный на восстановление знаний, генерацию кода, строгое следование инструкциям, многоходовые диалоги и более эффективное рассуждение. Модель имеет около 2 млрд параметров, 24 слоя и размерность скрытого состояния 2048. В основе используется гибридная архитектура Qwen3.5 с Gated DeltaNet и gated attention. Поддерживается только текстовая модальность; основной оценённый язык — английский. Архитектурный лимит контекста составляет 262 144 токена, однако разработчик независимо проверил работу только до 24 576 токенов. MTP отключён. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M и Q4_K_M; последний рекомендован как компактный вариант по умолчанию. Сильными сторонами модели являются небольшой размер, возможность локального запуска, улучшенная генерация кода, строгое выполнение инструкций и повышенная надёжность многоходового взаимодействия. В режиме без рассуждений она подходит для кратких инструкций, структурированной генерации и кода, а режим рассуждений предназначен для более сложных задач, но может выдавать длинные или повторяющиеся ответы. README не содержит полной информации об обучении, бенчмарках, ограничениях применения и целевых сценариях исходной модели. Веса доступны для скачивания, но репозиторий не предоставляет открытой лицензии и не является open source.

Модель mlx-community/NVIDIA-Nemotron-3-Nano-4B-BF16 — версия NVIDIA Nemotron 3 Nano, подготовленная сообществом mlx-community для запуска через MLX на устройствах Apple. В карточке указано, что она конвертирована из nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16 с помощью mlx-lm 0.31.1; метаданные классифицируют связь как дообучение и указывают архитектуру NemotronHForCausalLM. Репозиторий содержит веса safetensors, а размер модели составляет 6,4 млрд параметров. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на вопросы, программирования, рассуждений и агентных сценариев с интерфейсом вызова инструментов. Поддерживает контекст длиной до 262 144 токенов и ориентирована на английский язык. Для использования требуется библиотека mlx-lm; лицензия указана как other, поэтому условия следует сверить с лицензией базовой модели и репозитория перед применением.

occamy-ai_occamy-1.0-GGUF — GGUF-квантизированная версия модели occamy-1.0, разработанной occamy-ai и подготовленной bartowski с использованием llama.cpp. Модель ориентирована на агентные сценарии, использование инструментов и задачи программирования, а также заявлена как модель для работы с длинным контекстом. Модель содержит около 35 млрд параметров и поддерживает текстовый и визуальный ввод; для обработки изображений требуется отдельный файл mmproj. В карточке указана поддержка английского языка. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы; рекомендуемым универсальным вариантом назван Q4_K_M размером 21,39 ГБ, а более качественными — Q5 и Q6. Спекулятивное декодирование не поддерживается, при этом применена imatrix-квантизация. Сильными сторонами модели являются сочетание большого размера, мультимодального ввода, возможностей для tool use и агентных рабочих процессов, а также широкий выбор форматов GGUF. Ограничениями выступают значительные требования к памяти даже для квантизированных вариантов, необходимость отдельного mmproj для изображений и отсутствие в README точного размера контекстного окна, подробных результатов оценки и информации о поддерживаемых языках помимо английского. Лицензия в карточке не указана.

SC117 выпустил Ornith-1.0-35B-Heretic-MTP как экспериментальную производную модели Ornith-1.0-35B от DeepReinforce AI. Это разговорная модель для генерации текста, в том числе для агентного программирования; архитектура относится к семейству Qwen3.5 MoE. В релиз вошли слитые с весами BF16 параметры адаптера Heretic Trial 63, совместимая голова MTP и визуальный проектор BF16. README также описывает варианты APEX GGUF со смешанной точностью, но метаданные этого репозитория указывают формат safetensors. Модель принимает текст и может работать с изображениями через визуальный проектор; основной выход — текст. В README приведена команда запуска с контекстом 131072 токена. Лицензия — MIT. Изменение поведения отказов относительно исходной модели требует отдельной оценки перед развёртыванием.

Ornith-1.5-35B-A3B-NVFP4-MTP-GGUF — квантизированная версия модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная Avifenesh. Это текстовая генеративная модель с архитектурой MoE, распространяемая в формате GGUF с квантизацией NVFP4. Артефакт дополнен дообученной головой multi-token prediction (MTP) для speculative decoding; основной корпус модели, эмбеддинги и выходная голова сохранены без изменений относительно официальной версии. Модель предназначена для диалоговой генерации текста, включая программирование и агентские сценарии. Она поддерживает контекст до 262 144 токенов, имеет встроенный шаблон чата с XML-вызовом инструментов и режимом рассуждений <think>. Артефакт рассчитан на текстовый ввод и вывод; upstream vision tower в него не входит. Размер файла составляет около 20,2 ГБ против 71,9 ГБ у BF16-версии, что позволяет разместить веса на одной видеокарте Blackwell с 96 ГБ памяти. Ключевое преимущество версии — ускорение speculative decoding благодаря дообученной MTP-голове: на описанных тестах принятие черновых токенов достигало 0,431, а на тестах генерации кода — 0,540. При этом проверка целевой моделью сохраняет побитовую идентичность с обычной жадной генерацией. Ограничения связаны с узкой совместимостью: NVFP4 не является стандартным типом тензоров upstream llama.cpp, поэтому рекомендуется использовать serving engine tiyuvta для RTX Blackwell или специальную NVFP4-ветку llama.cpp; для обычных llama.cpp и Ollama следует выбирать официальные GGUF Q4_K_M–Q8_0. Модель распространяется по лицензии MIT.

Это квантизированная 4-битная версия инструктивной модели Phi-3.5-mini-instruct, опубликованная пользователем tbhrc и преобразованная в формат MLX из microsoft/Phi-3.5-mini-instruct с помощью mlx-lm 0.17.0. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров; она предназначена для диалоговой генерации текста и помощи с кодом. Метаданные указывают на многоязычную поддержку и контекст длиной 4096 токенов. Модель подходит для локальных диалоговых приложений и генерации кода. Репозиторий использует формат safetensors, а карточка указывает лицензию MIT. Сведения о конкретных ограничениях качества или языковых сценариях в карточке не приведены.

Это сборка Phi-3 Mini-128K-Instruct в формате GGUF F16, опубликованная ProfessorF (Nick V. Flor); исходную модель разработала Microsoft. Это компактная языковая модель с 3,8 млрд параметров, рассчитанная на генерацию текста и диалог по инструкциям. Файлы GGUF предназначены для локального запуска через llama.cpp и совместимые интерфейсы, в том числе в условиях ограниченных вычислительных ресурсов и требований к низкой задержке. Модель рассчитана прежде всего на английский язык. Она подходит для ответов на вопросы, генерации текста, программирования, математики и логических рассуждений; окно контекста исходной модели составляет до 128 тыс. токенов. README описывает обучение и настройку исходной модели с помощью supervised fine-tuning и direct preference optimization. Репозиторий предоставляет 16-битные GGUF-файлы; лицензия — MIT. Модель может ошибаться, а её пригодность для конкретного применения требует проверки, особенно в сценариях с высокими рисками. Заявления о сильных результатах на бенчмарках относятся к описанию исходной модели Microsoft и не являются независимой оценкой этой сборки.

PII Redactor small — мультиязычная модель Horizon Labs для обнаружения и разметки персональных данных и секретов в тексте перед передачей содержимого в журналы, запросы к LLM, обучающие наборы или внешние API. Это дообученная модель token classification на основе jhu-clsp/mmBERT-small с архитектурой ModernBERT и 140,5 млн параметров; она размечает 29 типов сущностей, включая имена, контакты, адреса, идентификаторы, финансовые данные, пароли и API-ключи. Модель принимает текст и выдаёт метки токенов; для маскирования их можно подключить к Presidio или LLM Guard. README заявляет поддержку более 30 языков, а метаданные перечисляют языковые теги, в том числе английский, немецкий, французский, русский, китайский, японский и другие. Контекст модели — 8192 токена; доступны форматы safetensors и ONNX, а README также отмечает использование через transformers.js в браузере и на периферийных устройствах. По опубликованной оценке модель не лидирует на всех бенчмарках: на реальных и необычно оформленных документах полнота может быть ниже, даты могут размечаться избыточно, а квазиидентификаторы не гарантируют анонимность. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-Coder-7B-8bit — версия модели Qwen2.5-Coder-7B, подготовленная сообществом mlx-community для запуска с MLX. README сообщает о конвертации из Qwen/Qwen2.5-Coder-7B с помощью mlx-lm 0.18.1; метаданные каталога связывают её с Qwen/Qwen2.5-7B как дообучение. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и кода в диалоговом режиме, включая помощь при написании и объяснении программ. Метаданные указывают английский язык, поддержку чата и интерфейса вызова инструментов. Лицензия — Apache 2.0. README подтверждает конвертацию в формат MLX, но не уточняет способ 8-битного представления весов.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill-GGUF — языковая модель, разработанная TeichAI на базе unsloth/Qwen3-14B. Она дообучена методом дистилляции на наборе данных TeichAI/claude-4.5-opus-high-reasoning-250x, созданном на основе ответов Claude Opus 4.5 с высокой интенсивностью рассуждений. Модель предназначена для генерации текста общего назначения, программирования и научных задач. В README указано 14 млрд параметров, однако сведения об архитектурных деталях, модальностях, поддерживаемых языках и размере контекста отсутствуют. Формат GGUF предполагает использование в совместимом локальном инференсе, но конкретные варианты квантования и требования к ресурсам не приведены. Сильной стороной модели является специализация на задачах, требующих развернутого рассуждения, включая кодирование и научные вопросы. Ограничения также связаны с отсутствием подробных данных о качестве, бенчмарках, языковом покрытии, контекстном окне и рекомендуемых параметрах запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3-235B-A22B-abliterated — доработанная методом ablation модель Qwen3 от null-space на базе Qwen/Qwen3-235B-A22B. Из весов удалено доминирующее направление отказа, из-за чего модель значительно реже отклоняет запросы, сохраняя основные возможности исходной модели. Это разреженная MoE-модель для генерации диалогового текста, рассуждений, программирования, перевода и работы с инструментами; поддерживает режимы /think и /no_think. Архитектура — Qwen3MoeForCausalLM, формат весов — BF16, контекст — до 40 960 токенов. Метаданные указывают 18,2 млрд параметров, тогда как README описывает базовую модель как 235-миллиардную MoE-модель. Модель подходит для творческого письма, диалогов и исследований поведения отказов в языковых моделях, включая red-teaming и оценку безопасности. В приведённой оценке MMLU для FP8-варианта результат составил 86,2% против опубликованных 87,8% у базовой модели; это сравнение не является полной независимой оценкой всех возможностей. Удаление отказов означает, что модель может отвечать на запросы, которые исходная модель отклоняла, поэтому её ответы требуют соответствующего контроля. Лицензия — Apache-2.0.

Jonandrop/Qwen3.6-27B-MTPLX-Optimized-Speed-Vision — мультимодальная модель семейства Qwen, собранная разработчиком Jonandrop на основе Qwen/Qwen3.6-27B и ускоренной версии Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed. Она предназначена для диалогов, программирования и анализа изображений; README также заявляет обработку видео, но описанный интерфейс подтверждает только текстовый и графический ввод. Модель использует архитектуру Qwen3_5ForConditionalGeneration и рассчитана на запуск через MLX и MTPLX на Apple Silicon с многотокенным предсказанием для ускорения генерации. Текстовая часть и MTP-компоненты квантизованы, а восстановленная башня зрения хранится в BF16. В описанном сценарии модель принимает текст и изображения и генерирует текстовые ответы, включая код. README приводит замеры скорости на Apple M5 Pro, но уточняет, что это ориентировочные результаты на небольшом наборе запросов. Репозиторий распространяется по лицензии Apache-2.0. Для запуска описан совместимый с OpenAI API сервер MTPLX.

sokada4/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия модели Qwen/Qwen3.8-27B, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 по схеме W4A16, с размером группы 128 и симметричным представлением. Модель предназначена для текстового вывода и рассчитана на локальное развертывание через vLLM, в том числе как OpenAI- или Anthropic-совместимый backend для Claude Code и Codex CLI. Это плотная языковая модель примерно на 27 млрд параметров с заявленным нативным контекстом до 262144 токенов. Квантизации подверглись только веса language_model; веса vision tower сохранены без изменений, однако данный checkpoint предназначен для text-only serving. Тензоры MTP, используемые для speculative decoding, также сохранены в формате bf16. Калибровка проводилась на англоязычных, китайских и японских текстах, а также на коде, поэтому модель ориентирована на многоязычные и программные сценарии, хотя точный языковой охват в README не указан. Ключевые преимущества — существенное снижение требований к памяти по сравнению с полноразмерной моделью, поддержка speculative decoding через MTP и совместимость с инструментальными вызовами в vLLM. Для комфортной работы с длинным контекстом и MTP рекомендуется конфигурация из двух GPU по 24 ГБ; на одной видеокарте 24 ГБ длину контекста придётся заметно уменьшить, а MTP использовать нецелесообразно. В README также отмечен повышенный риск некорректно сформированных tool calls по сравнению с облачными моделями, поэтому для автономных агентных сценариев рекомендуется проверка вызовов человеком. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-23B-A3B-KREAP-MLX — это созданная RAS-LAB сжатая версия инструктивной модели Qwen3-Coder-30B-A3B-Instruct для генерации текста и кода, диалогов и работы с инструментами. Модель использует архитектуру MoE и доступна в формате safetensors для MLX и Transformers; в README указаны около 23 млрд параметров и 3,3 млрд активных, тогда как метаданные каталога указывают 2,6 млрд параметров. Контекст — до 262 144 токенов. Модель получена однопроходным удалением экспертов K-REAP без дообучения: число маршрутизируемых экспертов на слой сокращено со 128 до 96, при этом сохранены top-8 и корейские пути экспертов. По приведённым в карточке тестам, это помогает сохранить качество на корейском языке при небольшом снижении результатов по ряду корейских, английских и программных бенчмарков. Предназначена для программирования, рассуждений, математических задач и корейско-английских диалогов. Лицензия — Apache-2.0.

Qwen3-Coder-25B-A3B-KREAP-MLX — это текстовая разговорная MoE-модель для генерации кода и ответов на инструкции, созданная RAS-LAB на основе Qwen/Qwen3-Coder-30B-A3B-Instruct. Авторы применили метод K-REAP для однократного прореживания экспертов с защитой корейского пути: число маршрутизируемых экспертов на слой сокращено со 128 до 104. В README указано около 25 млрд параметров и 3,3 млрд активных; метаданные каталога указывают 2,6 млрд параметров. Модель рассчитана на контекст до 262 144 токенов и распространяется в формате safetensors для MLX; карточка также сообщает о совместимости с Transformers. Модель предназначена для программирования, математических задач, рассуждений и диалогов на корейском и английском языках. По приведённым в карточке тестам, корейские результаты близки к исходной модели, а качество на английских задачах, математике и кодировании меняется в зависимости от теста. Она поддерживает интерфейс вызова инструментов, но README не приводит отдельной оценки этой функции. Лицензия — Apache-2.0. Это производная модель без дообучения: веса получены структурным прореживанием экспертов исходной модели. README приводит результаты собственных тестов и указывает, что часть оценок рассчитана на детерминированных поднаборах данных, поэтому они не гарантируют аналогичное качество во всех сценариях. Оценки в карточке показывают некоторое снижение на отдельных тестах, включая MBPP+ и WinoGrande.

Это версия Qwen3-Coder-30B-A3B-Instruct, подготовленная сообществом mlx-community для запуска в формате MLX на устройствах Apple с библиотекой mlx-lm. Модель использует архитектуру Qwen3 MoE; метаданные указывают 2,4 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации кода и диалоговых сценариев программирования, включая работу с длинными запросами. Она принимает текст и выдаёт текст. README сообщает о конвертации исходной модели в MLX с помощью mlx-lm 0.26.2. Репозиторий распространяется по лицензии Apache-2.0.

rolex0775/Qwen3-Coder-30B-A3B-Instruct-DQ-abliterated-GGUF — GGUF-версия инструктивной модели Qwen3-Coder, опубликованная пользователем rolex0775. Она предназначена для генерации кода и диалоговых сценариев; метаданные также указывают на возможность общения в формате чата. Модель является производной от huihui-ai/Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated, а файлы репозитория представлены в формате GGUF. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — это квантованная версия языковой модели для генерации текста, созданная сообществом LM Studio на основе Qwen3-Coder-30B-A3B-Instruct от разработчика Qwen. GGUF-квантизацию выполнил bartowski с использованием llama.cpp, релиз b6014. LM Studio не является создателем или владельцем модели. Модель предназначена прежде всего для задач, связанных с программированием и генерацией текста, однако README не содержит подробностей о поддерживаемых языках программирования, естественных языках, размере контекста, конкретной архитектуре или доступных модальностях. Формат GGUF и использование llama.cpp указывают на возможность запуска в совместимой локальной инфраструктуре, но точные требования к ресурсам и параметры квантизации не указаны. Лицензия в README не указана. Модель может генерировать неточный, вредный или нежелательный контент, поэтому результаты требуют проверки, особенно при использовании в программном коде и автоматизированных сценариях.

Это пакет слоёв GGUF для модели Qwen3-Coder-30B-A3B-Instruct-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF. Он сохраняет исходное распределение GGUF в отдельных артефактах по слоям для распределённого инференса на локальном кластере Mesh LLM. Модель предназначена для генерации кода и диалоговых сценариев, включая локальный приватный запуск, обслуживание на нескольких машинах, когда полный файл не помещается на одном узле, и работу через локальный API, совместимый с OpenAI Chat Completions. Вариант пакета обозначен как UD-Q4_K_XL; репозиторий содержит layer-package, а не единый файл GGUF. Пакет основан на семействе Qwen3 и исходной инструкционной модели для программирования. Лицензионные условия следует сверять с карточкой исходной модели; в доступном README конкретная лицензия не приведена.

Qwen3-VL-2B-Instruct — плотная vision-language модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также поддерживает понимание видео и временных меток; предназначена для диалога, визуальных вопросов и ответов, распознавания текста в изображениях и документах, пространственного анализа и работы визуального агента с интерфейсами и инструментами. Модель объединяет текстовую и визуальную обработку. В карточке описаны улучшенное распознавание объектов и деталей, OCR на 32 языках, анализ положения объектов и временной структуры видео, а также создание HTML/CSS/JS или схем Draw.io по визуальным примерам. Архитектура использует Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. Весовой репозиторий предназначен для версии Instruct; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия Apache-2.0. README не приводит результаты тестов или отдельные численные показатели качества, поэтому заявленные преимущества не следует трактовать как независимую оценку.