II.4Отладка, тестирование и качество ПО

MiMo-V2.5-Pro — открытая языковая модель Xiaomi на архитектуре Mixture-of-Experts (MoE), предназначенная для агентных сценариев, сложной разработки ПО и задач с длинными последовательностями действий. В README указаны 1,02 трлн параметров всего и 42 млрд активных параметров; метаданные каталога указывают 27,7 млрд параметров, поэтому размер в описании опирается на данные README. Модель использует чередование локального скользящего и глобального внимания и три модуля Multi-Token Prediction; заявленная длина контекста достигает 1 048 576 токенов. Модель рассчитана на диалог, генерацию кода, следование инструкциям и длительную работу с инструментами. Заявлены поддержка вызова инструментов и сохранение связности при траекториях с тысячами вызовов; доступны веса в формате FP8, а метаданные указывают библиотеку Transformers. В README описано обучение на 27 трлн токенов и последующая настройка с SFT, агентным RL и дистилляцией от нескольких учителей. Модель принимает текст и генерирует текст. В карточке указаны английский и китайский языки. Лицензия — MIT. Заявления о качестве в README основаны на приведённых авторами оценках; для развёртывания на контексте до миллиона токенов потребуются совместимые движок и вычислительные ресурсы.

Muse Glimmer-30B — мультимодальная модель Meta Superintelligence Lab с плотным каузальным трансформером и отдельным энкодером восприятия, дистиллированная из Muse Spark. В README указано около 29,6 млрд параметров; модель работает с текстом и изображениями и распространяется в формате safetensors под лицензией Apache 2.0. Модель предназначена для локальных агентных сценариев: планирования последовательности действий, вызова инструментов, восстановления после ошибок и выполнения многошаговых задач. Её также предлагают использовать для написания и отладки кода, анализа скриншотов, диаграмм, документов и изображений, генерации синтетических данных и оценки ответов других моделей. В карточке заявлена оптимизация для работы на потребительском оборудовании без облачной инфраструктуры. Ограничения включают возможные ошибки, предвзятые или нежелательные ответы и сбои в многошаговом рассуждении, особенно в новых сценариях. Модель не оптимизирована для видео, аудио на входе и выходе не поддерживается; качество может снижаться на языках, которые недостаточно оценивались. Для агентных развёртываний разработчикам рекомендуется проводить собственные проверки безопасности и учитывать подтверждение необратимых действий.

Qwen2.5-Coder-32B-Instruct-GGUF — это квантизированная GGUF-версия инструкционной модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и анализа программного кода, диалогового взаимодействия с разработчиком и использования в сценариях с code agents. Модель обучалась с использованием до 5,5 триллиона токенов, включая исходный код, текстово-кодовые пары и синтетические данные. Заявлена поддержка длинного контекста до 128 000 токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В метаданных указан английский язык. Формат GGUF и совместимость с llama.cpp делают модель пригодной для локального запуска в соответствующем программном обеспечении, однако конкретный уровень квантизации в README не указан. К сильным сторонам относятся специализация на программировании, ориентация на агентские сценарии и большой контекст, позволяющий работать с крупными фрагментами кода и проектными материалами. Ограничения включают отсутствие в README подробностей об архитектуре, точном варианте квантизации, требованиях к ресурсам и перечне поддерживаемых языков программирования. Для модели указана лицензия Apache 2.0.

geoffmunn/Qwen3-14B-f16 — версия модели Qwen3-14B в формате GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения. Это языковая модель на 14 млрд параметров для диалогов, следования инструкциям, рассуждений, генерации кода и работы с многоязычным текстом. Карточка описывает варианты квантования, но этот репозиторий содержит веса F16. Модель подходит для локальных ассистентов, генерации и отладки кода, ответов по документам в RAG-системах и многошаговых задач. Метаданные указывают поддержку английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Указана лицензия Apache-2.0. Размер модели составляет 14 млрд параметров. README заявляет о работе с длинными входами, но точную длину контекста не приводит. Для локального запуска требуются ресурсы, соответствующие размеру модели; потребление памяти и скорость зависят от формата весов и оборудования. Приведённые в карточке оценки квантованных вариантов не следует напрямую переносить на F16.

Карточка модели dshive/Qwen3.6-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-AWQ-4bit — это 4-битная AWQ-квантизированная версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для генерации и анализа кода, агентного программирования, использования инструментов и браузера, а также понимания репозиториев и других задач, связанных с разработкой программного обеспечения. Она относится к каузальным языковым моделям и работает в режиме генерации текста без режима рассуждений и блоков <think></think>. Модель построена по Mixture-of-Experts-архитектуре: содержит 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; включает 48 слоёв, 128 экспертов, 8 активируемых экспертов и Grouped Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. README не указывает поддерживаемые языки и модальности; по описанию модель ориентирована прежде всего на текстовые и программные данные. Сильные стороны модели — эффективность за счёт разреженной активации экспертов, длинный контекст, поддержка вызова функций и сценариев agentic coding, совместимость с инструментами и платформами вроде Qwen Code и CLINE. К ограничениям относятся необходимость подходящего аппаратного обеспечения и снижение требований к памяти именно за счёт 4-битной квантизации, которая может влиять на качество по сравнению с полной точностью; конкретные показатели такого влияния в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder, разработанной командой Qwen и опубликованной в данной сборке Unsloth. Это авторегрессионная причинная языковая модель, предназначенная прежде всего для генерации и анализа кода, агентского программирования, работы с репозиториями и сценариев агентского использования браузера. Модель поддерживает специальный формат вызова функций и совместима с инструментами и платформами, включая Qwen Code и CLINE. Архитектура использует mixture-of-experts: всего 30,5 млрд параметров, из которых при обработке токена активируется около 3,3 млрд; предусмотрено 128 экспертов, активируются 8. Модель содержит 48 слоёв и применяет Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN её можно расширить до 1 млн токенов, что подходит для анализа крупных кодовых баз. Поддерживается только режим без рассуждений: модель не генерирует блоки <think></think>. К сильным сторонам относятся эффективность разреженной MoE-архитектуры, большой контекст и ориентация на программирование и агентские задачи. Ограничения включают отсутствие режима рассуждений и зависимость практической производительности от используемого GGUF-квантизованного варианта и аппаратного обеспечения; конкретные параметры квантизации в README не указаны. Лицензия — Apache 2.0.

unsloth/Qwen3-Coder-Next-FP8-Dynamic — FP8 Dynamic 2.0-квантизированная версия открытой весовой языковой модели Qwen3-Coder-Next, разработанная Qwen и адаптированная Unsloth. Модель предназначена прежде всего для coding agents, локальной разработки, генерации и анализа кода, длительных многошаговых задач, работы с инструментами и интеграции с CLI- и IDE-средами. Это авторегрессионная causal language model с гибридной архитектурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего модель содержит 80 млрд параметров, из которых активируются 3 млрд; без учёта embedding — 79 млрд. Архитектура включает 48 слоёв, 512 экспертов MoE, 10 активируемых экспертов и один общий эксперт. Нативная длина контекста — 262 144 токена. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. README не указывает поддерживаемые языки или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильные стороны модели — высокая вычислительная эффективность при малом числе активных параметров, поддержка длинного контекста, многошагового агентного рассуждения, сложного использования инструментов и восстановления после ошибок выполнения. Ограничения включают высокие требования к памяти и инфраструктуре из-за общего размера 80 млрд параметров; при нехватке памяти рекомендуется уменьшать контекст. Модель распространяется по лицензии Apache-2.0.

YOYO-AI/QwQ-coder-32B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом SCE из Qwen/Qwen2.5-Coder-32B, Qwen/QwQ-32B и Qwen/Qwen2.5-Coder-32B-Instruct. Модель содержит 32 млрд параметров и принимает текстовые запросы, генерируя текст, включая программный код; доступны интерфейсы чата и вызова инструментов. Модель предназначена для генерации и анализа кода, помощи в программировании и создания кодовых агентов. Заявленная длина контекста — 131 072 токена. Веса опубликованы в формате Safetensors и используются через Transformers. В метаданных не перечислены поддерживаемые естественные языки. Модель распространяется по лицензии, сведения о которой в предоставленных данных отсутствуют.

Карточка модели exolabs/Step-3.7-Flash-IQ3_XXS-dequant-bf16-vllm на Hugging Face совпадает с карточкой stepfun-ai/Step-3.7-Flash, поэтому описание составлено по ней. StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Apriel-Nemotron-15b-Thinker — языковая модель рассуждений из серии Apriel SLM, разработанная ServiceNow. Это плотная авторегрессионная модель на архитектуре Mistral с 15 млрд параметров и контекстом до 65 536 токенов; в репозитории представлены веса Safetensors для Transformers. Модель дообучена на базе Apriel-15b-base в три этапа: CPT, SFT и GRPO. Модель предназначена для генерации ответов с пошаговым рассуждением, помощи в программировании, логических задач, вопросов и ответов, поиска информации, следования сложным инструкциям и вызова функций в агентных и корпоративных сценариях. Карточка сообщает о конкурентных результатах на математических, кодовых, агентных и общих бенчмарках, а также об экономии памяти и токенов относительно некоторых более крупных моделей. Поддерживаются чатовый интерфейс и интерфейс вызова инструментов. Лицензия — MIT. Наиболее сильные результаты ожидаются для английского языка; качество на менее представленных языках может быть ниже. Модель может выдавать неверные или устаревшие сведения и отражать предвзятость обучающих данных, поэтому результаты требуют проверки; для высокорисковых и критически важных решений необходимы safeguards и надзор человека.

DeepSeek-V4-Pro-0813 — официальная версия модели DeepSeek-V4-Pro, разработанная DeepSeek AI. Она заменяет предварительный выпуск и ориентирована на задачи с агентами, включая использование инструментов, автоматизацию, разработку программного обеспечения, работу в терминале, кибербезопасность и полнофункциональную разработку. По данным README, модель особенно улучшена для производственных сценариев и демонстрирует высокие результаты в тестах агентских и coding-agent задач. Модель построена на архитектуре DeepSeek-V4-Pro (Preview) с подключённым модулем спекулятивного декодирования DSpark. Точные сведения о размере, числе параметров, поддерживаемых языках, модальностях и длине контекста в README не указаны. Для взаимодействия используется OpenAI-совместимый формат сообщений; Jinja-шаблон чата отсутствует, вместо него предоставлены отдельные скрипты кодирования и разбора ответов. Параметр reasoning_effort поддерживает уровни low, high и max. Сильными сторонами модели являются улучшенные агентские возможности, производительность в задачах программирования, автоматизации и работы с инструментами, а также возможность ускорения инференса через DSpark в vLLM и SGLang. Ограничения включают необходимость специального кодирования сообщений и потенциально сложные требования к инфраструктуре: README описывает запуск на узлах с GPU GB300 и рекомендуемые настройки для vLLM, но не приводит полный диапазон совместимого оборудования. Модель распространяется по лицензии MIT.

Карточка модели mrmanan762/EarthMind на Hugging Face совпадает с карточкой sarvamai/sarvam-105b, поэтому описание составлено по ней. Sarvam-105B — созданная Sarvam AI языковая модель с архитектурой Mixture-of-Experts и MLA-style attention. По README, у неё 10,3 млрд активных параметров, 128 экспертов с маршрутизацией top-8 и контекст до 128 тыс. токенов; метаданные Hugging Face указывают общий размер 9,7 млрд параметров. Модель предназначена для генерации текста и диалогов, сложных рассуждений, математики, программирования и агентных сценариев, включая веб-поиск и техническую диагностику. При обучении особое внимание уделялось индийскому контексту и 22 языкам Индии. В метаданных перечислены английский и ряд языков Южной Азии; карточка заявляет сильные результаты на тестах рассуждений и агентных задач. Для запуска README описывает использование Transformers и варианты развёртывания через vLLM и SGLang, включая специальные настройки. Модель распространяется по лицензии Apache 2.0.

Muse Glimmer-30B — мультимодальная модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия; версия Unsloth дообучена на базе meta-models/Muse-Glimmer-30B. Модель содержит около 29,6 млрд параметров и предназначена для локального запуска, в том числе на потребительском оборудовании. Лицензия — Apache 2.0. Модель рассчитана на агентные сценарии: многошаговое планирование, вызов инструментов, восстановление после ошибок и длительное выполнение задач. Она принимает изображения вместе с текстом и подходит для анализа скриншотов, графиков и документов, а также для программирования, генерации синтетических данных и оценки ответов других моделей. Аудио не поддерживается; видео отдельно не оптимизировано и обрабатывается покадрово. Языковое покрытие неоднородно: качество может снижаться для языков, на которых модель недостаточно оценивали. Модель может ошибаться в многошаговых рассуждениях, особенно в новых сценариях, и выдавать предвзятые или нежелательные ответы. Для агентных применений разработчикам рекомендуется проводить проверки безопасности и добавлять защитные механизмы, включая подтверждение необратимых действий.

Muse-Glimmer-30B-ExecuTorch-PTE — вариант мультимодальной модели Muse Glimmer от Meta, подготовленный для запуска в формате ExecuTorch PTE. Это дообученная модель с плотным причинным трансформером и отдельным энкодером восприятия, примерно на 29,6 млрд параметров. Она принимает текст и изображения, поддерживает диалог и предназначена для агентных сценариев: многошагового планирования, вызова инструментов, восстановления после ошибок, программирования и анализа скриншотов, графиков и документов. В README заявлена поддержка более 100 языков и управление интенсивностью рассуждений. Модель рассчитана на локальных ИИ-агентов, кодинг-агентов, генерацию синтетических данных и оценку ответов других моделей. Репозиторий лицензирован по Apache 2.0. В данной серверной реализации доступны только текст и одно изображение JPEG или PNG на запрос; видео и аудио не поддерживаются. Сервер обрабатывает запросы последовательно, без пакетной параллельной обработки, а состояние сессий не сохраняется между перезапусками. Ответы могут быть неточными, предвзятыми или нежелательными; для практического развертывания авторы рекомендуют дополнительные защитные механизмы.

Nex-N2-mini — открытая агентная языковая модель компании Nex-AGI, дообученная на базе Qwen3.5-35B-A3B-Base. Она предназначена для разработки программного обеспечения, вызова инструментов, выполнения задач в терминале и исследований с поиском, включая длительные рабочие процессы с обратной связью от среды. Модель объединяет планирование, реализацию, проверку и отладку; заявлены адаптивная глубина рассуждений и согласованный подход к разным агентным задачам. Модель доступна в формате safetensors, работает с библиотекой Transformers и поддерживает диалог. В README описана поддержка function calling и явных трасс рассуждений; для локального развёртывания Nex-AGI рекомендует собственную сборку sglang. Для Nex-N2-mini приведён пример запуска на сервере с двумя H100. Лицензия — Apache-2.0. README заявляет результаты на агентных и программных бенчмарках, но часть таблицы опущена, а подробные показатели Nex-N2-mini в доступном тексте ограничены. Модель ориентирована на сложные агентные сценарии, поэтому её практическая эффективность зависит от окружения, инструментов и вычислительных ресурсов.

unsloth/Qwen3.6-35B-A3B — постобученная версия мультимодальной модели Qwen3.6, распространяемая в формате Hugging Face Transformers. Она сочетает языковую модель с визуальным энкодером и архитектурой Mixture of Experts: всего 35 млрд параметров, из которых активируются 3 млрд; использует 40 слоёв и 256 экспертов, из них на токен задействуются 8 маршрутизируемых и один общий. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для агентного программирования, работы с репозиториями и фронтенд-задачами, а также для диалогов и анализа изображений. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000. Карточка перечисляет бенчмарки на английском и китайском, но языковая таблица в предоставленном README опущена, поэтому конкретный список поддерживаемых языков определить нельзя. Для эксплуатации доступны Transformers, vLLM, SGLang и KTransformers; README рекомендует специализированные движки для производительных нагрузок. Лицензия Apache-2.0.

AMAImedia публикует Qwenseek-3.8-27B-CyberLite-NOESIS-BF16 как часть платформы автоматизации многоязычного дубляжа NOESIS; сама модель основана на Qwenseek-3.8-27B-CyberLite-BF16 от trjxter. Это дообученная методом SFT модель семейства Qwen3.5 с плотной архитектурой и 27,8 млрд параметров, выпущенная в формате BF16 Safetensors. Базовая модель указана в README как unsloth/Qwen3.8-27B, а каталог связывает репозиторий с trjxter/Qwenseek-3.8-27B-CyberLite-BF16. Модель предназначена для анализа уязвимостей и защищённого кода, планирования обнаружения и устранения угроз, технических рассуждений, разработки ПО и структурированного использования инструментов. Обучение сочетало данные по кибербезопасности, программированию, агентным сценариям и общим рассуждениям; автор описывает краснокомандные сценарии как контролируемые и предназначенные для локального, учебного или защитного применения. Несмотря на мультимодальные компоненты базовой архитектуры, README указывает, что параметры зрения оставались замороженными и улучшение визуальных возможностей не заявляется. Лицензия — Apache-2.0. Для работы требуется актуальная версия Transformers или Unsloth с поддержкой Qwen3.5; практическое качество может зависеть от сценария, а карточка не приводит количественной оценки. Для тестирования сторонних систем необходимо отдельное разрешение.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-GGUF — это набор моделей в формате GGUF на базе Qwen3.8-27B, первоначально разработанной Qwen / Alibaba Cloud. Некорректированные и оптимизированные для программирования веса предоставлены DavidAU, а сборка и упаковка выполнены Solstice-AI. Модель ориентирована на генерацию и анализ кода, агентные сценарии, сложное алгоритмическое проектирование, математические рассуждения и задачи, связанные с SWE-bench. Также заявлена поддержка обработки изображений через отдельный мультимодальный vision-проектор mmproj-BF16.gguf. Основная модель имеет размер 27B параметров и поставляется в вариантах квантования от Q4_K_M до Q8_0; рекомендуемый Q4_K_M занимает около 16,81 ГБ. Заявлены контекст до 131 072 токенов, языки English и Chinese, управление интенсивностью рассуждений через reasoning_effort, детерминированный XML-вызов инструментов и поддержка Multi-Token Prediction для speculative decoding. Для ускорения вывода доступны MTP-модели и DSpark drafter; README заявляет ускорение speculative decoding до 1,8 раза. Сильные стороны модели — специализация на программировании, поддержка многофайлового рефакторинга, инструментального взаимодействия, мультимодального ввода и нескольких уровней точности. Ограничения включают значительные требования к памяти, зависящие от выбранного квантования, а также необходимость совместимого программного обеспечения и отдельных компонентов для vision и speculative decoding. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-Uncensored-mlx-6Bit — 6-битная MLX-квантизация модели orcarouter/Qwen3.8-27B-Uncensored, основанной на архитектуре Qwen 3.8 с 27,5 млрд параметров. Релиз подготовлен Solstice-AI и оптимизирован для запуска на Apple Silicon через Anvil Runtime с ускорением Metal или библиотеку mlx-lm. Модель ориентирована на английский и китайский языки. Модель предназначена для рассуждений, математических задач, агентского использования инструментов, анализа кода, аудита систем, исследования уязвимостей и red teaming. Заявлена поддержка контекстного окна до 262 144 токенов, что подходит для работы с большими репозиториями и многофайловым кодом. Используется аффинная 6-битная квантизация MLX с group_size 64; размер файлов модели составляет около 21,85 ГБ, а рекомендуемый объём unified memory — от 32 ГБ. Производительность зависит от устройства и заявлена примерно на уровне 42–62 токенов в секунду на совместимых Mac. К сильным сторонам относятся нативная оптимизация под Apple Silicon, сниженное потребление памяти по сравнению с BF16-версией, большой контекст и ориентация на технические и исследовательские сценарии. Ограничения связаны с необходимостью совместимого оборудования Apple Silicon и достаточного объёма unified memory, а также с тем, что заявленные показатели производительности зависят от конкретной конфигурации и длины контекста. Модель описана как abliterated и uncensored, то есть механизмы отказа были удалены на уровне весов; это может повысить гибкость для red teaming, но требует самостоятельного контроля безопасного применения. Лицензия — Apache 2.0.

AlexAtomic/qwen3-coder-30b-a3b-GGUF — это квантизированная версия Qwen3-Coder-30B-A3B-Instruct, подготовленная AlexAtomic для Atomic Chat в формате GGUF. Модель предназначена прежде всего для агентного программирования, использования браузерных агентов и других задач генерации и анализа кода. Она поддерживает вызов инструментов через специальный формат, совместимый, в частности, с Qwen Code и CLINE, и может работать полностью локально и офлайн. В основе лежит причинная языковая модель с архитектурой Mixture-of-Experts и GQA: 30,5 млрд параметров всего, из которых 3,3 млрд активируются на каждом токене; используется 128 экспертов, 8 из них активны, всего 48 слоёв, 32 Q-head и 4 KV-head. Нативное окно контекста составляет 262 144 токена и может быть расширено примерно до 1 млн с помощью YaRN. Модель работает только в non-thinking режиме и не формирует блоки рассуждений <think></think>. Репозиторий содержит линейку квантов GGUF с importance matrix, что помогает сохранить качество низкобитных вариантов ближе к исходной модели. Доступны варианты от Q2_K до Q8_0; Q4_K_M рекомендован как сбалансированный вариант по размеру, скорости и качеству, а Q6_K и Q8_0 — для максимальной точности. Ограничения включают неизбежные потери качества при низкой битности, значительные требования к оперативной памяти или VRAM и необходимость применять chat template Qwen3 Coder с параметром --jinja. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-AWQ — квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанная сообществом dark-side-of-the-code. Модель предназначена прежде всего для генерации и редактирования программного кода, агентных сценариев с вызовом инструментов и других задач text generation. Указана поддержка английского языка и библиотеки Transformers. Это Mixture-of-Experts-модель с 128 экспертами, из которых для каждого токена активируются 8. Она использует внимание GQA и имеет 30B параметров при обозначении активной части как A3B. Данная версия сжата методом AWQ в формате W4A16 с 4-битными весами, размером группы 128 и занимает около 15,5 ГБ, что позволяет запускать её на одной видеокарте с 24 ГБ памяти. Базовая модель поддерживает контекст до 262K токенов, однако для 24 ГБ GPU практическим ограничением указано 64K токенов. Сильные стороны модели — эффективный запуск на потребительских GPU, корректная генерация кода, работа с tool calls через parser qwen3_coder в vLLM и пригодность для локальных агентных циклов чтения, редактирования и тестирования. Ограничения связаны с потерями и компромиссами квантизации, практическим ограничением контекста при запуске на 24 ГБ GPU и заявленной языковой поддержкой только английского. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-FP8 — инструкционная каузальная языковая модель семейства Qwen3-Coder, разработанная командой Qwen. Она предназначена прежде всего для программирования, агентского написания кода, вызова инструментов, использования браузера и понимания крупных репозиториев. Модель подходит для генерации и редактирования кода, решения задач разработки и интеграции в системы, совместимые с Qwen Code, CLINE и форматом function calling. Модель использует архитектуру Mixture-of-Experts: 30,5 млрд параметров всего, из которых при генерации активируется 3,3 млрд; предусмотрено 128 экспертов, одновременно активны 8. Она содержит 48 слоёв и использует Grouped-Query Attention с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN заявлена возможность расширения до 1 млн токенов. Доступен чекпойнт с мелкозернистой FP8-квантизацией с размером блока 128. README не указывает перечень поддерживаемых языков и модальностей; по описанию это текстовая модель. Сильными сторонами являются эффективность благодаря разреженной активации параметров, длинный контекст, ориентация на агентские сценарии и развитые возможности вызова инструментов. Модель работает только в режиме без рассуждений и не формирует блоки <think></think>. Ограничения включают высокие требования к памяти при большом контексте и известную проблему fine-grained FP8 в Transformers при распределённом инференсе; для нескольких устройств может потребоваться CUDA_LAUNCH_BLOCKING=1. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-Coder-Next — версия Qwen3-Coder-Next от Unsloth для кодирующих агентов и локальной разработки. Это причинная языковая модель с архитектурой MoE семейства Qwen3-Next; репозиторий содержит веса Safetensors и рассчитан на использование с Transformers. README описывает исходную модель как систему с 80 млрд параметров, из которых активируются 3 млрд; метаданные этого репозитория указывают 2,3 млрд параметров. Нативный контекст — 262 144 токена. Модель предназначена для генерации и изменения кода, многошаговых задач разработки, работы с инструментами и восстановления после ошибок выполнения. Заявлена интеграция с CLI- и IDE-агентами; в метаданных также отмечен интерфейс вызова инструментов. README указывает, что поддерживается только режим без рассуждений (non-thinking). Основной язык взаимодействия — текст, а лицензия репозитория — Apache-2.0. Ключевые преимущества — длинный контекст и возможности для агентной разработки. Для запуска README рекомендует актуальные версии Transformers, SGLang или vLLM; для SGLang требуется версия не ниже 0.5.8, для vLLM — не ниже 0.15.0. При сбое запуска из-за большого контекста предлагается уменьшить его. Указанные в README 80 млрд общих и 3 млрд активируемых параметров расходятся с числом 2,3 млрд в метаданных, поэтому размер этой версии по доступным источникам неоднозначен.

Карточка модели aidj2025/Qwythos-9B-Claude-Mythos-5-1M на Hugging Face совпадает с карточкой empero-ai/Qwythos-9B-Claude-Mythos-5-1M, поэтому описание составлено по ней. Qwythos-9B-Claude-Mythos-5-1M — диалоговая модель empero-ai на базе Qwen/Qwen3.5-9B, дообученная полным обновлением текстовых весов методом supervised fine-tuning. Это плотная мультимодальная архитектура Qwen3.5 с гибридным стеком Gated DeltaNet и полнослойного внимания; дообучение было текстовым, а зрительная часть унаследована от базовой модели и не настраивалась. Модель предназначена для генерации ответов с рассуждениями, работы с инструментами и длительных агентных сессий. Она поддерживает вызов функций в формате Qwen3.5 и контекст до 1 048 576 токенов благодаря YaRN-масштабированию; в описании сообщается о внутренней проверке на контексте около 137 тысяч токенов. Заявлены сценарии анализа больших репозиториев и документов, а также задач в кибербезопасности и биомедицине. Поддержка изображений унаследована от Qwen3.5, однако зрительная часть не дообучалась и не проверялась. Карточка сообщает об успешном выполнении 7 из 7 тестовых запросов с инструментами, но это небольшой внутренний тест, а не независимая оценка. Модель может ошибаться в точных фактах и идентификаторах; для важных сведений рекомендуется поиск или другие инструменты. При жадной генерации и низкой температуре возможны повторения, а YaRN может немного ухудшать качество на коротком контексте. Лицензия — Apache 2.0.

Sharona Q27B-R CodeSecurity v2 — модель для генерации текста и анализа безопасности кода, созданная Apollo Raines на базе Qwen3.5-27B. Она использует плотную архитектуру Qwen3_5ForCausalLM, содержит 22,3 млрд параметров и рассчитана на контекст до 262 144 токенов. Разработчик сообщает о семи автоматически откалиброванных изменениях поведения весов, направленных на поиск уязвимостей: усилены анализ с позиции атакующего, точность и привязка к переданному контексту, а также скептическая проверка защитных механизмов; изменены идентичность и склонность соглашаться с пользователем. Модель предназначена для проверки исходного кода, выявления уязвимостей и выдачи конкретных замечаний с указанием проблемных мест и рекомендациями по исправлению. По заявлению разработчика, она используется как один из компонентов платформы ShipItClean, но сама по себе не включает её оркестрацию и анализ всего репозитория. Карточка описывает английский язык. Модель распространяется по лицензии Apache-2.0.

Calcium-Opus-14B-Elite — диалоговая языковая модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения, включая решение математических задач и работу с кодом. Модель принимает текст и выдаёт текст; заявлена поддержка контекста до 131 072 токенов и генерации ответов длиной до 8 000 токенов. В README заявлена поддержка более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого, японского и арабского. Карточка описывает улучшенное следование инструкциям, анализ таблиц и JSON, а также генерацию структурированных ответов. Модель доступна в формате Safetensors и использует библиотеку Transformers. Модель подходит для диалоговых помощников, объяснения решений, математических задач, генерации и отладки кода, а также обработки структурированных данных. Качество может различаться между языками; длинные ответы могут содержать ошибки или повторы, а актуальность знаний ограничена данными обучения. В README также отмечены высокие требования к вычислительным ресурсам, особенно при длинном контексте. Лицензия — Apache-2.0.

CodeQwen1.5-7B — специализированная языковая модель для программирования, разработанная командой Qwen как версия семейства Qwen1.5. Это декодерный трансформер Qwen2 с 6,9 млрд параметров, предварительно обученный на большом массиве кода объёмом 3 трлн токенов. Модель поддерживает контекст до 65 536 токенов и эффективное внимание Group Query Attention. Модель предназначена для генерации и дополнения кода, понимания длинных фрагментов программ и дообучения под задачи программирования. В карточке отмечены сценарии исправления ошибок и преобразования текста в SQL, а также поддержка 92 языков программирования. Базовую версию не рекомендуют использовать как чат-модель; при генерации важно настроить условия остановки. Репозиторий содержит веса в формате safetensors. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией, приложенной к модели.

QuantFactory/Codestral-22B-v0.1-GGUF — квантизированная версия Codestral-22B-v0.1, разработанной Mistral AI и преобразованной с использованием llama.cpp. Модель предназначена для генерации и анализа программного кода, включая ответы на вопросы по фрагментам кода, написание документации, объяснение, рефакторинг и создание кода по заданным требованиям. Также она поддерживает режим Fill-in-the-Middle (FIM), предсказывающий пропущенные токены между префиксом и суффиксом, что подходит для интеграции в редакторы кода и инструменты разработки. Модель обучена на данных, охватывающих более 80 языков программирования, включая Python, Java, C, C++, JavaScript и Bash. Она относится к классу text-generation, имеет размер 22B параметров и распространяется в формате GGUF; конкретные варианты квантования и размер контекста в README не указаны. Модель ориентирована на текстовые задачи программирования и не описана как мультимодальная. Ключевые преимущества — широкий охват языков программирования, поддержка как инструктивного режима, так и FIM, а также пригодность для локального использования через совместимый стек llama.cpp. Ограничение заключается в отсутствии встроенных механизмов модерации, поэтому при применении в продуктивных или публичных системах необходимы собственные меры контроля вывода. Указана лицензия MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.

Deepseek Coder 6.7B Instruct — языковая модель для генерации и обработки программного кода, разработанная DeepSeek и представленная в GGUF-квантизованном формате компанией Second State Inc. Модель основана на deepseek-ai/deepseek-coder-6.7b-instruct и предназначена для работы с инструкциями, ответами на вопросы и задачами программирования в локальных приложениях и сервисах, включая LlamaEdge. Модель содержит 6,7 млрд параметров; в README указана архитектура DeepSeek и контекстное окно 4096 токенов. Поддерживаются различные варианты квантизации от 2 до 8 бит, размером примерно от 2,53 до 7,16 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу размера и качества. README не содержит точного перечня поддерживаемых языков программирования или естественных языков и не описывает мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются адаптация к инструкциям, ориентация на код и возможность запуска в средах с ограниченными ресурсами за счёт квантизации. Ограничения включают контекст 4096 токенов и неизбежную потерю качества у наиболее компактных вариантов, особенно Q2_K и некоторых Q3/Q4-конфигураций. Для запуска через LlamaEdge требуется версия 0.2.8 или новее и соответствующий prompt template. Лицензия указана как deepseek с обозначением other; дополнительные условия должны быть проверены в файле LICENSE.