II.4Отладка, тестирование и качество ПО

bartowski/DeepSeek-Coder-V2-Instruct-0724-GGUF — набор GGUF-квантизаций модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai и квантизированной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу генеративных text-generation-моделей и предназначена прежде всего для работы с программным кодом и инструкциями, включая локальный запуск через llama.cpp или LM Studio. Доступны варианты квантизации от Q8_0 до IQ1_M, размером примерно от 52,68 до 250,62 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; в README рекомендуются Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Для отдельных вариантов эмбеддинги и выходные веса сохраняются в формате Q8_0, что может влиять на качество. Указаны специальный формат prompt и необходимость учитывать его при интеграции. В README не приведены точные сведения об архитектуре исходной модели, числе параметров, максимальном контексте, поддерживаемых языках и мультимодальности. Модель распространяется по лицензии deepseek-license; подробные условия находятся в файле LICENSE.

TeichAI Gemma 4 31B IT Claude Opus Distill v2 — мультимодальная модель для диалогов, дообученная методом SFT на базе unsloth/gemma-4-31B-it с использованием наборов рассуждений, созданных на основе взаимодействий с Claude Opus. Модель семейства Gemma 4 имеет плотную архитектуру и предназначена для сложных многошаговых задач, генерации и отладки кода, научного анализа, синтеза исследовательских материалов и повседневного следования инструкциям. Модель принимает текст и изображения; README также описывает работу с видео как последовательностью кадров, но метаданные указывают только задачу image-text-to-text. Карточка рекомендует Transformers и описывает режим рассуждений, а также настраиваемый бюджет визуальных токенов для задач от распознавания текста на изображениях до их общего анализа. Размер контекста и поддерживаемые языки в предоставленных данных не указаны. Бенчмарки пока не представлены, поэтому качество для конкретных задач следует оценивать самостоятельно. Лицензия — Apache-2.0.

Карточка модели prashim98/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

GLM-5.2 в репозитории unsloth/GLM-5.2 — производная версия флагманской языковой модели GLM-5.2 от Z.ai, подготовленная Unsloth. Это генеративная MoE-модель на базе архитектуры glm_moe_dsa с 30,4 млрд параметров, предназначенная для диалога, программирования, рассуждений и длительных задач. Метаданные указывают поддержку интерфейса вызова инструментов и английского и китайского языков. Модель поддерживает контекст до 1 048 576 токенов, что подходит для работы с большими документами и многоэтапными задачами. В README заявлены улучшенная работа с длинным контекстом, гибкие уровни усилий при программировании и ускорение спекулятивного декодирования. Весы доступны в формате safetensors; для локального запуска перечислены Transformers, vLLM, SGLang и другие фреймворки. Лицензия — MIT. Это текстовая модель: она принимает текст и генерирует текст. Заявленные возможности и результаты бенчмарков приведены разработчиками; качество может различаться в зависимости от задачи и способа запуска.

GRM-3.2-Cliff — модель OrionLLM для длительных агентных сценариев и сложных задач рассуждения. Она основана на Ornith-1.0-9B и, согласно README, содержит 9 млрд параметров; метаданные указывают архитектуру семейства Qwen 3.5 и поддержку диалогов и изображений. Модель предназначена для многошагового планирования и выполнения локальных рабочих процессов, сложного программирования, отладки и рефакторинга, продвинутой математики и логических задач. Разработчик заявляет, что модель рассчитана на продолжительные взаимодействия с сохранением цели и может работать на оборудовании с ограниченными ресурсами GPU. В качестве входа поддерживаются текст и изображения, выход — текст. В README не указаны поддерживаемые естественные языки и длина контекста. Модель распространяется по лицензии Apache 2.0; заявленные характеристики качества и эффективности представлены разработчиком, поэтому их следует оценивать с учётом конкретного сценария.

Abiray/KAT-Coder-V2.5-Dev-Imatrix-GGUF — набор GGUF-квантизаций модели KAT-Coder-V2.5-Dev, разработанной командой KwaiKAT и основанной на Qwen3.6-35B-A3B. Это текстовая open-weight модель-кодировщик с архитектурой Mixture-of-Experts: всего 35 млрд параметров, из которых 3 млрд активируются для каждого токена. Репозиторий содержит версии с 3-, 4-, 5-, 6- и 8-битной квантизацией, оптимизированные с помощью importance matrix для сохранения качества при уменьшении требований к памяти. Модель предназначена для агентного программирования, генерации и анализа кода, автоматизации задач разработки и работы с инструментами в многошаговых сценариях. Она поддерживает английский и китайский языки, работает только с текстом и не включает компоненты для зрения или других мультимодальных режимов. Доступный контекст может достигать 262 144 токенов при использовании совместимого ПО, например llama.cpp. Среди заявленных сильных сторон — результаты на SWE-bench Verified до 69,40%, поддержка сохранения исторического контекста рассуждений и снижение повторов, нештатных вызовов инструментов и зацикливания. К ограничениям относятся необходимость значительных ресурсов даже для квантизированных вариантов, зависимость качества и скорости от выбранного уровня квантизации и отсутствие мультимодальности. Модель распространяется по лицензии Apache-2.0.

Laguna S 2.1-INT4 — модель компании poolside для агентного программирования и длительных многошаговых задач на локальной машине. Это текстовая text-to-text модель с поддержкой рассуждений, включая чередование размышлений и вызовов инструментов, а также возможность включать и отключать рассуждения для отдельных запросов. Модель использует архитектуру Mixture-of-Experts: 117,6 млрд параметров всего, из которых 8,5 млрд активируются на каждом токене. Она содержит 48 слоёв, 256 экспертов и один общий эксперт; в 36 слоях применяется Sliding Window Attention с окном 512 токенов, а 12 слоёв используют глобальное внимание. Per-head gating, rotary scales для отдельных слоёв и смешанное соотношение локального и глобального внимания рассчитаны на ускорение инференса и снижение требований к KV-кэшу. Контекстное окно составляет 1 048 576 токенов, KV-кэш квантизируется в FP8. Поддерживается только текстовая модальность; языки в README не указаны. К сильным сторонам относятся специализация на разработке ПО, агентных сценариях, работе с инструментами и длинном контексте, а также возможность локального запуска. Квантизированные INT4-веса занимают примерно 72 ГБ; модель поддерживается vLLM, Transformers, Ollama и llama.cpp с оговорёнными ограничениями по форматам и версиям. При использовании контекста максимальной длины возможно снижение качества. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

unsloth/Llama-3.1-Nemotron-Nano-8B-v1-GGUF — GGUF-версия модели Llama-3.1-Nemotron-Nano-8B-v1, разработанной NVIDIA и подготовленной Unsloth. Это языковая reasoning-модель на базе Meta Llama 3.1 8B Instruct, предназначенная для диалогов, следования инструкциям, генерации кода, математических и логических задач, RAG-систем, tool calling и AI-агентов. Модель рассчитана прежде всего на английский язык и языки программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представляет собой плотный decoder-only Transformer с архитектурой Llama 3.1 и примерно 8 млрд параметров. Она поддерживает текстовый ввод и вывод, контекст до 131 072 токенов, а также режимы с рассуждением и без него, переключаемые системным промптом. Постобучение включало supervised fine-tuning для математики, кода, рассуждений и tool calling, а также этапы reinforcement learning и оптимизации предпочтений. GGUF-формат и заявленная эффективность позволяют использовать модель локально, в том числе на одной RTX GPU; рекомендуемые аппаратные платформы исходной модели — NVIDIA Hopper и Ampere. Сильными сторонами являются сочетание качества рассуждений, чат-возможностей и вычислительной эффективности, а также поддержка длинного контекста и агентских сценариев. Ограничения включают преимущественную ориентацию на английский язык и языки программирования, зависимость поведения от корректной настройки режима рассуждения и устаревание части знаний: дата среза предобучающих данных Meta Llama 3.1 указана как 2023 год. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.1 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

cafepm/Muse-Glimmer-30B-Q3Q4-GGUF — квантованная GGUF-сборка мультимодальной модели Muse Glimmer, подготовленная исследовательской командой TNT.Chat в рамках проекта LOCAL AI. В основе — meta-models/Muse-Glimmer-30B; исходная архитектура представляет собой плотный каузальный трансформер с энкодером восприятия и примерно 29,6 млрд параметров. В этой сборке около 20% весов хранятся в 4-битном формате Q4_K, остальные — в 3-битном Q3_K, чтобы уменьшить размер модели и требования к памяти. Репозиторий также содержит mmproj в формате BF16. Модель предназначена для локальных агентных сценариев: многошагового планирования, вызова инструментов, программирования и анализа изображений, включая скриншоты, графики и документы. Она принимает текст и изображения и генерирует текст; аудио не поддерживается. В README указано, что тестирование проводилось на внутреннем наборе из 51 вопроса, поэтому приведённые оценки не заменяют проверку на задачах конкретного применения. Возможны неточные, предвзятые или нежелательные ответы; для внедрения рекомендованы дополнительные защитные механизмы. Лицензия — Apache 2.0.

Ophiuchi-Qwen3-14B-Instruct — дообученная PrithivMLmods языковая модель на архитектуре Qwen3-14B с плотной архитектурой Qwen3ForCausalLM и 14 млрд параметров. Она предназначена для диалогов и выполнения инструкций, математических и логических рассуждений, генерации и объяснения кода, ответов на фактические вопросы и создания структурированных текстов. Метаданные указывают контекст до 40 960 токенов; README заявляет поддержку до 128 тысяч токенов, поэтому фактический предел в источниках расходится. Карточка описывает многоязычную работу, включая английский, китайский и русский; метаданные карточки подтверждают английский и китайский. Модель может помогать с задачами STEM, техническим письмом, обучением и переводом. Она распространяется под лицензией Apache-2.0. Для работы требуются значительные вычислительные ресурсы; модель может ошибаться в фактах, особенно при неоднозначных или сложных запросах, а ошибки могут накапливаться в длинных ответах.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, представленная в карточке как лёгкая модель семейства Ornith-1.5. Она предназначена для диалогов и агентных сценариев, включая программирование, решение задач с инструментами и работу с длинными входными данными. Модель поддерживает вызов инструментов через совместимый с OpenAI интерфейс и контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным снижением качества на обычных запросах. В карточке Ornith-1.5 описана как результат развития Ornith-1.0 с генерацией обучающих задач, поиском стратегий и обучением с подкреплением; указанная модель позиционируется как вариант для эффективного развёртывания. Представлены результаты бенчмарков для программных и агентных задач, а также измерения показывают меньше отказов, чем у сравниваемой исходной модели. Репозиторий содержит веса safetensors и использует Transformers. Лицензия — MIT. README указывает на плотную архитектуру Qwen3.5 и размер около 9 млрд параметров, однако также описывает семейство как основанное на Qwen3.5 и Gemma4; точную связь именно этого чекпойнта с базовой моделью из доступных сведений установить нельзя. Метаданные включают тег image-text-to-text, но карточка описывает текстовое поколение и не подтверждает визуальный ввод для этой версии.

Qwen2.5-Coder-32B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-32B-Instruct. Исходную модель разработала команда Qwen, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации, анализа и обработки программного кода, а также для диалогового взаимодействия с применением формата системных и пользовательских сообщений. Доступны варианты с разными уровнями квантизации — от Q8_0 до Q3 и IQ-серий — размером примерно от 14,8 до 34,8 ГБ. Более качественные варианты требуют больше памяти, а компактные позволяют экономить ресурсы с некоторым снижением качества. Формат GGUF поддерживает локальный запуск через совместимые инструменты, включая llama.cpp и LM Studio. В README явно указан английский язык; сведения о других языках, архитектуре, размере контекста и мультимодальности отсутствуют. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки, поэтому совместимость следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3-53B-A3B-2507-TOTAL-RECALL-v2-MASTER-CODER — дообученная на базе Qwen/Qwen3-30B-A3B-Instruct-2507 модель для генерации текста и диалогов. Автор позиционирует её как универсальную, с особым упором на программирование и решение задач на коде. Указаны 53 млрд параметров, 84 слоя и архитектура MoE с 128 экспертами и 8 активируемыми экспертами; модель распространяется в формате safetensors и совместима с Transformers. Модель рассчитана на контекст до 262 144 токенов. Она поддерживает несколько языков, а в метаданных перечислены английский, французский, китайский и немецкий. Базовый режим — без рассуждений; автор предлагает опциональный системный промпт для включения специального режима «thinking». Модель может использоваться в диалогах, генерации и объяснении кода, работе с длинными контекстами и сценариях с вызовом инструментов. Лицензия — Apache-2.0. Карточка не приводит независимых оценок именно этой производной версии, поэтому заявленное превосходство в программировании следует считать описанием автора; качество и скорость могут зависеть от выбранного числа активных экспертов и способа запуска.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

Qwen3-Coder-30B-A3B-asym-2bitexp-GGUF — это асимметрично квантованная GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также решения текстовых задач в формате instruction-following. Это вариант без режима reasoning и без блоков <think>, ориентированный на запуск через llama.cpp. В основе используется MoE-архитектура qwen3moe с 128 маршрутизируемыми экспертами, из которых активны 8 на каждом токене; эффективный объём активных параметров составляет около 3 млрд при общем размере модели 30 млрд параметров. Экспертные FFN-слои квантованы преимущественно в 2–3 бита, а attention, эмбеддинги и выходной слой сохранены с более высокой точностью. Эффективная скорость квантования — 2,99 BPW, размер файла — 11,4 ГБ (10,64 GiB). Модель рассчитана на текстовый ввод и вывод; язык и максимальный размер контекста в README явно не указаны, однако приведён пример запуска с контекстом 16 384 токена. Главное преимущество — существенная экономия памяти: модель рассчитана на размещение в 16 ГБ VRAM вместе с KV-кэшем для контекста около 16K токенов, тогда как стандартная версия Q4_K_M занимает около 18,6 ГБ. По данным измерений на wikitext-2, perplexity составляет 9,93 против 9,60 у Q4_K_M, то есть снижение качества относительно базовой 4-битной версии умеренное. Ограничения связаны с потерями квантования, меньшей точностью по сравнению с более крупными форматами и зависимостью от совместимого runtime. В README указана лицензия Apache-2.0.

NVFP4/Qwen3-Coder-30B-A3B-Instruct-FP4 — это квантизированная в формате FP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной с использованием NVIDIA Model Optimizer. Модель относится к классу каузальных языковых моделей и предназначена прежде всего для генерации и анализа программного кода, агентного программирования, работы с инструментами и сценариев agentic browser-use. Она поддерживает специальный формат вызова функций и интеграцию с платформами и инструментами, включая Qwen Code и CLINE. Модель имеет 30,5 млрд параметров, из которых активируется 3,3 млрд. Архитектура включает 48 слоёв, MoE-механизм со 128 экспертами и 8 активируемыми экспертами, а также GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов с использованием YaRN, что подходит для анализа репозиториев и других объёмных контекстов. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. К сильным сторонам относятся высокая эффективность за счёт разреженной MoE-архитектуры и FP4-квантизации, поддержка длинного контекста, задач программирования и вызова инструментов. Ограничения включают отсутствие режима reasoning с явной генерацией рассуждений, повышенные требования к памяти и вычислительным ресурсам при использовании длинного контекста, а также возможное снижение качества из-за квантизации по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

AskMeCodes/Qwen3-Coder-30B-A3B-Instruct-GGUF — GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Это причинная языковая модель для генерации текста, ориентированная прежде всего на программирование, агентное написание кода, использование браузера и работу с крупными репозиториями. Модель поддерживает интеграцию с инструментами и платформами вроде Qwen Code и CLINE через специальный формат вызова функций. Архитектура основана на Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд. Модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена; с использованием Yarn заявлена возможность расширения до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>; поддержка изображений и конкретный набор языков в карточке не указаны. К сильным сторонам относятся высокая эффективность за счёт разреженной MoE-архитектуры, поддержка длинного контекста и специализация на задачах программирования и агентных сценариях. Ограничением является отсутствие режима thinking, а фактические требования к оборудованию, производительность квантованной GGUF-версии и совместимость с конкретными рантаймами зависят от используемого формата и программного обеспечения. Лицензия — Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-GPTQ-Int8 — это квантизированная в формате GPTQ Int8 версия текстовой причинно-следующей языковой модели Qwen3-Coder-30B-A3B-Instruct. Базовую модель разработала команда Qwen, а данную квантизированную сборку опубликовала QuantTrio. Модель предназначена прежде всего для генерации и анализа программного кода, агентного программирования, вызова инструментов и сценариев агентного взаимодействия с браузером, а также для понимания репозиториев и работы с большими объёмами контекста. Архитектура модели — Mixture-of-Experts: 30,5 млрд параметров всего, из которых 3,3 млрд активируются при обработке запроса. Модель содержит 48 слоёв, 128 экспертов и активирует 8 экспертов; используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Заявлена нативная длина контекста 262 144 токена с возможностью расширения до 1 млн токенов с помощью YaRN, однако для этой сборки в примере запуска vLLM указана длина 32 768 токенов. К сильным сторонам относятся высокая эффективность разреженной MoE-архитектуры, поддержка длинного контекста, задачи программирования и tool calling. Модель работает только в режиме без рассуждений и не формирует блоки <think></think>. Для запуска рекомендуется vLLM версии 0.10.0; пример конфигурации рассчитан на один узел с четырьмя GPU и требует включения expert parallelism. Размер файлов модели составляет около 30 ГБ, поэтому необходимы значительные аппаратные ресурсы. Распространение заявлено по лицензии Apache 2.0.

Карточка модели ArchiveStudio/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Qwenseek-3.8-27B-CyberLite-BF16 — разработанная trjxter специализированная дообученная версия Qwen3.8-27B для технических задач и кибербезопасности. Это плотная модель с архитектурой Qwen3.5ForConditionalGeneration и 27,781,427,952 параметрами; репозиторий содержит объединённые BF16-веса в формате Safetensors. Обучение проводилось методом SFT с QLoRA на двух корпусах синтетических примеров, включая задачи кибербезопасности, программирования, работы с инструментами и рассуждений. Модель предназначена для анализа уязвимостей и защищённости, проверки и исправления кода, планирования обнаружения и устранения инцидентов, а также технического программирования и структурированного вызова инструментов. Для red-team сценариев заявлено контролируемое применение в авторизованной локальной или изолированной среде. Vision-компоненты базовой архитектуры были заморожены при дообучении, поэтому выпуск следует считать текстовым; улучшения обработки изображений не заявлены. Метаданные указывают английский язык. Для запуска требуется актуальная версия Transformers или Unsloth с поддержкой Qwen3.8/qwen3_5. Лицензия — Apache-2.0.

Rewnozom — разговорная языковая модель для рассуждений и оркестрации, разработанная на основе Qwen/Qwen2.5-7B-Instruct-1M. Это дообученная плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM, 7,1 млрд параметров и контекстом до 1 010 000 токенов. Основной формат весов — safetensors; модель совместима с токенизатором и архитектурой Qwen2 и рассчитана на использование через chat template в Transformers. Модель предназначена для генерации ответов в сценариях, где важны логика, явные ограничения и структурированное выполнение задач: помощи в разработке ПО и проверке кода, планирования реализации и декомпозиции задач, а также поддержки агентных процессов, включая поиск, управление памятью и проверку разрешений. Обучающие данные ориентированы на формальное рассуждение и оркестрацию; для разрешений, переходов состояния и фактического исполнения предполагается детерминированный контроллер. Карточка указывает английский язык. Лицензия — Apache 2.0, как у базовой модели. Модель может выдавать ошибочные или неподтверждённые утверждения; сгенерированный код следует проверять и тестировать, а системный промпт не заменяет валидацию.

Seed-Coder-8B-Instruct — инструкционно настроенная языковая модель для кода, разработанная ByteDance Seed. Она предназначена для генерации и редактирования кода, рассуждений по программным задачам и помощи в разработке ПО по запросам пользователя. Модель построена на архитектуре Llama с причинным языковым моделированием и содержит 7,6 млрд параметров. Модель дообучена на основе Seed-Coder-8B-Base; при обучении использовались публичные и синтетические данные. Контекст составляет 32 768 токенов. Разработчик сообщает о результатах на наборах тестов для генерации кода, рассуждений и инженерии ПО; язык модели в материалах не перечислен. Модель распространяется по лицензии MIT.

Sinythos 5.5 — это готовый к запуску вариант Qwen3-30B-A3B-Thinking-2507, подготовленный HTPQoo и распространяемый в формате GGUF для LM Studio, Jan, Atomic Chat и llama.cpp. Это модель MoE с 30 млрд параметров, из которых активны 3,3 млрд на токен; README сообщает, что все 579 тензоров побайтно совпадают с квантованной сборкой UD-Q4_K_XL базовой модели. Изменены встроенный шаблон чата и системная директива с шестью правилами поведения, поэтому модель не является обученной с нуля или дообученной версией. Модель предназначена для диалогов и генерации текста, включая рассуждения, помощь с программированием и агентские сценарии с внешними инструментами, выполнением кода и повторной проверкой ответа. Встроенная директива ориентирует ответы на язык пользователя; в метаданных отмечены итальянский, английский и многоязычность. Для применения в llama.cpp требуется включить обработку шаблона через `--jinja`; без неё пользовательские инструкции из шаблона не применяются. README указывает файл размером 17,7 ГБ и возможность запуска на CPU при достаточном объёме RAM. Веса распространяются по лицензии Apache 2.0, унаследованной от Qwen; для кода runtime указана MIT. Для полной реализации агентского сценария требуются runtime и инструменты, которые предоставляет приложение, а не только файл модели.

Sombrero-QwQ-32B-Elite11 — дообученная 32-миллиардная языковая модель prithivMLmods на базе Qwen/QwQ-32B, построенная на архитектуре Qwen2 и распространяемая в формате Safetensors. Модель предназначена для генерации текста и диалогов, с акцентом на программирование, математические задачи, логические рассуждения и подробные объяснения. Метаданные указывают контекст до 131 072 токенов; README заявляет поддержку входа до 256 000 токенов и генерацию до 12 000 токенов за ответ. Модель подходит для генерации и отладки кода, пошагового решения задач, подготовки технической документации, длинных ответов и многоязычных диалогов. README заявляет поддержку более 35 языков, включая русский, однако метаданные карточки подтверждают только английский. Также заявлен режим оптимизации памяти, но подробности реализации не приведены. Для работы с длинным контекстом требуются значительные ресурсы GPU или TPU; ответы могут содержать ошибки и предвзятость, качество зависит от формулировки запроса, а доступа к актуальным данным модель не имеет. Лицензия — Apache-2.0.

Darwin-397B-ZTC — языковая модель семейства Darwin от VIDRAFT, созданная на базе Qwen/Qwen3.5-397B-A17B. Это разреженная MoE-модель с архитектурой Qwen3.5 MoE, общим масштабом 397 млрд параметров и примерно 17 млрд активных параметров. Веса представлены в формате compressed-tensors W8A8 FP8; README указывает размер около 418,7 ГБ. Модель предназначена для сложных рассуждений, генерации кода и работы в агентных сценариях с вызовом инструментов. Поддерживает корейский и английский, а также заявлена поддержка китайского и японского. Контекст — до 262 тысяч токенов. Ключевая особенность версии ZTC — оценка уверенности по внутреннему состоянию модели до начала генерации ответа, чтобы отсеивать потенциально ошибочные ответы и рискованные действия. В README приведены результаты на GPQA Diamond и оценке достоверности ответов, однако качество проверки зависит от модели, создавшей проверяемый ответ: перенос на существенно отличающуюся смесь генераторов требует отдельной оценки. Для запуска заявлена совместимость с Transformers, vLLM и SGLang; масштаб модели требует значительных вычислительных ресурсов. Лицензия — Apache-2.0.

QuantFactory/deepseek-coder-6.7b-instruct-GGUF — квантизированная версия модели deepseek-ai/deepseek-coder-6.7b-instruct, созданная QuantFactory с использованием llama.cpp. Базовую серию DeepSeek Coder разработала команда DeepSeek; модель предназначена для генерации, дополнения и анализа программного кода, включая ответы на инструкции, проектное автодополнение и заполнение пропусков в коде. Модель содержит 6,7 млрд параметров, инициализирована на основе deepseek-coder-6.7b-base и дообучена на 2 млрд токенов инструкционных данных. Семейство DeepSeek Coder обучалось на 2 трлн токенов, из которых 87% составлял код и 13% — естественный язык на английском и китайском языках. Для поддержки задач на уровне проектов использовалось окно контекста 16K и специальная задача fill-in-the-blank. Формат GGUF и квантизация ориентированы на запуск через llama.cpp и более эффективное использование ресурсов, однако конкретный тип и уровень квантизации в README не указаны. Сильными сторонами являются специализация на программировании, поддержка генерации кода по инструкциям и заявленные высокие результаты среди открытых моделей на HumanEval, MultiPL-E, MBPP, DS-1000 и APPS. Ограничения включают неизвестные параметры квантизации и связанные с ней возможные компромиссы между качеством и потреблением памяти, а также отсутствие в README подробностей о точном наборе поддерживаемых языков программирования. Использование регулируется Model License DeepSeek; при этом для моделей заявлена поддержка коммерческого использования. Репозиторий исходного кода лицензирован по MIT, но для самой модели действует отдельная лицензия.

DeepSeek-V4-Flash-0731 — официальная версия модели DeepSeek-V4-Flash, разработанная DeepSeek AI и опубликованная в формате Unsloth. Она предназначена прежде всего для агентных сценариев, включая работу с терминалом и инструментами, автоматизацию, разработку программного обеспечения, генерацию кода, задачи full-stack и кибербезопасности. По данным README, модель превосходит предварительную версию DeepSeek-V4-Flash и DeepSeek-V4-Pro на ряде агентных и программных бенчмарков, оставаясь конкурентоспособной с ведущими проприетарными моделями. Модель имеет ту же структуру, что и DeepSeek-V4-Flash-DSpark, включая подключённый модуль speculative decoding. Точное число параметров, активный размер, поддерживаемые языки, модальности и размер контекста в README не указаны. Для взаимодействия используется совместимый с OpenAI формат сообщений; Jinja-шаблон чата не предоставляется, вместо него доступны отдельные скрипты кодирования и разбора ответов. Параметр reasoning_effort поддерживает уровни low, high и max. К сильным сторонам относятся улучшенные агентные возможности, результаты на задачах программирования и интеграция со speculative decoding через vLLM. Ограничениями являются необходимость использовать специальное кодирование сообщений и отсутствие в представленных данных подробных сведений об архитектуре, языках и требованиях к ресурсам. Указанная лицензия — MIT.

Devstral-Small-2-24B-Instruct-2512-OptiQ-4bit — это локальная 4-битная MLX-квантизация модели Devstral-Small-2-24B-Instruct-2512 от Mistral, созданная сообществом mlx-community с использованием инструментария mlx-optiq. Модель относится к семейству Mistral и предназначена для генерации текста, программирования, агентских сценариев и вызова инструментов. Модель имеет размер 24 млрд параметров и использует смешанную точность: 102 слоя работают в 4-битном формате, а 179 наиболее чувствительных слоёв — в 8-битном. Средняя эффективная разрядность составляет 5,01 бит на вес, размер группы — 64, объём на диске — около 15,4 ГБ. Квантизация оптимизирована для Apple Silicon и поддерживается библиотеками MLX и mlx-lm; для многошагового использования инструментов рекомендуется сервер mlx-optiq. Языки, точный размер контекстного окна и дополнительные модальности в README не указаны. Сильными сторонами являются качество работы с кодом, инструкциями, вызовами инструментов и длинноконтекстным многошаговым поиском. В сравнении с равномерной 4-битной квантизацией модель показала более высокий результат на 5 из 6 метрик, включая BFCL 89,5%, HumanEval 83,5% и HashHop 62,0%; итоговый Capability Score составил 78,60. Ограничения связаны с зависимостью от экосистемы MLX и Apple Silicon, увеличенным по сравнению с обычной 4-битной версией размером и возможными потерями качества из-за квантизации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

FineSec-Detector — дообученная модель для анализа безопасности исходного кода, созданная на базе Qwen2.5-Coder-7B-Instruct. Она проверяет код на уязвимости, определяет их типы CWE и уровни серьёзности, а также предлагает исправления и патчи в структурированном JSON для аудита и интеграции в CI/CD. Модель имеет плотную архитектуру Qwen2 и 7,1 млрд параметров. Она принимает текст с кодом и выдаёт текстовые отчёты и исправления; метаданные указывают контекст до 32 768 токенов, тогда как README приводит окно в 1 024 токена. Заявлена поддержка кода на Python, C/C++, JavaScript, Go, PHP, Java и Bash; языки программирования не являются естественными языками модели. Для модели заявлены дообучение методом 4-битного QLoRA с Unsloth и лицензия Apache-2.0. README приводит результаты собственных тестов на нескольких классах уязвимостей, однако эти метрики не являются независимой гарантией качества; проверки безопасности и ревью предложенных исправлений остаются необходимы.