II.4Отладка, тестирование и качество ПО

Qwen3.8-Flash-Next-Uncensored oQ4e-100K-MTP — нативно квантованная для oMLX версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored. Сборка предназначена для запуска на компьютерах Apple Silicon с 128 ГБ памяти через oMLX и совместимый с OpenAI API сервер. Она ориентирована на coding agents, программирование и другие сценарии, поддерживающие этот API, а также сохраняет vision tower Qwen4, собственную MTP-голову контрольной точки и архитектурную настройку контекста 262 144 токена. Основной формат весов — аффинная квантализация oQ4e с размером группы 64; крупная таблица PLE использует 4-битную квантализацию с размером группы 32. Часть чувствительных компонентов оставлена в Q8 или BF16 для сохранения качества вывода и эффективности MTP. Веса занимают около 108,8 млрд байт и распределены по 22 файлам safetensors. Заявленный безопасный рабочий контекст на Mac с 128 ГБ памяти составляет 100 000 токенов, несмотря на нативную настройку 262 144 токена; для полного контекста требуется SSD-offload Qwen4 PLE. Модель поддерживает текстово-визуальный pipeline, tool calling и MTP, однако для coding agents рекомендуется отключать MTP, поскольку в тестах он снижал точность работы с инструментами. Сильными сторонами являются очень длинный проверенный контекст, поддержка изображений, OpenAI-совместимый интерфейс, prompt caching и оптимизация под Apple Silicon. Ограничения включают требования к 128 ГБ оперативной памяти, быстрому локальному SSD и oMLX, а также зависимость безопасного размера контекста от конкретной конфигурации. Модель распространяется по лицензии qwen-community-1.0; в карточке указана категория лицензии other.

Qwen3-Coder-30B-A3B-Instruct-FP8 — кодовая версия серии Qwen3-Coder, разработанная Qwen и адаптированная FuriosaAI для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. Модель предназначена для генерации кода, понимания репозиториев масштабом до проекта, агентских сценариев программирования и вызова инструментов. Она работает в режиме без рассуждений и принимает текстовые данные, возвращая текст. Это авторегрессионный трансформер архитектуры Qwen3-MoE с 30,5 млрд общих параметров, из которых около 3,3 млрд активируются для каждого токена. Веса используют статическое квантование FP8, активации динамически квантуются в FP8 во время выполнения, а KV-кэш сохраняется в 16-битной точности. Поддерживается вызов функций через парсер hermes. Для запуска на RNGD используется тензорный параллелизм на 32 PE, соответствующий четырём картам RNGD. Языки и размер контекста в README не указаны. Сильными сторонами модели являются специализация на задачах программирования, поддержка понимания репозиториев, инструментов и эффективного MoE-инференса в формате FP8. Ограничения включают работу только в режиме без рассуждений, зависимость описанной оптимизированной конфигурации от FuriosaAI RNGD и Furiosa-LLM, а также отсутствие в предоставленных данных сведений о языковом охвате, контексте и результатах бенчмарков. Модель распространяется по лицензии Apache 2.0.

RedHatAI/Qwen3-Coder-Next-FP8-dynamic — это квантизированная версия языковой модели Qwen/Qwen3-Coder-Next, разработанная Red Hat. Модель построена на архитектуре Qwen3NextForCausalLM, принимает текст и генерирует текст и предназначена прежде всего для задач генерации и обработки программного кода. Поддержка инструментов и вызовов функций предусмотрена при развертывании через vLLM. В модели используется квантизация весов и активаций в формат FP8 для линейных операторов внутри трансформерных блоков. Это снижает число битов на параметр с 16 до 8 и примерно на 50% уменьшает требования к дисковому пространству и памяти GPU. Размер модели, языки и максимальная длина контекста в README не указаны. Для работы рекомендуется vLLM; формат хранения — compressed-tensors. В представленном тестировании на SWE-Bench Lite модель получила результат 53 против 49,33 у исходной Qwen3-Coder-Next. Ограничение заключается в том, что приведена только оценка на задаче SWE-Bench Lite, поэтому по этим данным нельзя полноценно судить о качестве на других сценариях и о влиянии квантизации на все типы запросов. Модель распространяется по лицензии Apache-2.0.

Atla Selene 1 — языковая модель-судья, разработанная Atla для оценки ответов и поведения систем на основе заданных критериев. Она дообучена от Llama-3.3-70B-Instruct с использованием SFT и DPO и содержит около 69,5 млрд параметров. Модель предназначена для выставления оценок, классификации ответов и попарного сравнения вариантов; она также формирует структурированные результаты и качественные критические замечания с обоснованием. Selene 1 подходит для автоматизации оценивания в тестах LLM, проверки соответствия ответа запросу, анализа предпочтений и поиска галлюцинаций в RAG-системах. Критерии и шкалы оценки можно настраивать, а ответы можно проверять как с эталонным материалом, так и без него. Модель работает с текстом, поддерживает диалоговый режим и интерфейс вызова инструментов, использует архитектуру Llama и контекст до 131 072 токенов. В README заявлена преимущественная ориентация на английский язык и поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского; метаданные также указывают английский, немецкий, французский, итальянский, португальский и испанский. Для работы рекомендуется применять шаблон диалога Llama 3, иначе поведение может быть непредсказуемым. Модель опубликована по лицензии Llama 3.3.

Stable Code 3B — авторегрессионная языковая модель Stability AI на основе decoder-only Transformer, близкой к архитектуре LLaMA, с реализацией через GPT-NeoX. Модель содержит около 2,7 млрд параметров и предварительно обучена на 1,3 трлн токенов текстовых и программных данных, включая наборы Falcon RefinedWeb, The Stack GitHub Issues, CommitPackFT, StarCoderData, Proof-Pile-2 и MetaMathQA. Модель предназначена прежде всего для генерации, дополнения и анализа программного кода. Она обучалась на 18 языках программирования и поддерживает сценарий Fill in the Middle (FIM), что позволяет вставлять фрагменты кода между заданными началом и концом. Заявлена поддержка последовательностей длиной до 16 384 токенов. В README явно указаны английский язык и код; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В опубликованных результатах MultiPL-E pass@1 модель показывает 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23,0% для Rust. Эти показатели заявлены как конкурентные среди моделей сопоставимого размера, однако отмечены как непроверенные. Ограничениями являются относительно небольшой размер по сравнению с крупными code-моделями, возможные ошибки и небезопасность генерируемого кода, а также отсутствие подтверждений качества для всех 18 поддерживаемых языков. Модель распространяется по Stability AI Community License. Для коммерческого использования README рекомендует обращаться к условиям коммерческой лицензии Stability AI; конкретные требования в карточке не приведены.

nisten/tqwendo-36b — экспериментальная объединённая модель семейства Qwen2, созданная автором репозитория методом passthrough с помощью mergekit. В объединение вошли Qwen/Qwen2.5-Coder-32B-Instruct, Qwen/Qwen2.5-Coder-32B и huihui-ai/Qwen2.5-32B-Instruct-abliterated. По метаданным, модель имеет плотную архитектуру Qwen2ForCausalLM, около 34,9 млрд параметров и контекст до 32 768 токенов; веса опубликованы в формате safetensors, библиотека — Transformers. Модель предназначена для генерации текста и кода в диалоговом формате, включая создание, анализ и исправление кода. Автор сообщает, что слияние было задумано для уменьшения повторов, характерных для abliterated-варианта, и приводит пример генерации интерфейса чата с кодом Python, HTML, стилями и вызовами API. Метаданные также отмечают интерфейс для вызова инструментов. Автор описывает модель как экспериментальную и предлагает сочетать её с отдельной 4-битной 7B-моделью для спекулятивного декодирования и рассуждений, однако это назначение не следует трактовать как гарантированное качество или встроенную возможность. Поддерживаемый язык естественного языка отдельно не заявлен; карточка указывает код как язык. Лицензия — MIT.

ChuckMcSneed/dolphin-2.9.1-dbrx-llamacppfixed — исправленная копия Dolphin 2.9.1 DBRX от Cognitive Computations с исправлениями для конвертации в GGUF через llama.cpp. Базовая модель — databricks/dbrx-base; Dolphin дообучена полным fine-tuning на последовательностях длиной 4 тыс. токенов, хотя базовая модель поддерживает контекст 32 тыс. токенов. Используется архитектура DBRX и шаблон диалога ChatML. Модель предназначена для диалогов с ассистентом, следования инструкциям, программирования, решения математических задач, вызова функций и первоначальных агентных сценариев. README отмечает её высокую готовность отвечать на запросы, в том числе вредоносные, а также посредственное качество письма и возможное снижение качества при квантовании. Для применения в сервисах автор рекомендует добавить собственный слой выравнивания. В README указаны лицензия databricks-open-model-license для базовой модели и разрешение на использование Dolphin, включая коммерческое, в рамках лицензии Meta Llama 3; точные условия для этой исправленной копии следует сверять с лицензией репозитория.

Eurus-70B-NCA — языковая модель OpenBMB для генерации текста и диалогов с упором на рассуждения. Это плотная Llama-модель на 68,7 млрд параметров, дообученная методом NCA от Eurus-70B-SFT на многоходовых парах траекторий UltraInteract и парах UltraFeedback. Модель поддерживает контекст до 16 384 токенов и распространяется в формате safetensors. Модель предназначена для многошагового решения задач, в особенности математических и связанных с программированием, а также для многоходовых диалогов. В README авторы сообщают о сильных результатах на комплексной оценке по пяти типам задач, но это заявление основано на бенчмарках и не гарантирует аналогичных результатов в конкретном применении. Для задач программирования и математики рекомендованы специальные форматы промптов. Лицензия — Apache-2.0. В карточке описано дообучение от Eurus-70B-SFT; отдельные ограничения на использование не приведены.

Gemma 4 26B-A4B-it-qat-JANG_4M-CRACK — дообученная и квантизованная версия Gemma 4 26B-A4B-it от dealignai, предназначенная для запуска в vMLX на компьютерах Mac с Apple Silicon. Модель сочетает архитектуру MoE с 128 экспертами и восемью активными экспертами, гибридное внимание и обработку изображений. Указана квантизация JANG_4M: 8-битные веса attention и 4-битные веса MLP. Модель позиционируется как мультиязычный чат-ассистент для ответов на вопросы, рассуждений, генерации кода и работы с изображениями. В карточке автор сообщает, что настройка убирает отказы на запросы из категорий HarmBench, сохраняя основные возможности; приведён результат 59 из 60 по соответствующим тестовым запросам и снижение MMLU на 4,4 процентного пункта относительно базовой модели. Для запуска требуется vMLX с поддержкой Gemma 4 и Mac с достаточной объединённой памятью. Лицензия — Gemma; автор обозначает модель как предназначенную для исследований и возлагает на пользователей ответственность за соблюдение применимых законов.

GPT-neo-Custom 7B — диалоговая языковая модель, дообученная Szymon-Wachelko на базе Qwen2.5-7B-Instruct методом QLoRA. Она предназначена для генерации ответов на польском и английском языках, рассуждений, программирования и решения математических и логических задач. Репозиторий распространяет веса в формате GGUF для локального запуска через Ollama, LM Studio и совместимые инструменты; поддерживается шаблон диалога ChatML. В метаданных указана лицензия Apache-2.0. Заявленные сильные стороны — естественная генерация на польском, помощь с кодом и структурированными техническими ответами. Это модель на 7 млрд параметров, поэтому качество рассуждений и решений может варьироваться; заявления о «полном мастерстве» и идентичности квантованных вариантов точностью FP16 приведены автором и не подкреплены в карточке оценками. Версии GGUF различаются размером и точностью, что влияет на требования к памяти и качество генерации.

Это GGUF-версия дообученной модели gpt-oss-20b-Coding-Distill от midorin-Linux. Автор сообщает, что модель основана на GPT-OSS-20B и обучалась с помощью Unsloth на данных диалогов, преобразованных в формат OpenAI Harmony. В обучении использовались примеры кодирования и рассуждений, связанные с GPT-5.2 Codex Max, GPT-5.2, Claude 4.5 Opus и Claude 4.5 Sonnet. Модель предназначена для генерации текста в диалогах, прежде всего для помощи с программированием и сложными рассуждениями. Репозиторий содержит веса в формате GGUF, а указанная лицензия — Apache-2.0. Карточка предупреждает, что некоторые ответы могут не соответствовать спецификации OpenAI Harmony.

OsaurusAI/Laguna-M.1-JANG_2L — сборка модели Poolside Laguna-M.1, квантованная Osaurus в профиль JANG_2L. Это MoE-модель для генерации текста и агентного программирования; в карточке указаны 225 млрд параметров и 23 млрд активных параметров, тогда как метаданные каталога приводят 17,1 млрд. Контекст — до 262 144 токенов. Модель поддерживает диалог и интерфейс вызова инструментов. Профиль JANG_2L использует 2-битное affine-квантование gate/up, 3-битное down, 6-битные shared/dense слои и 8-битные attention и embedding/head; размер сборки около 81 ГБ. Для запуска требуется Laguna-совместимая среда, например Osaurus или vMLX, поскольку архитектура не поддерживается стандартными загрузчиками. Базовая модель предназначена для работы с кодом и длительных задач с инструментами. Лицензия — Apache-2.0.

JANGQ-AI Laguna-S-2.1-JANG_2L — квантованная сборка модели Poolside Laguna-S-2.1, подготовленная Jinho Jang для запуска на Apple Silicon. Это MoE-модель для генерации текста, агентного программирования и длительных задач разработки; базовая архитектура LagunaForCausalLM содержит 48 слоёв, 256 маршрутизируемых экспертов и один общий эксперт. Исходная модель имеет 118 млрд параметров, около 8 млрд из них активны при обработке токена; размер сборки на диске — 44,3 ГБ. Веса адаптированы для Apple Silicon с применением AWQ к маршрутизируемым экспертам, тогда как внимание, общий экспертный путь, маршрутизатор и нормализации сохранены в высокой точности. Модель рассчитана на контекст до 1 048 576 токенов, поддерживает диалог и интерфейс вызова инструментов. README рекомендует запускать её в vMLX; заявленная лицензия — OpenMDW-1.1, унаследованная от исходной модели.

Laguna-S-2.1-Uncensored-APEX-GGUF — квантизированная GGUF-версия модели Laguna S 2.1, опубликованная SC117 на основе официальной модели poolside. Это модель Mixture-of-Experts для агентного программирования, долгосрочных задач и сценариев с использованием инструментов. Версия дополнительно обработана с помощью abliterix Trial 16 для существенного снижения частоты отказов и затем квантизирована в смешанной точности APEX с использованием imatrix. Модель имеет около 118 млрд параметров в общей сложности и около 8 млрд активных параметров на токен. Архитектура включает 256 маршрутизируемых экспертов и одного общего эксперта с выбором top-10, GQA, а также чередование глобального и скользящего оконного внимания: 48 слоёв, из которых 12 используют глобальное внимание, а 36 — локальное с окном 512 токенов. Заявлена поддержка контекста примерно до 1 млн токенов и опционального встроенного рассуждения с использованием инструментов. В README явно указан английский язык; сведения о других языках и мультимодальности не приведены. К сильным сторонам относятся высокая ёмкость MoE при сравнительно небольшом числе активных параметров, ориентация на программирование и длинные рабочие процессы, а также уменьшенная склонность к отказам. Ограничения связаны с тем, что это uncensored-редакция: её поведение может существенно отличаться от официальной Laguna-S-2.1, поэтому необходимы оценка безопасности, контроль доступа и аудит. Модель распространяется по лицензии OpenMDW-1.1; также следует учитывать условия poolside.

LLaMA-Pro-8B — плотная авторегрессионная языковая модель семейства LLaMA, разработанная лабораторией Tencent ARC. Она расширяет LLaMA2-7B дополнительными Transformer-блоками и дообучена на корпусах кода и математики общим объёмом 80 млрд токенов; размер модели в метаданных указан как 8,2 млрд параметров. Модель предназначена для генерации текста и сочетания общих языковых навыков со знаниями программирования и математики. Модель подходит для генерации и продолжения текста, помощи с кодом, решения математических задач и сценариев, где требуется работать с естественным и программным языком. Указанное в метаданных контекстное окно — 4096 токенов. Карточка приводит результаты сравнительных бенчмарков и отмечает возможные трудности на узкоспециализированных задачах, а также риск предвзятости. Репозиторий содержит веса PyTorch в формате Safetensors; лицензия — Llama 2 Community License.

Модель aifeifei798/Meta-Llama-3-8B-Instruct — чат-ориентированная большая языковая модель семейства Llama 3, разработанного Meta. Это авторегрессионный трансформер с плотной архитектурой, примерно 7,5 млрд параметров, обученный следовать инструкциям с помощью контролируемого дообучения и обучения с обратной связью от людей. Репозиторий содержит веса в формате safetensors; контекст модели — до 8192 токенов. Модель принимает текст и генерирует текст, включая код. Она предназначена для диалоговых сценариев и использования в качестве ассистента; карточка заявляет английский как основной язык и ограничивает применение другими языками. Модель может быть полезна для ответов на вопросы, написания и объяснения кода, составления текстов и ведения диалога. В README указана пользовательская коммерческая лицензия Meta Llama 3 с условиями Community License и Acceptable Use Policy. Модель статична и обучена на офлайн-данных; ответы могут содержать ошибки, а заявленные меры безопасности не исключают вредных или нежелательных результатов, поэтому для приложений нужны подходящие проверки и защитные механизмы.

MiniCPM5-2B-PCD — дообученная компактная языковая модель семейства MiniCPM5, основанная на openbmb/MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров, рассчитанная на локальный запуск на устройствах с ограниченными ресурсами. Модель поддерживает контекст до 131 072 токенов и генерирует текст; в карточке заявлены сценарии чата, вызова инструментов и параллельного constrained decoding. Модель предназначена для локальных ассистентов и агентных сценариев, включая программирование, математику, работу с длинным контекстом и выполнение задач с инструментами. В README заявлены сильные результаты относительно моделей сопоставимого размера, особенно в коде, математике, длинном контексте и использовании инструментов. Указанные языки — английский и китайский; сведения о поддержке русского не приведены. Для запуска описаны Transformers и vLLM, в форматах BF16/FP16, с использованием GPU или CPU в зависимости от backend. Модель распространяется по лицензии Apache-2.0. Её ответы могут быть неточными, предвзятыми или оскорбительными; результаты по чувствительным темам не являются профессиональной консультацией.

Muninn — мультиязычная модель для поиска функций в исходном коде по запросам на естественном языке, разработанная BrokkAI. Она дообучена на базе voyageai/voyage-4-nano и использует двунаправленный энкодер Qwen3 с 306,6 млн параметров по метаданным. Модель создаёт текстовые эмбеддинги размерностью 2 048 и поддерживает сокращение до 512, 1 024 или 1 536 измерений. Модель предназначена для семантического поиска кода в репозиториях и локализации функций, связанных с описанием задачи или поведением. В README приведены результаты на Quarry, SWE-Bench-Lite localization, LocBench и CodeSearchNet. Карточка сообщает контекст обслуживания 8 192 токена, тогда как метаданные указывают нативный контекст 40 960 токенов. Для загрузки требуется trust_remote_code=True из-за пользовательской реализации Qwen3BidirectionalModel. Поддерживаются запросы на естественном языке и код на C, C++, C#, Go, Java, JavaScript, PHP, Python, Rust, Scala и TypeScript. Лицензия — Apache-2.0.

duyntnet/OpenCodeReasoning-Nemotron-1.1-7B-imatrix-GGUF — это GGUF-квантизации языковой модели OpenCodeReasoning-Nemotron-1.1-7B, разработанной NVIDIA. Модель создана на основе Qwen2.5-7B-Instruct и дообучена для пошагового рассуждения и генерации кода. Она предназначена для текстовой генерации, прежде всего для решения задач программирования и кодинга. Модель поддерживает контекст длиной до 64 тысяч токенов, работает с текстом и заявлена для английского языка. Размер базовой модели — 7B параметров; конкретные характеристики, точность и требования к ресурсам зависят от выбранного варианта квантизации GGUF. Для запуска подходят llama.cpp, KoboldCPP, text-generation-webui, Jan и LM Studio. В тестах LiveCodeBench v5 модель показала Pass@1 55,5, превысив показатели ряда других дистиллированных моделей сопоставимого размера. Сильными сторонами являются специализация на рассуждении при генерации кода, большой контекст и возможность локального запуска через распространённые inference-инструменты. Ограничения включают ориентацию преимущественно на английский язык, зависимость качества и потребления ресурсов от квантизации, а также отсутствие в README подробностей о точных параметрах отдельных GGUF-файлов. В карточке указана лицензия other; исходная модель описана как доступная для коммерческого и некоммерческого использования, однако точные условия лицензии следует уточнять отдельно.

Ornith-1.0-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это квантизированная GGUF-версия языковой модели Ornith-1.0-35B, разработанной Ornith AI; данные модели опубликованы пользователем jashepp. Согласно README, базовая модель создана на основе Gemma 4 и Qwen 3.5 и ориентирована прежде всего на агентные задачи программирования. Модель предназначена для генерации текста и кода, планирования и выполнения многошаговых правок в проектах, использования инструментов и других сценариев, где важны рассуждение и автономное решение задач. Модель использует архитектуру Mixture of Experts с заявленным общим размером 35B параметров и активными 3B параметрами (A3B). Репозиторий содержит варианты с ручной настройкой точности, включая MXFP4 для MoE-слоёв, Q8_0 и F16 для отдельных компонентов, а также калибровочную importance matrix (imatrix), оптимизированную для сохранения качества рассуждений при снижении требований к памяти. Указан английский язык; поддерживаются текстовые запросы и ответы. Размер контекста в README для самой модели не указан. К сильным сторонам относятся ориентация на agentic coding, планирование перед внесением изменений, поддержка reasoning, tool-use и chained distillation, а также уменьшенный по сравнению с полноразмерным вариантом объём памяти благодаря квантизации. Ограничения связаны с тем, что это квантизированная сборка, поэтому качество и скорость зависят от выбранного файла, совместимого движка GGUF и доступной видеопамяти; точные требования к оборудованию, бенчмарки и возможности работы на других языках в README не приведены. Модель распространяется по лицензии MIT.

BlossomsAI Qwen2.5-Coder-14B-Instruct-Uncensored-GGUF — набор оптимизированных квантованных моделей в формате GGUF, созданных на основе Qwen/Qwen2.5-Coder-14B-Instruct. Разработчиком указана BlossomAI. Модель предназначена для генерации текста и задач, связанных с программированием, включая базовое текстовое дополнение и создание ответов с различным соотношением качества и эффективности инференса. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Они ориентированы на разные сценарии: от экономии памяти до получения результатов максимального качества; Q4-варианты обозначены как сбалансированные, а Q8_0 — как вариант для производственных результатов. Архитектура, размер контекста, поддерживаемые языки и модальности в README не указаны. Ограничения включают возможное снижение качества у более сильной степени квантования и отсутствие подробных сведений о характеристиках и тестировании. Распространяется по лицензии MIT.

unsloth/Qwen2.5-Coder-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-Coder, разработанной командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления исходного кода, задач code completion и fill-in-the-middle, а также для построения кодовых агентов. Это базовая модель после предварительного обучения, поэтому она не рекомендуется для непосредственного использования в диалогах без дополнительного дообучения или постобучения. Модель относится к causal language models и использует архитектуру на базе transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-слоях внимания и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов, 28 слоёв и групповое запросное внимание с 12 головами Q и 2 головами KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. В README указан английский язык и библиотека Transformers. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битному представлению и специализация на программном коде при сохранении математических и общих языковых способностей базовой серии Qwen2.5-Coder. Ограничения включают отсутствие instruction tuning, потенциально менее стабильное диалоговое поведение и возможное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0.

OliviaRossi/Qwen3.5-9B-C3SM-SDM-Agentic-Coder — плотная авторегрессионная языковая модель для программирования, рассуждений и работы с инструментами. В README описан метод слияния C3SM-SDM, сочетающий веса нескольких моделей; метаданные указывают семейство Qwen3.5, архитектуру Qwen2ForCausalLM и формат Safetensors. Размер по метаданным — 7,2 млрд параметров, контекст — до 262 144 токенов. Модель предназначена для генерации и рефакторинга кода, агентных сценариев и многошагового диалога с вызовом инструментов. В README названы источники слияния: XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, ornith-ai/Ornith-1.5-9B, Jackrong/Qwopus3.5-9B-Coder, OrionLLM/OxCoder-9B и empero-ai/Qwen3.8-9B-Distill. Метаданные отмечают английский и китайский языки, чат и интерфейс вызова инструментов. README сообщает, что мультимодальные проекции удалены для получения стандартной причинной языковой модели. Карточка описывает метод слияния, но не приводит независимых результатов оценки качества. Модель распространяется по лицензии MIT.

Qwen3.6-27B-Claude-Opus-Reasoning-Distilled-GGUF — набор GGUF-квантизированных версий модели, разработанный rico03 на базе Qwen3.6-27B от команды Qwen. Модель дообучена примерно на 14 тысячах трасс рассуждений Claude 4.6 Opus и предназначена для генерации текста с акцентом на структурированное рассуждение. Модель ориентирована на сложные задачи, программирование и математику. Заявлены более компактный стиль рассуждений на простых запросах и глубокая пошаговая декомпозиция на трудных задачах, при сохранении возможностей базовой модели в кодинге и математике. Поддерживаются английский и мультиязычные сценарии. Архитектура основана на Qwen3.6-27B; точный размер контекста в README не указан, а пример запуска использует контекст 8192 токена. Модель доступна в вариантах квантизации от Q2_K до Q8_0 размером примерно от 10 до 28,6 ГБ, что позволяет выбирать между требованиями к памяти и качеством. Формат совместим с llama.cpp, Ollama, LM Studio и другими GGUF-совместимыми средами. Ограничения включают возможную потерю качества при сильной квантизации, а также отсутствие в README независимой оценки именно этих GGUF-вариантов; приведённые бенчмарки относятся к базовой Qwen3.6-27B. Указана лицензия Apache 2.0, при этом релиз также обозначен как предназначенный для исследований и личного использования.

Qwen3.8-Flash-Next-oQ5e-mtp — это 5-битная смешанная oQ5e-квантизация базовой модели Qwen/Qwen3.8-Flash-Next. Квантизация выполнена непосредственно из исходных BF16-весов с помощью oMLX 0.6.4; автор квантизации в README явно не указан. Модель предназначена для локальной генерации текста, рассуждений, решения задач с ограничениями, отладки Python-кода и других сценариев, где важны качество рассуждений и стабильность генерации. Сохранены компоненты MTP и vision, поэтому поддерживаются текстовые и визуальные входы базовой модели, однако точный набор языков и максимальная длина контекста в README не указаны. Номинальный размер группы квантования — 64, неквантизированный тип данных — BF16, размер модели — около 125,7 ГБ. Для работы рекомендована система Apple Silicon с 128 ГБ unified memory, включёнными SSD N-gram Offload и Lightning MTP; основное тестирование проводилось на MacBook Pro с Apple M5 Max. При активной генерации модель потребляла около 102 ГБ общей системной памяти, а требования к памяти увеличиваются с ростом контекста и KV-кэша. По данным автора, по сравнению с oQ4e модель обеспечивает более высокую устойчивость рассуждений и генерации на сложных задачах, сохраняя практичность для локального запуска. В отдельных тестах она корректнее решала задачи с ограничениями и полностью завершала длительные вычислительные сценарии, но не превосходит oQ4e во всех бенчмарках и может работать медленнее на некоторых нагрузках; в приведённом тесте отладки Python предложенная реализация содержала ошибку управления состоянием. Лицензия указана как qwen-community-1.0.

inferencerlabs/Qwen3-Coder-Next-MLX-Q9 — это текстовая генеративная модель для задач программирования, основанная на Qwen/Qwen3-Coder-Next и адаптированная для запуска с использованием MLX. Репозиторий inferencerlabs предоставляет её в формате квантования q9, созданного модифицированной версией MLX. README не содержит точных сведений о разработчике базовой модели, размере, архитектуре, поддерживаемых языках и длине контекста. Модель предназначена для генерации текста и, прежде всего, для сценариев, связанных с написанием и обработкой кода. По приведённым результатам тестирования, на системе с M3 Ultra и 512 ГБ оперативной памяти она достигала примерно 68 токенов в секунду при одиночном запросе и 159 токенов в секунду суммарно при пакетной обработке шести запросов, используя около 83,5 ГиБ памяти. Ключевая особенность модели — высокоточное q9-квантование с заявленным близким к исходному качеством в тестах программирования. Для q9 указаны perplexity 1,21093, точность токенов 97,55% и показатель пропущенной дивергенции 10,50%; эти значения совпадают с приведёнными для q8.5 и немного уступают базовой модели. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и отсутствие в README сведений о лицензии. Условия использования базовой модели также необходимо уточнять отдельно.

Qwen3-Coder-Next-Uncensored-Heretic — дообученная версия Qwen3-Coder-Next от независимого автора llmfan46. Это причинная языковая модель с архитектурой MoE, предназначенная для генерации кода и работы в агентных сценариях разработки. Модель поддерживает диалог и вызов инструментов, а её контекст достигает 262 144 токенов. Автор описывает вариант как менее склонный к отказам: в приведённом тесте отказов было 8 из 100 против 100 из 100 у исходной модели; KL-дивергенция относительно неё составила 0,1488. Это не гарантирует качество или поведение на других запросах. README указывает на 80 млрд общих параметров и 3 млрд активных у исходной модели, тогда как метаданные этого репозитория сообщают 2,3 млрд параметров; эти оценки расходятся. Модель доступна в формате Safetensors и распространяется по лицензии Apache-2.0.

Terminus-Qwen3-8b-i1-GGUF — это квантизированная версия языковой модели Terminus-Qwen3-8b, разработанной OrionLLM и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась на наборе данных OrionLLM/OpenAgentInstruct и ориентирована на генерацию текста, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Модель относится к текстовым Transformer-моделям и содержит около 8 млрд параметров. В README указан английский язык, поддержка мультимодальности и размер контекстного окна не заявлены. Репозиторий предоставляет варианты квантизации i1 от IQ1_S до Q6_K с размером файлов примерно от 2,2 до 6,8 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти; при этом низкие уровни квантизации могут заметно снижать качество. В качестве компромисса между размером, скоростью и качеством рекомендован вариант i1-Q4_K_M. Модель подходит для локального запуска в совместимых инструментах, поддерживающих GGUF, особенно для текстовых ассистентов и агентских рабочих процессов. Ограничениями являются заявленная ориентация на английский язык, отсутствие сведений о контекстном окне и неравномерное качество разных вариантов квантизации. Указанная лицензия — Apache-2.0.

Toffee 3B β — языковая модель-ассистент, разработанная zait-ai и дообученная на базе mistralai/Ministral-3-3B-Base-2512. Она предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи и программирование. Модель использует плотную архитектуру семейства Mistral, содержит 3,2 млрд параметров и поддерживает контекст до 8192 токенов. Обучение проходило на смесях диалоговых, математических и программных инструкций. В карточке приведены результаты на MMLU, HellaSwag, BoolQ и Winogrande, однако сравнение с другими моделями обозначено как приблизительное из-за различий в настройках оценки. Основной язык — английский. Модель распространяется по лицензии MIT.

laion/tt-x2_clip-hi0p05-10-30B — это исследовательский контрольный чекпойнт модели Qwen3-Coder-30B-A3B-Instruct, дообученной командой TaskTrove с помощью GRPO на наборе DCAgent/exp_rpt_multifile. Модель семейства Qwen3 MoE предназначена для генерации текста в диалоговом режиме, включая программирование и многофайловые агентные задачи. По метаданным, контекст достигает 262 144 токенов; репозиторий содержит веса Safetensors, библиотека запуска — Transformers. Выбран шаг 10 по скользящей EMA награды; README приводит pass@8 0,4516 для этого чекпойнта. Обучение остановили на шаге 76 из 80 после роста энтропии политики и снижения награды, поэтому выбранный чекпойнт не является результатом полного горизонта обучения. Лицензия — Apache-2.0.