II.3Рефакторинг, миграция и модернизация

Qwen3.6-27B-unsloth-code-reasoning-deepseek-v4-pro-destilled-Mlx — созданная сообществом 4-битная MLX-конверсия плотной vision-language модели семейства Qwen с примерно 27 млрд параметров. В основе указаны Qwen/Qwen3.5-27B и unsloth/Qwen3.6-27B; модель дообучена с использованием Unsloth и дистиллирована на примерах рассуждений DeepSeek v4 Pro. Она предназначена прежде всего для локального запуска на Apple Silicon через MLX и ориентирована на англоязычные сценарии. Модель поддерживает генерацию, дополнение и объяснение кода, задачи, требующие пошагового рассуждения, математику, логику, отладку, агентные рабочие процессы и вызов инструментов. Архитектура использует чередующиеся слои linear attention и full attention в соотношении 3:1, скрытый размер 5120, размер головы 256 и один MTP-слой; все параметры активны для каждого токена. Поддерживаются текст, изображения и видео, а также встроенный вызов функций через шаблон чата. Квантование выполнено в формате 4-bit affine с размером группы 64; для комфортной работы рекомендуется не менее 24 ГБ unified memory, предпочтительно 32 ГБ или больше. Сильные стороны модели — специализация на программировании и рассуждениях, предсказуемая задержка плотной архитектуры, мультимодальность, tool-calling и возможность приватного локального использования. Ограничения включают отсутствие официальных результатов бенчмарков, возможные галлюцинации и ошибки в коде, снижение качества из-за 4-битного квантования и преимущественную ориентацию на английский язык. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.6-35B-A3B-FP8 — открытая FP8-квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной Red Hat AI. Это авторегрессионная языковая модель с vision encoder, предназначенная для генерации текста, рассуждений, программирования, агентных сценариев и вызова инструментов. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Поддерживаются текстовые и визуальные входы, однако конкретный набор языков в README не указан. Сильными сторонами модели заявлены агентное программирование, работа с frontend-задачами, рассуждение на уровне репозитория, сохранение контекста рассуждений и вызов инструментов. Квантование выполнено в формате fine-grained FP8 с размером блока 128; заявлена производительность, близкая к исходной модели. Вариант может быть предпочтителен на оборудовании, где вычислительные ресурсы превышают пропускную способность памяти. Для работы с vLLM требуются параметры reasoning-parser qwen3 и включение prefix caching; совместимость также заявлена с Transformers, SGLang и KTransformers. README не приводит подробных ограничений, полного набора языков или характеристик работы с изображениями. Модель распространяется по лицензии Apache-2.0. Артефакты проверены с RHOAI 3.5, RHAIIS 3.5 и vLLM 0.24.0.

Qwen3.6-35B-A3B-NVFP4-MTP-GGUF — производная сборка модели Qwen3.6-35B-A3B, подготовленная Nilay Parikh для запуска через llama.cpp на NVIDIA DGX Spark. Это мультимодальная модель с архитектурой MoE: всего 35 млрд параметров, из которых около 3,5 млрд активны на токен. Основные веса квантизованы в NVFP4, голова MTP сохранена в BF16 для спекулятивного декодирования, а мультимодальный проектор для изображений поставляется отдельным файлом BF16 GGUF. Модель предназначена для генерации кода и текста, анализа длинных репозиториев и документов, а также рассуждений по скриншотам интерфейсов и диаграммам. В README заявлен контекст до 256 тысяч токенов с масштабированием YaRN от базовых 128 тысяч; для обработки изображений требуется подключить отдельный mmproj. Карточка ориентирована на английский язык. Лицензия — Apache-2.0. В README указана скорость около 30 токенов/с при коротком контексте и настроенной спекулятивной генерации на DGX Spark; эти показатели зависят от оборудования и конфигурации.

Qwen3.6-35B-A3B-UDT-MTP-GGUF — это квантизированная в формате GGUF версия модели Qwen3.6-35B-A3B, подготовленная Atomic Chat на основе оригинальных весов Qwen. Модель предназначена для локального и полностью офлайн-использования в llama.cpp, Ollama, LM Studio, Jan и Atomic Chat, включая диалоговые сценарии, агентное программирование, работу с фронтенд-задачами и рассуждения на уровне репозиториев. Модель имеет 36 млрд параметров, 40 слоёв и архитектуру Mixture-of-Experts с 256 экспертами, из которых выбираются 8, а также 16 attention heads и 2 KV heads. Заявленный контекст составляет 262 144 токена. Поддерживаются текстовая и визуальная модальности; для обработки изображений в репозитории доступен vision-проектор mmproj-BF16.gguf. Квантизация выполнена с использованием importance matrix для разных уровней точности, что должно помогать сохранять качество при низкобитных форматах. К сильным сторонам относятся мультимодальность, большой контекст, MoE-архитектура, локальная работа без передачи данных во внешние сервисы и квантизация, откалиброванная importance matrix. Ограничения включают необходимость выбора подходящего GGUF-кванта, значительные требования к ресурсам и обязательное применение шаблона чата Qwen3.6 через параметр --jinja; для изображений требуется vision-проектор и совместимый интерфейс. Базовая модель выпущена под лицензией Apache 2.0, квантизация выполнена Atomic Chat.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ — это квантованная версия модели Qwen3.8-27B TURBO Fable Cold Fusion. Исходную модель и слияние весов GAIN разработал DavidAU, а квантование и упаковку выполнила Solstice-AI. Модель предназначена для программирования, агентной разработки, отладки репозиториев, решения задач на рассуждение и управления компьютером или мобильными устройствами. По данным README, заявлены поддержка английского и китайского языков, мультимодальный ввод изображений и видео, а также контекст до 262 144 токенов. Архитектура описывается как гибридная: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — Grouped-Query Attention. Модель содержит Multi-Token Prediction для спекулятивного декодирования и поставляется с визуальным проектором mmproj-BF16.gguf. Формат — AWQ INT4 (W4A16), поэтому модель рассчитана на экономичное инференс-развёртывание с использованием Anvil, vLLM или SGLang, но квантование может снижать точность по сравнению с полноразмерными весами и требует совместимого оборудования и программного стека. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC, однако условия и независимая воспроизводимость этих оценок требуют проверки. Указана лицензия Apache 2.0; заявленная модификация alignment-механизмов означает, что модель может иметь меньше встроенных отказов и требует осторожного применения.

BennyDaBall/Qwopus3.8-27B-Flash-NVFP4 — локальная квантованная версия модели Qwopus3.8-27B-Flash, разработанной Jackrong. Это GGUF-модель для запуска через llama.cpp и LM Studio, оптимизированная прежде всего для видеокарт NVIDIA Blackwell, включая RTX 5090. Модель предназначена для программирования, агентских сценариев, работы с инструментами и функциями, генерации кода и диалоговых приложений. В основе находится плотная текстовая модель с 27 млрд параметров и 64 текстовыми слоями, использующая NVFP4 для основных матриц внимания, Gated DeltaNet и MLP. В модели сохранена высокоточная MTP-компонента для встроенного speculative decoding без отдельной draft-модели. Выходные, embedding- и крупные MTP-тензоры имеют более высокую точность, а малые служебные тензоры сохранены в F32. Поддерживается контекст до 262 144 токенов. Модель мультимодальная: для анализа изображений используется отдельный совместимый BF16 vision projector. Заявлены языки English, Chinese, Spanish, Russian и Japanese. К сильным сторонам относятся уменьшенный размер по сравнению с исходной BF16-версией, встроенное ускорение генерации через MTP, поддержка изображений, tool use и function calling, а также готовый шаблон чата с поддержкой мультимодального ввода и сохранения reasoning-контента. Основные ограничения связаны с требованиями к окружению: оптимизация и проверка выполнены на одной RTX 5090 с 32 ГБ памяти, необходима свежая сборка llama.cpp с поддержкой NVFP4, мультимодальности и draft-mtp, а старые runtime могут не загрузить тензоры типа 40. Для работы с изображениями требуется дополнительный файл mmproj; доступный контекст в таком режиме может быть уменьшен из-за расхода памяти. Модель распространяется по лицензии Apache-2.0.

Карточка модели arabsya87sy7a8/Qwythos-9B-Claude-Mythos-5-1M на Hugging Face совпадает с карточкой empero-ai/Qwythos-9B-Claude-Mythos-5-1M, поэтому описание составлено по ней. Qwythos-9B-Claude-Mythos-5-1M — диалоговая модель empero-ai на базе Qwen/Qwen3.5-9B, дообученная полным обновлением текстовых весов методом supervised fine-tuning. Это плотная мультимодальная архитектура Qwen3.5 с гибридным стеком Gated DeltaNet и полнослойного внимания; дообучение было текстовым, а зрительная часть унаследована от базовой модели и не настраивалась. Модель предназначена для генерации ответов с рассуждениями, работы с инструментами и длительных агентных сессий. Она поддерживает вызов функций в формате Qwen3.5 и контекст до 1 048 576 токенов благодаря YaRN-масштабированию; в описании сообщается о внутренней проверке на контексте около 137 тысяч токенов. Заявлены сценарии анализа больших репозиториев и документов, а также задач в кибербезопасности и биомедицине. Поддержка изображений унаследована от Qwen3.5, однако зрительная часть не дообучалась и не проверялась. Карточка сообщает об успешном выполнении 7 из 7 тестовых запросов с инструментами, но это небольшой внутренний тест, а не независимая оценка. Модель может ошибаться в точных фактах и идентификаторах; для важных сведений рекомендуется поиск или другие инструменты. При жадной генерации и низкой температуре возможны повторения, а YaRN может немного ухудшать качество на коротком контексте. Лицензия — Apache 2.0.

Dracarys2-Llama-3.1-70B-Instruct — текстовая модель Abacus.AI, дообученная на основе meta-llama/Meta-Llama-3.1-70B-Instruct для улучшения результатов в задачах программирования. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она принимает текст и поддерживает диалоговый формат Llama 3 Instruct. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода, анализа кода, предсказания результатов тестов и решения общих задач с инструкциями. В приведённых авторами оценках LiveCodeBench она показала более высокие результаты базовой модели в генерации кода и предсказании вывода тестов; показатели зависят от задачи и режима оценки. Доступна в формате Safetensors для Transformers. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

Fireball-12B-v1.01a — дообученная EpistemeAI языковая модель на архитектуре Mistral, основанная на EpistemeAI/Fireball-12B-v1.0. Модель содержит 12,1 млрд параметров и предназначена для генерации текста, выполнения инструкций и помощи с программированием. В README описаны supervised fine-tuning на наборах Code Alpaca и Alpaca Cleaned, а также два этапа ORPO дообучения на предпочтениях. Модель принимает текст и генерирует текст. В карточке указаны мультиязычные и программные данные, а рекомендуемый шаблон запросов — Alpaca. Метаданные указывают контекст до 1 024 000 токенов; в README для исходной модели Mistral Nemo приводится окно 128k, поэтому заявленная длина контекста для этой версии в источниках расходится. Модель выпущена под лицензией Apache 2.0. По README, у базовой модели нет встроенных механизмов модерации; для контролируемого применения следует предусмотреть отдельную модерацию.

GLM-4.5-Air-AWQ-FP16Mix — квантизированная версия модели GLM-4.5-Air, разработанной командой Z.ai и опубликованной QuantTrio. Модель предназначена для генерации текста, сложного рассуждения, кодирования, использования инструментов и агентских сценариев. Она поддерживает гибридные режимы: thinking mode для многошагового рассуждения и работы с инструментами и non-thinking mode для быстрых ответов. Модель построена на архитектуре MoE и содержит 106 млрд параметров, из которых 12 млрд активируются при обработке запроса. Данная версия использует смешанную квантизацию AWQ и FP16Mix, занимает около 69 ГБ и рассчитана на запуск через vLLM. В README приведена конфигурация с контекстом до 32 768 токенов и использованием экспертного параллелизма на нескольких GPU. Языки и мультимодальные возможности явно не указаны; по описанию это текстовая модель. Сильными сторонами являются сочетание рассуждения, генерации кода и агентских возможностей при меньшем числе активных параметров, чем у полной GLM-4.5, а также экономия памяти благодаря квантизации. Ограничения связаны с требованиями к инфраструктуре: для корректной загрузки необходимо включить expert parallelism, использовать vLLM версии 0.10.0 и применить временный патч для поддержки смешанной квантизации MoE. В README указана лицензия MIT для моделей GLM-4.5 и GLM-4.5-Air, допускающая коммерческое использование и вторичную разработку.

GLM-4.6 от Zhipu AI представлен в репозитории Unsloth с исправлениями шаблона чата. Это диалоговая языковая модель семейства GLM-4 MoE с 23,4 млрд параметров, предназначенная для генерации текста и кода, рассуждений и агентных сценариев с вызовом инструментов. Модель принимает контекст до 202 752 токенов и поддерживает английский и китайский языки. По сравнению с GLM-4.5 в карточке отмечены улучшения в программировании, рассуждениях, работе с инструментами и поисковыми агентами, а также более естественный стиль письма. Репозиторий содержит веса safetensors; для запуска через llama.cpp README рекомендует использовать параметр --jinja. Лицензия — MIT.

GLM-4.6 — языковая модель компании Zhipu AI из семейства GLM-4 MoE, доступная в репозитории в формате safetensors для Transformers. Она предназначена для диалогов, программирования, рассуждений и агентных сценариев с вызовом инструментов и поиском. По сравнению с GLM-4.5 улучшены результаты в задачах кодирования и рассуждений, качество генерации интерфейсов и естественность стиля. Модель поддерживает контекст до 202 752 токенов и ориентирована прежде всего на английский и китайский языки. Модель подходит для генерации и объяснения кода, работы в агентных фреймворках, выполнения многошаговых задач с инструментами и поиска по запросу. В метаданных указано 23,4 млрд параметров и лицензия MIT. README приводит результаты сравнительных оценок, но не содержит подробностей о методике обучения или гарантий качества на конкретных прикладных задачах.

QuantFactory/granite-3b-code-base-128k-GGUF — квантизированная версия Granite-3B-Code-Base-128K, созданная QuantFactory с использованием llama.cpp на основе модели IBM Research. Модель предназначена для задач генерации, объяснения и исправления кода, создания модульных тестов и документации, включая сценарии разработки программного обеспечения на уровне репозитория и работы с большими контекстами. Модель относится к семейству Granite Code и поддерживает контекст длиной до 128K токенов. Указан размер 3B параметров; исходная модель была дообучена на 4 млрд токенов с упаковкой файлов репозиториев и увеличением представленности языков. В README приведены результаты оценивания для Python, C++, Java, TypeScript и Rust, а также тестов генерации, объяснения и исправления кода. Квантизация в формате GGUF может снизить требования к памяти и упростить локальный запуск, однако конкретные варианты квантизации и их компромиссы в README не указаны. Модель лицензирована по Apache 2.0. Ограничения включают отсутствие в предоставленных данных подробностей об используемых языках, точной архитектуре, конкретном размере GGUF-файлов и характеристиках производительности отдельных вариантов квантизации; приведённые метрики помечены как непроверенные.

Карточка модели rayrickypp/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Ling-3.0-flash — разговорная модель генерации текста с гибридной линейной архитектурой MoE, представленная разработчиками Ling. README описывает версию на 124 млрд параметров, из которых активируются 5,1 млрд на токен; в метаданных репозитория указаны 3,5 млрд параметров. Архитектура сочетает Kimi Delta Attention и Gated MLA, а заявленное окно контекста достигает 262 144 токенов. Модель предназначена для рассуждений, следования инструкциям, понимания длинного контекста и агентных сценариев: программирования, общих задач и глубокого исследования. README также отмечает обучение на интерактивных средах и совместимость с агентными инструментами. Репозиторий содержит веса Safetensors; лицензия — MIT. В README приводятся результаты на бенчмарках для кода, агентных задач, знаний, математики и длинного контекста, но эти заявления относятся к оценкам разработчиков. Для запуска описана конфигурация SGLang на нескольких мощных GPU, поэтому практическое развёртывание может требовать значительных вычислительных ресурсов.

Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.

Карточка модели calmresearch-ai/Model4 на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Pro, поэтому описание составлено по ней. MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6, разработанная Xiaomi и обученная с масштабированием обучения с подкреплением для агентных сценариев и самоулучшения. Она предназначена для генерации текста, программирования, работы с инструментами и задач, где агент взаимодействует со средой и оценивает результаты своих действий. Модель построена на разреженной архитектуре Mixture of Experts. В README указаны 1,02 трлн общих и 42 млрд активируемых параметров; метаданные репозитория указывают 27,7 млрд параметров и класс MiMoV2ForCausalLM. Контекст составляет до 1 млн токенов. Модель поддерживает текст, изображения, видео и аудио, а также интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель подходит для длительных агентных запусков, анализа визуальных и аудиовизуальных материалов, программирования и работы с длинными документами или репозиториями. README приводит результаты бенчмарков, но они не гарантируют качество на конкретных задачах; развёртывание рассчитано на специализированные средства инференса и мощное оборудование. Лицензия репозитория — MIT.

Pyrex-8B-Instruct-Uncensored — дообученная модель для генерации кода и задач разработки ПО, опубликованная ImposterOnline. В карточке она описана как модель класса 8B с архитектурой Transformer и компонентами RoPE, SwiGLU, RMSNorm и GQA; метаданные Hugging Face указывают архитектуру Qwen2, 7,1 млрд параметров и формат safetensors. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Заявленная длина контекста — 32 768 токенов, при этом обучение проводилось на последовательностях длиной 4 096 токенов. Модель предназначена для генерации кода, многошаговой отладки и сценариев агентного программирования с вызовом функций. В README приведены результаты HumanEval и MBPP; качество на других задачах не установлено этими оценками. Модель дообучена методом QLoRA на смесях наборов данных для программирования и вызова функций. Лицензия — MIT. В карточке модель названа uncensored и заявлено отсутствие встроенных фильтров безопасности. Автор рекомендует проверять выходы в изолированной среде перед использованием в критичных системах; качество на контекстах длиннее 4 096 токенов не проверено. Метаданные и README расходятся в числе параметров (7,1B и 7,6B соответственно), поэтому точный размер следует считать неоднозначным.

Qwen2.5.1-Coder-7B-Instruct-GGUF — это квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и работы с программным кодом: она подходит для написания, объяснения и исправления кода, а также для диалоговых сценариев с использованием системных и пользовательских инструкций. В README заявлена поддержка английского языка. Модель имеет размер 7 миллиардов параметров. Доступны варианты от F16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Квантизации выполнены с помощью llama.cpp и imatrix; отдельные варианты оптимизированы для ARM-процессоров. Более компактные версии удобны для локального запуска, в том числе через LM Studio, однако снижение разрядности может уменьшать качество генерации. Длина контекста, полный список поддерживаемых языков и результаты бенчмарков в README не указаны. Модель распространяется по лицензии Apache-2.0.

prithivMLmods/Qwen2.5-Coder-14B-Instruct-F16-GGUF — версия модели Qwen2.5-Coder-14B-Instruct в формате GGUF F16. Она основана на Qwen/Qwen2.5-Coder-14B-Instruct и предназначена для генерации кода и диалогового взаимодействия по инструкциям. Модель содержит 14 млрд параметров; GGUF позволяет запускать её в совместимом программном обеспечении, например llama.cpp и Ollama. Модель подходит для написания, анализа и исправления кода в чат-сценариях. В карточке указаны английский язык и лицензия CreativeML Open RAIL-M. README описывает общий запуск GGUF через Ollama, но не приводит отдельные результаты оценки или специфические настройки этой модели.

YOYO-AI выпустила YOYO-AI/Qwen3-30B-A3B-CoderThinking-YOYO-linear — объединённую методом linear модель на основе Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Это разговорная MoE-модель для генерации текста с интерфейсом вызова инструментов. В README указаны контекст до 262 144 токенов, смешивание весов в пропорции 0,9 и 0,1 и выходной формат bfloat16. Модель предназначена для диалога, рассуждений и задач программирования, включая сценарии с длинным контекстом и использованием инструментов. Метаданные указывают английский и китайский языки. Модель распространяется по лицензии Apache-2.0. Параметры генерации, рекомендуемые в README: температура 0,6, top-p 0,95 и top-k 20.

batiai/Qwen3.6-27B-GGUF — это квантизированная GGUF-версия плотной мультимодальной модели Qwen3.6-27B, разработанной Alibaba и подготовленной BatiAI для локального запуска, прежде всего на компьютерах Mac с Apple Silicon. Модель распространяется через llama.cpp и Ollama и ориентирована на автономные сценарии, не требующие отправки данных во внешние облачные сервисы. Модель предназначена для генерации текста, программирования, репозиторного и агентного кодинга, многошагового рассуждения и работы с инструментами. Заявлены поддержка tool calling, thinking mode, нативного контекста до 262 000 токенов и расширения до 1 010 000 токенов с помощью YaRN. Доступны языки английский, корейский, японский и китайский. Варианты с vision projector поддерживают обработку изображений в мультимодальном режиме. Преимущество модели — сочетание 27 млрд параметров, плотной архитектуры и нескольких уровней квантизации с imatrix-калибровкой, что позволяет выбрать баланс качества, скорости и требований к памяти: от вариантов для систем с 16 ГБ RAM до почти потерьной Q6_K для конфигураций от 32 ГБ. Плотная архитектура заявлена как особенно подходящая для сложных длинных цепочек агентного кодинга, однако она обычно медленнее MoE-моделей с меньшим числом активных параметров. Для режима thinking ответы могут содержать блок рассуждений, а для получения чистого JSON при вызове инструментов требуется отключить размышление. Модель распространяется по лицензии Apache 2.0. Приведённые в README сравнительные заявления основаны преимущественно на позиционировании upstream; конкретные итоговые значения ряда бенчмарков для этой версии не указаны, поэтому их следует интерпретировать с осторожностью.

trohrbaugh создал вариант Qwen3.6-35B-A3B с применением abliteration — модификации, направленной на снижение склонности модели отказывать в ответах. Это мультимодальная модель семейства Qwen с архитектурой смеси экспертов и зрительным энкодером, предназначенная для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов. Модель содержит 35 млрд параметров, из которых активируется около 3 млрд; в MoE используются 256 экспертов, включая восемь маршрутизируемых и один общий активный эксперт. Контекст составляет 262 144 токена и может расширяться до 1 010 000. Репозиторий содержит веса в формате safetensors для Transformers и совместимых сред. В приведённом сравнении исходная модель отказывала в 99 из 100 проверочных запросов, а этот вариант — в 2 из 100; результат относится к указанной проверке и не гарантирует поведение на других запросах. Модель подходит для генерации и анализа текста и изображений, помощи в разработке ПО и агентной работы с инструментами. Карточка не сообщает языковые коды; в описании исходного семейства упомянуты двуязычные английские и китайские тесты, что само по себе не подтверждает полный перечень поддерживаемых языков. Лицензия — Apache 2.0. Автор указывает, что загрузка до исправления 2 мая 2026 года могла содержать некорректно сохранённые веса MoE; для корректной работы нужна исправленная версия репозитория.

trohrbaugh/Qwen3.6-35B-A3B-heretic-v2 — модифицированная версия Qwen3.6-35B-A3B, созданная методом abliteration: параметры модели изменены для снижения частоты отказов. В приведённом сравнении модель отказала в 0 из 100 случаев против 99 из 100 у исходной версии; KL-дивергенция относительно оригинала составляет 0,1263. Репозиторий содержит веса в формате Safetensors, совместимые с Transformers и рядом движков инференса. Модель сочетает языковую часть на архитектуре MoE с визуальным энкодером. Всего в ней 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения, поддерживает диалог и имеет контекст 262 144 токена с возможностью расширения до 1 010 000. README описывает применение исходного семейства для агентного программирования, работы с репозиториями, вызова инструментов и визуальных задач. Модель подходит для диалоговых и агентных сценариев, генерации и анализа кода, а также вопросов по изображениям. Снижение числа отказов не гарантирует корректность ответов и может увеличить вероятность выдачи нежелательного или небезопасного содержания. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-MXFP4 — языковая модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Исходную модель и объединение весов GAIN разработал DavidAU, а квантизацию и упаковку в формат OCP Microscaling MXFP4 выполнила Solstice-AI. Модель ориентирована на рассуждения, программирование, агентную разработку ПО, отладку репозиториев, управление компьютерными и мобильными интерфейсами, а также выполнение задач с длинным контекстом и сложными ограничениями. Заявлена поддержка английского и китайского языков. Модель содержит 27 миллиардов параметров и рассчитана на контекст до 262 144 токенов. В архитектуре заявлены гибридное внимание Qwen 3.8 с блоками Gated Delta Recurrent Network и Grouped-Query Attention, аппаратная Multi-Token Prediction для ускорения генерации, а также мультимодальный компонент пространственно-временного 3D-зрения для анализа схем, интерфейсов кода и видеокадров. Формат MXFP4 использует 4-битные значения с 8-битным масштабированием блоков; для работы рекомендуются Anvil Runtime и vLLM на современном оборудовании AMD, Intel Gaudi и Tensor Core. README заявляет высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и CoWorkBench, а также превосходство над Claude Opus 4.6 Max в приведённых тестах, однако методика и независимое подтверждение этих утверждений требуют отдельной проверки. Ограничения включают зависимость производительности от совместимого рантайма и оборудования, возможные особенности MXFP4-квантизации и заявленный режим uncensored, который может требовать дополнительных мер безопасности при использовании. Лицензия — Apache 2.0.

Qwen3-Coder-REAP-363B-A35B — сжатая модель Cerebras на архитектуре причинной языковой модели с разреженной смесью экспертов (MoE), созданная методом REAP из Qwen/Qwen3-Coder-480B-A35B-Instruct. Модель предназначена для генерации кода, агентного программирования, работы с большими репозиториями и вызова функций. В карточке заявлено сохранение близкой к исходной производительности при сокращении общего числа параметров с 480B до 363B; на каждом токене активируются 35B параметров и 8 из 120 экспертов. Метаданные указывают 15,4B параметров, поэтому размер модели в источниках расходится. Контекст составляет 262 144 токена. README указывает формат FP8, 62 слоя и поддержку запуска через vLLM; метаданные указывают Transformers и формат safetensors. Заявлено расширение контекста до 1M с YaRN. Модель ориентирована на английский язык. Лицензия — Apache 2.0. README сообщает о близкой к исходной точности и снижении требований к памяти, но результаты оценки для BF16-варианта не приведены.

Qwopus3.6-27B-Fusion-GGUF — экспериментальная модель от KyleHessling1, созданная объединением Qwopus3.6-27B-v2 с уклоном на рассуждения и Qwopus3.6-27B-Coder с уклоном на программирование. Обе родительские модели происходят от Qwen/Qwen3.6-27B. Модель предназначена для текстовой генерации, многошагового рассуждения и автономной разработки программного обеспечения, особенно для сценариев, где агент самостоятельно планирует, пишет код, запускает его и исправляет ошибки. Модель содержит 27 млрд параметров и 64 слоя, использует гибридную архитектуру qwen35 с линейным вниманием и периодическими слоями полного внимания. Нативный контекст составляет 262 144 токена; корректная работа проверена на контексте до 60 000 токенов. По умолчанию включён режим reasoning. Доступна версия GGUF с квантизацией Q4_K_M размером около 16,5 ГБ, рассчитанная на запуск через llama.cpp на одной видеокарте с 24–32 ГБ памяти. Поддерживается ввод изображений при использовании совместимого проектора Qwopus3.6-27B-Fusion-mmproj-Q8_0.gguf. В README указан английский язык. Сильные стороны модели — сочетание устойчивого рассуждения и генерации кода, хорошие результаты на HumanEval, MBPP и GSM8K, стабильное завершение генерации и способность работать как автономный агент программирования. Ограничения связаны с экспериментальным статусом и отсутствием полного строгого оценивания; результаты зависят от квантизации и режима работы. Лицензия указана как other с названием qwen и ссылкой на лицензию Qwen.

Step 3.5 Flash — открытая языковая модель компании StepFun для диалогов, рассуждений, программирования и агентных задач. Карточка описывает разреженную архитектуру Transformer с Mixture of Experts: всего 196 млрд параметров, из которых для каждого токена активируются около 11 млрд. Механизм Multi-Token Prediction предназначен для ускорения генерации, а гибридное внимание с окном 256K токенов рассчитано на работу с длинными контекстами и большими кодовыми базами. Модель предназначена для интерактивного чата, сложного многошагового рассуждения, помощи в разработке и выполнения задач агентами. Карточка приводит результаты на SWE-bench Verified и Terminal-Bench 2.0 и заявляет поддержку запуска через vLLM, SGLang, Transformers и llama.cpp, а также локального развертывания на высокопроизводительном оборудовании. Указанный в карточке сценарий использования — текстовый диалог; метаданные классифицируют модель как генеративную и отмечают возможность чата. В README заявлено окно контекста 256K токенов и высокая скорость генерации, однако реальная производительность зависит от оборудования и программной поддержки: например, для vLLM отмечено отсутствие полной поддержки MTP3. Метаданные указывают 9,8 млрд параметров, тогда как README заявляет 196 млрд параметров всего и 11 млрд активных на токен; эти сведения расходятся. Лицензия — Apache 2.0.

Swift 1.5 Qwen3.8-27B — дообученная UkisAI мультимодальная модель рассуждений на базе Qwen/Qwen3.8-27B. Она предназначена для диалогов, программирования и многошаговых задач, включая работу с агентами и терминалом; заявленная цель дообучения — сократить лишние рассуждения и ускорить решение задач при сохранении качества. Модель имеет плотную архитектуру Qwen3.5, содержит 27 млрд параметров и принимает текст и изображения; в метаданных также указаны интерфейс вызова инструментов и поддержка vision. В README описаны оценки на задачах кодирования и агентного взаимодействия, а также тестирование с контекстом до 262 144 токенов. По данным разработчика, Swift 1.5 использует меньше токенов рассуждений и быстрее базовой модели на ряде задач; приведённые результаты зависят от задачи и режима оценки. Для использования доступны контрольная точка BF16 и отдельные квантованные экспорты. Лицензия указана как other; README ссылается на отдельные условия enterprise-лицензирования, поэтому перед применением следует проверить условия в карточке модели.

Zero Gemma 4 E4B OpenZero — компактная локальная модель для генерации текста, созданная на базе unsloth/gemma-4-E4B-it и распространяемая автором репозитория shafire в рамках семейства OpenZero. Это самостоятельная объединённая GGUF-модель: обученные веса OpenZero уже встроены, поэтому отдельные LoRA-адаптер и базовая модель не требуются. Модель предназначена для локальных агентных сценариев, включая планирование, структурированное выполнение и проверку действий, разработку и отладку кода, ревью, проектирование тестов, исследовательский анализ с проверкой свидетельств, работу с инструментами и автономные процессы. Она совместима с llama.cpp и OpenZero, может использоваться через Ollama и OpenAI-совместимый локальный API. Заявлена поддержка работы на CPU; в README приведён ориентир для Intel Core i7-2600: около 2,70 токена/с при обработке промпта и 2,37 токена/с при генерации. Модель относится к классу Gemma 4 E4B, имеет размер файла 5,46 GiB и рассчитана на контекст до 8192 токенов в рекомендованных командах запуска. Указан английский язык. Квантование сочетает тензоры базовой модели Q5_K_M с 66 обученными attention-тензорами в F16. Сильные стороны — автономность поставки, компактность, возможность локального и потенциально более приватного развёртывания, а также ориентация на агентные и инструментальные рабочие процессы. Производительность зависит от оборудования, а приведённый CPU-бенчмарк не является универсальной гарантией скорости. Лицензия указана как other, с названием openzero-community-source-v1; дополнительные условия в предоставленном README не раскрыты.