II.3Рефакторинг, миграция и модернизация

Qwen3.6-35B-A3B-Cerebellum-GGUF — это квантизированная GGUF-версия модели Qwen/Qwen3.6-35B-A3B, разработанной Qwen. Квантизацию выполнил deucebucket с использованием Cerebellum — метода чувствительной к качеству смешанной точности, который назначает разным группам весов разную разрядность. Модель построена по архитектуре MoE с 35 млрд параметров и примерно 3 млрд активных параметров; предназначена для генерации текста, диалогов, программирования и задач рассуждения. Основной рекомендованный вариант занимает 14 ГБ, использует 3,34 бита на вес и рассчитан на эффективную работу с длинным контекстом свыше 160 тысяч токенов. Также доступен вариант v3 размером 11 ГБ с 2,76 битами на вес, ориентированный на минимальное потребление видеопамяти; для него заявлена поддержка обработки изображений через отдельный vision projector mmproj-F16.gguf. Модель запускается в стандартном llama.cpp без специальной модификации. По приведённым локальным измерениям, рекомендованный вариант показывает 90,2% на HumanEval+, 93,3% на HumanEval, 95,8% нормированной точности на ARC-Challenge, 92,3% на HellaSwag и 75% на MMLU-Redux. К сильным сторонам относятся высокая эффективность смешанной квантизации, хорошие результаты в кодировании, длинный контекст и возможность запуска на видеокарте с 24 ГБ памяти. Ограничения связаны с потерями качества, неизбежными при экстремальной квантизации, различиями возможностей вариантов и тем, что заявленные результаты получены в локальном запуске на RTX 3090 и не являются независимой валидацией. Модель распространяется по лицензии Apache-2.0. Для запуска требуются совместимые сборки llama.cpp и, при использовании визуального варианта, отдельный файл vision projector.

Модель ghecko78/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-heretic — текстово дообученная и изменённая с помощью abliteration версия Qwen3.6-35B-A3B, опубликованная на Hugging Face; исходное дообучение выполнил @hesamation. Она предназначена для диалогов с развёрнутыми рассуждениями, программирования, планирования, математических задач и аналитических ответов. Обучение использовало дистилляцию рассуждений, преимущественно полученных от Claude Opus 4.6, а затем модель прошла abliteration, призванную снизить частоту отказов. В основе — мультимодальная MoE-архитектура Qwen3.6 с 35 млрд параметров, из которых активны около 3 млрд; базовая модель принимает изображения, но это дообучение было только текстовым. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 010 000. Карточка приводит небольшой сравнительный тест MMLU-Pro, который автор характеризует как предварительную проверку, а не полноценный бенчмарк. Модель распространяется по лицензии Apache-2.0.

coder3101/Qwen3.8-27B-heretic — дообученная версия Qwen/Qwen3.8-27B, созданная с помощью Heretic v1.2.0 методом abliteration для уменьшения частоты отказов. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, поддерживающая диалог, изображения и видео. По карточке базовой модели, она рассчитана на программирование, профессиональные и исследовательские задачи, а также многошаговое планирование и работу с агентными сценариями. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 000 000; README указывает, что режим рассуждений включён по умолчанию и может настраиваться. В приведённом сравнении модель отказала в 33 случаях из 100 против 92 у исходной версии; это характеризует снижение отказов, но не подтверждает качество ответов для всех запросов. Доступны веса в формате Safetensors для Transformers и совместимых средств инференса. Лицензия — Apache-2.0.

dealignai/Qwen3.8-27B-UNCENSORED-GGUF — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанная Dealign.ai на базе Qwen. Модель распространяется в формате GGUF для llama.cpp и предназначена для генерации текста, программирования, многошагового рассуждения, анализа изображений и видео. Она поддерживает управляемый режим рассуждений с уровнями low, medium и xhigh, а также отключение рассуждений. Архитектура включает 64 слоя: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания; размер скрытого представления — 5120, контекст — до 262 тысяч токенов. Модель поддерживает английский и китайский языки. В каждый вариант GGUF включены native Multi-Token-Prediction head для speculative decoding и vision projector, необходимый для обработки изображений и видео. Доступны варианты от 2- до 8-битного квантования объёмом примерно от 10,5 до 29 ГБ; рекомендован Q4_K_M. Сильные стороны модели — сочетание текстовых, визуальных и видео-возможностей, большой контекст, сохранение способностей к рассуждению и программированию, а также поддержка ускоренной генерации через MTP. Ограничения связаны с потерями качества при более агрессивном квантовании и высокими требованиями к памяти. Это CRACK-abliterated модель с удалёнными отказами и сниженными защитными ограничениями, поэтому она может выполнять запросы, отклоняемые стандартной моделью; авторы позиционируют её для исследований и разрешённого red teaming. Лицензия — Apache-2.0.

casperhansen/deepseek-r1-distill-qwen-32b-awq — это распространённая пользователем casperhansen версия DeepSeek-R1-Distill-Qwen-32B с 4-битным квантованием AWQ. Исходную модель разработала DeepSeek на базе Qwen2.5-32B от команды Qwen компании Alibaba Cloud; она дообучена на 800 тысячах образцов, отобранных с использованием DeepSeek-R1, и предназначена для генерации текста и задач, требующих рассуждений, включая математику, программирование и научные вопросы. Модель является текстовой autoregressive language model с архитектурой Qwen2ForCausalLM и примерно 32 млрд параметров. В конфигурации указаны 64 слоя, 40 attention heads, 8 key-value heads, размер скрытого состояния 5120 и максимальная длина контекста 131072 токена. Репозиторий содержит веса Safetensors в формате AWQ с 4-битными группами размера 128 и типом вычислений bfloat16. Квантование существенно уменьшает требования к памяти и подходит для локального запуска, но может снижать точность по сравнению с исходной полноразмерной моделью; конкретные результаты тестирования этой AWQ-сборки в карточке модели не приведены. Для модели casperhansen указана лицензия MIT. В карточке также отмечается, что исходная DeepSeek-R1-Distill-Qwen-32B поддерживает коммерческое использование, модификацию и создание производных работ, однако при практическом применении следует учитывать условия лицензий исходных компонентов и выбранного программного окружения.

dolphin-2.9.1-mixtral-1x22b-GGUF — это квантизированная версия текстовой генеративной модели Dolphin 2.9.1 Mixtral 1x22B, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp. В качестве базовой модели указана mistral-community/Mixtral-8x22B-v0.1, а исходная модель размещена cognitivecomputations. Квантизация выполнена с использованием imatrix и llama.cpp; доступны варианты от Q8_0 до Q2_K и IQ-квантизации с размером файлов примерно от 6,64 до 23,63 ГБ. Модель предназначена для диалоговой генерации текста, следования инструкциям, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, SystemChat, Locutusque function calling и Agent-FLAN. Заявленный язык — английский. Формат взаимодействия использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются большое базовое семейство Mixtral, широкий набор instruction- и code-oriented данных, а также выбор вариантов квантизации для компромисса между качеством и требованиями к памяти. Более высокие варианты, включая Q6_K и Q5_K_M, заявлены как обеспечивающие высокое качество, тогда как низкобитные варианты экономят память, но заметнее снижают качество. Модель работает только с текстом; сведения о размере контекста и мультимодальности в README не указаны. Распространение разрешено по лицензии Apache-2.0.

TeichAI Gemma 4 26B A4B IT Claude Opus Distill v2 — мультимодальная диалоговая модель, дообученная на базе unsloth/gemma-4-26B-A4B-it с помощью Unsloth. Для дообучения использовались наборы с траекториями рассуждений Claude Opus; версия v2, по карточке модели, меняет параметры обучения и исправляет некоторые циклические или обрывающиеся ответы. Модель предназначена для генерации кода, отладки, планирования архитектуры программ, научного анализа, многошаговых исследовательских запросов и повседневных задач, требующих последовательных рассуждений. Архитектура Gemma 4 поддерживает диалог и обработку изображений; README также описывает обработку видео кадрами. Метаданные указывают формат safetensors и лицензию Apache-2.0. Карточка заявляет о применении модели в Cline, Codex и Cursor для создания веб-приложений и скриптов, однако сравнительные бенчмарки пока не приведены. Возможности базовой Gemma 4 не следует автоматически считать проверенными именно для этой дообученной версии; заявленные качества рассуждений основаны на описании автора.

GigaChat 3 Ultra Preview — флагманская instruct-модель семейства GigaChat, представленная в карточке как разработка команды GigaChat. Это большая языковая модель для диалогов и генерации текста, включая задачи по коду и математике. В README описана MoE-архитектура с 702 млрд общих и 36 млрд активных параметров, механизмами Multi-head Latent Attention (MLA) и Multi-Token Prediction (MTP). Метаданные каталога указывают архитектуру DeepSeek-V3 и 39,4 млрд параметров; эти сведения расходятся с описанием архитектуры и размера в README. Заявлены обучение на данных десяти языков, включая китайский, арабский, узбекский и казахский, а также русские и английские теги карточки. Контекст составляет 131 072 токена. Модель ориентирована на кластерное и on-prem-развёртывание; README указывает поддержку BF16 и отдельную FP8-сборку, а также движков vLLM, SGLang, LMDeploy и TensorRT-LLM. MLA предназначен для снижения затрат на KV-кэш, MTP — для ускорения генерации. Лицензия — MIT. Это preview-версия; для развёртывания требуются значительные вычислительные ресурсы.

TeichAI выпустила GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill — дообученную на небольшом наборе примеров рассуждений Claude Opus 4.5 модель GLM-4.7-Flash. Это текстовая модель семейства GLM-4 MoE Lite с 4,1 млрд параметров и контекстом до 202 752 токенов; она поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста с упором на сложные рассуждения, программирование, научные вопросы и глубокий поиск. В README приведено сравнение с базовой моделью по нескольким бенчмаркам: результаты улучшились на части тестов и снизились на других, поэтому преимущество зависит от задачи. Для запуска автор рекомендует использовать параметры сэмплирования, указанные в карточке базовой модели. Модель распространяется по лицензии Apache-2.0. README содержит несогласованные сведения о квантизации: в конфигурации бенчмарков указано 4-bit, тогда как метаданные перечисляют формат safetensors без подтверждения квантованных весов.

GLM-Z1-32B-0414 — языковая модель с 31,6 млрд параметров от Zhipu AI (zai-org), созданная на базе GLM-4-32B-0414. Это плотная autoregressive-модель семейства GLM-4 для генерации текста и диалогов, обученная рассуждению и дообученная с помощью reinforcement learning на задачах математики, программирования и логики. Поддерживает китайский и английский языки; родной контекст — 32 768 токенов. Модель предназначена для сложных задач, где полезны пошаговые рассуждения: решения математических задач, помощь с кодом, логический анализ, ответы на вопросы и подготовка отчётов. Карточка также указывает интерфейс для вызова инструментов. Для входов длиннее 8 192 токенов README рекомендует при необходимости включать YaRN; это может немного ухудшить качество на коротких текстах. В истории диалога следует сохранять только видимый пользователю ответ, поскольку модель использует скрытое рассуждение. Модель распространяется по лицензии MIT.

unsloth/gpt-oss-20b-unsloth-bnb-4bit — 4-битная квантованная версия open-weight языковой модели gpt-oss-20b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, задач рассуждения, локального и специализированного использования, а также агентских сценариев разработчиков, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит 21 млрд параметров, из которых активно используется 3,6 млрд. Вариант распространяется в формате 4-bit BnB; исходная модель использует нативную MXFP4-квантизацию для MoE-слоёв и рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемая интенсивность рассуждений — низкая, средняя и высокая. Модель обучена для работы с форматом ответов harmony, который необходимо применять корректно. Данные о языках и размере контекста в карточке не указаны. К сильным сторонам относятся сниженные требования к памяти, меньшая задержка по сравнению с gpt-oss-120b, возможность тонкой настройки и широкий набор агентских возможностей. Ограничения включают необходимость использования harmony-формата и то, что цепочка рассуждений, доступная модели, не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

K2-Horizon-32B MLX 4-bit — 4-битная квантованная версия плотной авторегрессионной языковой модели IFM/K2-Horizon-32B, разработанной Institute of Foundation Models. Репозиторий преобразует исходную модель в формат MLX для запуска на компьютерах Apple Silicon; заявленный размер после квантования — около 18 ГБ. Модель содержит около 31,2 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для генерации текста и диалогов с длинным контекстом, рассуждений, программирования и агентных задач. README описывает её как reasoning-модель и приводит результаты на tau3 Banking Agentic, Terminal-Bench 2.1 и SciCode. Для запуска указана библиотека mlx-lm; для поддержки специфичных форматов размышлений и вызовов инструментов README требует oMLX версии 0.6.4 или новее с патчем K2-Horizon. Это квантованная производная исходной модели, а не отдельное дообучение: README называет её равномерной 4-битной квантовкой IFM/K2-Horizon-32B, хотя метаданные помечают связь как finetune. В карточке указано, что опубликован Stage 1 checkpoint и ожидается финальная версия с улучшенными результатами, поэтому приведённые показатели следует считать предварительными. Лицензия — Apache-2.0.

K2-Horizon-7B-GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-7B, разработанной IFM. Это плотная decoder-only модель примерно на 7 млрд параметров, предназначенная для генерации текста, рассуждений, программирования, работы с длинным контекстом и использования инструментов. Модель поддерживает английский язык и относится к текстовым моделям без мультимодального или визуального входа. Исходная модель имеет нативное контекстное окно до 524 288 токенов (512K), что делает её подходящей для анализа больших документов и других задач с длинным контекстом. Доступны варианты квантизации Q4_0, Q4_K_M, Q4_K_M Selective, Q5_K_M, Q6_K и Q8_0 размером примерно от 5,34 до 9,57 ГБ. Вариант Selective сохраняет тензоры проекций внимания Q/K/V/O в формате Q6_K поверх базовой Q4_K_M. Для запуска требуется сборка llama.cpp с поддержкой архитектуры K2 Horizon, в частности форк MBZUAI-IFM до появления поддержки в upstream. Файлы содержат совместимый с llama.cpp шаблон чата; доступны форматы вызова инструментов xml, json и xml_typed. Ограничения включают зависимость от специализированного runtime, потребность в значительном объёме памяти при использовании контекста 512K и возможные потери качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.

LLaDA2.0-mini — диффузионная языковая модель с архитектурой Mixture-of-Experts (MoE), разработанная InclusionAI и дообученная для следования инструкциям. Она предназначена для диалогов, генерации кода, математических рассуждений и сценариев с вызовом инструментов. По карточке модели, в ней 16 млрд параметров, из которых около 1,4 млрд активируются при инференсе; архитектура включает 20 слоёв, использует RoPE и словарь из 157 184 токенов. Контекст составляет 32 768 токенов. Модель поставляется в формате Safetensors и поддерживается библиотекой Transformers. В README заявлены сильные результаты в генерации кода и сложных рассуждениях; автор рекомендует температуру 0,0, длину блока 32 и 32 шага, отмечая, что повышенная температура может вызывать смешение языков и снижать качество. Лицензия — Apache-2.0.

kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

MiniMax-M3 — мультимодальная модель семейства MiniMax, опубликованная пользователем sdlangshaw; в README оригинальная разработка приписана MiniMax. Она предназначена для диалогов с текстом и изображениями, анализа видео, программирования и агентных задач. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд, и использует разреженное внимание MiniMax Sparse Attention (MSA). Заявлена длина контекста до 1 млн токенов; README сообщает о повышении скорости обработки длинного контекста относительно M2. Модель поддерживает текстовые и визуальные сценарии, включая видео, и рассчитана на длинные многошаговые задачи: например, разработку кода и совместную работу с агентом. Для использования README указывает MiniMax Agent и MiniMax API, а также локальное развёртывание из репозитория MiniMaxAI/MiniMax-M3. В репозитории sdlangshaw/MiniMax-M3 представлены веса safetensors для Transformers. Лицензия указана как other, без уточнения её условий в доступных данных. Заявления о производительности и возможностях приведены в README модели; они не сопровождаются здесь независимыми результатами проверки.

NVIDIA Nemotron-3-Nano-30B-A3B-BF16 — языковая модель общего назначения, обученная с нуля NVIDIA Corporation для диалогов, рассуждений и выполнения инструкций. Она предназначена для разработчиков чат-ботов, агентных систем, RAG-приложений и других решений на базе ИИ; также подходит для задач программирования и многоязычного общения. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE и 6 слоёв внимания. Всего в ней 30 млрд параметров, из которых активны 3,5 млрд на токен; веса представлены в BF16. Метаданные указывают 1,9 млрд параметров. Контекст в конфигурации Hugging Face составляет 262 144 токена; README сообщает о поддержке до 1 млн токенов при соответствующих настройках и повышенных требованиях к видеопамяти. Модель принимает текст и выдаёт текст, поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Режим рассуждений настраивается через шаблон чата; также заявлен интерфейс вызова инструментов. Модель заявлена как пригодная для коммерческого использования. В метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Русский язык среди поддерживаемых не указан; возможности рассуждения могут снижаться при отключении промежуточного этапа рассуждений, а использование длинного контекста требует больше видеопамяти.

OpenAI o3 — универсальная модель, предназначенная для решения задач в разных областях. Она ориентирована на математику, естественные науки, программирование и рассуждения по визуальным данным, а также подходит для технического письма и выполнения инструкций. Метаданные каталога относят модель к задаче image-text-to-text; описание указывает на работу с визуальной информацией, но не уточняет архитектуру, размер, контекст, языки или лицензию.

Карточка модели Juanpa2414/Qwen3-235B-A22B-Thinking-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-235B-A22B-Thinking-2507, поэтому описание составлено по ней. Qwen3-235B-A22B-Thinking-2507 — большая языковая модель семейства Qwen3 от команды Qwen, построенная на архитектуре причинной MoE-модели. В ней 235 млрд параметров всего, из которых активируются 22 млрд; модель имеет 94 слоя и использует 8 из 128 экспертов на шаг. Она работает только в режиме рассуждения и рассчитана на генерацию текста и диалоговое взаимодействие, включая использование инструментов. Модель предназначена для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям и работы с длинными текстовыми контекстами. Нативная длина контекста составляет 262 144 токена. По сравнению с предыдущей версией Qwen3-235B-A22B-Thinking в карточке заявлены улучшения качества рассуждений и общих возможностей; независимые результаты в предоставленных данных не подтверждены. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache-2.0. Режим рассуждения увеличивает длину ответов и может быть избыточен для простых запросов; предоставленные данные не описывают конкретные ограничения качества или перечень поддерживаемых языков.

Qwen3-30B-A3B-Base — базовая языковая модель семейства Qwen3, опубликованная Unsloth на Hugging Face на основе Qwen/Qwen3-30B-A3B-Base. Это причинная MoE-модель для генерации и продолжения текста, в том числе как основа для дообучения под конкретные задачи. В README указано 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; архитектура включает 48 слоёв, 128 экспертов и 8 активируемых экспертов. Контекст — 32 768 токенов. Модель обучалась на корпусе Qwen3 с данными по 119 языкам, включая программирование, STEM, рассуждения и книги. Она рассчитана на многоязычную генерацию, рассуждения, работу с кодом и длинными текстовыми контекстами. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру qwen3_moe. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-NVFP4 — это посттренированная квантованная версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen и опубликованной пользователем ykarout. Модель представлена в формате Hugging Face Transformers и предназначена для генерации текста, программирования, агентных сценариев и обработки задач с изображениями благодаря архитектуре с vision encoder. Модель использует причинную языковую архитектуру с Mixture of Experts: всего 35 млрд параметров, из которых активируется около 3 млрд. Она включает 40 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общего активируемого эксперта, а также сочетает Gated DeltaNet и Gated Attention. Квантование выполнено в формате NVFP4 с 4-битными весами и FP8 KV-кэшем; конфигурация оптимизирована для архитектуры NVIDIA Blackwell. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 010 000 токенов. Поддерживаемые языки в README не указаны. Сильными сторонами модели заявлены агентное программирование, работа с интерфейсами и репозиториями, сохранение контекста рассуждений между сообщениями и высокая эффективность за счёт MoE-архитектуры и квантования. Ограничения включают зависимость производительности от совместимого программного и аппаратного окружения, особенно при использовании Blackwell-оптимизаций, а также возможные потери качества, характерные для 4-битного квантования. В README приведены результаты SWE-bench, включая 73,4 для SWE-bench Verified и 67,2 для SWE-bench Multilingual, но полная методика оценки не описана. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-UD-MLX-3bit — это 3-битно квантованный вариант модели Qwen3.6-35B-A3B, подготовленный Unsloth в формате MLX на базе модели Qwen. Модель предназначена для генерации текста, программирования, агентных сценариев и задач, связанных с анализом изображений, поскольку включает языковую модель с vision encoder. В README отдельно отмечены улучшения для frontend-разработки, рассуждений на уровне репозитория, сохранения контекста рассуждений и вызова инструментов. Архитектура представляет собой causal language model с Mixture of Experts: всего 35 млрд параметров, из которых активируются 3 млрд. Модель содержит 40 слоёв, 256 экспертов с маршрутизацией к 8 экспертам и одним общим экспертом, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с заявленным расширением до 1 010 000 токенов. Поддержка языков в предоставленных данных не указана. К сильным сторонам относятся высокая вычислительная эффективность MoE-архитектуры, большой контекст, возможности работы с изображениями и специализация на кодинге и агентных рабочих процессах. Ограничения связаны с 3-битным квантованием и зависимостью от совместимого стека MLX; влияние квантования на качество в README не описано. Модель распространяется по лицензии Apache-2.0.

mergekit-community создал эту плотную авторегрессионную языковую модель объединением методом TIES инструктивной Qwen2.5-7B-Instruct с моделями Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Она распространяется в формате safetensors и работает с библиотекой Transformers. Модель предназначена для диалогов и генерации текста с акцентом на программирование и математические задачи; метаданные также указывают интерфейс для вызова инструментов. Объединение переносит возможности трёх исходных инструктивных моделей в один чекпойнт, однако README не приводит сравнительных оценок качества или результатов тестирования. Языки в предоставленных данных не обозначены. Лицензия в предоставленных данных не указана.

Verkiki/Qwen3.8-27b-Fable5-Distill-Abliterated-GGUF — производная модель, созданная на основе Blackfrost-AI Qwen3.8-27B-ABLITERATED-BF16 с применением нативного LoRA-адаптера TeichAI Qwen3.8-27B-Fable-Distill-LoRA. Модель относится к архитектуре qwen3_5, имеет класс размера 27B и распространяется в формате GGUF с квантизацией IQ4_XS и importance matrix, рассчитанной после объединения компонентов. Она предназначена для локального использования в задачах планирования, программирования, многошагового рассуждения, технического анализа и агентских рабочих процессов, включая работу с инструментами и многофайловыми проектами. Fable5-Distill ориентирован на декомпозицию задач, удержание инструкций, последовательное планирование и более агентное поведение. Для родительской Fable-модели TeichAI заявлены улучшения на ARC Challenge, ARC Challenge Easy и BoolQ, однако эти результаты не являются измерениями именно финальной квантизированной сборки. Поддерживаются режимы thinking с параметрами reasoning_effort low, medium и xhigh; шаблон по умолчанию использует xhigh. Сочетание с аблитерированной базой должно снижать склонность к отказам, но итоговые поведение и качество следует оценивать отдельно. К ограничениям относятся отсутствие в предоставленных данных точного размера контекстного окна, перечня поддерживаемых языков и подтверждения мультимодальных возможностей, несмотря на соответствующие метки. IQ4_XS уменьшает требования к памяти по сравнению с BF16 и Q8, но может снижать точность относительно исходных весов. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B Hi-Fi (fraQtl) — это текстовая GGUF-версия модели Qwen3.8-27B, подготовленная участником сообщества fraQtl на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, включая задачи программирования, математики, общие текстовые сценарии и работу с длинным контекстом. Визуальная башня исходной модели не конвертирована, поэтому мультимодальные возможности в этой сборке отсутствуют. Модель использует квантизацию Q4_K_M с эффективностью около 4,8 бит на параметр и занимает примерно 16,5 ГБ, что ориентирует её на системы класса Snapdragon X-Elite и AI-PC, а не на смартфоны. Заявлен нативный контекст до 262 144 токенов; тестирование извлечения информации подтверждено для последовательностей длиной до 131 072 токенов. По данным README, по сравнению с эталонными сборками того же класса она обеспечивает более близкое к исходным весам поведение на задачах кода и математики, а также сопоставимые результаты на GSM8K и MATH-500. Ограничения включают возможное небольшое ухудшение качества: perplexity на Wikitext-2 выше на 0,7%, а совпадение ответов с исходной моделью в общих задачах ниже на 0,2 процентного пункта. Поддерживаемые языки отдельно не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-YMQ-MTP-GGUF — семейство GGUF-квантизаций модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленное проектом ZeroDigest с использованием собственного YMQ-Compiler v2.0. Модель предназначена для генерации текста, программирования и агентных сценариев, включая выполнение API-задач в инструментах вроде RooCode и Aider. Это плотная модель на 27 млрд параметров, преобразованная из исходных BF16-файлов в смешанные по точности варианты с архитектурно-зависимой квантизацией. Сборка ориентирована на поддержку параллельного multi-token prediction (MTP) и speculative decoding, а также на работу с большими контекстами. В README упоминаются компоненты и методы, связанные с Mamba, SSM и AutoRound, однако точный размер контекстного окна, список языков и полный набор поддерживаемых модальностей не указаны; по представленным данным модель является текстовой. Доступно несколько пресетов размером примерно от 9,3 до 17 ГБ, рассчитанных на видеокарты с 12 или 16 ГБ памяти и на разные компромиссы между компактностью и качеством. Более компактные варианты подходят для ограниченной VRAM и коротких однопользовательских запросов, но могут проявлять забывание контекста, циклы форматирования и повышенный шум квантизации. Более крупные пресеты обеспечивают лучшую стабильность логики, форматирования и многошаговой работы, но требуют больше памяти. Лицензия — Apache-2.0.

Atlas-Flash — дообученная языковая модель семейства Atlas от aayanmishra-ml, созданная на базе DeepSeek-R1-Distill-Qwen-7B. Это плотная авторегрессионная модель Qwen2 с 7,1 млрд параметров и контекстом до 131 072 токенов; она предназначена для генерации текста и диалога, программирования, математических и других STEM-задач. В карточке заявлены генерация и объяснение кода, отладка, решение задач с рассуждениями, многоходовые беседы и помощь в обучении. Модель принимает текст и генерирует текст; метаданные также указывают интерфейс вызова инструментов. В карточке заявлена поддержка английского, китайского, русского и других языков. Для обучения указаны наборы BAAI/TACO, codeparrot/apps и GammaCorpus-v1-70k-UNFILTERED, а также синтетические данные. Репозиторий содержит веса в формате Safetensors, модель использует Transformers и распространяется по лицензии MIT. Карточка предупреждает о возможных смещениях, ошибках в узкоспециализированных областях и зависимости качества ответов от формулировки запроса; заявленный контекст ограничен 131 072 токенами.

Это конвертированная в формат MLX версия DeepSeek-R1-Distill-Qwen-32B, подготовленная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров; для генерации текста поддерживается контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста и решения задач рассуждения, в том числе по математике и программированию. Репозиторий содержит веса safetensors в формате MLX. Лицензия в предоставленных данных не указана.

Dolphin 2.9.2 Mixtral 8x22B GGUF — это квантизированная версия языковой модели Dolphin 2.9.2, созданная сообществом cognitivecomputations на базе mistral-community/Mixtral-8x22B-v0.1. Репозиторий bartowski содержит варианты модели в формате GGUF, подготовленные с помощью llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста в диалогах, выполнения инструкций, программирования, математических задач, function calling и агентских сценариев. В обучении использовались наборы данных для чат-взаимодействия, кода, обратной связи по программированию, математики, системных инструкций и работы агентов. Указан английский язык, а формат запросов основан на ChatML с ролями system, user и assistant. Архитектура и максимальный размер контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_M размером примерно от 32,73 до 149,42 ГБ. Более качественными и рекомендуемыми названы Q5_K_M, Q4_K_M и IQ4_XS; варианты с более низкой разрядностью требуют меньше памяти, но могут заметно уступать по качеству. Модель предназначена для запуска через совместимые инструменты, включая llama.cpp, однако большие размеры файлов предъявляют высокие требования к оперативной памяти и видеопамяти. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость качества от выбранной квантизации и значительные требования к ресурсам; сведения о специализированных мультимодальных возможностях и поддержке других языков отсутствуют.

Это экспериментальная дообученная версия Gemma 4 26B A4B IT, подготовленная glyphsoftware с помощью Unsloth. Модель обучена методом supervised fine-tuning на примерно 8,7 тыс. примеров рассуждений, дистиллированных из Claude Opus 4.6 и 4.7. Она предназначена для диалогов и генерации текста с упором на многошаговое рассуждение, планирование и самопроверку; поддерживает интерфейс вызова инструментов. Основа — мультимодальная архитектура Gemma4ForConditionalGeneration с экспертной архитектурой MoE. Базовая модель принимает текст, изображения, аудио и видео; README заявляет контекст до 262 тыс. токенов. Метаданные указывают формат safetensors и лицензию GPL-3.0. Обучающие примеры акцентируют математику, код, логику и разбиение задач на шаги. Мультимодальные возможности унаследованы от базовой модели и специально не улучшались этим дообучением. Небольшой обучающий набор скорее влияет на стиль рассуждений, чем обеспечивает широкий прирост возможностей; возможны ошибки и перенос особенностей стиля и отказов Claude. Дополнительная настройка безопасности не проводилась, поэтому для высокорисковых сценариев нужны проверка человеком и собственные защитные меры.