II.1Анализ требований и архитектура ПО

unsloth/Qwen3.6-27B-UD-MLX-4bit — 4-битная MLX-квантизированная версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для работы с текстом и изображениями, включая агентное программирование, фронтенд-разработку, анализ репозиториев и итеративные задачи кодинга. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру с блоками Gated DeltaNet, Gated Attention и FFN. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. README не указывает полный перечень поддерживаемых языков, однако модель позиционируется для многошаговой работы с кодом и сохранения контекста рассуждений между сообщениями. 4-битное представление снижает требования к памяти и подходит для запуска через MLX на совместимом оборудовании, но может уступать полноразмерным весам по точности. Сильными сторонами являются большой контекст, поддержка визуально-текстовых сценариев, задачи уровня репозитория и улучшенная работа в агентных coding-сценариях. Ограничения связаны с необходимостью MLX-совместимой среды и возможными потерями качества из-за квантизации; подробные сведения о языках, системных требованиях и результатах большинства тестов в предоставленном фрагменте README отсутствуют. Лицензия — Apache-2.0.

QuantTrio/Qwen3.6-35B-A3B-AWQ — квантованная версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen. Репозиторий содержит веса в формате Hugging Face Transformers и подготовлен с использованием data-free-квантизации AWQ без калибровочного набора данных. Указана лицензия Apache 2.0, унаследованная от базовой модели Qwen/Qwen3.6-35B-A3B. Модель предназначена для генерации текста, программирования, агентных сценариев и работы с изображениями благодаря архитектуре causal language model с vision encoder. Она ориентирована, в частности, на repository-level reasoning, frontend-разработку, использование инструментов и сохранение контекста рассуждений между сообщениями. Для запуска рекомендуется vLLM; в README также заявлена совместимость с Transformers, SGLang и KTransformers. Архитектура включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв, Mixture of Experts с 256 экспертами, 8 маршрутизируемыми и одним общим активным экспертом, а также компоненты Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Размер файлов модели — около 24 ГиБ. README не приводит полный перечень поддерживаемых языков и подробные результаты тестирования. Ключевые ограничения связаны с требованиями к совместимым версиям vLLM и Transformers, CUDA 12.8 или 13.0, а также с необходимостью корректной настройки expert parallelism при распределённом запуске.

unsloth/Qwen3.6-35B-A3B-NVFP4-Fast — квантованный чекпойнт семейства Qwen3.6, разработанный Unsloth на базе Qwen/Qwen3.6-35B-A3B. Это каузальная языковая модель с vision encoder, предназначенная для генерации текста, мультимодальных задач и особенно для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория. Модель поддерживает сохранение контекста рассуждений из предыдущих сообщений. Языки в README не указаны. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена; предусмотрены 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий. Архитектура включает Gated DeltaNet и Gated Attention, 40 слоёв, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. Чекпойнт содержит модуль Multi-Token Prediction, который может использоваться для ускорения декодирования. Квантование выполнено в формате NVFP4 и откалибровано на смеси наборов Unsloth и UltraChat. К сильным сторонам относятся сниженные требования к видеопамяти, заявленная совместимость с GPU от 32 ГБ, высокая скорость инференса в рекомендованных конфигурациях vLLM и результаты, близкие к FP8 и BF16 на приведённых тестах MMLU-Pro, GPQA и AIME 2025. Ограничения связаны с потерями точности и особенностями производительности, возможными из-за NVFP4-квантования, а также с зависимостью скорости от совместимого оборудования и backend. README не приводит подробных данных о мультимодальных возможностях, языках и расширенной длине контекста. Модель распространяется по лицензии Apache-2.0. Веса и конфигурации представлены в формате Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — языковая модель в формате GGUF, разработанная trinityomni на основе модели DavidAU Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking. Согласно README, модель расширена из Qwen3.6 27B до 40 млрд плотных параметров, имеет 96 слоёв и поддерживает контекст до 256K токенов. Обучение и доработка выполнялись с использованием Unsloth, датасетов с высокоуровневыми рассуждениями, а также наборов Deckard/PDK, ориентированных на характер, интеллект, глубину, наблюдательность и стиль ответа. Модель предназначена для универсального применения: диалогов, сложных рассуждений, программирования, математики, решения задач, творческого письма, генерации сюжетов и ролевых сценариев. Заявлены английский и китайский языки. Поддерживается переменная длина рассуждений: для простых задач модель должна формировать более короткие рассуждения, а для сложных — более подробные. README также заявляет поддержку изображений при использовании совместимого mmproj-файла, что соответствует сценарию image-text-to-text. К сильным сторонам относятся большой контекст, высокая производительность в задачах рассуждений и письма, ориентированность на длительные диалоги, код и математику, а также специальные NEO-CODE-Di-IMatrix-MAX-квантизации, оптимизированные по результатам сравнений с полной точностью BF16. Ограничением является необходимость подбирать подходящий GGUF-квант и, для работы с изображениями, отдельно устанавливать mmproj. Модель заявлена как uncensored и unfiltered, поэтому она может генерировать потенциально небезопасный или NSFW-контент. Лицензия указана как Apache-2.0.

Qwen3.8-27B-Brainwaves-1M-qx86-hi-mlx — экспериментальная объединённая модель, разработанная независимой AI-лабораторией NightmediaAI (Монтана, США). Она создана на основе нескольких моделей семейств Qwen3.6 и Qwen3.8, включая Wichtel-Qwen3.6-27B, Qwen3.8-27B-heretic-ara и варианты Cold Fusion и GAIN. Модель содержит около 27 миллиардов параметров и распространяется в формате MLX с квантизацией qx86-hi. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, исследовательских и математических задач, а также творческого письма, сюжетной генерации и ролевых сценариев. В метаданных указаны английский, китайский, японский и испанский языки. Заявлена поддержка контекстных окон до 1 миллиона токенов; конфигурацию RoPE можно изменить на 512 тысяч, 1 миллион или вернуть к стандартным 256 тысячам токенов. Вариант qx64-hi также предоставлен для экспериментальной работы с контекстом до 2 миллионов токенов. По приведённым тестам модель показывает лучшие результаты по ряду бенчмарков и меньшую perplexity по сравнению с базовой Qwen3.8-27B. Для конфигурации qx86-hi указаны пиковое потребление памяти около 33 ГБ и скорость около 171 токена в секунду, однако фактические показатели зависят от оборудования и настроек. Это экспериментальный merge, поэтому поведение различных квантизаций может отличаться, а заявленные сверхдлинные контексты требуют дополнительной проверки. Лицензия — Apache-2.0.

Qwen3-Next-80B-A3B-Thinking-FP8 — языковая модель семейства Qwen3-Next, разработанная командой Qwen. Это FP8-квантованный checkpoint модели Qwen3-Next-80B-A3B-Thinking для генерации текста, сложных рассуждений, программирования, агентских сценариев и задач с длинным контекстом. Модель поддерживает только режим thinking и ориентирована прежде всего на высокосложные задачи рассуждения. Модель имеет архитектуру causal language model с гибридным вниманием, сочетающим Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Общее число параметров составляет 80 млрд, из них 3 млрд активируются при обработке токена; модель содержит 48 слоёв и 512 экспертов, из которых активируются 10, плюс один общий эксперт. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Используется fine-grained FP8-квантизация с размером блока 128. Модель обучалась на 15 трлн токенов и дополнительно проходила post-training. Сильные стороны модели — высокая параметрическая эффективность, сниженные вычислительные затраты на токен, потенциально высокая скорость инференса на длинных контекстах и хорошие результаты в задачах знаний, математики, программирования, следования инструкциям и использования инструментов. Ограничение заключается в поддержке только thinking-режима; модель может генерировать очень длинные рассуждения, поэтому она особенно предназначена для сложных задач, а не для минимально задерживаемых ответов. Приведённые в README результаты получены для исходной модели в формате bfloat16 до FP8-квантизации. Лицензия — Apache-2.0.

Qwen Plus 0728 — гибридная модель с рассуждением от команды Qwen, основанная на фундаментальной модели Qwen3. Она предназначена для генерации текста и решения задач, требующих рассуждений. Контекст модели составляет 1 миллион токенов; заявлен баланс производительности, скорости и стоимости. Модель подходит для диалогов, анализа длинных материалов и ответов на вопросы по большим текстовым контекстам. README не приводит подробностей об архитектуре, поддерживаемых языках или лицензии, поэтому эти характеристики нельзя уточнить по имеющимся данным.

QwQ-32B-AWQ — 4-битная AWQ-квантизированная версия reasoning-модели семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста и решения сложных задач, где важны пошаговое рассуждение и повышенная точность, включая математические задачи, вопросы с вариантами ответа, диалоговые сценарии и другие задачи, требующие анализа. Она основана на Qwen2.5 и обучалась с использованием предварительного обучения, supervised fine-tuning и reinforcement learning. Это каузальная языковая модель с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещений в QKV-проекциях внимания. Модель содержит около 32,5 млрд параметров, из которых 31 млрд не относятся к эмбеддингам, 64 слоя и механизм GQA с 40 головами для Q и 8 для KV. Заявленная длина контекста составляет до 131 072 токенов, однако для входов длиннее 8192 токенов рекомендуется включать YaRN. В карточке указаны поддержка английского языка и текстовая модальность; модель доступна для запуска через совместимые инструменты экосистемы Hugging Face и рекомендуется к развёртыванию с vLLM. Сильными сторонами модели являются ориентация на рассуждение, конкурентоспособность с современными reasoning-моделями сопоставимого класса и сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможные повторы при жадной декодировке, необходимость подбора параметров sampling и потенциальное ухудшение производительности на коротких текстах при статическом YaRN. Модель распространяется по лицензии Apache-2.0.

CultriX/SeQwence-14Bv3 — объединённая модель семейства Qwen2, созданная CultriX методом DARE TIES с помощью mergekit. В качестве основы использована CultriX/SeQwence-14Bv1, также в объединение вошли CultriX/SeQwence-14Bv2 и CultriX/Qwestion-14B. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Она содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель принимает текст и генерирует текст. Языковая поддержка отдельно не перечислена. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-UD-2.0-GGUF — квантизированная GGUF-версия модели, опубликованная mfielding92 на основе дообученной модели hesamation Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled. Квантизация выполнена с использованием рецептов Unsloth Dynamic 2.0, imatrix и переопределений типов тензоров в llama.cpp. Базовая модель основана на архитектуре Qwen3.6 с разреженной Mixture-of-Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке каждого токена, 256 экспертов и 8 маршрутизируемых плюс 1 общий активный эксперт. Модель предназначена для генерации текста, диалогов, рассуждений, агентного программирования и решения сложных задач в длинном контексте. Дообучение проводилось на текстовых данных с дистилляцией цепочек рассуждений, преимущественно связанных с Claude Opus 4.6, поэтому модель ориентирована на более структурированные рассуждения и стабильную работу с многошаговыми задачами. Указан английский язык. Хотя базовая архитектура включает vision encoder, это дообучение не использовало изображения или видео, поэтому мультимодальные возможности данной версии не подтверждены. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов согласно описанию базовой модели. Для большинства пользователей рекомендован вариант UD-Q4_K_XL как баланс качества и размера; также доступны варианты UD-Q5_K_M, UD-Q3_K_XL и UD-Q2_K_XL с разным уровнем сжатия. В ограниченной проверке MMLU-Pro модель получила 75,71% exact match на 70 вопросах, однако этот результат заявлен как сравнительный smoke-тест, а не полноценная оценка. Модель распространяется по лицензии Apache-2.0.

WizardLM-2 7B — плотная авторегрессионная языковая модель семейства Mistral, разработанная командой WizardLM в Microsoft AI и дообученная на базе mistralai/Mistral-7B-v0.1 с использованием синтетической обучающей системы. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 32 768 токенов. Модель предназначена для диалогов и выполнения сложных инструкций, включая рассуждения, написание текстов, программирование, математические задачи и многоязычные запросы. Авторы позиционируют версию 7B как быструю модель, показывающую сильные результаты для своего размера; заявленные оценки основаны на MT-Bench и сравнении предпочтений людей. Модель распространяется под лицензией Apache 2.0. Карточка не приводит конкретный перечень поддерживаемых языков и не описывает отдельные механизмы вызова инструментов; качество ответов и результаты бенчмарков следует оценивать для целевых задач самостоятельно.

XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

Карточка модели gdorane01/XORTRON.CriminalComputing.larger на Hugging Face совпадает с карточкой darkc0de/XORTRON.CriminalComputing.LARGE.2026.3, поэтому описание составлено по ней. XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.

AquilaChat2-34B-16K — диалоговая языковая модель BAAI из серии Aquila2, предназначенная для генерации ответов и работы с длинными текстами. Модель основана на плотной авторегрессионной архитектуре AquilaForCausalLM и содержит 33,1 млрд параметров; максимальная длина контекста — 16 384 токена. Доступны веса в формате PyTorch. Модель подходит для диалогов, генерации и суммирования длинных текстов, а также выполнения инструкций в обычных сценариях общения. В README описана версия V1.2, в которой улучшены синтез длинных текстов и выполнение инструкций по сравнению с V1. Для модели указана лицензия other; конкретные условия следует сверять с лицензией репозитория.

AriannaV4 — мультимодальная модель-ассистент, созданная SurgeFF на базе google/gemma-4-12B с объединёнными весами Aria v4. Это самостоятельная модель для локального запуска; доступны веса в формате safetensors и варианты GGUF разной точности для llama.cpp, Ollama и LM Studio. Архитектура относится к Gemma 4 Unified, размер базовой модели — 12 млрд параметров. Модель предназначена для диалогов, рассуждений, работы с текстом и кодом, математических задач, выбора инструментов, а также понимания изображений, аудио и видео. Для голосового ввода и вывода в реальном времени, генерации изображений и видео и получения эмбеддингов README описывает отдельные подключаемые компоненты: эти возможности не встроены в веса AriannaV4. Репозиторий предназначен для локального развертывания и позиционируется автором как production-ассистент. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные работы на тех же условиях и запрещает коммерческое использование.

bagel-7b-v0.1-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и jondurbin/bagel-7b-v0.1 методом SLERP; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Контекст составляет до 32 768 токенов. В карточке указана лицензия Apache-2.0. Языки модели в предоставленных данных не перечислены.

win10/DeepSeek-R1-Distill-sthenno-14b-0121 — объединённая языковая модель на 14 млрд параметров, созданная с помощью mergekit методом TIES на основе sthenno-com/miscii-14b-1225 и объединяющая веса DeepSeek-R1-Distill-Qwen-14B и tempesthenno-ppo-ckpt40. Она использует архитектуру Qwen2ForCausalLM, распространяется в формате safetensors и рассчитана на генерацию текста и диалоги; заявленная длина контекста — 131072 токена. Модель подходит для диалоговых сценариев и генерации ответов, включая задачи рассуждения, математики и программирования, указанные в описании базовой модели каталога. README приводит конфигурацию слияния и тип данных float16. Репозиторий не сообщает отдельные результаты оценки качества или подробные ограничения. Лицензия в предоставленных данных не указана.

Gemma 2 9B Instruct — языковая instruction-tuned модель Google из семейства Gemma, распространяемая в формате GGUF для локального запуска. Квантизация выполнена bartowski на основе llama.cpp; исходная модель — google/gemma-2-9b-it. Модель предназначена для диалогов, генерации и анализа текста, работы с кодом, математическими задачами и сценариев общего назначения. Модель содержит около 9 миллиардов параметров и обучалась на 8 триллионах токенов, включая преимущественно англоязычные веб-документы, код и математические материалы. Большой словарный запас способствует работе с многоязычным текстом и программированием, однако README не указывает точный набор поддерживаемых языков и размер контекстного окна. Формат GGUF и относительно небольшой размер делают модель подходящей для систем с ограниченными ресурсами, но качество и скорость зависят от выбранного уровня квантизации и оборудования. Для корректной работы в LM Studio 0.2.27 или новее рекомендуется выбрать шаблон «Google Gemma Instruct». Системные сообщения не поддерживаются. Модель может создавать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face необходимо принять условия этой лицензии.

LilaRest/gemma-4-31B-it-NVFP4-turbo — репакованная и оптимизированная версия Gemma 4 31B IT, основанная на моделях Google gemma-4-31B-it и NVIDIA Gemma-4-31B-IT-NVFP4. Модель предназначена для генерации текста, диалоговых приложений, ответов на вопросы и других задач, поддерживаемых text-generation. Это текстовая версия: веса и энкодеры для обработки видео и аудио удалены. Модель использует квантизацию NVFP4 и рассчитана на GPU NVIDIA с архитектурой Blackwell, включая RTX 5090, RTX PRO 6000 и B200, с объёмом видеопамяти не менее 20 ГБ. По заявленным данным, она занимает около 18,5 GiB памяти, примерно в 2,5 раза быстрее базовой модели и обеспечивает более высокую производительность при параллельной обработке запросов. Заявлен контекст до 16K токенов. В бенчмарках модель получила 72,73% на GPQA Diamond и 83,93% на MMLU Pro, сохранив близкое к исходной модели качество, но с потерей примерно 1–3%. Основные ограничения — зависимость от совместимого оборудования NVIDIA Blackwell, необходимость соответствующих версий Transformers, vLLM и CUDA, а также отсутствие мультимодальной поддержки аудио и видео. По README, модель распространяется по лицензии Apache 2.0.

GLM-4.7-Flash-NVFP4-GGUF — квантизированная версия языковой модели GLM-4.7-Flash, разработанной Zhipu AI и представленной в формате GGUF. Это модель архитектуры Mixture-of-Experts на базе DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активны на токен; используются 64 маршрутизируемых эксперта и один общий. Контекст составляет 200 000 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и программирования на английском и китайском языках. Квантизация NVFP4 до примерно 4,53 бит на вес уменьшает размер файла до 15,79 ГБ и рассчитана на эффективный запуск на GPU NVIDIA Blackwell. Режим рассуждений включён по умолчанию; модель не имеет визуального энкодера. Это преобразование базовой модели в формат GGUF с квантизацией NVFP4. Репозиторий распространяется по лицензии MIT. Качество после квантизации может отличаться от исходной модели; для работы с NVFP4 требуется совместимое программное и аппаратное обеспечение.

GLM-4.7-Flash-RAZOR-17B-A3B-E32of64 — сжатая методом RAZOR версия диалоговой MoE-модели GLM-4.7-Flash, опубликованная Nickyang. В каждом MoE-слое оставлено 32 из 64 маршрутизируемых экспертов; отбор выполнен без градиентных обновлений и дополнительного обучения. По README, число хранимых параметров составляет 17,025 млрд, включая MTP, а параметры внимания, общего эксперта, эмбеддингов, LM-головы и оставшихся строк роутера не затронуты. Метаданные каталога указывают 4,1 млрд параметров и контекст 202 752 токена. Модель предназначена для диалоговой генерации текста, рассуждений и программирования с длинным контекстом. Для запуска требуется сборка Transformers с реализацией glm4_moe_lite; веса опубликованы в формате safetensors и хранятся в bfloat16. Лицензия — MIT. Удаление экспертов является потерей информации: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Качество на областях, далёких от конечного калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.

GLM-4.7-REAP-218B-A32B-GGUF — GGUF-версия разреженной языковой модели GLM-4.7, подготовленная Unsloth. Модель с архитектурой Sparse Mixture-of-Experts (SMoE) создана методом REAP (Router-weighted Expert Activation Pruning), который удаляет избыточные эксперты, сохраняя независимое управление маршрутизатора оставшимися экспертами. Модель содержит 218 млрд параметров, из которых 32 млрд активируются для каждого токена, включает 92 слоя, 96 экспертов с активацией 8 экспертов на токен, использует GQA с 96 Q- и 8 KV-головами и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации текста и кода, агентских рабочих процессов, понимания репозиториев, многошаговых сценариев и function calling. Заявлена близкая к исходной GLM-4.7 производительность при сокращении размера примерно на 40% по сравнению с полной моделью на 355 млрд параметров. Это делает её привлекательной для локального развертывания, сред с ограниченными ресурсами и исследовательских задач. Поддерживаются текстовые сценарии; заявленный язык в карточке — английский. К сильным сторонам относятся сохранение возможностей генерации кода, агентного программирования и вызова функций, отсутствие необходимости в дополнительном дообучении после pruning, а также совместимость с llama.cpp при использовании параметра --jinja. Для запуска требуется значительный объём памяти из-за общего размера модели; конкретные характеристики квантования GGUF, результаты оценки именно этой версии и требования к оборудованию в карточке не указаны. Модель распространяется по лицензии MIT.

GLM-5.2-JANGTQ4 — версия модели zai-org/GLM-5.2, подготовленная автором репозитория bearzi для запуска через MLX на компьютерах Apple с чипами Apple silicon. Это языковая модель с архитектурой GLM MoE DSA и 30,4 млрд параметров, предназначенная для генерации текста и диалогов; базовая GLM-5.2 также рассчитана на программирование и длительные задачи. Контекст модели составляет до 1 048 576 токенов. Профиль JANGTQ4 использует смешанную точность: внимание и общие эксперты хранятся в FP16, а маршрутизируемые эксперты квантизированы до 4 бит методом JANG TurboQuant. Для загрузки требуются jang-tools или vMLX; обычные MLX, LM Studio и Ollama не поддерживаются. Для токенизатора нужны tiktoken, blobfile и разрешение удалённого кода Transformers. Репозиторий распространяется по лицензии MIT.

Kanana-2-30B-A3B-Thinking — языковая модель Kakao Corporation из семейства Kanana-2, предназначенная для генерации текста с пошаговым рассуждением. Это дообученная версия Kanana-2-30B-A3B-Base на архитектуре DeepSeek V3 с механизмами MLA и Mixture of Experts: всего 30 млрд параметров, из которых активируются около 3 млрд. Репозиторий содержит веса в формате Safetensors; для запуска README рекомендует Transformers версии 4.51.0 или новее. Модель рассчитана на сложные инструкции, логические задачи, длительные диалоги и агентные сценарии с вызовом инструментов. Она поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки, а её штатная длина контекста составляет 32 768 токенов. README описывает настройку YaRN для контекстов до 128 тысяч токенов, но предупреждает, что масштабирование может ухудшить качество на коротких текстах. Лицензия указана как Other, поэтому условия использования следует уточнять в карточке модели. README сообщает, что пользовательские данные Kakao не использовались при предварительном обучении и дообучении. Модель ориентирована на генерацию текста; изображения и аудио в качестве входа не заявлены.

Карточка модели microperceptron/Kimi-Linear-48B-A3B-Instruct на Hugging Face совпадает с карточкой moonshotai/Kimi-Linear-48B-A3B-Instruct, поэтому описание составлено по ней. Kimi-Linear-48B-A3B-Instruct — разговорная языковая модель от Moonshot AI на архитектуре Kimi Linear. Это гибридная MoE-модель с Kimi Delta Attention и глобальными слоями MLA: в семействе указаны 48 млрд общих и 3 млрд активируемых параметров. Репозиторий содержит веса safetensors и предназначен для генерации текста в диалоговом формате. Модель рассчитана на диалоги и задачи с длинным контекстом. В README для версии Instruct заявлена длина контекста до 1 млн токенов, а архитектура сокращает потребность в KV-кэше и ускоряет декодирование на длинных последовательностях. Для запуска предлагаются Transformers с fla-core и развёртывание через vLLM. Лицензия — MIT. README описывает результаты бенчмарков, но не приводит оценки по всем сценариям; фактическая скорость и качество зависят от оборудования и настроек инференса.

T145/KRONOS-8B-V5 — объединённая языковая модель, созданная автором репозитория методом TIES с помощью mergekit. В качестве основы использована unsloth/Meta-Llama-3.1-8B; в объединение также вошли mukaj/Llama-3.1-Hawkish-8B, T145/KRONOS-8B-V1-P2, T145/KRONOS-8B-V1-P3 и unsloth/Meta-Llama-3.1-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоги. Она принимает текст и генерирует текст, поддерживает интерфейс вызова инструментов и контекст до 131 072 токенов. Карточка приводит результаты Open LLM Leaderboard, включая среднее значение 25,43 и IFEval 54,05; они характеризуют оценивание, но сами по себе не гарантируют качество в конкретных задачах. Лицензия в предоставленных данных не указана. Как и другие генеративные языковые модели, она может выдавать неточные или неподходящие ответы; результаты оценивания ограничены указанными тестами.

cyankiwi/Laguna-S-2.1-AWQ-INT4 — квантизированная версия Laguna S 2.1 от poolside, подготовленная cyankiwi в формате AWQ INT4. Это текстовая модель text-to-text для агентного программирования, работы с инструментами и долгих многошаговых задач. Модель поддерживает интерleaved reasoning между вызовами инструментов и рассчитана на использование в vLLM, SGLang, Transformers, TRT-LLM и llama.cpp. Базовая модель содержит 118 млрд параметров, из которых около 8 млрд активируются на каждом токене, и использует Mixture-of-Experts с 256 маршрутизируемыми экспертами и одним общим экспертом. Архитектура включает 48 слоёв, grouped-query attention, 12 слоёв глобального внимания и 36 слоёв sliding-window attention с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, словарь — 100 352 токена. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки; модальность — текстовая. Ключевые преимущества — большое контекстное окно, эффективная MoE-архитектура, поддержка рассуждений и сценариев с инструментами, а также снижение требований к хранению и инференсу благодаря INT4-квантизации; размер файла указан как 76,83 ГБ. Ограничения включают высокие требования к вычислительным ресурсам даже в квантизированном виде и возможные потери качества из-за квантизации по сравнению с исходной точностью. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и изменение для коммерческих и некоммерческих целей.

DavidAU/Llama-3.2-4X3B-MOE-Ultra-Instruct-10B-GGUF — инструкционная текстовая модель на базе Llama 3.2, собранная с использованием Mergekit из четырёх экспертных моделей Llama 3.2 3B. В состав входят базовая модель общего назначения, модель для программирования, модель для логики и рассуждений и модель для работы с промптами. Архитектура Mixture of Experts объединяет около 10 млрд параметров; по умолчанию используются два эксперта, но поддерживается настройка на одного, трёх или четырёх экспертов. Модель предназначена для генерации текста общего назначения, следования инструкциям, программирования, логических задач, prompt engineering, творческого и художественного письма, ролевых сценариев и reasoning. Заявлен контекст до 128 000 токенов. Указан английский язык, формат распространения — GGUF, а для запуска требуется шаблон Llama 3 или Command-R. Количество активных экспертов влияет на баланс между качеством и скоростью: большее число экспертов может повышать качество, но снижает производительность. К заявленным сильным сторонам относятся высокая скорость на совместимом оборудовании, стабильная генерация, низкая perplexity и особенно развитые способности к созданию подробной прозы и художественных текстов. При этом результаты могут заметно различаться между повторными генерациями из-за смены выбранных экспертов, а слишком высокая температура способна ухудшать следование инструкциям. Модель распространяется по лицензии Apache 2.0.

ceia-aisdk/llm-medium-v1 — распространяемый CEIA AI SDK артефакт GGUF на основе инструктивной языковой модели Qwen2.5-7B-Instruct. CEIA не обучала эти веса: репозиторий содержит квантованную версию Q4_K_M, подготовленную bartowski, для использования через псевдоним SDK llm/medium@1. Модель предназначена для диалогов и генерации текста по инструкциям. Базовая Qwen2.5-7B-Instruct поддерживает также генерацию кода и структурированных ответов. Репозиторий использует формат GGUF и распространяется по лицензии Apache-2.0, как и базовая модель.

JetBrains/Mellum2-12B-A2.5B-Instruct-GGUF-Q8_0 — это квантованная в формате GGUF версия инструкционной модели Mellum2-12B-A2.5B-Instruct, разработанной JetBrains. Модель предназначена для генерации текста и выполнения инструкций, включая задачи программирования и ассистирования, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Контекстное окно составляет 131 072 токена. Представленная версия применяет 8-битное квантование Q8_0, занимает около 12,9 ГБ и сохраняет близкое к BF16 качество: KL-дивергенция составляет примерно 0,016, а наиболее вероятный токен совпадает с BF16 в 95,2% случаев. В README явно указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Модель формирует ответы напрямую, без внешнего отображения цепочки рассуждений. Сильные стороны версии — существенно меньший размер по сравнению с BF16 при небольших потерях качества, длинный контекст и широкая совместимость с локальными GGUF-рантаймами. Ограничения включают повышенные требования к памяти по сравнению с более агрессивными вариантами квантования и отсутствие в данном README подробных результатов оценки, описания полного набора языков и характеристик базовой модели. Модель распространяется по лицензии Apache 2.0.