II.9Статистика, эксперименты и причинный анализ

DASD-4B-Thinking-GGUF — это квантизированная версия компактной плотной языковой модели DASD-4B-Thinking, разработанной Alibaba-Apsara и преобразованной в формат GGUF с помощью llama.cpp; квантизацию выполнил GGUF Quantizer Space. Исходная модель основана на Qwen3-4B-Instruct-2507 и обучалась методом distribution-aligned sequence distillation с использованием gpt-oss-120b в качестве учителя и 448 тыс. обучающих примеров. Модель предназначена для задач, требующих рассуждений по длинной цепочке, включая решение математических задач, генерацию кода и научное рассуждение. Это текстовая модель с параметрами порядка 4 млрд, ориентированная на локальный запуск на пользовательском оборудовании через llama.cpp или Ollama. README не указывает поддерживаемые языки и размер контекстного окна. Доступно множество вариантов квантизации от Q2_K до Q8_0. Q4_K_M и Q5_K_M отмечены как рекомендуемые и предлагают компромисс между размером и качеством, тогда как Q8_0 обеспечивает близкое к исходному качество при большем размере. Среди заявленных сильных сторон — высокие результаты на AIME24, AIME25, LiveCodeBench и GPQA-D, а также возможность запуска сравнительно небольшой модели на потребительском оборудовании. Более агрессивная квантизация может приводить к заметной потере качества. Лицензия в представленном README не указана.

Карточка модели maksimbbbi/DeepSeek-R1-Distill-Llama-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

DeepSeek-V4-Pro-0813 — официальная версия модели DeepSeek-V4-Pro, разработанная DeepSeek AI. Она заменяет предварительный выпуск и ориентирована на задачи с агентами, включая использование инструментов, автоматизацию, разработку программного обеспечения, работу в терминале, кибербезопасность и полнофункциональную разработку. По данным README, модель особенно улучшена для производственных сценариев и демонстрирует высокие результаты в тестах агентских и coding-agent задач. Модель построена на архитектуре DeepSeek-V4-Pro (Preview) с подключённым модулем спекулятивного декодирования DSpark. Точные сведения о размере, числе параметров, поддерживаемых языках, модальностях и длине контекста в README не указаны. Для взаимодействия используется OpenAI-совместимый формат сообщений; Jinja-шаблон чата отсутствует, вместо него предоставлены отдельные скрипты кодирования и разбора ответов. Параметр reasoning_effort поддерживает уровни low, high и max. Сильными сторонами модели являются улучшенные агентские возможности, производительность в задачах программирования, автоматизации и работы с инструментами, а также возможность ускорения инференса через DSpark в vLLM и SGLang. Ограничения включают необходимость специального кодирования сообщений и потенциально сложные требования к инфраструктуре: README описывает запуск на узлах с GPU GB300 и рекомендуемые настройки для vLLM, но не приводит полный диапазон совместимого оборудования. Модель распространяется по лицензии MIT.

Карточка модели nicoboss/dolphin-2.9.3-mistral-nemo-12b-llamacppfixed на Hugging Face совпадает с карточкой dphn/dolphin-2.9.3-mistral-nemo-12b, поэтому описание составлено по ней. Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

Experiment26T3q-7B — созданная Maxime Labonne автоматическим слиянием методом SLERP моделей rwitz/experiment26-truthy-iter-1 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Это плотная Mistral-модель с 7,1 млрд параметров для генерации текста; базовая математическая модель прошла DPO-дообучение на математических данных. Модель принимает текстовые запросы и предназначена для диалоговых ответов и генерации текста, в том числе для решения математических задач. Длина контекста — 32 768 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

Карточка модели manaladan6/GLM-5 на Hugging Face совпадает с карточкой zai-org/GLM-5, поэтому описание составлено по ней. GLM-5 — большая языковая модель семейства GLM, разработанная zai-org для сложных задач разработки систем и длительных агентных сценариев. Модель предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами в диалогах. В README заявлена версия на 744 млрд параметров, из которых 40 млрд активны; репозиторий Hugging Face содержит 30,4 млрд параметров. Эти данные расходятся, поэтому размер конкретной опубликованной сборки нельзя однозначно определить. Архитектура в метаданных обозначена как glm_moe_dsa, формат весов — safetensors, а нативная длина контекста составляет 202 752 токена. Поддерживаются английский и китайский языки. README сообщает об интеграции DeepSeek Sparse Attention для снижения стоимости развёртывания при сохранении длинного контекста, а также о сильных результатах в рассуждениях, программировании и агентных задачах. Модель можно запускать через Transformers и ряд других фреймворков; для использования инструментов описана настройка сервера vLLM. Лицензия — MIT. Указанные в карточке результаты бенчмарков являются заявлениями разработчика; фактическая производительность зависит от сценария и конфигурации.

Granite-20b-code-instruct-GGUF — квантизированная версия модели granite-20b-code-instruct, разработанной IBM и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации и анализа программного кода, выполнения инструкций, решения математических задач, работы с SQL-контекстами и сценариев, связанных с function calling и ассистентами для разработки. Модель содержит около 20 миллиардов параметров и относится к текстовым моделям генерации. В карточке указаны датасеты для обучения и дообучения, включая Code Прикладные наборы, MathInstruct, MetaMathQA, наборы для SQL и function calling. Доступны варианты от F16 до квантизаций Q3–Q8 в формате GGUF, совместимые с llama.cpp и рекомендованные для запуска, в частности, через LM Studio. Размер файлов варьируется примерно от 11,5 до 40,2 ГБ. Сильными сторонами являются специализация на программировании, поддержка инструкционного режима и наличие вариантов квантизации для различного объёма оперативной памяти; для оценки HumanEvalSynthesis(Python) в README приведены значения pass@1 до 60,4%. Ограничения включают высокие требования к памяти для полноразмерной версии, возможное снижение качества у более сильных квантизаций и отсутствие в карточке сведений о поддерживаемых языках, размере контекста и мультимодальности. Базовая модель распространяется по лицензии Apache-2.0.

HyperNova 60B 2605 — открытая по весам instruction-tuned модель, разработанная Multiverse Computing и представленная как решение на базе CompactifAI. Она предназначена для общего рассуждения, генерации кода и разработческих сценариев, включая RAG, агентские приложения и задачи с инструментами. Модель построена на decoder-only Transformer и содержит 60B общих параметров, из которых 4,8B являются активными. Она поддерживает native tool calling с OpenAI-style схемами, function calling, структурированный вывод и агентские рабочие процессы. Основной язык — английский; другие языки формально не оценивались. Размер контекста в предоставленных данных не указан. К сильным сторонам относятся оптимизация эффективного вывода, уменьшенный объём памяти, улучшения по сравнению с HyperNova 60B 2602 в задачах кодирования и общих бенчмарках, а также поддержка настраиваемого уровня reasoning effort. Ограничения включают отсутствие формальной оценки других языков и отсутствие гарантии полной совместимости поведения tool calling с базовой или другими моделями. Модель распространяется по лицензии Apache 2.0.

Nail-Qwen3.6-35B-A3B-GGUF-MTP — это GGUF-квантизация базовой модели Qwen/Qwen3.6-35B-A3B, опубликованная peculiar-ragdoll. Модель ориентирована на reasoning, многошаговые диалоги, агентную разработку программного обеспечения и генерацию кода. В сборку включены улучшенный chat template, встроенный системный промпт и тензоры multi-token prediction (MTP), предназначенные для ускорения генерации посредством speculative decoding. Модель построена на архитектуре Mixture-of-Experts: заявленный размер — 35B параметров при 3B активных параметров. Указаны языки English и Chinese, а нативное контекстное окно составляет 262 144 токена. Формат GGUF рассчитан прежде всего на локальный запуск, включая llama.cpp и совместимые среды. При поддержке MTP возможное ускорение зависит от runtime и конфигурации; для llama.cpp требуется свежая сборка с поддержкой draft-MTP, тогда как обычные релизы могут работать без ускорения. Заявлены высокая скорость ответа, эффективность использования памяти и пригодность для длительных агентных сессий, однако приведённые результаты получены на ограниченном наборе тестов и конкретной конфигурации Mac Studio M2 Ultra. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость производительности от аппаратного обеспечения, версии runtime, квантизации и поддержки MTP. Заявления о превосходстве над другими моделями основаны на бенчмарках автора и не гарантируют аналогичных результатов во всех задачах.

Ornith-1.5-35B-A3B-NVFP4-W4A16 — это независимый community-артефакт, созданный r0b0tlab на основе модели Ornith-1.5-35B-A3B от Ornith AI. Модель предназначена для мультимодальных сценариев image-text-to-text, включая генерацию текста, программирование, математические задачи, выполнение инструкций и агентское кодирование. Артефакт не связан с NVIDIA или Ornith AI и не является их официальным продуктом. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с 35,1 млрд параметров, гибридным механизмом GDN linear attention и softmax attention, а также Mixture-of-Experts. Это квантизованная версия с NVFP4 W4A16 weight-only: веса Linear-слоёв представлены в 4-битном формате, активации используют BF16, KV-кэш — FP8-E4M3. Размер на диске составляет около 23 ГБ вместо 67 ГБ у BF16-версии, что даёт сжатие примерно в 2,9 раза. Заявлен контекст до 32 768 токенов, однако сведения о поддерживаемых языках в README отсутствуют. По внутреннему набору из 200 вопросов модель показала сопоставимое с BF16-базой качество на GSM8K, HumanEval и IFEval, а с MTP и спекулятивным декодированием — улучшенные результаты в отдельных тестах. Поддерживается SGLang с EAGLE/nextn speculative decoding; целевой сценарий эксплуатации — Blackwell-класс GPU NVIDIA, в частности DGX Spark GB10/SM121. Ограничения включают узкую и внутреннюю систему оценки, отсутствие проверки на других Blackwell-устройствах, возможную чувствительность к данным вне распределения и необходимость корректной настройки SGLang, включая backend marlin, прогрев JIT-кэша FlashInfer и FP8 KV-кэш. Модель распространяется по лицензии MIT.

Qwen2.5-Coder-7B-Instruct-MLX-8bit — это 8-битная MLX-квантизация инструкционно дообученной языковой модели Qwen2.5-Coder-7B-Instruct. Базовую модель разработала команда Qwen, квантизацию предоставил bartowski на основе инструментов mlx-examples. Модель предназначена для генерации текста и кода, диалогового взаимодействия, задач программирования и использования в code agent-сценариях, в частности на компьютерах Mac с Apple Silicon. Модель обучалась на объёме до 5,5 триллиона токенов, включая исходный код, данные для связывания текста и кода и синтетические данные. Заявлена поддержка длинного контекста до 128 000 токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В карточке явно указан английский язык; другие языки и дополнительные модальности не заявлены. Ключевое ограничение — специализация на текстовых и кодовых задачах, а также необходимость совместимого оборудования Apple Silicon для данной MLX-версии. Как и другие языковые модели, она может генерировать неточный, вредный или нежелательный контент. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

Qwen3.6-27B Claude Opus Reasoning Distilled — текстовая модель на 27 млрд параметров, дообученная Rico03 на базе Qwen/Qwen3.6-27B. Разработчик сообщает, что обучение проведено на примерно 14 тысячах примеров с цепочками рассуждений Claude Opus и Qwen; модель распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации ответов в диалоге и задач, требующих структурированного анализа: программирования, математики, логики и решения аналитических задач. Дообучение направлено на более последовательную декомпозицию сложных запросов и сокращение повторяющихся рассуждений на простых задачах. Метаданные также отмечают интерфейс вызова инструментов. Модель унаследовала от базовой Qwen заявленные возможности работы с изображениями, однако автор указывает, что дообучение проводилось только на текстовых данных и не адаптировало зрительные способности. Модель поддерживает английский и многоязычный ввод, но конкретный перечень языков в карточке не приведён. Контекстное окно не указано. Возможны фактические ошибки, поскольку это авторегрессионная языковая модель; обучение в течение одной эпохи на ограниченном наборе примеров также может влиять на качество в отдельных сценариях.

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF — квантизированная мультимодальная версия модели Qwen3.8-27B, разработанная автором cdiamond на основе Qwen/Qwen3.8-27B. Модель предназначена для работы в llama.cpp и сценариев, связанных с программированием, инфраструктурными задачами, вызовами инструментов, агентскими системами и обработкой изображений. Указан контекст до 256 тысяч токенов; поддержка зрения реализуется через отдельный проектор mmproj-Qwen3.8-27B-F16.gguf. Модель поставляется в формате GGUF и имеет размер 17,1 ГБ. Это смешанная квантизация примерно 5,01 BPW: основная часть весов использует NVFP4, а чувствительные матрицы внимания, Gated DeltaNet, поздние FFN-слои, эмбеддинги и выходная голова хранятся с более высокой точностью Q5_K, Q6_K или Q8_0. В GGUF встроен обученный MTP-слой для ускорения генерации. Калибровка проводилась на данных агентских сессий, включавших код, инфраструктуру, вызовы инструментов и польско-английские диалоги, однако эти данные не распространяются. Сильные стороны модели — сочетание компактного размера, поддержки длинного контекста, мультимодальности и высокой скорости на совместимом оборудовании. В описанных тестах она достигала 50,441 токена в секунду в производственной серии и обрабатывала заполненный контекст объёмом 261 500 входных токенов без усечения и нехватки памяти. Результаты зависят от GPU, версии llama.cpp и используемых патчей; часть измерений получена на локальной ветке runtime, не вошедшей на момент публикации в upstream. Модель не является дообученной версией, а представляет собой квантизацию базовой модели. Лицензия — Apache-2.0.

YTan2000 собрал вариант Qwen3.8-27B с квантованием TurboQuant TQ3_4S и форматом GGUF для запуска через специальную сборку llama.cpp-tq3. Модель предназначена для диалогов, генерации кода и многошаговых задач; с подключённым проектором mmproj поддерживает анализ изображений и видео. Веса основаны на Qwen/Qwen3.8-27B, в которой используются гибридная архитектура Gated DeltaNet и Gated Attention и обученные головы Multi-Token Prediction для ускорения генерации. В карточке указаны 27 млрд параметров у базовой модели, контекст до 262 144 токенов, размер файла 13,8 ГБ и квантование 4,24 бит на вес. Версия v2 включает исправленный шаблон чата для строковых аргументов инструментов и режима без рассуждений; для v1 требуется отдельно указать шаблон. README приводит результаты тестов генерации кода и скорости на RTX 3090, но они зависят от конфигурации запуска. Для работы требуется TurboQuant-версия llama.cpp; поддержка изображений и видео требует файла mmproj. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ — это квантованная версия модели Qwen3.8-27B TURBO Fable Cold Fusion. Исходную модель и слияние весов GAIN разработал DavidAU, а квантование и упаковку выполнила Solstice-AI. Модель предназначена для программирования, агентной разработки, отладки репозиториев, решения задач на рассуждение и управления компьютером или мобильными устройствами. По данным README, заявлены поддержка английского и китайского языков, мультимодальный ввод изображений и видео, а также контекст до 262 144 токенов. Архитектура описывается как гибридная: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — Grouped-Query Attention. Модель содержит Multi-Token Prediction для спекулятивного декодирования и поставляется с визуальным проектором mmproj-BF16.gguf. Формат — AWQ INT4 (W4A16), поэтому модель рассчитана на экономичное инференс-развёртывание с использованием Anvil, vLLM или SGLang, но квантование может снижать точность по сравнению с полноразмерными весами и требует совместимого оборудования и программного стека. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld, AndroidWorld, IFBench и ARC, однако условия и независимая воспроизводимость этих оценок требуют проверки. Указана лицензия Apache 2.0; заявленная модификация alignment-механизмов означает, что модель может иметь меньше встроенных отказов и требует осторожного применения.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-MXFP4-1M — это релиз Solstice-AI на базе модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Solstice-AI выполнила квантование, масштабирование контекста и упаковку, а исходную модель и её GAIN-merge разработал DavidAU. Модель предназначена для рассуждений, программирования, агентной разработки ПО, отладки репозиториев, управления компьютером и мобильными устройствами, а также обработки длинных контекстов. README также заявляет поддержку визуального понимания через комплектный модуль mmproj-BF16.gguf, включая схемы, интерфейсы кода и видеокадры. Модель содержит 27 млрд параметров и распространяется в формате OCP Microscaling MXFP4. Заявлена гибридная архитектура Qwen 3.8: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — глобальное Grouped-Query Attention. Указаны аппаратное Multi-Token Prediction с генерацией двух токенов за проход и потенциальным ускорением 1,72–2,20 раза, а также контекст до 1 048 576 токенов благодаря YaRN RoPE scaling. Заявлены языки English и Chinese. Для запуска упоминаются vLLM, Anvil Runtime и совместимость с AMD ROCm, Intel Gaudi и современными Tensor Core. К сильным сторонам относятся большой контекст, низкоразрядное представление MXFP4, поддержка рассуждений и программирования, мультимодальность и заявленные высокие результаты в SWE-bench Pro, LiveCodeBench, OSWorld, AndroidWorld и других тестах. Ограничения включают зависимость производительности от совместимого оборудования и программного стека, а также то, что приведённые в README сравнительные результаты и характеристики не сопровождаются подробным описанием методики и независимой проверкой. Модель описана как uncensored и с удалёнными отказными ограничениями, что может повышать риски небезопасных ответов. Лицензия — Apache 2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4 — релиз Solstice-AI, основанный на модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Это 27-миллиардная языковая модель с поддержкой английского и китайского языков, оптимизированная для работы на оборудовании NVIDIA Blackwell и Ada Lovelace в формате NVFP4. Указана поддержка контекста до 262 144 токенов. Модель также заявлена как мультимодальная: вместе с ней поставляется компонент mmproj-BF16.gguf для анализа изображений, архитектурных схем, пользовательских интерфейсов и видеокадров. Архитектура сочетает гибридное линейное внимание Qwen 3.8: 75% слоёв используют Gated Delta Recurrent Network с линейной сложностью по памяти, а 25% — Grouped-Query Attention. В модель включены Multi-Token Prediction с заявленной генерацией двух токенов за проход и объединение весов Cold Fusion GAIN. Разработчики позиционируют её для рассуждений, программирования, агентной разработки ПО, отладки репозиториев, управления компьютером и мобильными устройствами, а также выполнения длинных многофайловых сценариев. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench v6, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и тестах ARC, однако эти показатели представлены самими разработчиками и требуют независимой проверки. Заявленная оптимизация ориентирована на NVIDIA Blackwell, включая B200, GB200 и RTX 5090; также упоминается совместимость с RTX 4090. Модель описана как uncensored и может иметь ослабленные ограничения отказа, что следует учитывать при эксплуатации. Лицензия — Apache 2.0.

Qwen3.8-Flash-Next-Uncensored oQ4e-100K-MTP — нативно квантованная для oMLX версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored. Сборка предназначена для запуска на компьютерах Apple Silicon с 128 ГБ памяти через oMLX и совместимый с OpenAI API сервер. Она ориентирована на coding agents, программирование и другие сценарии, поддерживающие этот API, а также сохраняет vision tower Qwen4, собственную MTP-голову контрольной точки и архитектурную настройку контекста 262 144 токена. Основной формат весов — аффинная квантализация oQ4e с размером группы 64; крупная таблица PLE использует 4-битную квантализацию с размером группы 32. Часть чувствительных компонентов оставлена в Q8 или BF16 для сохранения качества вывода и эффективности MTP. Веса занимают около 108,8 млрд байт и распределены по 22 файлам safetensors. Заявленный безопасный рабочий контекст на Mac с 128 ГБ памяти составляет 100 000 токенов, несмотря на нативную настройку 262 144 токена; для полного контекста требуется SSD-offload Qwen4 PLE. Модель поддерживает текстово-визуальный pipeline, tool calling и MTP, однако для coding agents рекомендуется отключать MTP, поскольку в тестах он снижал точность работы с инструментами. Сильными сторонами являются очень длинный проверенный контекст, поддержка изображений, OpenAI-совместимый интерфейс, prompt caching и оптимизация под Apple Silicon. Ограничения включают требования к 128 ГБ оперативной памяти, быстрому локальному SSD и oMLX, а также зависимость безопасного размера контекста от конкретной конфигурации. Модель распространяется по лицензии qwen-community-1.0; в карточке указана категория лицензии other.

nvidia/Qwen3-Coder-480B-A35B-Instruct-NVFP4 — текстовая авторегрессионная языковая модель на архитектуре Transformers, созданная на основе Qwen3-Coder-480B-A35B-Instruct от Alibaba и квантизированная NVIDIA с помощью Model Optimizer. Модель предназначена для генерации кода и текста, а также для использования в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. NVIDIA указывает, что не является владельцем или разработчиком исходной модели, а предоставляет подготовленную квантизированную версию. Модель содержит 480 млрд параметров, принимает и возвращает текстовые последовательности и поддерживает контекст до 256K токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4, что сокращает число бит на параметр с 16 до 4, а требования к дисковому пространству и памяти GPU примерно в 3,5 раза. Версия рассчитана на запуск с TensorRT-LLM на GPU NVIDIA Blackwell, предпочтительно в Linux; заявленная конфигурация тестирования использовала B200. По результатам указанных тестов FP4-версия показала 0,481 на LiveCodeBench и 0,415 на SciCode против 0,486 и 0,412 соответственно у BF16-версии. Языки и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование, однако перед внедрением требуется дополнительная проверка на данных конкретного сценария.

QuixiAI выпустила WizardLM-1.0-Uncensored-CodeLlama-34b — дообученную на базе CodeLlama-34b языковую модель семейства Llama с 33,5 млрд параметров. Модель обучена на отфильтрованных данных WizardLM Evol Instruct V2 и использует формат запросов, совместимый со стилем Vicuna 1.1. Модель предназначена для генерации текста и кода, выполнения инструкций и диалоговых сценариев. Разработчик сообщает, что обучение было направлено на снижение отказов, уклончивых ответов и смещения; база CodeLlama, по описанию карточки, обеспечивает хорошие возможности для программирования. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 16 384 токенов. Метка «uncensored» не означает полного отсутствия ограничений: в README отмечены унаследованные этические установки LLaMA и отсутствие защитных механизмов. Модель распространяется по лицензии Llama 2; применяйте её с учётом условий этой лицензии и самостоятельно оценивайте генерируемый контент.

Claude Opus 5 описана как флагманская модель Anthropic для сложных задач рассуждения, программирования и длительной агентной работы. Среди сценариев применения указаны выполнение комплексных задач разработки программного обеспечения, проверка кода, поиск ошибок и визуальный анализ.

DeepSeek-Coder-V2-Lite-Instruct — языковая модель для генерации текста и программного кода, разработанная компанией DeepSeek и представленная в GGUF-квантизации сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для выполнения инструкций по программированию, завершения кода, решения задач в области информатики и математического рассуждения. Модель использует архитектуру Mixture of Experts (MoE): общий объём составляет 16 млрд параметров, из которых при обработке активируются 2,4 млрд. Она дообучалась на 6 трлн высококачественных токенов с кодом и поддерживает контекст длиной до 128k токенов. В README языки явно не перечислены; указано, что официальный шаблон иногда приводит к генерации текста на китайском языке. К сильным сторонам относятся специализация на программировании, следовании инструкциям, завершении кода и высокая скорость вывода благодаря разреженной активации параметров. Для работы в LM Studio требуется версия 0.2.25 или новее, а Flash Attention необходимо отключить. Модель распространяется по лицензии DeepSeek License; конкретные условия следует уточнять в файле LICENSE исходного репозитория. README не содержит подробных результатов бенчмарков и не описывает ограничения по безопасности или точности, поэтому сгенерированный код и ответы требуют проверки.

Карточка модели HBkira/DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели liruiyangnb666/DeepSeek-R1-Distill-Qwen-7B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

Карточка модели xiaozhibro/DeepSeek-R1-Distill-Qwen-7B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

FlashModel-Qwen3.5-9B-GGUF — набор GGUF-квантизаций модели FlashModel-Qwen3.5-9B, подготовленный flashback2k на базе Qwen/Qwen3.5-9B. Исходная модель дообучена методом LoRA с RSLoRA на проекциях внимания и MLP, затем объединена с базовой моделью. Дообучение выполнено на 9 638 примерах и примерно 45 млн токенов, включая математические задачи, соревновательное программирование, агентные сценарии, следование инструкциям и научные данные. Модель ориентирована на рассуждения, генерацию и анализ кода, диалоги и вызовы инструментов. В карточке указан английский язык; поддержка других языков не заявлена. Модель имеет около 9 млрд параметров и распространяется в нескольких вариантах GGUF с разным уровнем квантизации и размером файлов примерно от 4,42 до 6,74 ГБ. Для квантизации использована собственная importance matrix, рассчитанная на этой дообученной модели. Варианты предназначены для локального запуска через llama.cpp, Ollama и LM Studio; заявлена совместимость с инструментальными вызовами и контекстом до 32 768 токенов при использовании рекомендованной конфигурации. Модель текстовая: vision tower отсутствует, поэтому мультимодальный ввод изображений не поддерживается. Сильными сторонами являются специализация на reasoning, coding и tool-calling, выбор вариантов под разные объёмы VRAM или RAM, а также оптимизация GGUF для локального запуска. Ограничения включают неизбежную потерю качества при низкой квантизации, необходимость оставлять память под KV-кэш, отсутствие заявленной поддержки изображений и ограниченность опубликованных сведений об оценках качества. Рекомендуемые параметры генерации взяты из карточки базовой модели и не перенастраивались специально для этого fine-tune; влияние тегов reasoning budget отмечено как экспериментальное. Модель распространяется по лицензии Apache-2.0.

Это 4-битная смешанно-точная MLX-квантизация модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community с помощью инструментария mlx-optiq. Исходная модель представляет собой дообученную для программирования версию Gemma-4-12B. Вариант предназначен для локального запуска на компьютерах Apple Silicon без PyTorch и облачных сервисов. Модель ориентирована прежде всего на генерацию и анализ кода, рассуждения, ответы на вопросы, арифметику и работу с изображениями. Она использует архитектуру encoder-free gemma4_unified с мультимодальным обработчиком; входные изображения поддерживаются, а мультимодальный embedder сохранён в формате bf16. Языковая часть содержит 328 квантизируемых слоёв: 156 чувствительных слоёв работают в 8-bit, остальные 172 — в 4-bit. Средняя эффективная точность составляет 5,216 бит на вес, размер модели на диске — около 8,4 ГБ вместо 22 ГБ для версии bf16, поэтому она рассчитана на запуск, в частности, на Mac с 16 ГБ памяти. Точный размер контекста и список поддерживаемых языков в карточке не указаны. К сильным сторонам относятся существенное снижение требований к памяти, поддержка изображений, локальная работа и сохранение более высокой точности для чувствительных слоёв. Модель способна рассуждать перед ответом, поэтому ей требуется достаточный лимит токенов. Ограничения связаны с отсутствием собственных тестов производительности для этой квантизации, переносом схемы распределения разрядности с базовой модели и неизбежной погрешностью 4-битного представления. Для загрузки необходима регистрация архитектуры через mlx-optiq. Модель распространяется по лицензии Apache-2.0 и должна использоваться на тех же условиях, что и исходная модель.

GLM-4-9B-0414-GGUF — это квантизированная в формате GGUF версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Квантизация выполнена bartowski на основе llama.cpp, релиз b5228. LM Studio распространяет модель в рамках Community Model Program, но не является её разработчиком. Модель предназначена для генерации текста и ориентирована на продвинутое программирование, создание артефактов, function calling и агентские сценарии. Заявлена сопоставимая с существенно более крупными моделями производительность. Поддерживается контекст до 32 тысяч токенов. В метаданных указаны китайский и английский языки. Архитектура исходной модели и точный размер файлов не описаны подробнее; конкретный вариант квантизации также не указан. Модель может быть полезна для локального запуска задач кодирования, автоматизации и построения LLM-агентов при наличии совместимого ПО для GGUF. Ограничения включают возможные неточности, вредный или неподходящий контент, а также зависимость качества и требований к ресурсам от выбранного варианта квантизации. Лицензия модели — MIT.