II.1Анализ требований и архитектура ПО

Mistral Medium 3.5 — плотная языковая модель на 128 млрд параметров от Mistral AI, обученная следовать инструкциям. Она принимает текст и изображения и выдаёт текст. Модель предназначена для агентных сценариев, программирования и решения сложных задач. Поддержка изображений позволяет использовать модель для вопросов по визуальным материалам наряду с текстовыми запросами. В доступных сведениях нет деталей о контекстном окне, поддерживаемых языках и лицензии, поэтому эти характеристики не описываются.

mnma_qwen3.8_27b_nvfp4 — квантизированная версия языковой модели Qwen3.8-27B, разработанная Minima на основе посттренировочной квантизации. Модель предназначена для генерации текста, диалоговых сценариев, решения математических и экзаменационных задач, программирования и работы с длинным контекстом. Это текстовая модель без vision-компонента, сохраняющая поддерживающий рассуждения chat template. Все 496 линейных слоёв backbone, включая 48 слоёв Gated DeltaNet, 16 attention-слоёв и 64 MLP-слоя, переведены в формат NVFP4 W4A4 с размером группы 16. Embeddings, lm_head, conv1d, нормализации, A_log и dt_bias сохранены в BF16, а KV-cache использует откалиброванные статические FP8-масштабы. Заявлены существенное снижение потребления памяти и ускорение: 17,53 GiB против 50,13 GiB для BF16, 1154 против 621 токена в секунду при указанной нагрузке и время prefill 32K около 4,03 секунды против 6,90 секунды. Модель требует vLLM не ниже 0.27 и GPU с аппаратной поддержкой NVFP4, например NVIDIA Blackwell SM120. По приведённым измерениям качество в большинстве задач близко к BF16: результаты GSM8K и AIME'25 совпадают, а различия на MMLU-Pro, GPQA-Diamond и LiveCodeBench невелики. Ограничениями являются зависимость от совместимого оборудования и vLLM, а также некоторое ухудшение perplexity, особенно на контексте 4K; сравнение корректно только при одинаковых настройках обслуживания. Модель распространяется по лицензии Apache-2.0.

Nemotron-H-47B-Reasoning-128K — большая языковая модель NVIDIA для диалогов, рассуждений и обычных задач генерации текста. Она сочетает слои Mamba-2 и MLP с пятью слоями Attention, содержит 47 млрд параметров и поддерживает контекст до 128 тыс. токенов. В зависимости от системной инструкции модель может сначала сформировать рассуждение, а затем ответ, либо выдать ответ без видимого рассуждения. Модель принимает и генерирует текст. Заявлена поддержка английского, немецкого, испанского, французского, итальянского, корейского, португальского, русского, японского и китайского языков. Подходит для диалогов, ответов на вопросы, задач по математике, науке, программированию и другим темам. Доступны контрольные точки BF16 для Transformers и TensorRT-LLM, а также FB8 для TensorRT-LLM; модель рассчитана на запуск с ускорением NVIDIA GPU. Модель может выдавать неточные, неполные, нерелевантные или избыточные ответы, а также воспроизводить токсичность и предвзятость из обучающих данных. В README также отмечена уязвимость к некоторым вариантам косвенной prompt injection. Лицензия указана как other; README ограничивает назначение исследованиями и разработкой.

q3mds-8b — объединённая текстовая языковая модель, созданная bloomsirenix с помощью mergekit методом DARE TIES. В объединение вошли Qwen/Qwen3-8B, DeepSeek-R1-0528-Qwen3-8B, Qwen3-8B-ABC и OpenCodeEdit-Qwen3-8B; базой указан Qwen3-8B. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит 7,6 млрд параметров и имеет контекстное окно до 40 960 токенов. Модель предназначена для диалоговой генерации текста, ответов на инструкции, рассуждений и помощи с кодом. Она принимает текст и выдаёт текст. Поддерживает многоязычное использование; конкретный перечень языков для этой сборки не установлен в предоставленных данных. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. Качество и поведение могут отличаться от отдельных моделей, вошедших в слияние; README не приводит сравнительных оценок или результатов тестирования.

Qwen1.5-72B-Chat — чат-модель из семейства Qwen1.5, разработанного командой Qwen. Это дообученная версия базовой Qwen1.5-72B: плотная авторегрессионная языковая модель на архитектуре Transformer с примерно 71 млрд параметров, предназначенная для диалоговой генерации текста. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. Модель подходит для ведения диалога, ответов на вопросы, составления и редактирования текстов, а также генерации кода. В README заявлена многоязычная поддержка; метаданные карточки указывают английский язык. Контекст составляет до 32 768 токенов. Улучшения серии Qwen1.5 включают поддержку длинного контекста и качество чат-моделей, однако в README отмечены возможные ошибки переключения между языками; для генерации рекомендуется использовать параметры из generation_config.json. Карточка указывает лицензию «other», но конкретные условия в предоставленных данных не раскрыты, поэтому перед использованием следует проверить лицензионные сведения репозитория. Это крупная модель, для запуска которой требуются значительные вычислительные ресурсы.

Qwen2.5-32B-Instruct-GGUF — квантованная в формате GGUF версия инструкционной языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Квантование подготовлено bartowski на основе llama.cpp, а распространение модели осуществляется в рамках Community Model Program LM Studio. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, работу со структурированными данными и создание структурированного контента. Она поддерживает более 29 языков, среди которых английский, китайский, французский, испанский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Заявлена поддержка контекста до 128 000 токенов с использованием настроек YaRN RoPE и генерацией до 8 000 токенов. Ключевые характеристики включают размер 32B параметров, текстовую модальность и обучение на наборе данных объёмом 18 триллионов токенов. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в поддерживаемых приложениях, однако требования к вычислительным ресурсам зависят от конкретного уровня квантования. Модель может генерировать неточные, вредные или непреднамеренные ответы. Лицензия — Apache 2.0.

Qwen2.5-7B-Instruct-1M-heretic — это модифицированная версия Qwen2.5-7B-Instruct-1M, разработанная автором репозитория saidutta69 с использованием Heretic v1.4.0. Модель предназначена для генерации текста, диалогов, ролевых сценариев, программирования, анализа длинных документов и рассуждений по большим контекстам, включая анализ целых кодовых баз. Она ориентирована на локальный запуск разработчиками и пользователями потребительских GPU. Модель относится к семейству Qwen 2.5, имеет около 7 млрд параметров и поддерживает контекст до 1 млн токенов. Это instruction-tuned текстовая авторегрессионная модель; заявленный язык — английский. Доступны веса BF16 и квантованные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0, что позволяет запускать её на GPU с 8–24 ГБ памяти, а также на CPU и Apple Silicon при наличии достаточного объёма оперативной памяти. Модификация выполнена методом directional ablation, или abliteration: целевые изменения весов attention output и MLP down-projections подавляют поведение, связанное с отказами, без дообучения. Сильной стороной модели являются большой контекст, возможность локального запуска и сохранение большей части знаний и возможностей базовой модели после модификации. При этом подавление отказов является осознанным ограничением безопасности: модель может выполнять запросы, которые исходная версия отклоняла, в том числе потенциально опасные, и не содержит дополнительной фильтрации. Поэтому её не рекомендуется использовать за незащищённым публичным интерфейсом без собственной модерации. Модель распространяется по лицензии other, унаследованной от базовой Qwen2.5-7B-Instruct-1M.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-nonuniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

igriv/Qwen3-32B-heretic — разговорная языковая модель семейства Qwen3, созданная изменением Qwen3-32B методом abliteration, чтобы существенно снизить частоту отказов. В приведённом сравнении модель отказывает в 3 случаях из 100 против 99 у исходной модели; это оценка из карточки, а не гарантия поведения во всех запросах. Модель предназначена для генерации текста и диалогов, в том числе для рассуждений, программирования, перевода и следования инструкциям. Архитектура — плотная авторегрессионная Qwen3ForCausalLM; в метаданных указаны 29,7 млрд параметров, контекст 40 960 токенов и формат safetensors. README приписывает семейству Qwen3 поддержку более 100 языков, но не приводит отдельную оценку языков именно этой производной модели. Модель разработана автором репозитория igriv на основе Qwen3-32B. Лицензия — Apache-2.0. Снижение отказов может означать меньшую защиту от небезопасных запросов; опубликованная таблица не раскрывает полный протокол оценки, а качество и безопасность ответов требуют самостоятельной проверки.

YashasviMantha/Qwen3-4B-Instruct-2507-heretic — версия Qwen3-4B-Instruct-2507, созданная с помощью Heretic v1.4.0. Это плотная причинно-языковая модель примерно на 3,7 млрд параметров для генерации текста в диалоговом и инструктивном режиме. Она принимает текст и генерирует текст; поддерживает многоязычные запросы, работу с кодом и инструментами, а также контекст до 262 144 токенов. Модель использует только режим без рассуждений (non-thinking). Модель предназначена для ответов на вопросы, следования инструкциям, логических и математических задач, написания и разбора кода, а также работы с длинными документами и инструментами. Это декensored-версия исходной модели: в приведённом сравнении она отказала в 16 из 100 запросов, тогда как исходная — в 100 из 100; это может означать ослабленные ограничения на ответы. Доступны веса в формате safetensors, библиотека Transformers и лицензия Apache-2.0.

Esper 3.1 — дообученная компанией Valiant Labs языковая модель для программирования, проектирования архитектуры и DevOps. Она основана на Qwen3-4B-Thinking-2507 и предназначена для диалогов, следования инструкциям и решения задач с рассуждением, в том числе сложных задач разработки и эксплуатации систем. Модель использует плотную архитектуру Qwen3ForCausalLM и содержит 3,7 млрд параметров. Она принимает и генерирует текст; заявленная длина контекста — 262 144 токена. В карточке указана поддержка английского языка. Модель дообучена на наборах данных с примерами рассуждений, программирования, DevOps и проектирования систем. Esper 3.1 подходит для генерации и анализа кода, помощи с облачной инфраструктурой и инструментами вроде Docker, Kubernetes, Terraform и Ansible, а также для обсуждения архитектуры и MLOps. Компактный размер позволяет запускать её локально и на серверах. Модель распространяется по лицензии Apache-2.0.

QuantFactory/Qwen3-4B-Thinking-2507-GGUF — квантизированная версия Qwen3-4B-Thinking-2507, созданная QuantFactory с использованием llama.cpp на основе модели Qwen. Это каузальная языковая модель для генерации текста, ориентированная на задачи, требующие рассуждений: логика, математика, естественные науки, программирование, академические задания, следование инструкциям, использование инструментов и взаимодействие с агентными системами. Модель содержит около 4 млрд параметров, из которых 3,6 млрд не относятся к эмбеддингам, и имеет 36 слоёв. Архитектура внимания использует GQA: 32 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 262 144 токена. Модель поддерживает только режим рассуждений; используется автоматическое добавление маркера <think>, поэтому в выводе могут присутствовать специальные маркеры рассуждений. В README явно описана текстовая модальность; перечень поддерживаемых языков не указан. Сильными сторонами являются улучшенные возможности рассуждения, следования инструкциям, генерации текста, работы с инструментами и обработки длинного контекста. Модель рассчитана на сложные задачи и может генерировать длинные цепочки рассуждений, что следует учитывать при настройке лимита вывода и потреблении ресурсов. Ограничения включают работу только в thinking-режиме, отсутствие сведений о конкретном формате и уровне квантизации в карточке, а также отсутствие опубликованных требований к аппаратному обеспечению и подробных характеристик производительности именно этой GGUF-сборки. Указанная лицензия — Apache-2.0.

Qwen3.5-99B — текстовая версия модели Qwen3.5-122B-A10B, подготовленная 0xSero методом REAP (Routing-Enhanced Activation Pruning). Из модели с архитектурой MoE удалено 20% наименее активных экспертов; итоговый чекпойнт содержит 99 млрд параметров и распространяется в формате BF16. В метаданных указаны Transformers и возможность диалогового взаимодействия. Модель предназначена для генерации текста и диалогов, включая программирование, ответы на вопросы и рассуждения. README приводит результаты бенчмарков для генерации кода и общих задач на знания и рассуждения; согласно карточке, после удаления экспертов сохранено в среднем 97,9% измеренных возможностей. Это текстовый чекпойнт: для запуска в vLLM README рекомендует флаг --language-model-only и задаёт контекст до 8192 токенов в примере команды. Базовая модель Qwen3.5-122B-A10B мультимодальна, но данная версия не предназначена для обработки изображений. Модель опубликована под лицензией other; конкретные условия использования следует проверять в сведениях о лицензии репозитория. Для обслуживания требуется значительный объём вычислительных ресурсов; README приводит конфигурацию vLLM с четырьмя GPU и экспертным параллелизмом. Бенчмарки в карточке не гарантируют аналогичных результатов на произвольных задачах.

FenomAI/Qwen3.6-27B-AWQ-INT4 — квантованная до AWQ INT4 версия открытой модели Qwen3.6-27B, разработанной командой Qwen; базовая модель предоставлена в репозитории Qwen/Qwen3.6-27B. Модель распространяется в формате, совместимом с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это каузальная языковая модель с vision encoder, предназначенная для работы с текстом и изображениями. Основные сценарии — агентное программирование, разработка интерфейсов, анализ репозиториев и решение задач на уровне программных проектов. Модель также поддерживает сохранение контекста рассуждений из предыдущих сообщений для итеративной разработки. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; размерность скрытого представления составляет 5120. Точные поддерживаемые языки в README не указаны. Ключевое преимущество — ориентация на coding agent-сценарии и работу с длинным контекстом. Ограничения, требования к оборудованию и влияние квантования AWQ INT4 на качество отдельно не описаны. Лицензия — Apache 2.0.

Карточка модели Idk555433/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Карточка модели Simplismart/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

infosave/Qwen3.8-27B-cmf — это квантизированная версия модели Qwen3.8-27B, преобразованная в контейнер CMF. Исходная модель разработана командой Qwen, а данный репозиторий содержит её представление для запуска через cortiq — нативный Rust-бинарник без Python и ML-фреймворков. Модель предназначена для генерации текста, диалогов, объяснения технических тем и работы через API, совместимый с OpenAI, а также через Ollama-совместимый интерфейс. Модель имеет 27 млрд параметров и гибридную архитектуру: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания. Заявлено контекстное окно до 262 тысяч токенов и режим рассуждений. Поддерживаются английский, русский и китайский языки. Доступны варианты квантизации 4-bit и 8-bit; наиболее компактный q4tp занимает 14,3 ГБ, q4t — 15,4 ГБ, а q8_2f — 27,4 ГБ. К сильным сторонам относятся большое контекстное окно, поддержка различных GPU через Vulkan, Metal и DX12, работа на CPU, совместимость с NVIDIA, AMD, Intel и Apple silicon, а также возможность спекулятивного декодирования для ускорения жадной генерации. Ограничения связаны с высокими требованиями к памяти, зависимостью производительности от оборудования и характера запроса, а также с тем, что спекулятивное декодирование применяется преимущественно для greedy-генерации и не всегда ускоряет свободный текст. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-int4-AutoRound — мультимодальная версия базовой модели Qwen/Qwen3.8-27B, подготовленная пользователем devan-carlin с использованием Intel AutoRound. Модель предназначена для генерации текста, решения математических и логических задач, программирования, работы с алгоритмами, а также анализа изображений и текстовых запросов. Модель содержит 27 млрд параметров и использует архитектуру qwen3_5 с 64 слоями и чередованием линейного и полноформатного внимания в соотношении 3:1. Поддерживается контекст длиной до 256K токенов. В репозитории присутствует vision tower Qwen3-VL, поэтому модель работает как в текстовом, так и в мультимодальном режиме. Квантизация выполнена в INT4 с помощью AutoRound, с размером группы 128 и симметричным представлением; отдельные компоненты сохранены в 16-битной точности. Основное преимущество — существенное снижение объёма памяти: около 18 ГБ против примерно 52 ГБ для BF16, а также более высокая скорость генерации на конфигурации из четырёх Intel Arc Pro B70. В заявленном тесте скорость составила 47,8 токена в секунду против 30,2 у BF16, при сопоставимом качестве на математических, логических, алгоритмических и программных запросах. Ограничением является более многословная генерация INT4-версии, из-за чего при длинных ответах может потребоваться увеличить параметр max_tokens. Для запуска рекомендуется vLLM с tensor parallelism; на XPU/ARK может потребоваться исправление qzeros guard для загрузки симметричных INT4-весов. Модель распространяется по лицензии Apache-2.0, как и базовая модель.

Qwen3.8-27B-mlx-uniform-4bit — MLX-версия модели Qwen3.8-27B, подготовленная caslca на основе unsloth/Qwen3.8-27B. Модель преобразована в равномерный аффинный 4-битный формат с группами по 64 значения; заявленный размер — около 27 млрд параметров, объём весов — 15,13 ГБ. В сборку также включены 333 визуальных тензора, поэтому модель предназначена для сценариев image-text-to-text и поддерживает работу с текстом и изображениями. В README не указаны полный перечень языков и точное максимальное окно контекста, однако тесты проводились с ограничением до 262 144 токенов. Основные сценарии применения — агентное программирование, исследовательская работа, проектирование, математические задачи, генерация и анализ кода, а также базовое описание изображений. Для ускорения декодирования рекомендуется использовать отдельный MTP-компаньон caslca/Qwen3.8-27B-mlx-uniform-4bit-mtp-drafter; одобренная конфигурация предполагает MTP ON, среднюю интенсивность рассуждений и temperature 0,6. Модель ориентирована на запуск через MLX/Metal, в частности на системах Apple Silicon. К сильным сторонам относятся компактное 4-битное представление, поддержка визуального ввода, высокая производительность в проверенных тестах программирования и математики, а также сохранение качества при включённом предикторе MTP в большинстве проведённых сравнений. Результаты имеют ограничения: сравнение на MBPPPlus признано неокончательным, визуальная проверка была небольшой и не подтверждает качество на произвольных изображениях, OCR или сложных диаграммах, а отдельные тесты были exploratory и не заменяют широкую сертификацию. Модель распространяется по лицензии Apache-2.0.

Это квантованная версия Qwen3.8-27B, подготовленная FreedomAISVR в формате GGUF MXFP4 для запуска через llama.cpp на видеокартах NVIDIA Blackwell. В основе — плотная мультимодальная архитектура Qwen3_5ForConditionalGeneration с языковой частью на 27 млрд параметров и отдельным визуальным проектором; веса модели используют MXFP4, проектор — F16. Карточка указывает лицензию Apache-2.0. Модель предназначена для диалогов с текстом и изображениями, анализа видео, программирования, профессиональных и исследовательских задач, а также многошагового планирования и работы с агентскими сценариями. Режим рассуждений включён по умолчанию; его можно отключать и настраивать глубину. В README приведены примеры запуска с контекстом 32K и тесты производительности на RTX 5060 Ti 16GB, но это рекомендованные настройки и результаты для конкретной конфигурации, а не гарантии для другого оборудования. Квантизация уменьшает размер текстовых весов примерно до 14,2 ГБ; для обработки изображений также нужен визуальный проектор около 928 МБ. README рекомендует видеокарты RTX 50-й серии с 16 ГБ видеопамяти и не менее 16 ГБ оперативной памяти. Указанный в README контекст 32K — настройка примера запуска, а не подтверждённый максимальный контекст модели. Качество и скорость могут зависеть от оборудования и сборки llama.cpp.

Qwythos-9B-Claude-Mythos-5-1M-NVFP4-GGUF — квантованная версия в формате GGUF модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero AI на базе Qwen3.5-9B. Модель предназначена для рассуждений, диалогов, работы с изображениями и вызова инструментов. Она принимает контекст до 1 048 576 токенов с масштабированием YaRN и использует отдельный визуальный энкодер SigLIP; указанный в карточке основной язык — английский. По данным README, модель дообучали на более чем 500 млн токенов трасс Claude Mythos и Claude Fable. Среди заявленных сильных сторон — работа с длинными документами и кодовыми базами, математические задачи, кибербезопасность, биомедицина и клинические вопросы. В README также заявлены нативный вызов инструментов и улучшение результатов бенчмарков относительно базовой модели. Основные веса представлены в NVFP4, а визуальный энкодер — в F16; README рекомендует NVFP4 для ускорения на видеокартах NVIDIA Blackwell. Модель не проходила дополнительную настройку зрения: визуальные возможности унаследованы от базовой модели. Она может выдавать чрезмерно уверенные конкретные сведения, включая идентификаторы CVE и дозировки препаратов; для точных ответов рекомендуются проверка инструментами и прикладной защитный слой. Лицензия — Apache-2.0.

SJT-7B-1M — разговорная языковая модель Sakalti, созданная слиянием моделей через mergekit. В качестве основы использована Qwen/Qwen2.5-7B-Instruct-1M, объединённая с Sakalti/model-3 методом TIES. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 1 010 000 токенов. Метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors; README указывает тип float16. Лицензия в предоставленных данных не указана.

SuperQwen3.8-27b-abliterated — мультимодальная диалоговая модель Jiunsong, полученная изменением Qwen/Qwen3.8-27B. Это полноразмерный чекпойнт BF16 в формате safetensors, примерно 52 ГБ, с плотной архитектурой Qwen3.5 и 27 млрд параметров. Изменение rank-4 снижает выраженность отказов; башня обработки изображений и веса MTP сохранены без изменений. Модель принимает текст и изображения и формирует текстовые ответы, поддерживает вызов инструментов и контекст до 262 144 токенов. Модель предназначена для диалогов, анализа изображений, многошаговых рассуждений и работы с инструментами. По карточке, настройки reasoning по умолчанию изменены на medium, а для xhigh добавлено условие остановки после получения ответа. Разработчик сообщает о прохождении конечного набора тестов на возможности, работу с изображениями и инструментами; это не гарантирует качество на всех задачах. Снижение отказов может приводить к ответам на запросы, которые базовая модель отклонила. Лицензия — Apache-2.0.

CaptainArni/Swift-Qwen3.8-27B-NInfer — артефакт модели Swift-Qwen3.8-27B, разработанной UkisAI на базе Qwen3.8-27B и преобразованной в однофайловый формат NInfer v3 проектом NInfer. Это мультимодальная модель для работы с текстом и изображениями, с поддержкой видео при включении vision-компонента. Она предназначена для диалогов, рассуждений, программирования и генерации структурированного вывода, а также для локального развёртывания через OpenAI-совместимый API. Модель содержит 27 млрд параметров исходной архитектуры, текстовые и vision-компоненты, MTP и опциональный speculative decoding через DFlash2. Используются квантование NVFP4 и FP8, а также форматы BF16 и Q4/Q5/Q6 для отдельных компонентов. Артефакт занимает около 21,2 GiB, веса требуют 18,9 GiB VRAM с MTP или 20,5 GiB с DFlash2. Заявлен максимальный контекст до 262 144 токенов; в примерах конфигурации используется 64 000 токенов. Поддерживается ускоренная генерация с MTP или DFlash2, причём DFlash2 демонстрирует преимущества на коде и структурированном выводе, но требует больше памяти. К сильным сторонам относятся сокращённое число токенов рассуждения, высокая скорость предварительной обработки и меньший объём памяти по сравнению с приведённым официальным NVFP4-артефактом. Ограничения включают зависимость от NVIDIA GPU, Linux и CUDA 12.8+, необходимость использования NInfer, а также ограниченную доказательность заявленных качественных результатов: README описывает лишь небольшое тестирование. DFlash2 обучался на скрытых состояниях базовой Qwen3.8, а не Swift-версии, поэтому его эффективность для этой модели может различаться. Модель распространяется по лицензии swift-open-license-1.0; точные условия следует уточнять по указанному лицензионному документу.

Ternary-Bonsai-2-27B-mlx-2bit — производная от Qwen/Qwen3.8-27B модель Prism ML для генерации текста, диалогов и рассуждений. Это плотная гибридная трансформерная архитектура с 27,36 млрд параметров: языковая часть использует линейное и полное внимание, SwiGLU, RoPE и RMSNorm; в комплект также входит башня зрения. Весы языковой модели представлены значениями −1, 0 и +1 с групповым масштабированием и вращением Адамара, тогда как башня зрения не квантизирована. Репозиторий весит 8,60 ГБ и предназначен для запуска через MLX на устройствах Apple, включая локальные сценарии без сети; заявленная длина контекста — 262 тысячи токенов. Модель рассчитана на локальных диалоговых и агентных помощников, анализ длинных документов и репозиториев кода, математические рассуждения и вызов инструментов. Разработчик сообщает о сохранении 98,2% среднего результата FP16 на 14 тестах и скорости около 47 токенов в секунду на ноутбуке с Apple M5 Max; показатели производительности зависят от оборудования и runtime. Основное ограничение — небольшая потеря качества по сравнению с полной точностью, а низкобитные ядра могут работать медленнее на некоторых GPU. Лицензия — Apache-2.0.

Tess-4-27B — мультимодальная модель на 27 млрд параметров, разработанная Migel Tissera на основе Qwen/Qwen3.6-27B. Это дообученная плотная модель семейства Qwen3.5 для диалогов, рассуждений и агентной работы с инструментами; она принимает текст и изображения и генерирует текст. Модель рассчитана на программирование, анализ больших кодовых баз и документов, планирование и решение многошаговых технических задач. В README указано обучение на трассах агентной работы с контекстом 64 тыс. токенов; это не подтверждает максимальную длину контекста при инференсе. Разработчик описывает стиль модели как сдержанные ответы на простые запросы и более подробное обдумывание сложных задач. Она поддерживает интерфейс вызова инструментов и унаследовала визуальную часть базовой модели Qwen. Модель доступна в формате BF16 safetensors для Transformers, vLLM и SGLang; README также указывает отдельные репозитории GGUF-квантований. Лицензия — Apache 2.0.

Youtu-LLM-2B — инструктивная языковая модель Tencent для диалогов, рассуждений и выполнения задач агентного типа. Это плотная авторегрессионная модель с архитектурой YoutuForCausalLM и механизмом Dense MLA; в ней около 2 млрд параметров, 32 слоя и словарь из 128 256 токенов. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режим рассуждений, включаемый через шаблон диалога. Модель предназначена для чат-ботов, ответов на вопросы, задач STEM и программирования, работы с длинными контекстами и многошаговых агентных сценариев. Карточка приводит сравнительные результаты на общих и агентных бенчмарках, но эти оценки не гарантируют качество на конкретных данных. В репозитории указана лицензия other; конкретные условия следует сверять с текстом лицензии проекта.

AI21 Jamba 1.5 Mini — языковая модель общего назначения от AI21, построенная на гибридной архитектуре Jamba, сочетающей Transformer и Mamba (SSM), с механизмом Mixture of Experts. В README указаны 12 млрд активных и 52 млрд общих параметров и контекст до 256 тыс. токенов. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, работу с длинными документами, структурированный вывод в JSON, вызов инструментов и генерацию ответов с опорой на предоставленный контекст. Модель поддерживает английский, испанский, французский, португальский, итальянский, нидерландский, немецкий, арабский и иврит; основной язык не выделен. В карточке заявлены высокая скорость вывода и эффективная работа с длинным контекстом. Для запуска нужны совместимые CUDA-ускорители и оптимизированные реализации Mamba; в FP16/BF16 Mini не помещается на одну GPU с 80 ГБ памяти, а режим ExpertsInt8 позволяет развернуть её на такой GPU. Модель распространяется по Jamba Open Model License, допускающей исследования и коммерческое использование на её условиях. README предупреждает, что эта версия подлежит устареванию с 6 мая 2024 года.

Карточка модели dendriteholdings/albedo-qwen3.6-35b-king-genesis на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.