II.1Анализ требований и архитектура ПО

JANGQ-AI/Mistral-Small-4-119B-A6B-JANG_4M — квантованная сборка модели Mistral Small 4 от Jinho Jang и проекта JANGQ-AI, предназначенная для запуска на компьютерах Apple Silicon через MLX. Она основана на mistralai/Mistral-Small-4-119B-2603 и использует формат MLX safetensors с квантованием JANG 4.08 бит и вычислениями bfloat16. Модель содержит 119 млрд параметров, из которых активны около 6 млрд на токен. Архитектура включает 36 MoE-слоёв с 128 экспертами и выбором четырёх экспертов, MLA-внимание и визуальный энкодер Pixtral. Модель поддерживает диалог, рассуждения, генерацию кода и анализ изображений; README указывает максимальное разрешение изображений 1540 пикселей. В карточке перечислены английский, французский, немецкий, испанский, японский, корейский и китайский языки. Сборка рассчитана на запуск в MLX Studio; README также указывает поддержку oMLX. Для указанной конфигурации требуется около 68 ГБ оперативной памяти, а тест скорости приведён для M3 Ultra. Владелец публикует код квантования с открытым исходным кодом; модель распространяется по лицензии Apache-2.0. Приведённые скорости относятся к конкретному стенду и не гарантируют такие же результаты на других устройствах.

Mistral-Small-4-119B-Uncensored-GGUF — текстовая GGUF-версия модели Mistral Small 4 119B Instruct, разработанная TIMTEH на базе модели Mistral AI. Из исходной мультимодальной модели удалена vision tower, поэтому данная версия работает только с текстом. Модель предназначена для генерации текста, диалогов, рассуждений, программирования и других задач обработки естественного языка, включая сценарии, где требуется меньше ограничений на ответы. Модель содержит 119 млрд параметров и использует архитектуру Mixture of Experts с 128 маршрутизируемыми и одним общим экспертом на каждом слое; для каждого токена активируются 4 эксперта. Архитектура включает 36 decoder layers и Multi-Latent Attention. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского и корейского языков. Исходная модель поддерживает контекст до 128K токенов, однако для GGUF-рантаймов рекомендуется ориентироваться на контекст до 32K токенов. Ключевая особенность — abliteration: из слоёв 9–35 удалено направление, связанное с отказами, без дообучения и изменения датасета. Это расширяет диапазон запросов, на которые модель отвечает, но одновременно уменьшает защитные ограничения и требует ответственного применения. Модель доступна в вариантах квантования от Q2_K до Q8_0, а также в BF16; размер файлов составляет примерно от 41 до 222 ГБ, поэтому требуются значительные ресурсы GPU или оперативной памяти. Совместима с llama.cpp, LM Studio, Jan, koboldcpp, Ollama и другими GGUF-совместимыми средами. Распространяется по лицензии Apache-2.0.

Muse Glimmer — модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия. Это мультимодальная модель на 29,6 млрд параметров, дистиллированная из Muse Spark и опубликованная по лицензии Apache 2.0. Она предназначена для локального запуска на потребительском оборудовании и поддерживает диалог с изображениями. Модель рассчитана на многошаговые агентные сценарии: планирование, вызов инструментов, восстановление после ошибок и выполнение длительных задач. Её также можно применять для разработки кода, анализа скриншотов, диаграмм и документов, генерации синтетических данных и оценки ответов других моделей. В README заявлены результаты на бенчмарках агентного выполнения, включая SWE-Bench, DeepSearch QA и MCP-Atlas. Модель может ошибаться в рассуждениях, особенно в новых сценариях, и выдавать неточные, предвзятые или нежелательные ответы. Поддержки аудио нет; видео явно не оптимизировано и обрабатывается как отдельные кадры. Качество может снижаться для языков, на которых модель недостаточно оценивалась. Для агентных приложений разработчик рекомендует дополнительные меры защиты и проверки.

Nemotron-3-Nano-30B-A3B от NVIDIA — языковая модель для диалогов, рассуждений и следования инструкциям. Эта версия Unsloth основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; метаданные и карточка описывают её как дообученную модель. Она предназначена для разработчиков чат-ботов, RAG-систем и агентных приложений, включая сценарии с вызовом инструментов, а также для программирования и типовых задач по инструкциям. Модель использует гибридную архитектуру Mamba-2 и Transformer с Mixture-of-Experts: 30 млрд параметров всего и 3,5 млрд активных. Поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Карточка указывает контекст до 1 млн токенов, при стандартной конфигурации 256 тыс.; больший контекст требует больше видеопамяти. Модель генерирует текст и может работать с рассуждением или без него; режим рассуждений обычно повышает качество на сложных запросах. В карточке указана готовность к коммерческому использованию, однако метаданные обозначают лицензию как «other», поэтому конкретные условия следует сверить с лицензией репозитория. К практическим ограничениям относятся высокие требования к видеопамяти, особенно при длинном контексте, и отсутствие поддержки русского языка среди перечисленных языков.

Карточка модели ckoozzzu/new1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Omega AI 8B — публикация модели Qwen3-8B под брендом Omega AI. Репозиторий сохраняет исходные предварительно обученные веса без дообучения и содержит только изменения брендинга и метаданных. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст; заявленная длина контекста — 40 960 токенов. Модель подходит для диалоговых приложений, следования инструкциям, рассуждений, работы с кодом и вызова инструментов — эти возможности описаны для базовой Qwen3-8B. Карточка Omega не сообщает о дополнительном обучении или отдельных улучшениях относительно базы. Лицензия репозитория — Apache-2.0.

OpenChat-3.6-8B-20240522 — диалоговая языковая модель команды OpenChat, созданная дообучением Meta-Llama-3-8B с использованием смешанных по качеству данных и метода C-RLFT. Модель имеет плотную архитектуру LlamaForCausalLM примерно на 7,5 млрд параметров и контекст до 8192 токенов; веса доступны в формате safetensors, для работы используется библиотека Transformers. Модель предназначена для чата, генерации текста и кода, а также общих задач по умолчанию. Авторы рекомендуют использовать шаблон диалога OpenChat и предлагают сервер с совместимым с OpenAI ChatCompletion API интерфейсом; в README заявлена возможность запуска на потребительском GPU с 24 ГБ памяти. Карточка сообщает о сравнении с Llama-3-8B-Instruct и другими открытыми моделями, но не приводит здесь независимой оценки качества. Лицензия — Llama 3; применяются её условия использования.

Open-Instruct ShareGPT 13B — языковая модель Allen Institute for AI, представляющая собой дообученную для следования инструкциям версию LLaMA примерно с 12,9 млрд параметров. Обучение проводилось на очищенном наборе диалогов ShareGPT, подготовленном аналогично данным Vicuna; модель относится к плотной архитектуре LLaMA для генерации текста и рассчитана на контекст до 2048 токенов. Модель подходит для ответов на запросы в формате инструкций и диалогов, а также для задач общего назначения: ответов на вопросы, рассуждений и генерации кода. В README приведены результаты оценки на MMLU, GSM, BBH, TyDiQA и Codex-Eval. Для качества генерации важно соблюдать указанный в карточке формат ввода и переводы строк. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Ornith 1.5 35B-A3B Uncensored — мультимодальная модель для диалогов, программирования и агентных задач, созданная на основе Ornith 1.5 35B-A3B. Разработчик применил к весам Ornith task-vector с модели Qwen3.6-35B-A3B-abliterated: изменены 102 совместимых тензора, а vision- и MTP-компоненты Ornith сохранены. Модель использует архитектуру Qwen3.5 MoE и файлы Safetensors; базовая модель содержит 35 млрд параметров. Контекст настроен на 262 тыс. токенов. Модель предназначена для текстовых диалогов, программирования, агентных сценариев и анализа изображений. В README заявлено, что дообучение Ornith для программирования и агентных задач сохранено, а склонность к отказам намеренно снижена. Локальная проверка на квантованной сборке Q4_K_M охватывала 20 промптов; её эвристические результаты не являются общим бенчмарком этой модели. Лицензия — Apache-2.0. Для запуска требуются актуальные версии Transformers, vLLM или SGLang; README указывает Transformers 5.8.1+, vLLM 0.19.1+ и SGLang 0.5.9+.

Ornith 1.5 35B A3B UNCENSORED JANG_4M — это квантованная MLX-версия мультимодальной модели Ornith-1.5-35B-A3B, опубликованная dealignai на базе разработки ornith-ai. Модель предназначена для запуска на устройствах Apple Silicon через vMLX или совместимый MLX-VLM runtime и ориентирована на диалоговые задачи, программирование, рассуждения, работу с изображениями и видео, а также агентные сценарии с вызовом инструментов. Модель имеет архитектуру Mixture-of-Experts с 35,9 млрд параметров, 40 слоями и 256 маршрутизируемыми экспертами. Она использует гибридную основу с gated-delta и полнослойным attention, 27-слойную vision-башню и нативную поддержку видео. Доступен контекст до 262 144 токенов, поддерживаются английский язык, изображения и видео, встроены режим рассуждений и вызов инструментов через XML или function schema. JANG_4M — это 4-битная смешанно-точная квантзация, размер сборки составляет около 20 ГБ. К сильным сторонам относятся сохранённые возможности базовой модели в области знаний, кодирования, рассуждений и компьютерного зрения, длинный контекст, мультимодальность и высокая готовность следовать инструкциям без стандартного поведения отказа. По заявленным результатам, MMLU составляет 78,4%, а соответствие тестам HarmBench — 97,1%; при этом MMLU ниже показателя базовой модели 81,1%. Удаление защитных отказов является существенным ограничением и требует ответственного применения, соблюдения законодательства и мер безопасности. В README указана лицензия Apache-2.0; модель опубликована для исследований AI-безопасности и санкционированного тестирования.

Phi-3-mini-4k-instruct-llamafile — переносимая исполняемая упаковка модели Microsoft Phi-3-mini-4k-instruct, подготовленная в формате llamafile. Она предназначена для локальной генерации текста, диалоговых приложений, ответов на инструкции, суммаризации, задач на понимание языка, математику, программирование и логическое рассуждение. Модель ориентирована на коммерческое и исследовательское использование на английском языке. Модель содержит 3,8 млрд параметров и поддерживает контекст до 4 096 токенов. Это текстовая instruction-tuned модель, прошедшая supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и мер безопасности. В поставку входят исполняемые веса, запускаемые на Linux, macOS, Windows, FreeBSD, OpenBSD и NetBSD на платформах AMD64 и ARM64; предусмотрены CLI-интерфейс, веб-интерфейс и совместимый с OpenAI API режим. Для запуска рекомендуется не менее 32 ГБ оперативной памяти. К сильным сторонам относятся компактный размер, возможность локального автономного запуска и высокая производительность среди моделей с менее чем 13 млрд параметров по ряду задач, включая понимание языка, здравый смысл, математику, код и рассуждение. Ограничения — поддержка английского языка, контекст 4K и потребность в значительных вычислительных ресурсах; конкретные возможности зависят от выбранного формата весов и оборудования. Сам llamafile распространяется по лицензии Apache 2.0, а содержащиеся веса Phi-3 опубликованы Microsoft под лицензией MIT.

EasierAI/Phi-4-14B — текстовая языковая модель на 14 млрд параметров, разработанная Microsoft Research и основанная на Microsoft Phi-4. В данном варианте модель преобразована в архитектуру, совместимую с Llama, для более удобного использования и дообучения; также заявлены исправления Unsloth. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, решения математических задач и программирования. Она принимает текстовые входы и лучше всего работает с запросами в чат-формате. Модель представляет собой плотный decoder-only Transformer с контекстом до 16 000 токенов и поддерживает английский язык. Phi-4 обучалась на сочетании синтетических данных, отфильтрованных общедоступных веб-источников, академических книг и наборов вопросов и ответов, а для улучшения поведения использовались supervised fine-tuning и direct preference optimization. К сильным сторонам относятся ориентация на качественные данные, развитое рассуждение, следование инструкциям и возможности для локального запуска и дообучения в форматах, поддерживаемых экосистемой Unsloth и llama.cpp. Ограничения включают текстовую модальность, заявленную специализацию на английском языке и необходимость учитывать ресурсы, требуемые для запуска 14B-модели; конкретные показатели качества в README не приведены. Лицензия указана как MIT. README описывает этот репозиторий как конверсию Phi-4 и ссылается на базовую модель microsoft/phi-4; сведения о точном формате или квантовании данной версии в предоставленных данных отсутствуют.

unsloth/phi-4-unsloth-bnb-4bit — 4-битная версия модели Phi-4, разработанной Microsoft Research и подготовленной Unsloth. Модель основана на dense decoder-only Transformer с 14 млрд параметров, преобразована в архитектуру, совместимую с Llama, и предназначена для более удобного использования и дообучения. Квантизация выполнена в формате Unsloth BNB 4-bit с динамическим выбором параметров, что призвано сохранить более высокую точность по сравнению со стандартной 4-битной квантизацией. Модель работает с текстом, лучше всего подходит для запросов в чат-формате и предназначена для генерации текста, диалоговых приложений, задач NLP, математики и программирования. Поддерживаемый язык — английский. Контекстное окно составляет 16K токенов. Базовая Phi-4 обучалась на сочетании синтетических данных, отфильтрированных общедоступных веб-источников, академических книг и наборов вопросов и ответов, а также проходила supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. К сильным сторонам относятся компактность по сравнению с более крупными моделями, возможности рассуждения, а также сниженные требования к памяти благодаря 4-битному представлению; Unsloth заявляет о преимуществах для последующего fine-tuning. Ограничения включают текстовую модальность, ориентацию прежде всего на английский язык и возможные потери качества из-за квантизации, хотя динамический подход должен их уменьшать. Модель распространяется по лицензии MIT.

Карточка модели adrianxu9778/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled — модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Она дообучена методом SFT с применением LoRA на наборах данных с примерами рассуждений, включая материалы, заявленные как дистиллированные из взаимодействий с Claude-4.6 Opus. Модель ориентирована на задачи, требующие пошагового анализа, планирования, программирования и работы в средах coding agents, включая Claude Code и OpenCode. Модель относится к плотной архитектуре размером 27B параметров. В карточке указаны поддержка английского и китайского языков, а также совместимость с Transformers, llama.cpp и форматом GGUF. Метаданные описывают её как image-text-to-text и мультимодальную, однако в описании итоговая версия явно названа text-only, поэтому возможности обработки изображений следует считать не подтверждёнными. Заявлена поддержка роли developer в шаблоне диалога и сохранённого thinking mode с выводом рассуждений в тегах <think>. К сильным сторонам относятся структурированное рассуждение, улучшенная автономность и стабильность при работе инструментального агента, а также снижение избыточных повторов в рассуждениях на простых запросах. Согласно карточке, модель способна продолжать автономную работу более девяти минут без вмешательства пользователя, но приведённые результаты основаны на общественных тестах, а не на независимой систематической оценке. Размер 27B может предъявлять существенные требования к памяти и вычислительным ресурсам, особенно без квантования. Модель распространяется по лицензии Apache-2.0.

TeichAI/Qwen3.5-27B-Claude-Opus-4.6-Distill — плотная мультимодальная модель семейства Qwen3.5 с 27 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3.5-27B. В README указаны датасет crownelius/Opus-4.6-Reasoning-2100x-formatted и личные данные Claude от EclipseMist; также отмечено, что LoRA предоставил EclipseMist. Модель предназначена для программирования, творческого письма, общего диалога и понимания изображений. Модель принимает текст и изображения и выдаёт текст; карточка также приводит рекомендации для работы с видео. Среди опубликованных проверок — ARC Challenge, GPQA Diamond, HellaSwag и отдельные разделы MMLU; результаты на ARC Challenge и HellaSwag выше, чем у указанной базовой модели, а на GPQA Diamond совпадают. Репозиторий содержит веса safetensors и опубликован под лицензией Apache-2.0. Метаданные относят модель к задачам image-text-to-text и указывают возможности чата и работы с изображениями.

Qwen3.5-27B-NVFP4 — квантованная версия модели Qwen/Qwen3.5-27B, опубликованная apolo13x. Это мультимодальная модель типа image-text-to-text: принимает текст и изображения, а генерирует текстовые ответы. Она предназначена для диалоговых сценариев, анализа изображений и решения общих задач обработки текста и мультимодального понимания. Весы и активации модели преобразованы в формат FP4 с использованием llm-compressor и 512 калибровочных образцов из набора neuralmagic/calibration. Квантование уменьшает размер модели с 51,8 до 18,4 ГБ, примерно в 2,8 раза, при заявленном среднем восстановлении точности 99,1% относительно исходной Qwen3.5-27B. Модель поддерживает режим рассуждений и предназначена для запуска, в частности, через nightly-версии vLLM. По результатам оценки в режиме zero-shot с включённым рассуждением модель получила 79,29% на GPQA Diamond, 93,88% на IFEval и 94,32% на MMLU-Redux; средний результат составил 89,16% против 89,76% у исходной модели. Сильными сторонами являются существенное снижение требований к дисковому пространству и сохранение близкой к исходной точности. Ограничения включают возможные потери качества из-за квантования и зависимость поддержки от актуальных сборок vLLM. Модель распространяется по лицензии Apache-2.0.

FreedomAISVR/Qwen3.5-4B-Instruct-NVFP4-GGUF — квантованная в NVFP4 версия мультимодальной инструкционной модели Qwen3.5-4B от команды Qwen компании Alibaba. Репозиторий содержит GGUF-веса текстовой модели и отдельный проектор изображений SigLIP в формате F16; для инференса автор описывает использование llama.cpp. Модель рассчитана на диалог, выполнение инструкций, генерацию текста и кода, рассуждения и понимание изображений. Поддерживает английский, китайский и другие языки; режим рассуждений по умолчанию отключён и может быть включён настройкой enable_thinking=true. Модель имеет 4 млрд параметров, 32 слоя трансформера, гибридное внимание GQA и MLA с чередованием SSM Mamba-2, скрытую размерность 2560. Квантование NVFP4 использует около 4,74 бита на вес и ориентировано на ускорение на графических процессорах NVIDIA Blackwell; README рекомендует традиционные форматы для более старых GPU, AMD и CPU. Лицензия — Apache-2.0. Карточка не сообщает длину контекста и количественную оценку качества.

jc-builds/Qwen3.5-4B-Q4_K_M-GGUF — это 4-битная квантованная версия базовой модели Qwen/Qwen3.5-4B, разработанной Alibaba Cloud. Квантование Q4_K_M и упаковка в формат GGUF выполнены для запуска на устройствах пользователя, в частности на iPhone, iPad и компьютерах Mac с Apple Silicon, через llama.cpp. Модель распространяется по лицензии Apache 2.0. Модель предназначена для генерации текста, рассуждений, программирования, следования инструкциям и использования инструментов. Она поддерживает режим reasoning с тегами <think> и ChatML-формат запросов. В README заявлены мультимодальные возможности с ранним объединением зрительных данных, однако vision encoder предоставляется отдельно. Указана поддержка 201 языка и диалекта, включая английский, китайский, японский, корейский, русский и другие языки. Архитектура представляет собой гибрид Gated DeltaNet и полноразмерного softmax-внимания в соотношении 3:1: из 32 слоёв восемь блоков содержат по три слоя DeltaNet и одному attention-слою. Модель имеет около 4 миллиардов параметров, размер файла составляет примерно 2,6 ГБ, а нативное контекстное окно — 262 144 токена; для расширения контекста заявлена совместимость с YaRN. Гибридная архитектура рассчитана на снижение потребления памяти, что делает модель подходящей для локального и мобильного вывода. Ограничениями являются потеря точности из-за 4-битного квантования, высокие требования к оперативной памяти для длинного контекста и то, что заявленные мультимодальные функции требуют отдельного vision encoder.

Tooony133/Qwen-3.6-27B-ChonkyCat — это объединённая с базовыми весами LoRA-адаптера версия мультимодальной модели Qwen3.6-27B. В README она описана как причинная языковая модель с визуальным энкодером, предназначенная в том числе для агентного программирования, работы с репозиториями и вызова инструментов. Модель содержит 27 млрд параметров и поддерживает контекст до 262 144 токенов, расширяемый до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. README отмечает улучшения в сценариях разработки интерфейсов и рассуждения над кодовыми базами; метаданные также указывают поддержку диалогового режима и изображений. Для запуска указана совместимость с Transformers и движками vLLM, SGLang и KTransformers. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

FreedomAISVR/Qwen3.6-35B-A3B-MXFP4-MOE-NoMTP-GGUF — квантизированная сборка базовой модели Qwen3.6-35B-A3B от команды Alibaba Qwen. Это модель Mixture-of-Experts с 35 млрд параметров и примерно 3 млрд активных параметров на токен; сборка в формате GGUF удаляет головы Multi-Token Prediction и использует MXFP4 для экспертных весов и Q8_0 для остальных тензоров. Размер файла — около 19,8 ГБ. Модель предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом, использованием инструментов и многоязычными запросами. В README заявлены контекст до 131 тыс. токенов и поддержка более 100 языков; метаданные перечисляют 19 языков, в том числе русский, английский и китайский. В проверенной конфигурации с llama.cpp указаны RTX 5060 Ti с 16 ГБ VRAM и флаг --cpu-moe, который размещает экспертные веса в системной памяти. Квантизация снижает требования к видеопамяти, сохраняя более высокую точность для постоянно используемых неэкспертных тензоров. Для работы нужны llama.cpp с поддержкой CUDA и совместимое оборудование; производительность зависит от аппаратной конфигурации. Базовая модель распространяется по лицензии Apache 2.0; отдельная лицензия производной сборки в предоставленных данных не указана.

Qwen3.6-35B-A3B-REAM-192 — мультимодальная модель Samsung SAIL Montreal, созданная слиянием экспертов базовой Qwen/Qwen3.6-35B-A3B методом REAM. В слоях MoE число маршрутизируемых экспертов сокращено с 256 до 192; модель содержит около 27,05 млрд параметров, из которых около 3 млрд активны на токен. Сохранены vision encoder и обработка изображений; веса представлены в формате bf16, без квантизации. Модель предназначена для диалогов, генерации текста по изображениям, агентного программирования и вызова инструментов. Это предварительный выпуск до оценки качества: автор сообщает, что модель загружается и связно отвечает на тестовых запросах, но результаты бенчмарков ещё не опубликованы. Для обычной текстовой и мультимодальной работы отсутствующие веса MTP не нужны, однако спекулятивное декодирование с MTP пока не поддерживается. Для инференса требуется bf16: fp16 может вызывать NaN в слоях GDN. Веса занимают около 52 ГБ; для контекста 32K автор указывает минимум около 60 ГБ VRAM. Лицензия Apache-2.0.

Qwen3.8-27B-Q4_0_ROCMFP4_STRIX_LEAN — квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная pugant в формате GGUF для llama.cpp. Это плотная гибридная модель с 48 слоями gated-delta-net и 16 слоями полного внимания, нативным контекстом до 262 тысяч токенов и поддержкой MTP для спекулятивного декодирования. В метаданных указаны английский и мультиязычный режимы, а основное назначение — генерация текста, включая программный код, структурированные ответы и задачи RAG. Модель использует квантизацию Q4_0_ROCMFP4_STRIX_LEAN с эффективной точностью около 4,34 BPW и размером примерно 13,82 ГиБ. Она оптимизирована для AMD Strix Halo с графикой RDNA 3.5 и ROCmFPX, поддерживает ROCm и Vulkan-бэкенды, а встроенный MTP-слой может заметно ускорять декодирование на предсказуемом и структурированном контенте. Наиболее высокое ускорение ожидается при генерации кода, детерминированных и структурированных данных; для обычной прозы эффект ограничен. Главное ограничение — модель несовместима со стандартной сборкой llama.cpp и требует форка ROCmFPX с пользовательскими типами тензоров. Она протестирована на Radeon 8060S в составе AMD Ryzen AI Max+ 395, поэтому работоспособность и производительность на другом оборудовании не гарантируются. Лицензия — Apache-2.0.

Sartaj Bhuvaji подготовил текстовую версию Qwen3.8-27B, удалив из Qwen/Qwen3.8-27B зрительную подсистему и преобразовав конфигурацию в Qwen3_5ForCausalLM. Это плотная гибридная авторегрессионная модель с 64 декодерными слоями: 48 слоёв линейного внимания и 16 слоёв полного внимания. В репозитории около 27,3 млрд параметров; заявленная длина контекста — 262 144 токена. Текстовые веса побайтно совпадают с исходной моделью, дообучения или переобучения не было. Модель предназначена для генерации текста и диалогового использования, включая развёртывание через Transformers, vLLM и SGLang. Удаление зрительной подсистемы исключает обработку изображений и сокращает занимаемую память примерно на 0,92 ГБ; автор также сообщает об увеличении доступной KV-кэш-памяти в конкретном тесте на H100. Лицензия — Apache-2.0. Модель не принимает изображения. Голова multi-token prediction сохранена, но не поддерживается проверенными загрузчиками; прирост скорости не гарантируется и зависит от движка, оборудования и нагрузки. Приведённые бенчмарки охватывают один H100 и ограниченный набор размеров запросов.

Qwen3.8-27B ThinkingCap Abliterated (MTP GGUF) — GGUF-версия модели, разработанная hotdogs на основе hotdogs/Qwen3.8-27B-thinkingcap-abliterated и дообученная с использованием датасета hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений, решения задач, следования инструкциям и помощи в программировании, включая сценарии SWE-bench. Она ориентирована на эффективное рассуждение с сокращённым числом токенов и поддерживает запуск через llama.cpp. Модель содержит 27,3 млрд параметров и сохраняет MTP-слой (Multi-Token Prediction) с 15 тензорами. Доступны варианты GGUF F16 размером около 51 ГБ, Q6_K размером около 21 ГБ и Q4_K_M размером около 16 ГБ; Q6_K позиционируется как компромисс между качеством и размером, а Q4_K_M — как наиболее быстрый вариант. В README указано тестирование с контекстом 8192 токена. Языки и набор поддерживаемых модальностей явно не указаны; по описанию это текстовая модель. Сильные стороны — эффективное рассуждение, сохранение MTP при квантовании и высокая производительность на GPQA Diamond, IFEval и SWE-bench в заявленных условиях тестирования. Ограничения включают зависимость качества от выбранной квантовки, значительные требования к памяти и вычислительным ресурсам, а также ограниченность и специфичность приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.

Solstice-AI Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M — это релиз модели для Apple Silicon в формате MLX, созданный Solstice-AI на базе дообученной модели DavidAU Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored. Архитектурная основа принадлежит Qwen/Alibaba, дообучение выполнил DavidAU, а смешанную oQ8e-квантизацию подготовила Solstice-AI. В карточке указаны английский и китайский языки, лицензия Apache 2.0 и контекстное окно до 1 048 576 токенов. Модель предназначена для запуска на компьютерах Apple с unified memory и ориентирована на рассуждения, программирование, научные и многодисциплинарные задачи. Заявлены переменная глубина рассуждений через 10-уровневую систему управления thinking, нативная аппаратная Multi-Token Prediction и скорость 58–74 токена в секунду на потребительских и профессиональных чипах Apple Silicon. Формат oQ8e использует смешанную точность и повышенную разрядность для чувствительных компонентов, включая проекции внимания, матрицы MLP и нормализационные тензоры. К сильным сторонам относятся большой контекст, оптимизация под Metal и Apple Silicon, поддержка аппаратного MTP, гибкое управление глубиной рассуждений и ориентация на кодирование и reasoning. Ограничениями являются требование не менее 64 ГБ unified memory для конфигурации oQ8e, зависимость от MLX/mlx-lm и отсутствие в README подробностей о фактической мультимодальности, несмотря на заявленный pipeline image-text-to-text. Модель обозначена как uncensored и abliterated, поэтому её поведение в части отказов от потенциально вредных запросов может отличаться от стандартных версий.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-6Bit — это 6-битная версия модели семейства Qwen3.8 с 27 млрд параметров, основанная на модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion. Оригинальную модель и объединение весов GAIN разработал DavidAU, а квантование, интеграцию MTP и упаковку для Apple MLX выполнила Solstice-AI. В карточке заявлена поддержка английского и китайского языков, а также формат image-text-to-text, однако подробности о фактических мультимодальных возможностях не приведены. Модель предназначена для рассуждений, программирования, агентных задач, отладки репозиториев, следования сложным инструкциям и длительных рабочих процессов. Она использует гибридную архитектуру Qwen 3.8: около 75% слоёв составляют блоки Gated Delta Recurrent Network с линейным вниманием, а около 25% — блоки Grouped-Query Attention. Заявлен контекст до 262 144 токенов. Квантование выполнено в 6 бит с affine scaling и group_size 64; заявленный объём памяти составляет около 21,85 ГБ, что ориентирует модель на Mac с Apple Silicon и унифицированной памятью от 32 ГБ. К сильным сторонам относятся встроенный 15-тензорный модуль Multi-Token Prediction, совместимость с DSpark speculative decoding и заявленное ускорение генерации до 22–52 токенов в секунду на Apple Silicon. README также сообщает о высоких результатах в SWE-bench Pro, LiveCodeBench, OSWorld, AndroidWorld, ARC и других тестах, включая превосходство над Claude Opus 4.6 Max, но эти утверждения следует воспринимать как результаты, заявленные авторами карточки. Возможные ограничения — высокая потребность в памяти, привязка оптимизаций к Apple MLX и отсутствие независимой верификации приведённых сравнений. Указанная лицензия — Apache 2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ4e-1M — это релиз модели Qwen3.8-27B Cold Fusion, созданной на основе объединения весов DavidAU. Solstice-AI выполнила последующее квантование, масштабирование контекста и упаковку для Apple MLX. Модель предназначена для локального запуска на компьютерах Apple Silicon, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM с ускорением Metal. Модель содержит около 27 млрд параметров и использует смешанную oQ4e-квантизацию с калибровкой по матрице важности; размер релиза составляет примерно 17,02 ГБ. Заявлена гибридная архитектура Qwen 3.8: около 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а остальные — Grouped-Query Attention. Также заявлены аппаратная Multi-Token Prediction для ускорения генерации и встроенное YaRN-масштабирование RoPE до 1 048 576 токенов. В карточке указаны английский и китайский языки. Основные сценарии — рассуждение, программирование, агентная разработка ПО, работа с большими контекстами и многошаговыми задачами. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench, CoWorkBench и тестах ARC, однако эти показатели следует воспринимать как заявленные авторами и зависящие от методики оценки. Ограничениями являются требования к совместимому Apple Silicon и программному стеку, последствия 4-битной квантизации, а также значительные вычислительные и временные затраты при использовании контекста до миллиона токенов. Релиз распространяется по лицензии Apache 2.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-Q8E-MLX — квантизированная MLX-версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next. Разработчик карточки — WaveCut; метод REAM создан исследователями Samsung SAIL Montréal. Модель относится к мультимодальному классу image-text-to-text, однако в README подробно описано преимущественно применение для текстовой генерации и agentic coding. Она предназначена для программирования, рефакторинга, математических и общих текстовых задач, а также работы с английским, русским, кодом и редкими сущностями. Точный размер базовой модели и длина контекста в README не указаны. Архитектура использует mixture-of-experts: сохранено 288 экспертных слотов, а 224 удаляемых эксперта не отбрасываются, а объединяются с наиболее похожими сохранёнными экспертами. Основная часть модели квантизирована до 4 бит, экспертные веса представлены в 8-битном формате с группировкой gs64; модель совместима с mlx-vlm и поддерживает стандартный runtime с qwen4_exp. По сравнению с REAP-288 объединение экспертов лучше сохраняет близость к исходной 512-экспертной модели по KL-метрике, а опубликованные 4-битные сравнения показывают сопоставимые или немного более высокие результаты на HumanEval, GSM8K и тесте редких имён, хотя различия статистически незначимы. Ограничение — большой размер текущей сборки: около 107 ГБ, из-за чего она не помещается на GPU с 80 ГБ памяти; генеративное тестирование именно этой сборки не проводилось. Для спекулятивного декодирования требуется отдельный MTP drafter. Лицензия указана как qwen-community-license-1.0.

Smaug-Llama-3-70B-Instruct — чат-модель Abacus.AI, полученная дообучением meta-llama/Meta-Llama-3-70B-Instruct по рецепту Smaug для повышения качества многошаговых диалогов. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации ответов и ведения диалога; она использует формат запросов Llama 3 Instruct и контекст до 8192 токенов. Модель рассчитана на многошаговые беседы и широкий круг текстовых запросов. В карточке приведены результаты MT-Bench и Arena-Hard, где авторы сообщают о высоком качестве ответов; также указаны результаты нескольких тестов знаний и рассуждений. Это заявления из карточки, а не гарантия результатов в конкретных задачах. Лицензия — Llama 3; перед использованием следует соблюдать её условия.