II.6Документация и сопровождение разработки

TelperionAI/Qwen3.8-27B-MLA — это производная от Qwen/Qwen3.8-27B модель с плотной гибридной архитектурой: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного внимания. Разработчик заменил представление ключей и значений в кэше внимания на низкоранговое латентное представление с Multi-head Latent Attention (MLA). Преобразование выполнено без обучения и уменьшает KV-кэш примерно вдвое; веса модели, включая башню зрения и голову MTP, поставлены целиком. Модель предназначена для диалогов, программирования и длинных контекстов; она также сохраняет работу с изображениями, как базовая модель. В парном тестировании SWE-bench Verified модель получила 0,421 против 0,395 у исходной версии, используя на 12% меньше выходных токенов; на HELMET при контексте 64k средний результат составил 77,93 против 77,43. Эти результаты относятся к указанным тестам и настройкам. Для запуска требуется экспериментальный плагин qwen-mla-vllm: модель не загружается в Transformers или стандартный vLLM. README сообщает о проверке с vLLM 0.27.1 на RTX PRO 6000 и отмечает, что без nvcc и ninja запуск использует более медленные Triton-ядра. Проверка ограничена SWE-bench Verified и HELMET при 64k; другие области и существенно более длинные контексты не оценивались. Лицензия — Apache-2.0.

Qwen3.8-27B-nvfp4full-NInfer — квантованная версия модели Qwen3.8-27B, подготовленная пользователем cometkim для выполнения в формате NInfer. Артефакт содержит текстовый, визуальный и MTP-компоненты, а также встроенный спекулятивный модуль DFlash2 из модели z-lab/Qwen3.8-27B-DFlash2. Модель предназначена для диалоговых и мультимодальных сценариев, генерации текста, рассуждений и обработки длинного контекста. Основная модель имеет 27 млрд параметров. Значительная часть весов представлена в формате NVFP4, отдельные компоненты используют BF16 и W8G32_F16S. Встроенный DFlash2-драфтер имеет 2 млрд параметров, пять слоёв и скользящее окно 2048 токенов. Размер единого файла артефакта составляет около 18,07 GiB. В README не указаны точный список поддерживаемых языков и максимальная длина контекста. К преимуществам относятся уменьшенный размер весов, единый файл с основной моделью и DFlash2-драфтером, а также поддержка спекулятивного декодирования. В приведённых проверках модель получила точность 87,88% на GPQA-Diamond, 93,33% на AIME 2026 и 67,41% на LongBench v2; эти результаты относятся к указанным условиям оценки. К ограничениям относятся зависимость от движка NInfer v3 и соответствующей аппаратной и программной конфигурации, а также невозможность использовать артефакт напрямую в Transformers, Safetensors или GGUF. Лицензия — Apache 2.0.

Avifenesh/Qwen3.8-27B-NVFP4-MTP-GGUF — квантизированная версия Qwen3.8-27B, разработанная Qwen и подготовленная Avifenesh как артефакт сервинга лаборатории tiyuvta. Модель предназначена для генерации текста, диалоговых приложений и агентных сценариев; встроенный MTP (multi-token prediction) позволяет использовать speculative decoding для ускорения инференса в совместимых движках, прежде всего memra. Модель использует NVFP4-квантизацию с 4-битными весами, эмбеддинги и выходную голову в формате Q5_K, а также включает отдельный MTP-блок и маскированную draft head для speculative decoding. Размер базовой модели — 27B параметров, словарь содержит 248 320 токенов, встроенный chat template поддерживает tool calling и thinking blocks. Заявлен нативный текстовый контекст до 262 144 токенов. Мультимодальный VL-компонент в этот артефакт не входит, а поддерживаемые языки в README не указаны. К сильным сторонам относятся существенно сниженный размер файла, поддержка длинного контекста и ускорение декодирования: для конфигурации MTP K=3 указаны медианная скорость 137,9 токена в секунду на RTX PRO 6000 Blackwell и 73,6 токена в секунду на RTX 5090 Laptop при коэффициенте принятия черновых токенов 0,74. Ограничения связаны с необходимостью движка, поддерживающего GGUF, NVFP4 и MTP, а также с оптимизацией под аппаратные платформы Blackwell; приведённые сервисные измерения относятся к уже закрытому endpoint и не являются текущей гарантией производительности. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель на базе Qwen 3.8 27B, дообученная и объединённая в рамках многоэтапного пайплайна Fable Fusion и COLD FUSION с использованием Unsloth. Разработчик позиционирует её как открытую модель для потребительского оборудования. Доступны обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит. В README заявлены поддержка английского и китайского языков, а также image-text-to-text как тип задачи, однако подробности мультимодальной архитектуры не указаны. Модель предназначена для общего решения задач, рассуждений, программирования, творческого письма, создания художественных текстов, ролевых сценариев и других текстовых применений. Основной акцент сделан на сокращении объёма «размышлений» и ускорении генерации при сохранении детализации и качества ответов. Также заявлена ориентация на MTP и высокую производительность в задачах кодирования. По утверждению автора, модель превосходит базовые Qwen 3.8 27B и ряд других моделей в семи ключевых бенчмарках, включая ARC-C и ARC-E; независимое подтверждение этих результатов в предоставленных данных отсутствует. К сильным сторонам относятся сравнительно компактный размер для заявленного уровня возможностей, поддержка GGUF, наличие 4- и 8-битных вариантов, сниженное чрезмерное рассуждение и специализация на коде и творческой генерации. Ограничениями являются отсутствие точных данных о размере контекстного окна, параметрах мультимодальности, системных требованиях и реальной производительности на разных устройствах. Модель описывается как uncensored и abliterated, поэтому её поведение в вопросах безопасности может отличаться от исходной модели. Лицензия — Apache-2.0.

Qwen3.8-4B-Empero-AI-FullStack-GGUF — это GGUF-квантизированная версия модели Qwen3.8-4B-Empero-AI-FullStack, разработанной iBotIA и опубликованной в квантизированном виде пользователем mradermacher. Модель относится к семейству Qwen3.5, имеет около 4 миллиардов параметров и предназначена для генерации текста и рассуждений, включая задачи full-stack разработки. Судя по описанию и тегам, модель ориентирована на работу с TypeScript, React Router v8, NestJS и Flutter. Заявлен английский язык. Модель поставляется в формате GGUF с вариантами квантизации от Q2_K до Q8_0, а также в формате f16; размеры файлов составляют примерно от 2,1 до 8,8 ГБ. В README не указана поддержка изображений или других модальностей, а размер контекста не раскрыт. Основное преимущество — возможность локального запуска с выбором баланса между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Более агрессивная квантизация может снижать качество ответов, особенно в сложных задачах. Лицензия модели — Apache-2.0.

Sohailhosseini/Qwen3.8-9B-Distill-AWQ-W4A16 — квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста и диалогового взаимодействия, а заявленный pipeline_tag указывает на поддержку сценариев image-text-to-text. В README также отмечена пригодность для instruction-тuned и многоязычных моделей, однако конкретный набор поддерживаемых языков не указан. Модель содержит 9,7 млрд параметров и использует схему AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет около 8,6 ГБ — примерно в 2,24 раза меньше исходных 19,3 ГБ. Квантизация выполнена на GPU A40 с использованием 256 образцов из набора HuggingFaceH4/ultrachat_200k. Слои lm_head и компоненты, связанные с visual, vision_tower, vision_model, multi_modal_projector и merger, оставлены без квантизации, что соответствует мультимодальной конфигурации. Основные преимущества — сниженные требования к хранению и потенциально более эффективный запуск при сохранении качества исходной модели; README отдельно отмечает быструю калибровку и обычно более высокую устойчивость на instruction-тuned и многоязычных моделях. Для запуска рекомендуется vLLM с максимальной длиной контекста 32768 токенов. Ограничение схемы заключается в её асимметричности: некоторые старые ядра vLLM могут лучше работать с симметричным W4A16. Лицензия — Apache-2.0, унаследованная от исходной модели.

mlx-community/Qwen3-8B-8bit — языковая модель для генерации текста, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-8B, созданной командой Qwen. Модель предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm, и может использовать чат-шаблон токенизатора для диалоговых сценариев. Модель представлена в формате MLX и имеет размер 8B с 8-битным представлением, что отражено в её идентификаторе. Поддерживаемая модальность — текст; README не содержит сведений о языках, размере контекста, конкретной архитектуре, результатах тестирования, сильных сторонах или ограничениях. Для работы требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.24.0. Модель распространяется по лицензии Apache-2.0.

ggml-org/Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, автоматически преобразованная в формат GGUF проектом ggml-org. Исходная модель разработана командой Qwen; в карточке также указаны связанные исходные модели Qwen/Qwen3-8B, z-lab/Qwen3-8B-DFlash-b16 и deepseek-ai/dspark_qwen3_8b_block7. Модель предназначена для генерации текста и может использоваться через совместимые инструменты, включая llama.app. Объём модели составляет 8B параметров; формат GGUF и квантизация ориентированы на более удобный запуск и эффективное использование ресурсов по сравнению с полноразмерной версией. Сведения о конкретном варианте квантизации, архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Модель распространяется по лицензии Apache-2.0. Ограничения по качеству, точности, требованиям к оборудованию и рекомендуемым сценариям использования отдельно не описаны.

vittorino/qwen3-8b-tmax-sft-run2 — дообученная модель диалоговой генерации текста на базе Qwen/Qwen3-8B. Разработчик выполнил полное supervised fine-tuning на наборе vittorino/tmax-sft-cleaned; модель имеет плотную архитектуру Qwen3ForCausalLM с 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям в сценариях, охваченных обучающими данными. Она загружается через Transformers; при обучении использовались вычисления матриц FP8, torch.compile и адаптивное сохранение контрольных точек градиентов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей о составе данных и конкретных навыках, поэтому пригодность для узких задач следует проверять отдельно.

Qwen3.8-Flash-Next-oQ5e-mtp — это 5-битная смешанная oQ5e-квантизация базовой модели Qwen/Qwen3.8-Flash-Next. Квантизация выполнена непосредственно из исходных BF16-весов с помощью oMLX 0.6.4; автор квантизации в README явно не указан. Модель предназначена для локальной генерации текста, рассуждений, решения задач с ограничениями, отладки Python-кода и других сценариев, где важны качество рассуждений и стабильность генерации. Сохранены компоненты MTP и vision, поэтому поддерживаются текстовые и визуальные входы базовой модели, однако точный набор языков и максимальная длина контекста в README не указаны. Номинальный размер группы квантования — 64, неквантизированный тип данных — BF16, размер модели — около 125,7 ГБ. Для работы рекомендована система Apple Silicon с 128 ГБ unified memory, включёнными SSD N-gram Offload и Lightning MTP; основное тестирование проводилось на MacBook Pro с Apple M5 Max. При активной генерации модель потребляла около 102 ГБ общей системной памяти, а требования к памяти увеличиваются с ростом контекста и KV-кэша. По данным автора, по сравнению с oQ4e модель обеспечивает более высокую устойчивость рассуждений и генерации на сложных задачах, сохраняя практичность для локального запуска. В отдельных тестах она корректнее решала задачи с ограничениями и полностью завершала длительные вычислительные сценарии, но не превосходит oQ4e во всех бенчмарках и может работать медленнее на некоторых нагрузках; в приведённом тесте отладки Python предложенная реализация содержала ошибку управления состоянием. Лицензия указана как qwen-community-1.0.

Akicou подготовил экспериментальную сжатую версию Qwen/Qwen3.8-Flash-Next для генерации текста и диалогов. В модели используется архитектура MoE; по метаданным, она содержит 5,1 млрд параметров и поддерживает контекст до 262 144 токенов. Модель принимает текст и выдаёт текст; в карточке указана поддержка английского языка. Сжатие выполнено методом Router Expert Activation Merging: маршрутизируемые эксперты сгруппированы по сходству и объединены с взвешиванием по значимости. Число таких экспертов сокращено с 512 до 308 на слой, а общий состав модели и маршрутизатор скорректированы соответственно. Авторы называют выпуск экспериментальным и не приводят результатов бенчмарков. Для загрузки требуется trust_remote_code=True, как и для базовой модели. Лицензия в предоставленных данных не указана.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.

Qwen3-gabliterated-image-generation — дообученная языковая модель компании goonsai-com на базе Goekdeniz-Guelmez/Qwen3-4B-Sky-High-Hermes-gabliterated. Это плотная причинная модель Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 262 144 токена. Модель обучали с использованием Unsloth и библиотеки TRL. Несмотря на название репозитория, README и метаданные описывают текстовую генеративную модель и не подтверждают создание изображений. Модель распространяется под лицензией Apache-2.0. Карточка не приводит сведений о качестве, обучающих данных или специальных ограничениях, поэтому пригодность для конкретных сценариев следует оценивать отдельно.

Qwen3-LR-2e-5-Neat-Packing — диалоговая модель генерации текста на базе Qwen3 с 7,6 млрд параметров. Она дообучена разработчиком на formalmathatepfl/qwen3-cpt с использованием набора данных SFT; карточка не раскрывает состав обучающих данных и результаты оценки. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и построена на плотной архитектуре Qwen3. В репозитории указана библиотека Transformers и формат весов Safetensors. Лицензия обозначена как other, конкретные условия в карточке не приведены. Подробности о целевой аудитории, специализированных областях и ограничениях качества не указаны.

Qwen3-Next-80B-A3B-Instruct-MLX-4bit — это 4-битно квантованная версия языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen. Квантование в формате MLX подготовлено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и работы в инструкционных сценариях, включая диалоговое взаимодействие и выполнение текстовых запросов. В README указаны размер исходной модели 80B и обозначение A3B, однако подробности архитектуры, контекстного окна, поддерживаемых языков и модальностей не приведены. Формат MLX и 4-битное квантование ориентированы на более эффективное локальное выполнение при ограниченных ресурсах по сравнению с полноразмерной версией. К сильным сторонам относятся локальный запуск на Apple Silicon и сниженные требования к памяти благодаря квантованию. Ограничения включают возможную потерю качества по сравнению с исходной моделью и отсутствие в предоставленных данных подробных сведений о производительности, языковой поддержке и безопасных сценариях применения. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-MLX-6bit — это 6-битная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Данная версия преобразована и квантизирована в формате MLX командой LM Studio с использованием mlx_lm и оптимизирована для работы на устройствах с Apple Silicon. В названии указаны размер исходной модели 80B и конфигурация A3B, однако в README не приведены дополнительные сведения об архитектуре, поддерживаемых языках, размере контекста, модальностях или результатах тестирования. Квантизация до 6 бит может снизить требования к памяти и сделать модель практичнее для локального запуска на совместимых устройствах, но потенциально влияет на точность по сравнению с полной версией. Модель распространяется по лицензии Apache 2.0.

Qwen3-Next-80B-A3B-Thinking-8bit — языковая модель для генерации текста, представленная сообществом mlx-community. Она преобразована из базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking в формат MLX с использованием mlx-lm 0.27.1; исходная модель разработана командой Qwen. Модель предназначена для текстовых сценариев, включая диалоговое взаимодействие и генерацию ответов с применением режима Thinking. В названии указаны масштаб 80B, конфигурация A3B и 8-битное представление весов. Модель поддерживает работу через библиотеку mlx-lm и рассчитана на запуск в экосистеме MLX. В README не указаны языки, размер контекста, точная архитектура, перечень модальностей и результаты бенчмарков. Сильной стороной модели является адаптация для MLX и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полноточными вариантами. Ограничения и фактические требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-GGUF — набор квантованных версий инструкционной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модели распространяются в формате GGUF и предназначены для локального запуска. Модель относится к задачам генерации текста и диалогового взаимодействия. Она может использоваться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В README указаны варианты от BF16 до 2-битных квантований, объёмом примерно от 1,8 до 8,05 ГБ. Для работы используется форматирование промптов с ролями system, user и assistant. Данные о точной архитектуре, поддерживаемых языках и размере контекста в README не приведены. Сильная сторона набора — широкий выбор квантований с разным компромиссом между качеством, требованиями к памяти и скоростью работы. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS; более компактные варианты экономят память, но могут заметно терять в качестве. Некоторые форматы отмечены как legacy и могут иметь особенности при запуске на отдельных архитектурах. Лицензия в предоставленном README не указана; условия использования следует уточнять в документации исходной модели Qwen/Qwen3-4B-Instruct-2507.

NobodyWho/Qwen_Qwen3.5-0.8B-GGUF — GGUF-квантизированная версия модели Qwen3.5-0.8B, разработанной командой Qwen компании Alibaba Group. Модель подготовлена для использования с NobodyWho, содержит встроенные рекомендованные параметры семплирования Qwen и проверена тестовым набором NobodyWho. Модель предназначена для быстрого диалогового общения и генерации текста, выполнения инструкций, нативного tool calling и локального запуска на устройствах с ограниченными ресурсами. Она поддерживает мультимодальный ввод текста и изображений через дополнительную проекционную модель mmproj-BF16.gguf, режим рассуждений, включённый по умолчанию, а также широкий набор языков. Заявлена поддержка контекста до 262 144 токенов. Модель содержит 0,8 млрд параметров и использует архитектуру qwen35. Доступны варианты BF16, Q8_0 и Q4_K_M; каждый показал результат 13 из 14 тестов tool calling, при этом сложные схемы остаются ограничением. Основные преимущества — малый размер, низкие требования к памяти, мультимодальность, длинный контекст и возможность локального использования. Для работы с изображениями требуется отдельный файл проекционной модели. Распространяется по лицензии Apache 2.0.

Qwen_Qwen3.5-35B-A3B-GGUF — это набор квантованных версий модели Qwen3.5-35B-A3B, подготовленный пользователем bartowski на основе оригинальной модели Qwen. Модель предназначена для задач генерации текста и обработки изображений с текстом, а GGUF-формат позволяет запускать её локально через llama.cpp и совместимые приложения, включая LM Studio, Jan AI, KoboldCpp и Text Generation Web UI. В набор входят варианты от BF16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, а также IQ-квантизации. Размер файлов составляет примерно от 17 до 71 ГБ. Обозначение 35B указывает на 35 миллиардов параметров, а A3B относится к архитектуре исходной модели; подробности об архитектуре, поддерживаемых языках и размере контекста в README не приведены. Квантизации выполнены с использованием imatrix и llama.cpp, для некоторых конфигураций доступна поддержка MTP-слоёв. Сильная сторона набора — широкий выбор компромиссов между качеством, требованиями к памяти и скоростью локального запуска; варианты Q5 и Q6 обозначены как высококачественные, а Q4_K_M — как типичный выбор для большинства сценариев. Низкобитные варианты экономят память, но могут снижать качество. Для использования требуется совместимое программное обеспечение и аппаратные ресурсы, соответствующие размеру выбранного файла. Лицензия — Apache 2.0.

ClaudioItaly/QwenTies-7B — слитая методом TIES языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она объединяет Qwen/Qwen2.5-7B-Instruct и Qwen/Qwen2.5-7B; в README указана база Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев и генерации текстовых ответов; метаданные также указывают интерфейс вызова инструментов. Базовая Qwen2.5-7B-Instruct описана как модель для генерации текста, кода и структурированных ответов, но отдельные преимущества этого слияния не приведены. Лицензия в предоставленных данных не указана.

Qwentile2.5-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwentile2.5-32B-Instruct, разработанной maldv и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста, чат- и диалоговых сценариев, а также локального использования через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка. Модель имеет размер 32 млрд параметров. Доступны варианты от F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. Квантизации выполнены с использованием imatrix на базе llama.cpp; для общения применяется шаблон с тегами <|im_start|> и <|im_end|>. Сильная сторона набора — широкий выбор вариантов, включая высококачественные Q6_K и Q6_K_L, а также более компактные версии для систем с ограниченной памятью. При этом уменьшение разрядности может снижать качество генерации, особенно у Q2–Q3 вариантов; для работы также требуются значительные вычислительные ресурсы. Контекстное окно, точная архитектура и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache-2.0.

OpenYourMind/Qwopus3.5-122B-A10B-Kimi-K2.6-destill-healed-abliterated-MTPLX-4bit — это 4-битная сборка модели OpenYourMind Qwopus3.5 на базе архитектуры Qwen3.5 MoE с компонентами Qwen3-VL. Модель разработана OpenYourMind и предназначена для запуска на Apple Silicon через MLX и MTPLX. Она поддерживает обработку текста и содержит vision tower для работы с изображениями, однако данная сборка ориентирована на текстовый путь; для мультимодального ввода рекомендуется использовать связанную сборку MLX-4bit с mlx-vlm. Модель имеет около 122 млрд параметров в общей сложности, из которых примерно 10 млрд активируются при обработке токена. Языковые веса квантизованы в 4 бита с размером группы 64, а маршрутизирующие компоненты сохранены в более высокой точности. В комплект включена BF16 MTP-голова на базе MoE с 256 экспертами, из которых активны 8, и общим экспертом. Она предназначена для ускоренного speculative decoding: на M5 Max зафиксировано около 52 токенов в секунду и примерно 70% принятия черновых токенов в указанном тесте. К сильным сторонам относятся существенно уменьшенный объём по сравнению с полной моделью, поддержка мультимодальной архитектуры базовой модели и ускорение генерации при использовании совместимой версии MTPLX. Для запуска требуется около 80 ГБ объединённой памяти, а комфортная работа заявлена на компьютерах Mac с 96 ГБ и более. MTPLX должен поддерживать MoE MTP-голову; старые версии могут быть несовместимы. Из-за особенностей маршрутизации MoE при температуре 0 возможны редкие отличия отдельных токенов по сравнению с обычной авторегрессионной генерацией, поэтому строгая побитовая идентичность не гарантируется. Лицензия указана как Other; README сообщает, что применяются условия лицензии базовой модели Qwen3.5.

Qwopus3.6-27B-v1-preview — ранняя экспериментальная модель рассуждений от Jackrong, дообученная на базе Qwen/Qwen3.6-27B. Это плотная мультимодальная модель с 27 млрд параметров: причинная языковая модель с визуальным энкодером, поддерживающая чат, следование инструкциям, работу с изображениями и интерфейс вызова инструментов. В карточке базовой модели указано контекстное окно 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель дообучена на смеси наборов данных с примерами рассуждений; автор сообщает примерно о 12 тысячах отобранных обучающих примеров. Она предназначена для структурированных ответов, агентного рассуждения, программирования, фронтенд-разработки и творческих задач с canvas и WebGL. Указанные в метаданных языки карточки: английский, китайский, японский, корейский, испанский и русский. Это предварительный чекпойнт: опубликованная оценка охватывает лишь небольшую серию из 16 запросов, поэтому результаты не следует считать окончательным сравнением качества. Модель распространяется под лицензией Apache-2.0.

QWQCoder — объединённая языковая модель, созданная автором репозитория с помощью mergekit из Qwen/QwQ-32B-Preview и Qwen/Qwen2.5-Coder-32B-Instruct. Для слияния использован метод SLERP; модель построена на архитектуре Qwen2 с плотной причинной языковой моделью и содержит 16,4 млрд параметров. Модель предназначена для генерации текста в диалоговом формате, в том числе для задач программирования, которые поддерживает компонент Qwen2.5-Coder-Instruct. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Карточка не приводит результатов оценки качества или подробных рекомендаций по применению, поэтому способности и надёжность именно этого слияния в конкретных сценариях не подтверждены. Лицензия в предоставленных данных не указана.

RandomMergeNoNormWEIGHTED-7B-DARETIES — объединённая автором репозитория модель на архитектуре Mistral для генерации текста. Она создана с помощью mergekit из FelixChao/WestSeverus-7B-DPO-v2, CultriX/Wernicke-7B-v9 и mlabonne/NeuralBeagle14-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, в том числе диалогов, ответов на инструкции, рассуждений и творческих текстов; README приводит результаты оценки на задачах ARC и HellaSwag. Доступны веса в формате safetensors. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые естественные языки и конкретные ограничения качества.

Xirui1208/readall-readtwice-14b-stage2-localstep10-globalstep25-20260928 — языковая модель семейства Qwen2 с плотной архитектурой и примерно 14 млрд параметров. Она представлена в формате safetensors для инференса в BF16; в метаданных указаны генерация текста, чат и интерфейс вызова инструментов. Модель предназначена для диалоговой генерации текста. Контекст составляет до 32 768 токенов. README описывает её как оценённый чекпойнт второго этапа обучения ReadAll и сообщает, что репозиторий архивирован по просьбе владельца; включены оценённые чекпойнты, а кандидаты, использовавшиеся только для калибровки, и отклонённые варианты помечены отдельно. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны. Также нет сведений о конкретных результатах оценки или ограничениях качества.

RekaAI_reka-flash-3.1-GGUF — набор GGUF-квантизованных версий модели RekaAI/reka-flash-3.1, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp; README также указывает формат промпта human: {system_prompt} {prompt} <sep> assistant:. Доступны варианты от исходных весов BF16 размером 41,82 ГБ до компактных квантований Q2 и IQ3 размером примерно от 9,18 ГБ, а также Q3, Q4, Q5, Q6 и Q8. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как рекомендуемый вариант общего назначения, а Q5 и Q6 — как высококачественные варианты. Некоторые форматы оптимизированы для определённых аппаратных платформ, включая Apple silicon, ARM и AVX CPU. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста исходной модели, поэтому эти характеристики нельзя достоверно указать. Ограничения связаны с потерями качества при низких уровнях квантования и значительными требованиями к памяти у крупных вариантов. Распространение указано по лицензии Apache-2.0.

Ring-1T — большая языковая модель для диалога и сложных рассуждений, разработанная командой Bailing и опубликованная под лицензией MIT. Она использует архитектуру Ling 2.0 с механизмом Mixture of Experts: в карточке Hugging Face указано 49,6 млрд параметров, а README описывает исходную основу как модель с 1 трлн параметров и 50 млрд активируемых параметров. Модель принимает текст, поддерживает контекст до 65 536 токенов по метаданным и предоставляет интерфейс для вызова инструментов. Ring-1T предназначена для математических и логических задач, генерации кода, ответов на вопросы и творческого письма. Разработчики сообщают о результатах на олимпиадных задачах по математике и программированию, но эти оценки основаны на собственных тестах и не гарантируют качество в других сценариях. README также предупреждает о возможной предвзятости при распознавании собственной идентичности, смешивании языков и повторениях; эффективность вывода на длинном контексте ограничена архитектурой внимания GQA.

Sakana AI разработала RLT-32B — авторегрессионную языковую модель с 32 млрд параметров на архитектуре Qwen2. Она создана как ученическая модель по конвейеру Reinforcement-Learned Teachers: модель дистиллирована из 7B Reinforcement-Learned Teacher и обучена с учителем на его рассуждениях, с использованием гиперпараметров, системного промпта и тегов рассуждений из работы Li et al. 2025. Модель предназначена для генерации текста и диалогов с акцентом на рассуждения, включая задачи математики, науки и программирования. Она принимает текст и генерирует текст; контекст — до 32 768 токенов. В метаданных указаны английский и китайский языки, а также интерфейс для вызова инструментов. Карточка называет модель экспериментальным прототипом для исследований и разработок; качество не гарантируется, модель не предназначена для критически важных сценариев. Лицензия — Apache 2.0; авторы отдельно не рекомендуют коммерческое применение.