I.5Создание и редактирование текста

Vontra/Qwen3.8-Flash-Next-MLX-6bit-MTP — это 6-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, подготовленная Vontra на основе официального BF16-чекпойнта Qwen. Модель предназначена для Apple Silicon и реализована в архитектуре qwen4_exp: vision-language модель с разреженной Mixture-of-Experts архитектурой, поддерживающая работу с текстом и изображениями. Общий размер языковой части составляет 125 млрд параметров, из которых активно используется около 6 млрд; дополнительно указаны 51 млрд параметров hashed bigram/trigram embeddings и 4 млрд параметров native MTP-блока. Модель использует Gated DeltaNet, Qwen Sparse Attention, sparse MoE-слои, vision encoder и контекст до 262 144 токенов. Квантование выполнено методом uniform 6-bit affine с group size 32; мультимодальные модули и маршрутизаторы MoE сохранены в BF16. Встроенный native MTP с одним draft-блоком предназначен для speculative decoding и может ускорять генерацию. Сильными сторонами являются большой контекст, поддержка изображений, высокая вычислительная эффективность за счёт MoE и native MTP, а также проверенная совместимость с MLX-VLM, MLX и oMLX. В тестах на Apple M3 Studio включение MTP увеличило скорость генерации с 20,65 до 25,94 токена в секунду. Ограничения включают значительный размер весов — около 158,08 ГБ, необходимость совместимого runtime с явной поддержкой qwen4_exp и native MTP, а также зависимость поддержки изображений от версий MLX-VLM и oMLX. Языки и точные мультимодальные возможности в предоставленных данных не указаны. Модель распространяется по Qwen Community License 1.0. Токенизатор, chat template, vision processor, конфигурации генерации и native MTP унаследованы от исходной модели.

Vontra/Qwen3.8-Flash-Next-MLX-oQ2-MTP — это общественная MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и обработки изображений и видео в совместимых vision-language сценариях на устройствах Apple Silicon. Это не официальный релиз Qwen, а квантованная версия, преобразованная из официального BF16-чекпойнта в формат MLX safetensors. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов (MoE), Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и hashed n-gram embeddings. Общее число параметров языковой модели составляет около 125 млрд, активных — около 6 млрд; дополнительно указаны 51 млрд параметров n-gram embedding и 4 млрд параметров native MTP-блока. Архитектура включает 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов и один общий эксперт. Контекст настроен на 262 144 токена и может быть расширен upstream до 1 000 000 токенов. Ключевая особенность — чувствительно-ориентированное смешанное квантование oQ2: базовое представление использует 2-битное affine-квантование с размером группы 32, а отдельные модули — 3, 4, 5, 6 и 8 бит. В чекпойнте сохранён один native MTP draft-блок для speculative decoding. На Apple M3 Studio в тестах скорость генерации составила 26,1398 токена в секунду без MTP и 25,9290 токена в секунду с MTP глубины 3; в данном тесте MTP снизил производительность на 0,81%, поэтому рекомендуется отключать его по умолчанию. Для запуска требуется runtime с явной поддержкой qwen4_exp и native MTP; без такой поддержки загрузка может завершиться ошибкой. Модель распространяется по лицензии Qwen Community License 1.0. Размер весов составляет около 70,782 ГБ, поэтому необходимы значительные объёмы памяти и совместимое оборудование. README не содержит полного описания ограничений исходной модели и предупреждает, что результаты производительности зависят от длины запроса, размера контекста, состояния кэша, версии runtime, нагрузки на память и температуры устройства.

primitive-ai/Qwen3.8-Flash-Next-NVFP4 — квантизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Primitive AI. Модель предназначена для генерации текста и обработки запросов с изображениями в формате image-text-to-text, а также поддерживает рассуждения, структурированные вызовы инструментов и speculative decoding через MTP. Объём исходной модели составляет около 180 млрд параметров; сборка использует NVFP4 для экспертных компонентов и BF16 для части весов, занимая около 186 ГБ на диске. Главное преимущество — запуск крупной модели на одной 96 ГБ GPU Blackwell благодаря выгрузке 51-миллиардной n-gram-таблицы в оперативную память хоста; требуется примерно 100 ГБ свободной RAM. Заявлены скорость до 74,4 токена/с в однопоточном режиме и до 483,8 токена/с при 32 параллельных запросах. Модель сохраняет поддержку MTP, имеет проверенные парсеры рассуждений и tool calling в vLLM, а также показывает высокие результаты на приведённых наборах знаний и вызова инструментов. Ограничения связаны с жёсткими требованиями к оборудованию, объёму RAM и настройкам vLLM. Для запуска рекомендуется опубликованный образ vllm/vllm-openai:qwen38-flash-next и специальные параметры offload; без них сервер может зависать или не пройти инициализацию. Данные о поддерживаемых языках и точной архитектуре в README не приведены. Распространение осуществляется по лицензии Qwen Community 1.0.

Akicou подготовил экспериментальную сжатую версию Qwen/Qwen3.8-Flash-Next для генерации текста и диалогов. В модели используется архитектура MoE; по метаданным, она содержит 5,1 млрд параметров и поддерживает контекст до 262 144 токенов. Модель принимает текст и выдаёт текст; в карточке указана поддержка английского языка. Сжатие выполнено методом Router Expert Activation Merging: маршрутизируемые эксперты сгруппированы по сходству и объединены с взвешиванием по значимости. Число таких экспертов сокращено с 512 до 308 на слой, а общий состав модели и маршрутизатор скорректированы соответственно. Авторы называют выпуск экспериментальным и не приводят результатов бенчмарков. Для загрузки требуется trust_remote_code=True, как и для базовой модели. Лицензия в предоставленных данных не указана.

Это GGUF-квантизация модели Qwen3.8-Flash-Next, разработанной командой Qwen и дополнительно подготовленной пользователем pugant для AMD Strix Halo с унифицированной памятью. Модель предназначена для генерации текста и запуска локальных LLM-сценариев на системах с Radeon 8060S и архитектурой gfx1151; при использовании совместимого runtime также заявлена поддержка vision через отдельный mmproj-модуль. Модель использует архитектуру qwen4exp и имеет около 180 млрд параметров в общей структуре: 125 млрд базовой части, около 6 млрд активных параметров, 51 млрд параметров PLE n-gram table и 4 млрд параметров MTP. Репозиторий содержит две сборки: ROCmFP4 STRIX_LEAN для систем с 128 ГБ памяти и смешанную ROCmFP2 STRIX_LEAN с 2-битными, FP4 и Q3-компонентами для систем с 64 ГБ. Поддерживаются английский и другие языки; заявлен контекст до 131 тыс. токенов. Сильные стороны модели — высокая эффективность по памяти для крупной MoE-подобной конфигурации, оптимизация под AMD Strix Halo, поддержка внешнего speculative-драфтера и возможность дискового размещения PLE-таблицы. Сборка ROCmFP4 обеспечивает более высокое качество, тогда как ROCmFP2 позволяет уложиться примерно в 56 ГБ оперативной памяти, но имеет заметный компромисс по качеству на отдельных тестах и больший дисковый объём. Для работы требуются специализированные форки ROCmFPX и совместимый runtime; стандартный llama.cpp эту квантизацию не загружает. Лицензия указана как qwen-community-1.0.

Qwen3.8-Flash-Next-Uncensored — это MLX-квантованная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, опубликованная пользователем ddark-il. Модель предназначена для локального запуска на компьютерах Apple Silicon, прежде всего на M5 Max с 128 ГБ памяти, и поддерживает сценарии генерации текста и обработки изображений с текстом. Модель использует архитектуру qwen4_exp с mixture-of-experts (MoE), vision-language возможностями и механизмом multi-token prediction (MTP). Исходный размер составляет около 180 млрд параметров; в данном варианте применяется смешанная affine-квантизация MLX со средней точностью 4,857 бит на параметр. Размер файлов — 109,29 ГБ, заявлена поддержка контекста до 262 тысяч токенов. Основная часть весов квантизирована в 4, 6 и 8 битах с различными размерами групп, причём для o_proj используется 8-битная квантизация. По измерениям авторов, версия обеспечивает меньшую ошибку относительно исходных bf16-весов, чем предыдущая ревизия, и достигает 90,7% совпадения top-1 предсказаний с bf16-версией. Сильными сторонами являются существенно меньшие требования к памяти по сравнению с bf16, высокая точность для квантизированной модели, поддержка длинного контекста и мультимодальных входов. Ограничения включают очень большой размер, зависимость от MLX и Apple Silicon, возможное влияние квантизации на качество, а также требования к пропускной способности SSD и кэшированию при работе с крупными таблицами и экспертами. Модель распространяется по лицензии Apache-2.0.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.

BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP — это квантизированная GGUF-версия модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленная BennyDaBall. Модель основана на 27B-сборке Qwen3.8 с удалёнными ограничениями фильтрации, предназначена для генерации текста и диалогов, а также поддерживает работу с изображениями и видеокадрами при подключении vision-проектора. Заявлены английский и китайский языки. Контекстное окно составляет 262 144 токена. Основная часть трансформера из 64 слоёв сжата в формат NVFP4, а lm_head, embeddings, MTP-голова и vision-проектор сохранены в BF16. Встроенная MTP-голова позволяет использовать speculative decoding без отдельной draft-модели, что может существенно ускорять генерацию, особенно на структурированных данных, коде и повторяющихся фрагментах. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell, включая RTX 5090, RTX 5080 и RTX PRO; для работы требуются свежие версии llama.cpp с поддержкой NVFP4 и архитектуры qwen35 либо LM Studio 2.29.1 и новее. Производительность и эффективность спекулятивного декодирования зависят от оборудования и характера запроса, а для мультимодального режима требуется около 1 ГиБ дополнительной видеопамяти на vision-проектор. Распространяется по лицензии Apache-2.0.

taurusduan/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF — это квантизированная GGUF-версия модели Whittle MoE 27B (A18B), разработанной logic65 на базе Qwen3.8-27B. Модель представляет собой постфактум сформированную mixture-of-experts-архитектуру с 27 млрд параметров, из которых около 17,8 млрд относятся к активным параметрам. В каждом слое используются 64 маршрутизируемых экспертных блока, а для каждого токена активируются 16 из них. Основное назначение — генерация текста и диалоговые сценарии с использованием llama.cpp и совместимых инструментов. Доступно несколько уровней квантизации: от Q8_0 размером около 28,7 ГБ до Q3_K_M размером около 13,9 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Для версии с визуальными возможностями предусмотрен отдельный проектор mmproj-qwen38.gguf размером около 0,9 ГБ, однако подробные сведения о поддерживаемых изображениях, языках и размере контекстного окна в карточке не указаны. Версия v2.2.1 исправляет проблему преждевременного завершения рассуждений внутри блока chain-of-thought, но не устраняет слабости при точном подсчёте элементов, длинных списках и повторяющихся фрагментах. Сильными сторонами являются MoE-архитектура с относительно умеренным числом активных параметров, несколько вариантов квантизации и улучшенное завершение ответов при включённом рассуждении. Ограничения включают сохраняющуюся склонность к повторениям, недостаточную надёжность при генерации списков длиной более 45 элементов и отсутствие гарантии точного количества элементов. Модель распространяется по лицензии Apache-2.0; репозиторий содержит именно квантизированные сборки базовой модели.

DavidAU представил Qwen3-MOE-6x0.6B-3.6B-Writing-On-Fire-Uncensored — творческую языковую модель с архитектурой Qwen3 MoE, объединяющую несколько моделей объёмом 0,6 млрд параметров каждая. В репозитории указано, что структура содержит шесть экспертов и сжимает их до размера около 2 млрд параметров; метаданные каталога указывают 507,9 млн параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 40 960 токенов и предназначена прежде всего для творческого письма, ролевых сценариев и диалогов, а также может применяться для общих задач и программирования. Автор отмечает высокую скорость генерации и возможность менять число активных экспертов. Выходы могут заметно различаться при одинаковых настройках, поэтому для программирования и сложных задач README рекомендует несколько повторных генераций и более высокую точность весов. Модель распространяется под лицензией Apache-2.0.

Карточка модели etiennebamas/qwen3-sft-classic-small-data на Hugging Face совпадает с карточкой VladShash/qwen3-8b-classic-with-repair, поэтому описание составлено по ней. VladShash/qwen3-8b-classic-with-repair — дообученная модель семейства Qwen3, созданная на базе formalmathatepfl/qwen3-cpt с использованием набора данных SFT. Она предназначена для генерации текста в диалоговом режиме. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Карточка не раскрывает тематику дообучения, поэтому нельзя надёжно определить специализированные сценарии, языки или преимущества варианта «classic-with-repair». Модель распространяется в формате safetensors; лицензия указана как other, без дополнительных условий в предоставленных данных.

Модель valixonov04/qwen-7b-kiberbase — дообученная языковая модель семейства Qwen2, разработанная valixonov04 на основе unsloth/qwen2.5-7b-unsloth-bnb-4bit. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения текста или ответы на текстовые запросы. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В README не описаны специализированная область обучения, дополнительные навыки или оценки качества, поэтому её назначение следует считать общим текстовым генерированием. Метаданные карточки указывают английский язык; другие языки и качество на них не подтверждены.

Qwen-Bypass-Done — текстовая генеративная модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Репозиторий создан пользователем zaddyzaddy; в карточке README модель названа Qwen-2.5-7B-base-RAG-RL, но подробностей о разработчике и обучении нет. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекст длиной до 32 768 токенов и интерфейс вызова инструментов. По названию README можно предположить связь с RAG и RL, однако карточка не описывает эти сценарии и не приводит подтверждающих сведений о данных, обучении или оценке. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия и практические ограничения не приведены, поэтому условия использования по карточке установить нельзя.

Qwen1.5-32B-Chat GGUF — набор квантизированных версий диалоговой языковой модели Qwen/Qwen1.5-32B-Chat, разработанный сообществом Featherless AI Quants. Модель предназначена для генерации текста и ведения диалогов; формат GGUF подходит для локального запуска и совместимых инструментов инференса, поддерживающих этот формат. В набор входят варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размеры файлов или наборов файлов составляют примерно от 11,7 до 33,0 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Модель относится к текстовой модальности; сведения о языках, архитектуре, размере контекста, результатах оценки и конкретных сценариях применения в README не указаны. Сильной стороной является наличие нескольких уровней квантизации для адаптации запуска под доступные аппаратные ресурсы. Ограничения включают значительные требования к памяти даже для наиболее компактных вариантов, а также возможные потери качества из-за квантизации. Лицензия в представленном README не указана.

Это набор квантизированных моделей Qwen3-1.7B в формате GGUF, созданный на основе исходной модели Qwen/Qwen3-1.7B, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp версии b5200 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от полноразмерных весов BF16 до компактных квантов с разрядностью от Q8_0 до Q2_K и экспериментальных форматов IQ. Размер файлов составляет примерно от 0,83 до 4,07 ГБ. Более качественные варианты Q6, Q5 и Q4 рекомендуются для большинства сценариев, тогда как варианты Q3 и Q2 экономят оперативную память, но заметно уступают по качеству. Некоторые форматы оптимизированы для ARM или Apple Silicon и поддерживают онлайн-репакинг. Модель подходит для локальной генерации текста в приложениях, поддерживающих GGUF и llama.cpp; README также указывает специальный шаблон диалога с токенами system, user и assistant. Архитектура, поддерживаемые языки, размер контекста, мультимодальные возможности и лицензия в предоставленных данных не указаны.

Это GGUF-квантизированная версия языковой модели Qwen3-235B-A22B-Thinking-2507, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и сценариев, требующих рассуждений; запуск возможен через llama.cpp, LM Studio и другие совместимые проекты. Архитектура и точные характеристики исходной модели, включая число активных параметров, контекст, поддерживаемые языки и модальности, в представленном README не описаны. Указано обозначение 235B-A22B, а также наличие множества вариантов квантования от Q8_0 до Q2_K и IQ-квантов. Размер файлов составляет примерно от 83,33 до 249,94 ГБ. Более качественные варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые, тогда как низкобитные варианты экономят память, но снижают качество. Основные преимущества модели — доступность высококачественных квантований и возможность локального запуска на совместимом оборудовании. Ограничения связаны с очень большим размером файлов и зависимостью качества от выбранного типа квантования. Лицензия в README не указана.

bartowski/Qwen_Qwen3.5-4B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-4B, разработанной Qwen. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска в совместимых инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation WebUI. В метаданных указана задача image-text-to-text, однако подробные сведения о поддерживаемых модальностях, языках и максимальном контексте в README не приведены. Доступны варианты от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, а также IQ-квантизации. Размер файлов составляет примерно от 2,4 до 8,67 ГБ. В README варианты Q6 и Q5 описаны как обеспечивающие очень высокое или высокое качество, а Q4_K_M рекомендован как сбалансированный вариант для большинства сценариев. Более компактные варианты экономят оперативную память, но снижают качество; часть форматов предназначена для ARM- и AVX-совместимого CPU-инференса. Поддерживаются MTP-слои при использовании актуальной версии llama.cpp и параметра draft-mtp. Преимущество модели — возможность локального запуска с выбором компромисса между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного уровня квантизации и совместимости используемого инструмента; для недавно поддерживаемых моделей может потребоваться обновление программного обеспечения. Распространение указано по лицензии Apache-2.0.

bartowski/Qwen_Qwen3.5-9B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, разработанной Qwen и подготовленной bartowski. Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текста. Она подходит для локального запуска через llama.cpp и совместимые инструменты, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В репозитории представлены варианты от BF16 до более компактных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, объёмом примерно от 4,9 до 18,4 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp; для некоторых конфигураций поддерживаются MTP-слои и режим draft-mtp. Более компактные варианты снижают требования к оперативной памяти, но могут уступать по качеству более высокоточным версиям. Архитектура, языки и размер контекстного окна в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

bartowski/Qwen_Qwen3.6-27B-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.6-27B, разработанной Qwen и опубликованной в формате, совместимом с llama.cpp. Квантизации подготовлены bartowski с использованием imatrix и предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В метаданных указано назначение image-text-to-text, однако подробные сведения о поддержке изображений в README отсутствуют. Модель имеет 27 млрд параметров и доступна в вариантах от BF16 до низкобитных Q3, Q4, Q5, Q6, Q8 и IQ-квантизаций. Размер файлов составляет примерно от 13,5 до 54,7 ГБ; варианты с более высокой точностью обычно сохраняют лучшее качество, а низкобитные версии требуют меньше оперативной памяти. Для некоторых конфигураций заявлена поддержка MTP-слоёв через параметр draft-mtp в llama.cpp. Формат prompt использует специальные маркеры ролей system, user и assistant с секцией рассуждений think. Модель подходит для локальной генерации текста и мультимодальных сценариев, если соответствующая поддержка реализована используемым инструментом, однако языки, размер контекста, архитектурные детали исходной модели и конкретные возможности работы с изображениями в предоставленных данных не указаны. Сильные стороны — широкий выбор квантизаций, возможность запуска на различном оборудовании и заявленное высокое качество вариантов Q5–Q8; ограничения связаны с ростом потерь качества у низкобитных вариантов и значительными требованиями к памяти. Указана лицензия Apache-2.0.

bartowski/Qwen_QwQ-32B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели QwQ-32B, разработанной Qwen и подготовленной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогового применения и генерации текста, включая сценарии локального запуска через LM Studio, llama.cpp и совместимые проекты. Модель содержит около 32 миллиардов параметров и работает с текстовой модальностью; в метаданных указан английский язык. Доступны варианты квантования от Q8_0 до Q2_K и IQ-квантов размером примерно от 10,39 до 34,82 ГБ. Более высокие варианты сохраняют лучшее качество, но требуют больше оперативной или видеопамяти, тогда как низкоразрядные версии экономичнее, но заметно уступают по качеству. Архитектура и размер контекста в README не указаны. Сильной стороной набора является широкий выбор квантизаций для различного объёма доступной памяти и возможность локального запуска. Ограничения связаны с компромиссом между размером файла и качеством, а также с тем, что некоторые варианты имеют низкое качество и не рекомендуются. Модель распространяется по лицензии Apache-2.0.

Qwopus3.8 27B Flash MXFP4 Vision MTPLX — это релиз для Apple Silicon на базе модели Jackrong/Qwopus3.8-27B-Flash, подготовленный Shiftedx с использованием MLX и MTPLX. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, включая мультимодальные сценарии и локальное развертывание через OpenAI-совместимый endpoint. Текстовая часть представлена в формате MXFP4, а vision tower и native MTP sidecar сохранены в формате BF16. Sidecar имеет глубину 3 и предназначен для speculative decoding, ускоряющего генерацию. В README заявлена поддержка английского, китайского, испанского, русского и японского языков. Точный размер контекста и подробная архитектура не указаны. В комплект входят tokenizer, processor, vision-веса, chat template и runtime-контракт MTP. Сильными сторонами являются сочетание мультимодальности, MXFP4-квантизации для текстовой части и ускоренной генерации на совместимом оборудовании. В локальной квалификации на M4 Max 64 GB заявлены скорости 26,43 токена в секунду для обычной авторегрессивной генерации и 56,74 токена в секунду с MTP глубины 3, однако это результаты одного узкого теста и не универсальный бенчмарк. Квантизация может повлиять на качество, а производительность зависит от оборудования и runtime. Модель распространяется по лицензии Apache-2.0; при использовании производного варианта необходимо также учитывать лицензию и ограничения исходной модели.

Qwopus-GLM-18B-Merged-GGUF — экспериментальная текстовая модель семейства Qwen3.5, созданная на основе двух дообученных моделей Jackrong: Qwopus3.5-9B-v3.5 и Qwen3.5-9B-GLM5.1-Distill-v1. Модель собрана методом frankenmerge: объединены по 32 слоя каждой исходной модели, всего 64 слоя и около 18 млрд параметров. После объединения выполнено 1000 шагов QLoRA-дообучения для устранения проблем на границе слоёв. В репозитории представлена версия в формате GGUF с квантизацией Q4_K_M размером около 9,2 ГБ. Модель предназначена для генерации текста, рассуждений, диалогов, программирования, структурированного вывода, tool calling и агентских сценариев. Заявлена поддержка английского, китайского, корейского, японского, французского, немецкого и испанского языков. По данным авторского набора из 44 тестов, модель получила 40 успешных результатов, включая максимальные показатели в категориях базовой генерации, рассуждений, вызова инструментов и агентских рабочих процессов. Она ориентирована на локальный запуск и, согласно README, помещается в 12 ГБ видеопамяти; заявленная производительность составляет около 66 токенов в секунду. Сильными сторонами являются tool calling, агентское рассуждение, многоязычная генерация и улучшенная после «лечения» корректность HTML, CSS и JavaScript. Ограничения включают экспериментальный статус, отсутствие полной независимой оценки и остаточные проблемы в программировании: три теста из пятнадцати не пройдены из-за ошибок именования функций, скобок JavaScript и формата блока кода. Размер контекста в README не указан. Модель распространяется по лицензии Apache-2.0.

Qwopus-GLM-18B-Merged-GGUF — экспериментальная модель, разработанная KyleHessling1 на основе двух дообученных моделей Jackrong: Qwopus3.5-9B-v3.5 и Qwen3.5-9B-GLM5.1-Distill-v1. Это 64-слойное объединение моделей Qwen3.5, дополнительно обработанное 1000-шаговым QLoRA-дообучением для устранения проблем на границе объединения слоёв. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, структурированного вывода, вызова инструментов и агентских сценариев. Модель содержит около 18 млрд параметров; доступная версия распространяется в формате GGUF с квантизацией Q4_K_M и размером около 9,2 ГБ. Заявлена поддержка английского, китайского, корейского, японского, французского, немецкого и испанского языков. По данным автора, модель показывает сильные результаты в рассуждениях, вызове инструментов, многошаговых агентских задачах и структурированном выводе, а также способна работать примерно на 12 ГБ видеопамяти, включая потребительские GPU. В тестовом наборе она набрала 40 из 44 заданий, однако программирование остаётся неидеальным: некоторые случаи форматирования и генерации кода всё ещё завершаются ошибками. Модель следует считать экспериментальной: несмотря на улучшение качества после QLoRA-дообучения, у неё могут сохраняться артефакты объединения и другие непредсказуемые особенности. Лицензия — Apache-2.0.

BenevolenceMessiah/QwQ-32B-Preview-abliterated-Self-instruct-3x-TIES-v1.0 — языковая модель на 32 млрд параметров, созданная BenevolenceMessiah слиянием предобученных моделей через TIES с помощью mergekit. В качестве базовой использована huihui-ai/QwQ-32B-Preview-abliterated; в слияние также вошли EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2, rombodawg/Rombos-Coder-V2.5-Qwen-32b и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель построена на плотной архитектуре Qwen2 и предназначена для генерации текста и диалогов. Поддерживает контекст до 32 768 токенов, распространяется в формате safetensors и работает через Transformers. В каталоге также отмечен интерфейс вызова инструментов. Состав моделей предполагает применение для общих диалогов, работы с кодом и написания историй, однако отдельные языки и качество на конкретных задачах не подтверждены предоставленными данными. Условия лицензирования в предоставленных источниках не приведены, поэтому перед использованием следует проверить лицензию репозитория и условия базовых моделей. Модель создана слиянием и может наследовать особенности и ограничения включённых чекпойнтов.

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-4x-TIES-MGS-v1.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/QwQ-32B-Preview и моделей TheBeagle, EVA-Qwen2.5 и Rombos. Она предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, рассуждений и помощи с программированием. Модель содержит 32 млрд параметров, принимает текст и выдаёт текст; нативное окно контекста — 32 768 токенов. Репозиторий содержит веса Safetensors для библиотеки Transformers. Карточка не сообщает лицензию и не описывает отдельные результаты оценки качества; характеристики базовой QwQ указывают на ориентацию на рассуждения и код, но не гарантируют их качество после слияния.

QWQ-500M — дообученная модель prithivMLmods на базе Qwen2.5-0.5B-Instruct, предназначенная для генерации текста, диалогов и рассуждений при решении сложных задач. Она построена на плотной архитектуре Qwen2 и содержит 494 млн параметров; для работы используется библиотека Transformers, веса доступны в формате Safetensors, лицензия — Apache-2.0. Модель подходит для создания длинных ответов, пошаговых объяснений и структурированных данных, включая JSON и таблицы. В карточке заявлена поддержка более 29 языков; метаданные указывают английский. В README заявлено контекстное окно до 128 тысяч токенов и генерация до 8 тысяч токенов, тогда как метаданные указывают нативный контекст 32 768 токенов.

Qwythos-9B-PerfectSplit-CoT-GGUF — GGUF-квантование модели Qwythos-9B-Claude-Mythos-5-1M, подготовленное Aronstk15. Это разговорная модель для генерации текста, рассуждений и работы с длинным контекстом; карточка описывает смешанную точность: эмбеддинги, выходная голова и чувствительные компоненты внимания сохраняются в F16, а часть слоёв MLP сжимается. По заявлению автора, размер уменьшен примерно на 37% относительно исходной версии F16, до 10,88 ГБ, с приоритетом сохранения связности многошаговых рассуждений и извлечения информации из длинного контекста. Для запуска README приводит пример с llama.cpp; заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации, объяснений и анализа текста или данных, а также задач, где нужно учитывать большой объём предшествующего контекста. В метаданных указан базовый чекпойнт empero-ai/Qwythos-9B-Claude-Mythos-5-1M, описанный каталогом как дообученная на Qwen3.5-9B модель; исходная карточка заявляет контекст до 1 млн токенов, но конкретный доступный предел зависит от реализации и настроек запуска. Преимущество этой сборки — сохранение полной точности для выбранных чувствительных тензоров при сжатии менее чувствительных слоёв. Качество длинных рассуждений и контекстного извлечения описано автором как ожидаемое, без приведённых независимых результатов оценки. Модель распространяется по лицензии Apache-2.0.

r3b-1.2 — языковая модель семейства Llama, разработанная xgmab123 и дообученная на основе xgmab123/r3b-1.1. Она предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 3,2 млрд параметров, имеет контекст до 131 072 токенов и распространяется в формате PyTorch. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Карточка указывает английский язык. Лицензия — Apache-2.0.

Ourse/R4L — языковая модель на архитектуре Qwen2, созданная слиянием нескольких предварительно обученных моделей методом TIES. В основу merge положена bunnycore/Qwen2.5-1.5B-Matrix, также включены unsloth/Qwen2.5-1.5B-Instruct и испаноязычная Kukedlc/NeuralQwen-2.5-1.5B-Spanish. Модель содержит 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов; в метаданных также отмечен интерфейс вызова инструментов. Архитектура — плотная авторегрессионная Qwen2, библиотека — Transformers. Включение испаноязычной модели указывает на испанский среди целевых языков, а инструкция базовой Qwen2.5-1.5B-Instruct позволяет использовать её для диалоговых запросов. README указывает на формат весов float16; репозиторий содержит файлы safetensors. Карточка не сообщает результатов оценки качества, поэтому возможности и стабильность ответов после слияния не подтверждены приведёнными данными. Лицензия в предоставленных источниках не указана.

Rabbit-7B-v2-DPO-Chat — чат-модель на 7,1 млрд параметров, опубликованная viethq188. Она основана на Mistral и создана слиянием AIDC-ai-business/Marcoroni-7B-v3 и Q-bert/MetaMath-Cybertron-Starling методом SLERP; в README также указано использование mistralai/Mistral-7B-Instruct-v0.2 и последующее обучение DPO на данных HF. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; для общения можно использовать шаблон Alpaca. Модель принимает текст и выдаёт текст, хранится в формате safetensors и поддерживает контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. В README и метаданных не описаны языковой охват и оценки качества; результаты могут зависеть от шаблона промпта и сценария применения.