I.5Создание и редактирование текста

Qwen3.5-122B-A10B-REAP-20-abliterated-GGUF — это набор GGUF-квантизаций разреженной MoE-модели, созданный Robinson Labs на основе 0xSero/Qwen3.5-99B, которая, в свою очередь, получена из Qwen/Qwen3.5-122B-A10B. Из исходной модели удалено около 20% экспертов: сохранено 205 из 256, что уменьшило общий размер примерно со 122B до 99B параметров при сохранении бюджета около 10B активных параметров. Модель предназначена для генерации текста и запуска в совместимом программном обеспечении, включая llama.cpp. Архитектура — qwen35moe, модель содержит 48 слоёв и использует стандартное предсказание одного токена без Multi-Token Prediction (MTP/NextN). Доступны варианты GGUF с квантованием от Q6_K до IQ2_XS, с размером файлов примерно от 81,3 до 29,5 ГБ; квантизация выполнена с использованием importance-matrix на общем калибровочном наборе. Языки, размер контекстного окна и поддерживаемые модальности в README не указаны. Модель сохраняет основные возможности исходной архитектуры при меньшем числе экспертов, а вариант REAP-20 должен иметь больше ёмкости и больший размер, чем REAP-30. Дополнительно выполнена abliteratation — ортогонализация весов для снижения жёстких отказов на запросы для взрослого и творческого контента; защитные ограничения против самоповреждения и содействия реальным противоправным действиям, согласно описанию, сохранены. Это не универсальная модель для всех аудиторий, а крупная по требованиям к памяти система, причём качество зависит от выбранного уровня квантования. Лицензия — Apache-2.0, унаследованная от базовой модели.

DavidAU/Qwen3.5-13B-GLM-4.7-Flash-DeepSeek-Polaris-Grande-Deep-Thinking — дообученная на базе Qwen/Qwen3.5-9B мультимодальная модель семейства Qwen3.5, опубликованная в формате Safetensors для Transformers. Автор описывает её как объединение и масштабирование двух дообученных дистиллятов с последующим обучением на примерах GLM-4.7-Flash; заявлены 48 слоёв, диалоговый режим, работа с изображениями и интерфейс вызова инструментов. Модель предназначена для следования сложным инструкциям, рассуждений, написания художественных текстов и диалогов, программирования и сценариев с инструментами. В карточке приведён пример генерации сцены ужасов, но он не является независимой оценкой качества. Автор также сообщает об исправлениях шаблона диалога для уменьшения повторов и циклов и улучшения обработки инструментов. Языковые теги карточки указывают английский и китайский. Лицензия — Apache-2.0. Размер в 13 млрд параметров заявлен в README; метаданные при этом связывают модель с базовой Qwen3.5-9B.

QuantTrio/Qwen3.5-2B-AWQ — вариант мультимодальной модели Qwen3.5-2B, разработанной командой Qwen. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования и предметно-ориентированной донастройки. Репозиторий содержит веса и конфигурации в формате Hugging Face Transformers; заявлена совместимость с Transformers, vLLM, SGLang и KTransformers. Модель содержит около 2 млрд параметров, 24 слоя, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. В архитектуре используются Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; указана ранняя интеграция мультимодальных токенов. Заявлена поддержка 201 языка и диалекта. Суффикс AWQ указывает на вариант весов, подготовленный для 4-битного квантованного инференса, однако подробные параметры квантования в предоставленных данных не описаны. К сильным сторонам относятся мультимодальность, большой контекст, относительно небольшой размер, потенциально эффективный инференс и широкое языковое покрытие. Ограничением является масштаб 2B: модель ориентирована прежде всего на прототипирование, исследовательские задачи и разработку, поэтому может уступать более крупным моделям в сложном рассуждении и специализированных сценариях. Модель распространяется по лицензии Apache-2.0.

AxionML/Qwen3.5-2B-NVFP4 — мультимодальная причинная языковая модель с vision encoder, разработанная AxionML на основе Qwen/Qwen3.5-2B. Модель предназначена для задач, сочетающих работу с текстом и изображениями, включая рассуждения, программирование, визуальное понимание, агентские сценарии и развёртывание в открытых системах обслуживания моделей. Модель содержит около 2 млрд параметров, 24 слоя и имеет нативную длину контекста 262 144 токена. Архитектура объединяет Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts согласно описанию семейства Qwen3.5; заявлена поддержка 201 языка и диалекта. Эта версия использует NVFP4-квантизацию весов и активаций линейных слоёв, выполненную с помощью NVIDIA TensorRT Model Optimizer, что уменьшает размер на диске и потребление GPU-памяти примерно в четыре раза по сравнению с BF16. Квантизация ориентирована на эффективный inference на GPU с архитектурой Blackwell. Сильными сторонами модели являются компактный размер, мультимодальность, длинный контекст и готовность к эффективному обслуживанию. Квантизация может немного снизить точность: в приведённых тестах NVFP4-версия уступает исходной Qwen3.5-2B на ряде языковых бенчмарков. README не содержит полного описания требований к оборудованию, всех результатов для визуальных задач или детальных ограничений применения. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache 2.0.

Kataguru Jackripper v1.0 Uncensored — финская доработка Qwen3.5-35B-A3B, выпущенная Kataguru в формате GGUF. Это разреженная MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен; в карточке заявлены чат, рассуждения и усиленная работа на финском языке. Предназначена для локального диалога и генерации текста на финском и английском, в том числе для ответов на вопросы, задач на рассуждение и написания кода. README заявляет изменение направлений отказа и приводит три квантизованных варианта GGUF объёмом 12,05–15,33 GiB с рекомендациями по видеопамяти 12–24 ГБ. В примере запуска указан контекст 32 768 токенов, но это параметр команды, а не подтверждённый предел модели. Заявления о безошибочном финском и результатах бенчмарков приведены автором карточки и не подтверждены независимыми данными. Модель основана на мультимодальной Qwen3.5, однако описание этого релиза и доступные задачи указывают на текстовую генерацию и чат. Лицензия — Apache-2.0.

amd/Qwen3.5-35B-A3B-MXFP4 — квантизированная версия модели Qwen3.5-35B-A3B-FP8, разработанная Advanced Micro Devices, Inc. с использованием AMD-Quark. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration, принимает текст и генерирует текст. В README указано обозначение 35B-A3B, однако точные параметры архитектуры, число активируемых параметров, размер контекста и перечень поддерживаемых языков не приведены. Модель предназначена для задач генерации текста и инференса в средах SGLang или vLLM на Linux с оборудованием AMD MI300 и MI350/MI355, ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Веса статически квантизированы в формат OCP MXFP4, а активации динамически квантизированы в OCP MXFP4, что ориентировано на эффективное выполнение на совместимых ускорителях. В тесте GSM8K модель получила результат 93,25 против 89,39 у исходной FP8-версии, но приведённая оценка охватывает только один бенчмарк и не характеризует все сценарии применения. Лицензия — Apache-2.0; изменения защищены авторским правом Advanced Micro Devices, Inc.

Qwen3.5-397B-A17B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm, при этом модель оптимизирована для запуска на устройствах с Apple Silicon. Модель относится к классу image-text-to-text и предназначена для задач генерации текста на основе текстовых и, вероятно, визуальных входных данных. В доступной карточке не указаны точные сведения об архитектуре, числе активных параметров, поддерживаемых языках, размере контекста, форматах изображений и результатах оценки качества. Ключевое преимущество версии — сниженные требования к памяти по сравнению с полноразмерной моделью и адаптация к экосистеме Apple Silicon; ограничением является зависимость от совместимого MLX-окружения и потенциальная потеря точности из-за 6-битного квантования. Модель распространяется по лицензии Apache-2.0. Исходная модель создана Qwen, а данная MLX-квантизация предоставлена LM Studio; LM Studio отдельно указывает, что не является создателем исходной модели и не гарантирует точность, безопасность или пригодность генерируемого содержимого.

amd/Qwen3.5-397B-A17B-MXFP4 — мультимодальная генеративная модель семейства Qwen, представленная AMD на основе Qwen/Qwen3.5-397B-A17B-FP8. Она предназначена для задач условной генерации текста с обработкой текста, изображений и видео на входе и генерацией текста на выходе. В README указан английский язык. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration и оптимизирована для инференса на AMD MI300, MI350 и MI355 под Linux с ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Для запуска рекомендуются SGLang или vLLM. Экспериментальная конфигурация оценки использовала максимальную длину контекста 262144 токена и распределение по четырём GPU, однако это не подтверждает полный нативный размер контекста модели. Ключевая особенность версии — статическое квантование весов экспертов языковой части и динамическое квантование активаций в формат OCP MXFP4 с помощью AMD-Quark 0.12; визуальные и некоторые другие слои исключены из квантования. На GSM8K модель получила 94,54 против 95,38 у исходной FP8-версии, сохранив 99,12% относительного результата. Ограничения включают зависимость от совместимого оборудования и программного стека AMD, а также ограниченность опубликованной оценки одним бенчмарком. Лицензия — Apache-2.0; для модификаций указаны авторские права Advanced Micro Devices, Inc. за 2026 год.

Qwen3.5-397B-A17B-Opus-4.6-Reasoning-Uncensored-GGUF — GGUF-версия модели, разработанная timteh673 на базе Qwen/Qwen3.5-397B-A17B. Модель предназначена прежде всего для генерации текста, сложного рассуждения, аналитических задач, многошагового решения проблем и диалоговых сценариев. Она прошла abliteration для снижения отказов и LoRA-дообучение на 12 842 образцах рассуждений, дистиллированных из ответов Anthropic Claude Opus 4.6, с использованием тегов <think> для явного отображения процесса рассуждения. Архитектура представляет собой гибридную Qwen3.5 MoE с GatedDeltaNet и Transformer-компонентами: 397 млрд параметров всего, 17 млрд активных параметров на токен, 60 слоёв, 32 attention-головы, 2 KV-головы, 512 маршрутизируемых экспертов и общий эксперт, из которых активны 10 на токен. Заявлена длина контекста до 262 144 токенов, словарь из 248 320 токенов и поддержка более 201 языка, включая английский, китайский, японский, корейский, русский и другие. Модель также сохраняет нативный vision encoder для работы с текстом, изображениями и видео, однако мультимодальные возможности после дообучения не тестировались. Сильными сторонами являются MoE-архитектура с большим общим числом параметров, улучшенное структурированное рассуждение и широкий контекст. Модель очень требовательна к ресурсам: размер доступных вариантов составляет примерно от 135 до 739 ГБ, а для рекомендованной квантизации Q4_K_M требуется около 230 ГБ оперативной памяти. Возможны отдельные отказы, поскольку routed-эксперты не были полностью обработаны при abliteration; режим рассуждения генерирует теги <think>, которые при необходимости следует удалять постобработкой. Лицензия — Apache 2.0.

Qwen3.5-397B-A17B-VQ-2.2bpw — векторно-квантизированная версия модели Qwen3.5-397B-A17B, разработанная TheDrainFlorist на базе модели Qwen. Репозиторий предназначен для запуска большой MoE-модели локально на компьютерах Apple Silicon с 128 ГБ объединённой памяти, без кластера и специальных патчей, используя MLX и совместимые инструменты mlx-lm или mlx-vlm. Модель поддерживает генерацию текста, а после обновления runtime также обработку изображений через mlx-vlm. Модель имеет 397 млрд параметров и обозначение A17B, что указывает на разреженную архитектуру Mixture-of-Experts с примерно 17 млрд активных параметров на токен. Применяется vector quantization с точностью 2,2 bits per weight; размер артефакта составляет около 101,0 GiB. Заявлена поддержка английского языка, а тесты включают прозу и смешанный по языкам код. Максимальная длина контекста в README не указана. Для текста требуется mlx-lm с поддержкой ключа model_file версии 0.31.9 или совместимой, для изображений — mlx-vlm не ниже 0.6.16. Главное преимущество сборки — уменьшенный объём, позволяющий сохранить около 17 ГиБ свободной памяти на системе с 128 ГБ и использовать модель с меньшими требованиями к резидентной памяти. По опубликованным измерениям версия v2 улучшает perplexity относительно v1 и превосходит близкую 2,6-битную квантизацию на прозе, однако уступает сборке VQ-2.4bpw по качеству. Уменьшение размера не гарантирует более высокую скорость декодирования, поскольку активные эксперты на токен остаются сопоставимыми. Лицензия — Apache-2.0.

Qwen3.5-4B-AWQ — это квантизированная версия языковой модели Qwen/Qwen3.5-4B, разработанной командой Qwen. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, локального инференса и развёртывания на потребительских GPU. Указаны поддерживаемые языки English и Chinese, а также интеграция с Transformers и vLLM. Модель использует квантизацию AWQ INT4 по схеме W4A16_ASYM с размером группы 128 и zero point. Калибровка выполнена на 512 примерах OpenPlatypus с максимальной длиной последовательности 1024 токена посредством llm-compressor; формат хранения — compressed-tensors. Размер модели составляет около 3,13 ГБ, а потребление VRAM при загрузке — около 3,06 ГБ, что примерно в 2,5–2,6 раза меньше базовой BF16-версии. Это позволяет запускать её на одной видеокарте с 8 ГБ памяти. В заявленных оценках нулевого выстрела модель получила 77,69% на PIQA, 68,75% на Winogrande, 71,65% на HellaSwag, 73,53% на ARC-Easy и 51,71% на ARC-Challenge; средний результат — 68,67%. Сильными сторонами являются существенно сниженные требования к памяти и сохранение заметной производительности в задачах здравого смысла и школьных научных вопросов. Ограничение состоит в том, что результаты приведены только для квантизированной версии и не сопоставлены в идентичных условиях с BF16-моделью, поэтому влияние квантизации точно не установлено. Распространяется по лицензии Apache-2.0.

Qwen3.5-4B-Base-Kazakh — текстовая плотная причинная языковая модель на архитектуре Qwen3.5, разработанная как адаптация Qwen/Qwen3.5-4B-Base командой ISSAI. Модель продолжительно предобучена на корпусе примерно из 15,7 млрд новых токенов с равной долей казахского и английского текста; токенизатор расширен на 16 тыс. казахских токенов. Она содержит 3,5 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста, особенно на казахском языке, с сохранением исходных возможностей английского языка. Её можно использовать как базу для генерации и продолжения текста, а также для дальнейшей адаптации под казахоязычные сценарии. Для загрузки и работы в README приведён пример с Transformers и форматом bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Это базовая модель, а не специализированный чат-ассистент; результаты в прикладных задачах могут требовать дополнительной настройки.

DavidAU/Qwen3.5-4B-Claude-4.6-HighIQ-THINKING — дообученная DavidAU с помощью Unsloth мультимодальная модель на базе Qwen/Qwen3.5-4B, предназначенная для диалогов, рассуждений и генерации текста, в том числе творческого письма, историй и ролевых сценариев. Модель принимает текст и изображения и выдаёт текст; в карточке указана поддержка зрения, а обработка видео не проверялась. Модель использует плотную архитектуру Qwen3.5 с 4 млрд параметров и работает в режиме рассуждений по умолчанию. Унаследованный контекст составляет 262 144 токена; карточка базовой модели упоминает расширение до 1 010 000 токенов. Владелец модели сообщает об улучшении рассуждений и генерации, но собственные результаты бенчмарков модели ещё не приведены. Указаны английский и китайский языки. Модель опубликована в формате Safetensors и совместима с Transformers; для эффективного инференса автор рекомендует использовать квантизованные варианты не ниже Q4_K_S либо IQ3_S с imatrix. Лицензия — Apache-2.0. Автор отмечает, что видео не тестировалось; качество на бенчмарках этой версии пока не подтверждено результатами в карточке.

Карточка модели LLADIGA/Qwen3.5-4B-full_turn_matchit_ascii_player1 на Hugging Face совпадает с карточкой LLADIGA/Qwen3.5-4B-full_turn_matchit_ascii_player2, поэтому описание составлено по ней. Это дообученная модель Qwen3.5-4B, опубликованная пользователем LLADIGA. Модель с плотной архитектурой Qwen3_5ForCausalLM содержит 3,4 млрд параметров и предназначена для генерации текста в диалоговом формате. В карточке указано обучение с помощью TRL; пример показывает ответы на пользовательские вопросы. Модель принимает текст и генерирует текст. Она основана на Qwen/Qwen3.5-4B, для которой каталог описывает поддержку понимания изображений, однако для этого дообученного текстового чекпойнта заявлена задача text-generation. Контекстное окно — 262144 токена. Модель доступна в формате Safetensors и рассчитана на Transformers. Лицензия в предоставленных данных не указана.

Qwen3.5-4B-GGUF — это GGUF-представление мультимодальной модели Qwen3.5-4B, разработанной командой Qwen; репозиторий подготовлен с использованием Unsloth. Модель предназначена для задач, объединяющих работу с текстом и изображениями, включая рассуждения, программирование, агентские сценарии и визуальное понимание, а также для локального запуска и дообучения. Модель представляет собой causal language model с vision encoder и содержит около 4 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; заявлены 32 слоя, скрытая размерность 2560 и гибридное сочетание линейного и gated-внимания. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Поддерживается 201 язык и диалект, однако конкретные языковые характеристики GGUF-квантизации в README не уточняются. К сильным сторонам относятся мультимодальность, высокая заявленная эффективность инференса, большой контекст и возможность локального использования. Ограничения связаны с тем, что README не содержит подробностей о конкретном типе и параметрах GGUF-квантизации, системных требованиях, фактической производительности и ограничениях применения; приведённые результаты относятся к базовой Qwen3.5-4B. Модель распространяется по лицензии Apache-2.0.

TheStageAI/Qwen3.5-4B-GGUF — набор квантизированных GGUF-чекпойнтов модели Qwen3.5-4B, разработанный TheStageAI для запуска через llama.cpp и локального инференса. Модель предназначена для генерации текста, диалоговых приложений и сценариев, где важны небольшой размер и работа на устройствах с ограниченными ресурсами. Доступны четыре варианта: XS размером 1,52 ГБ, S — 1,90 ГБ, M — 2,39 ГБ и L — 4,49 ГБ; рекомендован вариант M. README не содержит сведений о поддерживаемых языках, длине контекста и модальностях, поэтому модель следует считать текстовой. Чекпойнты используют смешанную посттренировочную квантизацию с форматами GGUF и различными картами точности: от Q2_K–Q8_0 для XS и S до Q4_K_M для M и Q8_0 для L. По приведённым оценкам, вариант M сохраняет 98,4% instruction-strict результата BF16-модели на IFEval и 99,1% результата BF16 на MMLU-Pro; вариант L обеспечивает более высокую точность при большем размере, а XS ориентирован на режим без рассуждений. Для длинного пошагового рассуждения рекомендуется использовать S, M или L. Сильные стороны модели — компактность, несколько вариантов компромисса между размером и качеством, совместимость с llama.cpp и возможность локального запуска. Ограничения связаны с потерей качества при агрессивной квантизации, особенно у XS, а также с тем, что характеристики базовой архитектуры, языков и контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. Она получена слиянием nightmedia/Qwen3.5-9B-Holodeck-Lounge и schneewolflabs/Wichtelchen-Qwen3.5-9B; в основе используется семейство Qwen3.5 с плотной архитектурой и 9 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая творческое письмо, программирование и рассуждения. Метаданные также заявляют поддержку изображений на входе и языков английского, китайского, японского и испанского. Модель распространяется в формате safetensors, использует библиотеку Transformers и лицензирована по Apache-2.0. Карточка называет слияние экспериментальным; приведённые в README результаты бенчмарков и описания поведения не являются независимой оценкой качества. Длина контекста в предоставленных сведениях не подтверждена.

DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED — мультимодальная instruct-модель на базе Qwen3.5-9B, дообученная автором с помощью Unsloth на дистиллированном наборе данных Claude 4.6 и затем обработанная для снижения числа отказов. Модель разработана для диалогов и генерации текста, включая творческое письмо, рассказывание историй и ролевые сценарии; также принимает изображения и отвечает на вопросы по ним. Модель имеет плотную архитектуру Qwen3.5 с языковой частью на 9 млрд параметров и vision encoder. Карточка указывает контекст 256 тыс. токенов; метаданные подтверждают поддержку английского и китайского языков. Автор приводит сравнительные бенчмарки и измерения отказов, но они относятся к настройке автора и не гарантируют качество на других задачах. Видео не тестировалось. Веса опубликованы в формате Safetensors для Transformers; лицензия — Apache-2.0.

SassyDiffusion/Qwen3.5-9B-heretic-ara-GGUF — это GGUF-версия декензурированной модели SassyDiffusion/Qwen3.5-9B-heretic, созданной на основе Qwen3.5-9B с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA). Модель предназначена для генерации и анализа текста, а также для мультимодальных сценариев с изображениями, поскольку базовая Qwen3.5-9B описана как причинная языковая модель с vision encoder. Она может применяться в чат-ботах, ассистентах, задачах рассуждения, программирования, работы с агентами и визуального понимания. Архитектура базовой модели включает 9 млрд параметров, 32 слоя, гибрид Gated Delta Networks и разреженного Mixture-of-Experts, а также 4096-мерное скрытое представление. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Формат GGUF ориентирован на использование в совместимых средах инференса, однако конкретные квантизация и требования к ресурсам в README не указаны. Главная особенность версии — существенное снижение частоты отказов по сравнению с оригинальной Qwen3.5-9B: в приведённом тесте 7 отказов из 100 против 93 из 100 у исходной модели, при KL divergence 0,0168. Это может быть полезно для сценариев, где требуется более свободная генерация, но одновременно означает ослабление исходных механизмов безопасного отказа. Результаты приведены для ограниченного теста и не характеризуют качество во всех задачах. Модель распространяется по лицензии Apache-2.0.

SOMEHOTMEAL разработал Qwen3.5-9B-Janus-Abliterated-V2 — объединённую модель на базе Qwen3.5-9B и её аблитерированной версии. Модель предназначена для диалогов, творческого письма, ролевых сценариев и мозгового штурма; в ней стремились сохранить рассуждения и следование инструкциям базовой модели, одновременно снизив склонность к отказам. Она доступна в формате Safetensors и работает через библиотеку Transformers. Модель принимает текст и генерирует текст. Карточка указывает на поддержку английского языка; в метаданных базовая модель описана как мультимодальная, но для этой версии каталог подтверждает только генерацию текста. Используйте её для художественных и исследовательских задач, а не в критически важных системах или автоматизированном принятии решений. Возможны ухудшения на сложных математических задачах и при работе с очень длинным контекстом; уменьшенный уровень отказов не гарантирует безопасного поведения. Лицензия — Apache-2.0.

Qwen3.5-9B MTPLX Optimized Speed — языковая модель семейства Qwen3.5, опубликованная Youssofal для быстрого локального вывода на компьютерах Apple Silicon. Это 9-миллиардная плотная модель генерации текста с поддержкой диалогов; основная часть весов представлена в 6-битном формате MLX, а нативные MTP-головы сохранены в BF16 для спекулятивного декодирования через MTPLX. Модель предназначена для локальных ответов на запросы и генерации текста с ускорением за счёт предсказания нескольких токенов: MTP-головы предлагают черновые токены, которые затем проверяет основная модель. В README приведены результаты измерений в MTPLX на Apple Silicon: для режима D2 указана скорость 101,32 токена в секунду. Для запуска требуется MTPLX; README описывает совместимый с OpenAI локальный сервер и рекомендуемые настройки декодирования. Это оптимизированная 6-битная сборка, а не полноточный чекпойнт; заявленные результаты относятся к указанному runtime-сценарию на Apple Silicon. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.5-9B-MXFP8-FP8KV-FP8Attn-CT-AutoRound — квантизированная версия модели Qwen3.5-9B, разработанной командой Qwen. Модель предназначена для генерации текста и запуска сценариев, требующих языкового понимания и вывода, при сниженном потреблении памяти по сравнению с полноточной версией. Квантизация выполнена в формате MXFP8 с использованием метода AutoRound. В README указано, что базовая модель имеет размер 9B параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна не приведены. Для оценки указаны результаты на GSM8K — 0,9310, HellaSwag — 0,5825, MMLU — 0,7833 и PIQA — 0,7916. Основное преимущество модели — более компактное представление, потенциально позволяющее эффективнее использовать вычислительные ресурсы. Ограничения связаны с возможными потерями качества из-за квантизации и отсутствием в README подробностей о совместимых средствах запуска, точных характеристиках производительности и областях применения. Условия лицензирования отдельно не указаны: необходимо соблюдать лицензию исходной модели Qwen/Qwen3.5-9B.

Qwen3.5-9B-Rollback-Full — разговорная языковая модель семейства Qwen3.5, размещённая пользователем mtybilly на Hugging Face. Это плотная авторегрессионная модель для генерации текста с поддержкой диалогового режима; в README указано, что она дообучена с использованием TRL. Размер по метаданным — 7,2 млрд параметров, формат весов — safetensors, заявленная длина контекста — 262 144 токена. Модель подходит для генерации ответов в чате и продолжения текста. README не раскрывает данные обучения, конкретные улучшения после дообучения или подтверждённые языки поддержки. Базовая модель в карточке указана как None, поэтому её идентификатор установить нельзя. Условия лицензии в предоставленных данных не приведены.

Qwen3.5-9B-The-Defiant-Fable-DARK-ROAST-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная плотная модель семейства Qwen3.5 с 9 млрд параметров, разработанная DavidAU совместно с Nightmedia. Это многоэтапный fine-tune и merge нескольких моделей Qwen3.5-9B; карточка описывает полноточную версию в 16-битном формате и отдельно упоминает варианты GGUF с NEO IMATRIX и MTP для ускоренной генерации. В метаданных указан формат safetensors и библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма и ролевых сценариев. Она принимает текст и изображения, поддерживает английский и китайский языки и, согласно карточке, контекст до 256 тысяч токенов. Также заявлен интерфейс вызова инструментов. Автор приводит результаты бенчмарков, но они не гарантируют превосходства на любых пользовательских задачах; видео не тестировалось. Автор характеризует модель как полностью uncensored и сообщает об удалении отказов; это может приводить к генерации нежелательного или небезопасного содержания. Лицензия — Apache-2.0. Для использования зрения в описанных GGUF-вариантах требуется отдельный файл mmproj.

Qwen3.5-9B VLM Q4_K_M GGUF — мультимодальная модель на базе Qwen/Qwen3.5-9B, представленная в формате GGUF и подготовленная пользователем jc-builds. Пакет включает квантованные веса основной модели и отдельный мультимодальный проектор mmproj, необходимый для обработки изображений через llama.cpp. Модель предназначена для анализа изображений и текста, визуального рассуждения, генерации описаний, ответов на вопросы по изображениям, а также для обычных текстовых задач. Заявлена поддержка 201 языка, включая английский, китайский, японский, корейский, русский, европейские, арабские и ряд языков Юго-Восточной Азии. Указана архитектура раннего объединения визуальных и текстовых данных, контекстное окно 262 144 токена с возможностью расширения более чем до 1 млн токенов, 9,6 млрд плотных параметров и словарь размером более 200 тысяч токенов. Основные веса используют 4-битную смешанную квантование Q4_K_M и занимают около 6 ГБ, а визуальный проектор хранится в FP16 и занимает около 918 МБ. Для полной мультимодальной инференции требуется примерно 7–8 ГБ RAM или VRAM. Сильные стороны модели — сочетание визуальных и текстовых возможностей, большой контекст, относительно компактный размер и возможность локального запуска, в том числе на устройствах iOS. Ограничения включают зависимость от поддержки mmproj в программном обеспечении: vision-режим доступен в llama.cpp и KoboldCpp, частично поддерживается в LM Studio и не поддерживается в Ollama согласно README. Квантованная версия может незначительно уступать FP16 по качеству. Лицензия — Apache-2.0.

Qwen3.5-REAP-212B-A17B-W4A16 — квантизированная версия модели OpenMOSE/Qwen3.5-REAP-212B-A17B, подготовленная с помощью Intel AutoRound. Это MoE-модель с 212 млрд параметров; веса квантованы до 4 бит с группой 128, а маршрутизатор экспертов оставлен без квантизации. По метаданным модель предназначена для генерации текста и диалогового использования. В README описана процедура квантования, но не приведены сведения о контекстном окне и поддерживаемых языках. Для квантования использованы 64 калибровочных примера из NeelNanda/pile-10k с длиной последовательности 512. Модель требует поддержки архитектуры qwen3_5_moe в Transformers; в README отмечены проблемы совместимости AutoRound с Transformers 5.x, для которых нужны исправления импорта и определения мультимодальности. Лицензия — Apache-2.0.

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic. После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling. Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

Qwen3.6-27B-Ablit — производная модель на основе Qwen/Qwen3.6-27B, подготовленная автором sci4ai методом AblitMD. Это плотная авторегрессионная языковая модель для диалогов и генерации текста; метаданные указывают 22,3 млрд параметров и контекст до 262 144 токенов. Репозиторий содержит веса BF16 в safetensors и GGUF, а отдельные варианты коллекции включают более компактные квантизации. Модель изменена для ослабления отказов на запросы из 41 категории: автор вычислял отдельные направления отказа для категорий на ранних слоях и общее направление на поздних. Она предназначена для локального запуска и текстовых диалогов, когда требуется меньше отказов, чем у исходной модели. Шаблон чата Qwen3 ChatML сохранён; поведение профилировалось в режиме non-thinking. Ослабление отказов не добавляет модели новых знаний или навыков и может ослабить следование инструкциям. При включении режима thinking поведение может отличаться; квантизированные варианты могут несколько уступать по качеству BF16. Сведения о лицензии в предоставленных данных отсутствуют.

Карточка модели KryptykAngel/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF на Hugging Face совпадает с карточкой theLittleStone/Qwen3.6-27B-AEON-Ultimate-Uncensored-MTP-i1-GGUF, поэтому описание составлено по ней. Это GGUF-версия Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, подготовленная theLittleStone с квантизацией K-Quant и калибровкой iMatrix; поддерживается MTP (предсказание нескольких токенов). Калибровка использовала 20 000 примеров из набора eaddario/imatrix-calibration. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование; карточка описывает её как вариант с ослабленными отказами. Для запуска подходят llama.cpp и LM Studio. В карточке заявлено, что калибровка iMatrix улучшает точность относительно обычной квантизации той же разрядности. Репозиторий указывает форматы GGUF BF16 и варианты K-Quant, включая IQ4 и Q4_K_M; размер базовой модели — 27 млрд параметров. Метаданные отмечают английский и китайский языки, а также многоязычность. Лицензия — Apache-2.0. Это производная от AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 модель. Заявления карточки о точности, сохранении возможностей и снижении отказов основаны на описании автора и приведённых им проверках. Ослабленные отказы могут приводить к генерации небезопасного или нежелательного содержания; ответы модели также могут содержать ошибки.

Это GGUF-версия Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, подготовленная theLittleStone с квантизацией K-Quant и калибровкой iMatrix; поддерживается MTP (предсказание нескольких токенов). Калибровка использовала 20 000 примеров из набора eaddario/imatrix-calibration. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование; карточка описывает её как вариант с ослабленными отказами. Для запуска подходят llama.cpp и LM Studio. В карточке заявлено, что калибровка iMatrix улучшает точность относительно обычной квантизации той же разрядности. Репозиторий указывает форматы GGUF BF16 и варианты K-Quant, включая IQ4 и Q4_K_M; размер базовой модели — 27 млрд параметров. Метаданные отмечают английский и китайский языки, а также многоязычность. Лицензия — Apache-2.0. Это производная от AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 модель. Заявления карточки о точности, сохранении возможностей и снижении отказов основаны на описании автора и приведённых им проверках. Ослабленные отказы могут приводить к генерации небезопасного или нежелательного содержания; ответы модели также могут содержать ошибки.