I.5Создание и редактирование текста

Это дообученная модель Qwen3.5-4B, опубликованная пользователем LLADIGA. Модель с плотной архитектурой Qwen3_5ForCausalLM содержит 3,4 млрд параметров и предназначена для генерации текста в диалоговом формате. В карточке указано обучение с помощью TRL; пример показывает ответы на пользовательские вопросы. Модель принимает текст и генерирует текст. Она основана на Qwen/Qwen3.5-4B, для которой каталог описывает поддержку понимания изображений, однако для этого дообученного текстового чекпойнта заявлена задача text-generation. Контекстное окно — 262144 токена. Модель доступна в формате Safetensors и рассчитана на Transformers. Лицензия в предоставленных данных не указана.

FadedRedStar/Qwen3.5-4B-heretic-imatrix-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-4B-heretic. Базовая модель разработана командой Qwen компании Alibaba, исходные веса подготовлены coder3101, а GGUF-квантизацию с importance matrix выполнил FadedRedStar. Модель предназначена для мультимодального рассуждения, генерации текста, программирования, вызова инструментов и агентских сценариев, включая работу с изображениями при использовании vision-проектора. Модель представляет собой плотный transformer примерно на 4 млрд параметров с интегрированным vision encoder и поддержкой раннего объединения модальностей. Заявлены контекстное окно до 262 144 токенов с возможностью расширения примерно до 1 млн, поддержка 201 языка и диалекта, tool calling и формат запросов ChatML. Основные варианты весов используют квантизации IQ4_NL, Q4_K_M и Q5_K_M, оптимизированные с помощью importance matrix; vision-тензоры доступны в Q8_0 и BF16. Предусмотрены дополнительные MTP-файлы для speculative decoding. Сильной стороной модели является сочетание мультимодальности, большого контекстного окна и относительно низких требований к ресурсам, а importance matrix должна улучшать сохранение качества при низкой разрядности. Существенное ограничение — модель прошла abliteration с подавлением направлений отказа, поэтому её поведение в части отказов отличается от исходной Qwen3.5-4B и может быть менее безопасным. Приведённые показатели отказов и расхождения KL являются самоотчётными и не подтверждены независимым тестированием. Для запуска требуются совместимые с GGUF инструменты, например llama.cpp, а точные возможности зависят от выбранной квантизации и vision-проектора. В метаданных указана лицензия Apache-2.0.

FreedomAISVR/Qwen3.5-4B-MTP-NVFP4-GGUF — квантизированная сборка мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Репозиторий содержит веса GGUF в формате NVFP4 и проектор изображений SigLIP ViT в F16; заявлена поддержка Multi-Token Prediction (MTP), предсказывающей два токена за шаг генерации. Сборка рассчитана прежде всего на ускоренный запуск на видеокартах NVIDIA Blackwell и предназначена для использования через llama.cpp и совместимые инструменты. Модель подходит для генерации текста и диалога, а с мультимодальным проектором — для обработки изображений вместе с текстовым запросом. README указывает контекстное окно 262 144 токена, мультиязычность и режим рассуждения, включённый по умолчанию. В архитектуре базовой модели описаны гибридные слои Attention и Mamba-2, MLA и 3D MRoPE. NVFP4 может ускорить инференс на Blackwell; заявленное увеличение пропускной способности MTP до 30–40% приведено автором репозитория и не является независимым бенчмарком. Лицензия — Apache-2.0. Формат NVFP4 ориентирован на GPU Blackwell; для более старых видеокарт и CPU автор рекомендует другие варианты квантования. Это производный квантованный артефакт, а не отдельное дообучение базовой модели.

FreedomAISVR/Qwen3.5-4B-NVFP4-GGUF — квантованная сборка мультимодальной модели Qwen3.5-4B, опубликованная FreedomAISVR. Веса представлены в формате GGUF с квантизацией NVFP4; для понимания изображений в репозитории также есть проектор mmproj в F16. Модель основана на Qwen/Qwen3.5-4B и использует гибридную архитектуру Gated DeltaNet и Gated Attention. Карточка заявляет контекст до 262 144 токенов и поддержку 201 языка. Модель предназначена для диалога и генерации текста, а при использовании вместе с проектором — для описания изображений и ответов на вопросы по ним. NVFP4 ориентирован на ускорение на видеокартах NVIDIA Blackwell; карточка рекомендует другие форматы для более старых GPU и CPU. Заявленные характеристики производительности и сохранения качества относятся к описанию автора и не сопровождаются в карточке результатами независимой оценки. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.5-4B-SX8 — версия модели Qwen3.5-4B, подготовленная Martí Vidal Leandro из MarlaLabs и опубликованная marlalabsAI. Веса представлены в формате квантования S-X8 v4.3 с точностью 7,50 бит на вес; репозиторий также содержит контейнер GGUF. Модель предназначена для диалоговой генерации текста и работы через интерфейс вызова инструментов. В карточке базовой модели указаны мультимодальность и понимание изображений, однако сведения о поддержке этих функций именно в данной версии в метаданных и README ограничены описанием полного контейнера с визуальной частью. Автор заявляет качество, близкое к FP16: на RTX 5060 Ti приведены результаты на Wikitext-2, Winogrande и HellaSwag, а также показатели скорости и потребления видеопамяти. Для запуска доступны собственный Python runtime, требующий NVIDIA GPU и CUDA Toolkit для компиляции ядер, и вариант GGUF, требующий форка llama.cpp с поддержкой S-X8. Контейнер `.sx8v43` включает конфигурацию и неквантованные тензоры и, согласно README, не требует отдельно загружать базовую модель. Лицензия — Apache-2.0.

tinyopsec/Qwen3.5-4B-Unredacted-MAX-GGUF — набор GGUF-квантизованных версий языковой модели prithivMLmods/Qwen3.5-4B-Unredacted-MAX, созданной на базе Qwen/Qwen3.5-4B. Модель предназначена для генерации текста, выполнения инструкций, решения задач, многошагового рассуждения, исследовательских экспериментов и локального запуска на совместимом оборудовании. Указанный разработчик базовой дообученной модели — prithivMLmods, а данный репозиторий содержит общественные квантизации. Модель имеет около 4,5 млрд параметров, архитектуру Qwen2 с 28 слоями и 28 головами внимания, контекст до 32 768 токенов и словарь размером 151 936 токенов. В README указан английский язык. Доступны варианты с точностью от 16 до 2 бит и размером примерно от 8,4 до 1,1 ГБ, что позволяет выбирать между качеством, требованиями к видеопамяти и компактностью. Поддерживаются сценарии локального инференса через llama.cpp, llama-cpp-python, LM Studio и Ollama. Сильными сторонами являются сравнительно небольшой размер, гибкий выбор уровня квантизации, совместимость с форматом GGUF и пригодность для запуска на видеокартах среднего класса, ноутбуках и CPU. Ограничения включают компромисс между качеством и степенью сжатия, а также отсутствие в README подробных результатов бенчмарков, данных о мультимодальности и поддерживаемых языках помимо указанного английского. Лицензия — Apache 2.0.

Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED-FP8-vLLM — это FP8-квантизированная версия модели DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, созданная kanocz для инференса в vLLM. Модель основана на архитектуре Qwen3.5 и представляет собой результат последовательной дообученной линейки с базой Qwen/Qwen3.5-9B, uncensored fine-tune и дистилляцией рассуждений в стиле Claude 4.6. Формат распространения — Apache 2.0. Модель предназначена для генерации текста, задач с рассуждениями и поддерживает режим thinking с парсером qwen3, вызов инструментов и мультимодальную работу с изображениями. Заявлена поддержка контекста до 262 144 токенов. README не указывает перечень поддерживаемых языков, поэтому языковые возможности отдельно не уточняются. Используется блочная динамическая квантизация FP8 E4M3 с размером блока 128×128; квантизировано 200 слоёв, а 560 компонентов, включая embeddings, norms, vision encoder, lm_head и специфичные для DeltaNet слои, сохранены в исходной точности. Размер весов составляет около 11,3 ГБ против примерно 19 ГБ в BF16. На RTX 3090 заявлена работа через Marlin kernel, а на Ada/Hopper — с native FP8; совместимость с vLLM протестирована. FP8 KV cache позволяет дополнительно экономить память. Ограничения включают зависимость от vLLM для проверенного сценария, отсутствие поддержки llama.cpp и отсутствие валидации в SGLang; для полной конфигурации на RTX 3090 требуется около 22,5 ГБ из 24 ГБ видеопамяти.

Sohailhosseini/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-AWQ-W4A16 — квантизированная версия модели Jackrong/Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled, подготовленная пользователем Sohailhosseini. Модель предназначена для генерации текста по текстовым и визуальным входным данным, включая диалоговые и инструкционные сценарии; в карточке она обозначена как image-text-to-text и заявлена как подходящая для мультиязычных моделей. Модель содержит 9,7 млрд параметров и использует квантизацию AWQ-W4A16 с 4-битными весами в формате compressed-tensors. Размер на диске составляет 8,6 ГБ, что в 2,24 раза меньше исходных 19,3 ГБ. Визуальные компоненты, включая vision tower, vision model и multi-modal projector, а также слой lm_head оставлены без квантизации, поэтому сохраняется мультимодальная функциональность. Рекомендуемая длина контекста при запуске через vLLM — до 32 768 токенов. Ключевое преимущество — уменьшенные требования к хранению и потенциально более эффективный запуск по сравнению с исходной моделью; квантизация калибровалась на 256 примерах из HuggingFaceH4/ultrachat_200k. Ограничения включают возможное снижение качества из-за 4-битного представления и совместимость с реализациями vLLM: некоторые старые ядра могут предпочитать симметричную схему W4A16, тогда как данная версия асимметричная. В README указана лицензия Apache-2.0, унаследованная от исходной модели.

Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-MAX-NEOCODE-Imatrix-GGUF — GGUF-квантизированная доработанная версия плотной модели Qwen3.5-9B, разработанная DavidAU. Модель дообучена с использованием Unsloth на наборах данных Claude-4.6-OS и дополнена матрицами DI-MATRIX на основе наборов NEO и NEO-CODE, улучшениями тензоров Unsloth и пользовательским шаблоном Jinja для стабилизации работы и снижения избыточного «обдумывания». Лицензия — Apache-2.0. Модель предназначена для широкого спектра текстовых задач, включая рассуждения, генерацию и продолжение художественных текстов, создание сюжетов и подсюжетов, ролевые сценарии, диалоги и работу с различными жанрами. Заявлена поддержка английского и китайского языков. Модель позиционируется как uncensored и heretic-вариант с существенно сниженным числом отказов; при этом для получения особенно грубого или откровенного стиля иногда требуются дополнительные указания в запросе. Контекст по умолчанию заявлен до 256K токенов. Поддержка изображений протестирована и заявлена как рабочая, но для неё требуется отдельный файл mmproj, размещённый вместе с GGUF; видеовозможности не тестировались. В README приведены результаты тестов на ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где версия показывает более высокие значения, чем указанная базовая версия Qwen3.5-9B в режиме thinking, однако результаты зависят от квантизации и настроек запуска. Для работы рекомендуется использовать совместимый рантайм GGUF; автор также указывает специальные параметры сглаживания и рекомендуемые варианты квантизации, поэтому итоговое качество и поведение зависят от программного окружения.

filvyb/Qwen3.5-9B-heretic-v2-GGUF — GGUF-квантизация декензурированной версии trohrbaugh/Qwen3.5-9B-heretic-v2, созданной на базе Qwen3.5-9B с использованием Heretic 1.2.0. Модель предназначена для локального запуска и генерации текста с уменьшенной склонностью к отказам; README сообщает о 6 отказах из 100 против 100 из 100 у исходной Qwen3.5-9B. При этом декензурирование изменяет поведение исходной модели: указанная KL-дивергенция составляет 0,0793. Это мультимодальная causal language model с vision encoder, поддерживающая работу с текстом и изображениями. Размер языковой части — около 9 млрд параметров; архитектура сочетает Gated Delta Networks, sparse Mixture-of-Experts и Gated Attention. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 010 000 токенов; заявлена поддержка 201 языка и диалекта. Модель распространяется по лицензии Apache-2.0. README не содержит сведений о конкретном формате GGUF-квантизации, требуемых ресурсах и подробных ограничениях качества, поэтому фактическая производительность зависит от выбранного файла и среды запуска.

Это конверсия в формат MLX модели Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic, подготовленная PipeNetwork для Apple silicon. Веса сохранены в bfloat16 без квантизации; исходный набор весов — nightmedia/Qwen3.5-9B-DS9-USS-Defiant. Модель объединяет дообучения Qwen3.5, упомянутые авторами исходной модели, и предназначена для диалогов, рассуждений, творческого письма и работы с изображениями. Архитектура — плотная мультимодальная Qwen3.5 с 9 млрд параметров, 32 слоями и 27-слойной визуальной башней. Модель принимает текст и изображения, выдаёт текст и поддерживает контекст до 262 144 токенов. Карточка указывает английский и китайский языки. Репозиторий рассчитан на запуск через MLX на компьютерах Apple с Apple silicon; веса занимают около 18,8 ГБ. При конверсии отброшены веса MTP, поэтому недоступно ускорение спекулятивного декодирования, которое они обеспечивают в некоторых сборках. Модель распространяется по лицензии Apache-2.0. Название указывает на uncensored-редакцию; качество и ограничения безопасности унаследованы от исходных весов, а отдельная оценка этой конверсии в карточке не приводится.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это мультимодальная модель на базе Qwen3.5-9B, разработанная DavidAU совместно с Nightmedia. Она представляет собой результат многоэтапного дообучения и слияния нескольких моделей на локальном оборудовании. Модель ориентирована на универсальные сценарии: следование инструкциям, рассуждения, программирование, творческое письмо, художественную литературу и ролевые диалоги. Заявлена как uncensored и heretic-модель, то есть с ослабленными ограничениями на ответы. Модель распространяется в формате GGUF, включая обычные и MTP-варианты для multi-token prediction. Доступны квантизации, в том числе 4- и 8-битные; для GGUF заявлен контекст до 256 тысяч токенов. Поддерживаются текст и изображения, однако для работы с изображениями требуется отдельный файл mmproj. Указаны английский и китайский языки. NEO IMATRIX-квантизация и частично сохранённая 16-битная точность выходного тензора предназначены для повышения качества, а MTP-варианты — для ускорения генерации при достаточном уровне принятия предсказанных токенов. Сильными сторонами заявлены производительность в ряде benchmark-тестов, развитое следование инструкциям, компактный размер, поддержка рассуждений и потенциально высокая скорость локального запуска. Ограничения включают зависимость скорости и эффективности MTP от оборудования, настроек и acceptance rate, а также необходимость подбирать обычный или MTP-вариант под конкретный сценарий. Приведённые результаты получены авторами модели и не гарантируют превосходство над более крупными моделями во всех задачах. Лицензия — Apache-2.0.

TheCluster/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-MLX-mxfp8 — квантизированная MLX-версия модели HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive, основанной на Qwen3.5-9B. Модель конвертирована в формат MLX командой TheCluster; исходная базовая модель разработана HauhauCS на основе Qwen. Лицензия — Apache 2.0. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, включая диалоговые приложения, анализ контента, программирование и задачи рассуждения. Это плотная модель с 9 млрд параметров и 32 слоями, использующая гибридную архитектуру Gated DeltaNet с линейным вниманием и полноразмерным softmax-вниманием в соотношении 3:1. Она поддерживает Multi-Token Prediction, контекст до 262 тысяч токенов с возможностью расширения до 1 млн с помощью YaRN, словарь на 248 тысяч токенов и 201 язык. Ключевая особенность варианта — усиленное удаление отказов от выполнения запросов; в README заявлены отсутствие отказов в тесте из 465 запросов и отсутствие потери возможностей, однако независимые результаты не приведены. Агрессивная настройка может быть нежелательной для сценариев, требующих строгих защитных ограничений. Квантизация mxfp8 с размером группы 32 и показателем 8,626 bpw снижает требования к памяти, но потенциально может влиять на точность по сравнению с исходной моделью. Для режима рассуждения рекомендованы temperature 0.6, top_p 0.95 и top_k 20, для нережима рассуждения — temperature 0.7, top_p 0.8 и top_k 20.

parmanu-lcs2/Qwen3-5B — текстовая генеративная модель на архитектуре Qwen3, полученная сокращением Qwen/Qwen3-8B методом SNIPER и последующим дообучением. После pruning в модели 5,406,974,208 параметров; метаданные каталога указывают 7,6 млрд. параметров и контекст до 40 960 токенов. Для восстановления использованы LoRA и 2 000 примеров SlimOrca в течение одной эпохи, после чего адаптеры объединены с весами модели. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Её можно применять для ответов на вопросы, составления текстов и помощи с кодом — в пределах возможностей базовой Qwen3. README сообщает длину контекста 1 024 токена во время дообучения; это не следует путать с заявленным в метаданных родным контекстом модели. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Описание не содержит результатов оценки качества после pruning, поэтому фактическую сохранность способностей базовой модели следует проверять на целевых задачах.

Qwen35B-Agent-R2-i1-GGUF — квантизированная GGUF-версия модели Qwen35B-Agent-R2, подготовленная mradermacher. Базовая модель разработана автором или организацией hotdogs; точная информация о разработчике в README не указана. Модель предназначена для генерации текста, диалоговых сценариев, reasoning, агентских задач, использования инструментов и tool calling. Обучение или дообучение связано с датасетами для рассуждений, агентскими траекториями и conversational-задачами. Модель относится к архитектуре Mixture-of-Experts и имеет заявленный размер 35B, поддерживает текстовый ввод и вывод. В метаданных указаны английский и тайский языки. Модель распространяется в виде набора квантизаций GGUF с разным компромиссом между размером, скоростью и качеством: от IQ1_S размером 7,6 ГБ до Q6_K размером 28,6 ГБ. Варианты IQ-квантизации могут быть предпочтительнее сопоставимых обычных вариантов по размеру, но низкобитные версии заметно ограничены по качеству. Оптимальными по соотношению размера, скорости и качества README называет i1-Q4_K_S, а i1-Q4_K_M — быстрой и рекомендуемой. В README не указаны размер контекстного окна, точные параметры архитектуры, мультимодальные возможности и результаты бенчмарков, поэтому нельзя сделать выводы об этих характеристиках. Лицензия модели — AGPL-3.0; условия использования производных квантизированных файлов следует учитывать вместе с лицензией базовой модели.

Qwen3.6-11B-A3B-Niwaki-4bit-GGUF — это GGUF-сборка модели Qwen3.6, разработанной командой Qwen и адаптированной проектом Niwaki. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая генерацию текста, диалог, рассуждения, краткие творческие задачи и программирование. В README указаны архитектура mixture-of-experts с 40 слоями, 256 маршрутизируемыми экспертами и выбором top-8 экспертов; общий размер модели составляет 11B параметров, активными являются примерно 3,05B. Размер промежуточного слоя экспертов уменьшен с 512 до 128, а контекстное окно соответствует базовой модели, но его точный размер не указан. Требуется актуальная версия llama.cpp с поддержкой Qwen3.6 и hybrid linear attention. Рекомендуемая сборка UD-Q3K занимает около 5,9 ГБ и использует структурно-ориентированное 4-битное квантование: постоянно активные компоненты хранятся с более высокой точностью, а маршрутизируемые эксперты — в компактном формате с калибровкой по матрицам важности. Также доступна сборка Q4_K_M размером около 7,0 ГБ. Модель показывает функциональные результаты в чат-сценариях, рассуждениях и кратком написании, однако её слабая сторона — продолжительная генерация кода: на длинных программных файлах возможны ранняя остановка и потеря связности. Для интенсивной работы с кодом README рекомендует более крупную 19B-модель. Лицензия — Apache 2.0; pruning, distillation и GGUF-сборки выполнены проектом Niwaki.

Модель mlx-community/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16-mlx-4Bit — 4-битная версия в формате MLX, полученная преобразованием модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 с помощью mlx-lm 0.31.2. Она предназначена для диалогов и генерации текста; базовая модель также описана как мультимодальная и поддерживающая работу с изображениями, рассуждения и программирование, однако README этой версии подтверждает только преобразование формата. Модель основана на семействе Qwen3.6 и имеет лицензию Apache 2.0. Метаданные указывают поддержку английского и китайского языков, а также многоязычный характер модели. Версия рассчитана на запуск через MLX; карточка не приводит отдельных оценок качества этой конвертации.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Её разработал DavidAU при участии Nightmedia, TeichAI, armand0e и trohrbaugh; обучение и подготовка выполнялись с использованием Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты, а также различные уровни квантования. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, диалогов, творческого письма, ролевых сценариев и работы с изображениями. Заявлены улучшенные instruction following, общая способность к решению задач и reasoning. Поддерживаются английский и китайский языки; README также заявляет мультимодальность с поддержкой vision. Размер контекста и точные технические параметры архитектуры не указаны. К сильным сторонам относятся доступность квантованных вариантов для потребительского оборудования, улучшения относительно базовой модели по заявленным бенчмаркам и сохранение широкого набора исходных возможностей Qwen. При этом утверждения о превосходстве основаны на данных автора и сторонних проверках, поэтому их следует интерпретировать с осторожностью. Модель помечена как uncensored/heretic, что может означать ослабленные ограничения безопасности и делает необходимой дополнительную проверку результатов при практическом использовании. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Она создана в сотрудничестве авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, специализированных датасетов и нескольких этапов fine-tuning и merge. Модель распространяется в формате GGUF, включая обычные и MTP-варианты с NEO IMATRIX-квантованием. Модель предназначена для широкого спектра задач: следования инструкциям, решения общих и сложных задач, рассуждений, генерации кода, творческого письма, ролевых сценариев и работы с текстом различных жанров. В README заявлена поддержка vision и языков English и Chinese. Указан размер 27B параметров, однако максимальная длина контекста не приведена. MTP-варианты используют multi-token prediction, а MTP-тензоры имеют точность Q8_0; для них рекомендуется температура не выше 1. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общая способность к решению задач, а также высокая точность низкоразрядных квантованных вариантов. README утверждает превосходство над базовой Qwen3.6-27B в большинстве указанных бенчмарков, но эти результаты являются заявлениями автора и не сопровождаются здесь полной воспроизводимой методикой. Возможные ограничения включают зависимость качества и производительности от выбранного кванта и параметров MTP, а также отсутствие подробных данных о контекстном окне и системных требованиях. Модель заявлена как uncensored/heretic, поэтому её ответы могут требовать дополнительной модерации. Лицензия — Apache-2.0. В качестве источников дообучения указаны DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets.

schwyzquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В README указано участие нескольких авторов и команд, включая DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель создана с использованием Unsloth и рассчитана на запуск на потребительском оборудовании. Она распространяется в форматах GGUF, включая обычные и MTP-варианты с multi-token prediction, а также 4- и 8-битные квантизации. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и диалогов. Заявлена поддержка текста и изображений, английского и китайского языков. Среди ключевых свойств указаны улучшенное следование инструкциям, решение задач и reasoning, сохранение возможностей базовой Qwen-модели, а также uncensored/heretic-настройка. Контекстное окно, точные архитектурные характеристики и параметры мультимодального компонента в README не приведены. Автор заявляет высокие результаты на ряде бенчмарков и превосходство базовой Qwen3.6-27B по шести из семи указанных тестов, однако эти утверждения следует воспринимать как данные из карточки модели. Сильными сторонами называются качество рассуждений, универсальность, поддержка vision и эффективность квантизированных версий; возможное ограничение — отсутствие подробных независимых результатов и недостаток технических сведений о размере контекста. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Разработка выполнена в сотрудничестве DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель распространяется в формате GGUF, включая обычные варианты и варианты с multi-token prediction (MTP). Доступны квантизации с использованием NEO IMATRIX, а выходной тензор в описании заявлен как частично сохранённый в 16-битной точности. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и других универсальных применений. Заявлена поддержка текста и изображений, а также английского и китайского языков. Размер модели — 27B параметров; конкретный максимальный размер контекста в README не указан. Дообучение ориентировано на повышение общего интеллекта, способности к рассуждению и качеству следования инструкциям, без намеренного изменения базовых возможностей Qwen. Модель позиционируется как uncensored и heretic. К сильным сторонам относятся наличие нескольких вариантов квантизации для запуска на потребительском оборудовании, улучшенная точность GGUF благодаря NEO IMATRIX и заявленные автором высокие результаты на ряде бенчмарков. При этом приведённые показатели и превосходство над другими моделями являются утверждениями README и требуют независимой проверки. Возможны ограничения, связанные с качеством конкретной квантизации, требованиями к памяти и производительности оборудования, а также с отсутствием точных данных о контекстном окне и детальных условиях работы с изображениями. Лицензия модели — Apache-2.0.

Qwen3.6-27B-NInfer — мультимодальная модель для генерации текста и обработки изображений и видео, подготовленная Neroued на основе Qwen/Qwen3.6-27B. Это не стандартный checkpoint для Transformers, Safetensors или GGUF, а артефакт в нативном формате .ninfer, предназначенный для запуска через NInfer. Модель поддерживает режимы с рассуждением и без него, текстовые, мультиизображенческие, видео- и смешанные мультимодальные сообщения. Указана архитектура Qwen3_5ForCausalLM; размер файла составляет около 16,29 ГиБ. Доступны MTP-спекулятивное декодирование, различные форматы KV-кэша, CUDA Graph, повторное использование совместимого префикса и небольшое параллельное обслуживание запросов. При запуске сервера заявлен логический предел контекста до 240 000 токенов. Поддерживаемые языки в карточке не указаны. Модель подходит для локальной генерации текста, диалоговых приложений, задач рассуждения, анализа изображений и видео, а также для развёртывания через NInfer CLI или совместимые интерфейсы OpenAI Responses, Chat Completions и Anthropic Messages. Среди ограничений — необходимость использовать NInfer, сборку из исходного кода, 64-битный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее; готового установочного пакета NInfer не предоставляется. В карточке приведены результаты на AIME 2025, AIME 2026 и GPQA-Diamond, но методика и полный набор измерений ограничены описанными условиями. Лицензия — Apache-2.0.

Qwen3.6-27B NVFP4 GGUF — версия модели Qwen3.6-27B, подготовленная mudler в формате GGUF для запуска через llama.cpp и LocalAI. В репозитории размещён единый файл весом около 25,5 ГБ; тензоры NVFP4 сохранены без повторной квантизации в целочисленный формат. Базовая модель указана как unsloth/Qwen3.6-27B-NVFP4. Модель предназначена для генерации текста и диалогового использования в локально развёрнутых системах. В README описан запуск с paged attention на Blackwell GPU, включая GB10 и DGX Spark; на другом оборудовании возможна деквантизация NVFP4 с более низкой скоростью. Формат GGUF и конфигурация LocalAI упрощают развёртывание, а заявленные показатели скорости и памяти измерены на Blackwell-системах. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией исходной модели и файлами репозитория. В карточке нет сведений о поддерживаемых естественных языках или длине контекста.

sudo-0x2a/Qwen3.6-27B-NVFP4-GPTQ — квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная автором репозитория sudo-0x2a. Это текстогенерационная модель с поддержкой визуальных компонентов, предназначенная прежде всего для локального запуска и инференса на высокопроизводительном потребительском оборудовании. Тестирование проводилось на одной NVIDIA RTX 5090 с использованием vLLM и FP8 для KV-кэша. Модель использует смешанную точность: слои внимания, линейного внимания и MLP квантованы в NVFP4, а vision-компоненты, MTP, lm head и embeddings сохранены в BF16. При квантовании применялись SmoothQuant и GPTQ, калибровка выполнена на 512 образцах с длиной последовательности 8192. По приведённым локальным оценкам модель показывает 85,0 на подмножестве MMLU-Pro и GPQA Diamond, 57,0 на SWE-bench Verified Easy и 84,0 на подмножестве MMMU Pro; результаты напрямую сопоставимы с BF16-оценками ограниченно, поскольку получены в разных средах. Главное преимущество — существенное снижение требований к памяти при сохранении широких возможностей базовой модели, включая работу с текстом, кодом и визуальными задачами. При этом надёжность работы с длинным контекстом не гарантируется: из-за сильного квантования чувствительных linear attention layers возможна деградация на больших длинах последовательности. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Omnimerge-v4-MTP-GGUF — квантизированная GGUF-версия модели ManniX-ITA/Qwen3.6-27B-Omnimerge-v4, подготовленная автором ManniX-ITA. Модель имеет 27,78 млрд параметров и заявленную архитектуру Qwen3.5; репозиторий содержит объединённые веса в форматах от F16 до низкобитных IQ- и Q/K-квантизаций. В метаданных указаны поддержка английского языка, reasoning и vision, а также pipeline image-text-to-text, однако подробные сведения о контекстном окне и точном наборе мультимодальных возможностей не приведены. Главная особенность этой версии — сохранённая MTP (Multi-Token Prediction) head, предназначенная для self-speculative decoding в llama.cpp. При использовании llama.cpp с поддержкой MTP модель может предлагать несколько токенов за шаг и ускорять генерацию; для этого требуется версия с поддержкой соответствующего PR и режим draft-mtp. Без MTP-функциональности модель работает в стандартном режиме декодирования. Доступно 19 уровней квантизации и эталонная F16-версия, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти; рекомендуемым балансом в README названа Q6_K. Модель подходит для локального текстового и, при наличии соответствующего мультимодального проектора, визуально-текстового вывода, включая задачи рассуждения. Ограничения связаны с существенными требованиями к памяти, зависящими от выбранной квантизации, необходимостью совместимой версии llama.cpp для ускорения MTP и возможной потерей качества на низких битностях. Распространяется по лицензии Apache-2.0.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_1S-GGUF — мультимодальная модель Lemura Labs на основе Qwen3.6-27B, объединённая с производной Jackrong/Qwopus3.6-27B-v2, затем изменённая методом abliteration и квантованная в GGUF TQ3_1S. Она принимает текст и изображения при подключении отдельного файла mmproj.gguf и предназначена для диалогов, рассуждений, программирования и анализа изображений. Модель содержит 27 млрд параметров, использует гибридную архитектуру с GatedDeltaNet и полным attention; заявленная длина контекста — 262 144 токена. Указанная в карточке языковая поддержка включает английский и китайский, а также мультиязычность. В README сообщается, что abliteration снизила частоту отказов в тесте автора с 91 до 4 из 100 при KL-дивергенции 0,0176; эти результаты являются заявлением разработчика. Для инференса именно квантованных весов требуется форк llama.cpp-tq3 с поддержкой TQ3_1S; для обработки изображений необходим отдельный vision-проектор mmproj.gguf. Лицензия — Apache-2.0.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_4S-GGUF — мультимодальная модель Lemura Labs на базе объединённых Qwen3.6-27B и Jackrong/Qwopus3.6-27B-v2. Последняя версия описана как дистилляция рассуждений Claude Opus на основе Qwen3.6-27B. Модель прошла abliteration для снижения числа отказов и выпущена в формате GGUF с квантизацией TQ3_4S; для обработки изображений требуется отдельный файл проектора mmproj.gguf. Модель предназначена для диалогов, рассуждений и работы с изображениями. Гибридная архитектура сочетает линейное внимание GatedDeltaNet и полнослойное softmax-внимание; заявленная длина контекста — 262144 токена. В карточке сообщается о снижении отказов с 91 до 4 из 100 проверочных запросов при KL-дивергенции 0,0176. Доступны GGUF-веса размером около 14 ГБ вместе с проектором; для TQ3_4S требуется форк llama.cpp от turbo-tan, а без mmproj вход изображений недоступен. Модель принимает текст и изображения и генерирует текст. В метаданных указаны английский и китайский языки, а также мультиязычная поддержка. Лицензия — Apache-2.0. Вследствие удаления отказов модель может отвечать на запросы, которые исходная модель отклоняла; результаты генерации требуют соответствующей проверки.

Карточка модели darkneighbor667/Qwen3.6-34B-80L-Fable-5-Heretic на Hugging Face совпадает с карточкой hiebo/Qwen3.6-34B-80L-Fable-5-Heretic, поэтому описание составлено по ней. Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

Карточка модели nwzjk/Qwen3.6-34B-80L-Fable-5-Heretic на Hugging Face совпадает с карточкой hiebo/Qwen3.6-34B-80L-Fable-5-Heretic, поэтому описание составлено по ней. Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.