I.5Создание и редактирование текста
В разделе собраны самостоятельные задачи, где AI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
44 385 моделейQwen3.6-27B-Architect-Polaris2-Fable-B-F451 — мультимодальная модель Nightmedia, полученная слиянием NuSLERP нескольких моделей семейства Qwen. Карточка описывает её как диалоговую и экспериментальную модель для рассуждений, программирования и творческого письма; в примере показаны развёрнутые ответы на математические и художественные вопросы. Архитектура в метаданных обозначена как плотная Qwen3.5 для генерации текста с изображениями, размер базовой модели — 27 млрд параметров. Метаданные указывают поддержку зрения, следования инструкциям и интерфейса вызова инструментов, а также языки английский, китайский, японский и испанский. Заявлены контекстные варианты до 256 тыс. и 1 млн токенов, однако README не уточняет, к каким именно вариантам они относятся. Модель подходит для диалоговых помощников, анализа изображений, программирования, рассуждений и создания художественных текстов. Карточка приводит отдельные сравнительные показатели компонентов с разными форматами квантования, но не даёт полноценной независимой оценки качества итогового слияния. Лицензия — Apache-2.0. README содержит фрагменты кода, опущенные в карточке, поэтому детали рецепта слияния и воспроизводимости по нему проверить нельзя.
Jianqiao1/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451-MoQ-GGUF — набор GGUF-квантизаций базовой модели nightmedia/Qwen3.6-27B-Architect-Polaris2-Fable-B-F451, подготовленный Jianqiao1. Модель предназначена для генерации текста и запуска через совместимые инструменты, включая llama.cpp, с выбором между несколькими вариантами размера и качества. В основе лежит модель Qwen3.6 с 27 млрд параметров; точные сведения об архитектуре, поддерживаемых языках, модальностях и максимальной длине контекста в README не указаны. Квантизация MoQ использует смешанную точность с учётом структуры и чувствительности тензоров, 128-сегментную importance matrix и сохранение крупных MTP-тензоров в повышенной точности. Доступны варианты от 3.2 до 5.1 BPW, объёмом примерно от 10,8 до 17,5 ГБ. MTP-MoQ-4.8 обозначен как сбалансированный вариант, MTP-MoQ-5.1 — как наиболее качественный в обычной серии, а NVFP4 предназначен прежде всего для тестирования ускорения на GPU Blackwell. Сильной стороной является гибкий компромисс между размером, качеством и скоростью, подтверждённый оценками на WikiText-2: для более крупных вариантов наблюдается снижение PPL и KLD. Ограничения связаны с потерями от квантизации по сравнению с BF16, зависимостью производительности от оборудования и тем, что NVFP4 может обеспечивать лучшую скорость предварительного вычисления на RTX 5090, но уступать обычному MoQ-4.8 по качеству при сопоставимом размере. Репозиторий распространяется по лицензии Apache-2.0.
Qwen3.6-27B-CoreAI — это плотная языковая модель на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B и подготовленная mlboydaisuke для запуска в среде Apple Core AI. Модель предназначена для генерации текста, диалоговых приложений, суммаризации и других офлайн-сценариев на устройствах Apple через GPU или Neural Engine. Указанный язык — английский. Архитектура включает 64 слоя с чередованием линейных микшеров внимания GatedDeltaNet и полноразмерного gated attention, GQA с 24 query- и 4 KV-головами, 48 value-голов и плотные MLP размерности 17408. Все параметры активны при генерации каждого токена; модель поставляется в виде Core AI LanguageBundle размером около 28 ГБ с int8-квантованием весов. Заявлены скорость декодирования 15,9 токена в секунду на Mac с M4 Max и результаты, практически совпадающие с полной точностью на проверенных позициях. Сильными сторонами являются крупный плотный масштаб, локальное выполнение без обязательной передачи данных в облако и высокая точность int8-квантизации по приведённым тестам. Ограничения — значительные требования к памяти и хранилищу, зависимость от экосистемы Apple Core AI и отсутствие данных о поддерживаемом контексте и других языках. Модель распространяется по лицензии Apache-2.0.
Tsuna57/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP-Q8_0-GGUF — это квантованная версия модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель основана на Qwen3.6 и имеет размер 27 млрд параметров; в карточке также указаны многоэтапная настройка, объединение моделей, режимы thinking и reasoning, а также поддержка MTP-квантов. Квантование Q8_0 предназначено для запуска через llama.cpp. Модель ориентирована на широкий спектр текстовых сценариев, включая программирование, творческое письмо, создание историй и художественной прозы разных жанров, ролевые диалоги и задачи общего назначения. Заявлена поддержка английского и китайского языков. В метаданных указан pipeline image-text-to-text, однако подробности о фактических возможностях обработки изображений в README отсутствуют. К сильным сторонам относятся формат GGUF, совместимость с llama.cpp и возможность локального запуска через CLI или сервер. Ограничения и точные показатели качества, размер контекста, требования к оборудованию, особенности мультимодальности и результаты оценки в карточке не приведены; в примере запуска указан контекст 2048 токенов, но это не обязательно максимальное значение модели. Лицензия — Apache-2.0.
QAYSER12/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это открытая мультимодальная модель на базе Qwen3.6 27B, представленная в формате GGUF. Она создана как результат многоэтапного дообучения и слияния моделей при участии DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель поддерживает английский и китайский языки, а также работу с изображениями. Размер контекстного окна в README не указан. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, анализа и творческой работы, включая написание художественных текстов и ролевые сценарии. Заявлены улучшенные instruction following, общее качество рассуждений и problem solving по сравнению с базовой моделью. Доступны обычные и MTP-варианты GGUF-квантов, включая 4- и 8-битные сборки; используется NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Для MTP-вариантов рекомендуется temperature не выше 1 и rep penalty 1; при низком token acceptance rate следует использовать обычные кванты. К сильным сторонам относятся широкий набор сценариев применения, поддержка vision, reasoning и работы на потребительском оборудовании, а также заявленные высокие результаты внутренних бенчмарков. Ограничения включают отсутствие в README подробностей об архитектуре поверх базовой Qwen3.6 27B, точном размере контекста, системных требованиях и независимой проверке заявленных результатов. Модель описывается как uncensored и heretic, поэтому её поведение и защитные ограничения могут отличаться от официальной базовой модели. Лицензия — Apache-2.0.
Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель, созданная в коллаборации shaffhausen/DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh на базе Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В разработке использовались методы Unsloth, датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные обучающие материалы Fable, Claude Opus, GPT5 и собственные наборы данных. Лицензия — Apache-2.0; заявлены языки английский и китайский. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, генерации кода, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. В README заявлена поддержка vision, однако подробности о визуальном энкодере и формате мультимодального ввода не приведены. Архитектурный размер — 27B; точный контекст и базовая архитектура не указаны. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая 4- и 8-битные варианты. Кванты используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; в MTP-вариантах MTP-тензоры имеют точность Q8_0. К сильным сторонам относятся заявленные улучшения следования инструкциям, общего интеллекта, решения задач и рассуждений, а также сохранение производительности на низких квантах. Автор сообщает о превосходстве базовой Qwen3.6-27B в шести из семи бенчмарков и о результатах выше Qwen3.6-35B-A3B, но эти утверждения представлены самим автором и не подтверждены независимыми данными в README. Ограничения включают отсутствие подробных результатов тестов, точных требований к оборудованию и данных о контекстном окне. Модель позиционируется как uncensored/heretic, поэтому поведение в чувствительных сценариях и соответствие требованиям безопасности следует проверять отдельно. Для MTP-вариантов рекомендуется температура не выше 1, поскольку более высокие значения могут ухудшать работу multi-token prediction.
Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в результате совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель создана с применением многоэтапного дообучения и слияния нескольких версий, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Заявленная цель — улучшить следование инструкциям, общее решение задач, рассуждения и интеллект без изменения основных возможностей базовой модели. Модель предназначена для широкого спектра сценариев: диалогов, анализа, программирования, решения задач, рассуждений, творческого письма, художественной прозы и ролевых взаимодействий. Указаны поддержка английского и китайского языков, а также vision, однако подробности о визуальной архитектуре и поддерживаемых форматах входных данных не приведены. Доступны обычные GGUF-квантизации и варианты MTP для multi-token prediction, включая 4-битные и 8-битные сборки; заявлена оптимизация NEO IMATRIX и частичное сохранение выходного тензора в 16-битной точности. К сильным сторонам относятся улучшенное следование инструкциям, решение задач и рассуждения, а также заявленная высокая производительность на ряде бенчмарков даже в низких квантизациях. Модель позиционируется как uncensored и heretic, то есть с ослабленными ограничениями безопасности, что может быть преимуществом для некоторых сценариев, но повышает риски нежелательного или небезопасного вывода. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance следует использовать обычную квантизацию. Лицензия Apache-2.0.
Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking-OptiQ-4bit — текстовая языковая модель, разработанная на основе DavidAU/Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking и адаптированная сообществом mlx-community для запуска на Apple Silicon с использованием MLX. Модель предназначена для генерации текста, включая сценарии рассуждений и creative writing. Режим thinking можно включать или отключать через суффиксы :think и :no-think в идентификаторе модели либо параметр enable_thinking в chat template. Модель использует архитектуру qwen3_5, соответствующую Qwen3.6-27B, и работает только с текстом. Она применяет смешанное квантование OptiQ: разные слои имеют разрядность 4 или 8 бит, средняя разрядность составляет около 5,6 бит на вес; 220 слоёв квантованы в 8 бит, а 276 — в 4 бита. Такой подход призван сохранить больше точности в чувствительных слоях при снижении требований к памяти. Для запуска требуются MLX и совместимое окружение Apple Silicon; модель можно использовать через mlx-optiq или mlx_lm. Поведение и возможности модели определяются базовой дообученной моделью DavidAU, тогда как данный репозиторий изменяет только способ квантования. В README не указаны поддерживаемые языки, размер контекстного окна и подробные ограничения качества. Лицензия — Apache-2.0.
Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF — это производная от Qwen3.6-27B модель от DavidAU, созданная на базе Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking. Модель была подвергнута декодированию ограничений и дообучению с использованием Unsloth на пользовательском наборе данных, а затем преобразована в GGUF-квантизации с применением методов NEO и NEO-CODE Di-Matrix. Модель предназначена для общего применения, включая диалоги, творческое и художественное письмо, генерацию сюжетов и сцен, ролевые сценарии, программирование, математику и задачи, требующие работы с длинным контекстом. Заявлена поддержка контекста до 256 тысяч токенов. Указаны языки English и Chinese. Размер базовой модели — 27 миллиардов параметров; доступны квантизации с различным соотношением качества и требований к памяти, включая IQ2_M и Q4K_S. В карточке также заявлена поддержка image-text-to-text, однако подробности о мультимодальных возможностях не приведены. Сильными сторонами заявлены сниженный уровень отказов, отсутствие цензурных ограничений, высокая близость к качеству полной точности и оптимизация для длинных диалогов, кода и математических задач. Приведённые результаты основаны преимущественно на внутренних тестах автора, поэтому их не следует считать независимой оценкой. Конкретные требования к оборудованию, совместимые приложения и подробная методика дообучения не указаны. Модель распространяется по лицензии Apache-2.0.
AtomicChat/Qwen3.6-27B-MLX-4bit — это 4-битная MLX-квантизация базовой модели Qwen/Qwen3.6-27B, выполненная командой Atomic Chat из оригинальных весов Qwen. Модель предназначена для генерации текста, программирования, агентных сценариев и работы с большими контекстами; заявлена поддержка текстовых и визуальных данных, а также офлайн-запуск на устройствах Apple Silicon через MLX и mlx-lm. Модель содержит 27,8 млрд параметров и 64 слоя, использует плотную decoder-архитектуру Qwen3_5ForConditionalGeneration с 24 attention heads и 4 KV heads. Максимальная длина контекста составляет 262 144 токена, размер словаря — 248 320 токенов. Квантизация откалибрована с помощью importance matrix, что должно помогать сохранять свойства исходной полноточной модели при уменьшенной разрядности. README не содержит точного перечня поддерживаемых языков и результатов сравнительных тестов, поэтому качество в конкретных задачах оценить нельзя. К сильным сторонам относятся большой контекст, поддержка изображений, возможности программирования и repository-level reasoning, а также локальная работа без подключения к сети. Ограничения связаны с 4-битной квантизацией и требованием совместимой MLX-инфраструктуры; практические требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Apache 2.0; квантизацию выполнила Atomic Chat.
Qwen3.6-27B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.6-27B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для локального применения в сценариях генерации текста и обработки изображений с текстом, что следует из указанного типа конвейера image-text-to-text. Она сохраняет основу оригинальной Qwen3.6-27B, однако README не содержит сведений о точной архитектуре, числе параметров исходной модели, поддерживаемых языках и размере контекстного окна. Ключевые преимущества — сниженное потребление памяти по сравнению с полноразмерной версией и оптимизация под экосистему Apple Silicon, что делает модель подходящей для локального использования через совместимое программное обеспечение. Ограничениями являются потери качества, возможные при 6-битном квантовании, зависимость производительности от устройств Apple Silicon и отсутствие в предоставленных данных подробных характеристик качества и языковой поддержки. Модель распространяется по лицензии Apache 2.0.
Это текстовый вариант весов Qwen3.6-27B, подготовленный exolabs для запуска через vLLM. Веса получены из GGUF-квантизации Q4_0 модели unsloth/Qwen3.6-27B-GGUF: тензоры деквантованы, преобразованы в формат Hugging Face и сохранены в BF16. Конфигурация и токенизатор взяты из Qwen/Qwen3.6-27B. Модель предназначена для генерации текста и диалогового использования; карточка также указывает интерфейс вызова инструментов. Несмотря на тег image-text-to-text и наличие визуальных возможностей в метаданных, в этом репозитории отсутствует визуальная башня, поэтому автор рекомендует запускать модель только в текстовом режиме. Проверена загрузка и краткая генерация в Transformers и vLLM; в README приведена конфигурация с контекстом до 4096 токенов. Данные о лицензии и поддерживаемых естественных языках в предоставленных источниках отсутствуют.
SECWIKI/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — мультимодальная версия Qwen3.6-27B, разработанная HauhauCS на основе модели Qwen/Qwen3.6-27B. Это модификация без встроенных отказов, предназначенная для генерации ответов на широкий круг запросов, включая сценарии, где требуется минимальное количество ограничений. Модель поддерживает текст, изображения и видео, а заявленные языки включают английский, китайский и другие языки в мультиязычном режиме. Модель содержит 27 млрд плотных параметров и распространяется в формате GGUF с различными уровнями квантования, включая специальные варианты K_P, оптимизированные с использованием importance matrix. Архитектура включает 64 слоя, сочетает 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного gated attention. Нативная длина контекста составляет 262 тысячи токенов и может быть расширена примерно до 1 млн с помощью YaRN. Для мультимодальной работы поставляется отдельный компонент mmproj. Сильной стороной модели является сочетание большого контекста, мультимодальности, нескольких режимов генерации и отсутствия отказов, а K_P-квантизации позволяют сохранить качество при уменьшенном размере файлов. Ограничения включают возможное добавление кратких дисклеймеров, повышенные требования к памяти: размер файлов варьируется примерно от 10 до 32 ГБ, а также риски, связанные с отсутствием защитных ограничений. В README указана лицензия Apache-2.0.
HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Balanced — это модифицированная и квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная HauhauCS. Модель распространяется в формате GGUF и ориентирована на мультимодальные сценарии image-text-to-text, включая работу с изображениями и текстом. Заявлена поддержка английского, китайского и других языков. По данным карточки, модель имеет 27 миллиардов плотных параметров; дополнительные сведения о полной архитектуре и размере контекстного окна не указаны. Основное отличие версии Balanced — удаление отказов при сохранении исходных датасетов и возможностей базовой модели. Она предназначена для агентного программирования, использования инструментов, рассуждений, творческого письма и ролевых сценариев. По заявлению автора, модель может подробно рассуждать перед ответом, иногда добавляя краткое предупреждение или контекст безопасности, после чего предоставляет полный ответ. Также заявлена повышенная стабильность генерации в длительных цепочках вызовов инструментов. Эти характеристики основаны на описании автора и приведённом внутреннем тесте с 0 отказов из 465 запросов, поэтому их следует интерпретировать как заявленные, а не независимые результаты. Доступны различные варианты квантования GGUF, включая пользовательские K_P-кванты, оптимизированные с помощью importance matrix; размеры файлов составляют примерно от 10 до 32 ГБ, а для мультимодальности предоставляется отдельный mmproj-файл. Модель совместима с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Рекомендуемый автором вариант Q4_K_P требует около 18 ГБ, а Q8_K_P — около 32 ГБ. Отсутствие встроенных ограничений может быть преимуществом для исследовательских, программных и творческих задач, но одновременно повышает риск небезопасных или нежелательных ответов, поэтому требуется контроль применения. Лицензия — Apache-2.0.
Qwen3.6-27B-V1.1-FF711-Darker-Hero-GAIN-H2.0 — дообученная Дэвидом AU мультимодальная модель семейства Qwen3.5 с плотной архитектурой на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B. Карточка описывает метод GAIN, также называемый COLD FUSION: динамическая настройка обучения на уровне отдельных примеров. Модель предназначена для диалогов, рассуждений, программирования, творческого письма и работы с изображениями; метаданные указывают поддержку vision и интерфейс вызова инструментов. Автор заявляет о сокращённых блоках рассуждений, следовании инструкциям и сохранении производительности при низкой точности, однако приведённые в README сравнения и показатели являются заявлениями автора. В примерах упоминается режим без фильтрации и контент NSFW; модель может выдавать ненормативную лексику и материалы для взрослой аудитории. Карточка также сообщает о снижении частоты отказов. Указана лицензия Apache-2.0. В метаданных перечислены английский и китайский языки; других языков карточка не подтверждает.
Qwen3.6-29B-REAP-Opus-Reasoning-Distill-GGUF — набор GGUF-квантизаций модели, созданной barozp на базе Qwen3.6-35B-A3B с архитектурой MoE. Из исходной конфигурации удалены 51 из 256 экспертов с помощью REAP, оставлено 205 экспертов, после чего применён LoRA-адаптер, обученный на рассуждениях, сгенерированных Opus. Это обычная слитая версия без MTP-head, предназначенная для генерации текста и локального запуска через llama.cpp. Модель ориентирована на задачи рассуждения, ответов на вопросы и универсальной текстовой генерации. Доступны варианты от BF16 размером 56,5 ГБ до квантизаций Q2_K размером 10,6 ГБ, включая популярную Q4_K_M размером 17,3 ГБ и IQ-квантизации с importance matrix. K-квантизации обеспечивают широкую совместимость и высокую скорость на CPU, а IQ-варианты дают лучшее соотношение качества и размера при цене в виде некоторого снижения скорости. Языки, размер контекстного окна и точный набор поддерживаемых модальностей в README не указаны; по описанию это текстовая модель. Сильной стороной является улучшение результатов на ARC-Challenge после reasoning-дистилляции: 0,616 против 0,532 у исходной невырезанной модели и 0,534 у версии только с pruning. На RTX PRO 6000 Blackwell в конфигурации Q4_K_M заявлена скорость около 219 токенов в секунду при полном offload и около 58,6 токена в секунду при частичном offload. Ограничение модели — отсутствие встроенного MTP-head и, соответственно, поддержки self-speculative decoding, доступной в отдельной версии. Кроме того, для этой линейки использование chat template может существенно искажать результаты задач с оценкой loglikelihood; приведённые бенчмарки рассчитаны без него. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое ПО, например llama.cpp, и объём оперативной или видеопамяти, соответствующий выбранной квантизации.
Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-GGUF — это GGUF-релиз модифицированной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений; запуск возможен через llama.cpp с использованием совместимого мультимодального projector-файла. Релиз создан с применением Heretic для удаления исходного паттерна отказов на уровне весов. Модель использует разреженную MoE-архитектуру с 35,95 млрд общих параметров и примерно 3 млрд активных параметров на токен. В составе 40 текстовых слоёв, 256 маршрутизируемых экспертов и 8 активных экспертов на токен; семейство архитектуры — qwen3_5_moe. Доступны варианты BF16, Q8_0, Q6_K и Q4_K_M, различающиеся качеством и требованиями к ресурсам. Языки и точный размер контекстного окна в README не указаны. Сильной стороной релиза является сохранение мультимодальной архитектуры и общего профиля возможностей базовой модели при значительно меньшей склонности к отказам: в указанной проверке модель отказала в 1 из 25 запросов против 22 из 25 у оригинала. Это одновременно является ограничением и фактором риска: встроенное поведение отказа удалено, поэтому модель может отвечать на запросы, которые базовая версия отклоняла, и требует самостоятельного контроля безопасности. Релиз распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
Elsephire/Qwen3.6-35B-A3B-Agents-A1-80-20-Beta — бета-версия мультимодальной модели, созданная слиянием Qwen3.6-35B-A3B и Agents-A1-35B методом Task Arithmetic с весами 80/20. В метаданных указана архитектура семейства Qwen3.5 MoE и поддержка изображений; модель предназначена для диалогов, агентных сценариев и анализа изображений. Модель принимает текст и изображения и генерирует текст. Она доступна в формате Safetensors и распространяется по лицензии MIT. README обозначает выпуск как бета-версию и приглашает к тестированию и обратной связи.
SassyDiffusion/Qwen3.6-35B-A3B-heretic-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.6-35B-A3B, подготовленный для локального запуска. Исходную модель разработала команда Qwen, а данная версия создана на базе llmfan46/Qwen3.6-35B-A3B-uncensored-heretic с использованием Heretic 1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). Модель предназначена для генерации и обработки текста, включая сценарии, где требуется меньше отказов и ограничений по сравнению с оригинальной версией Qwen3.6-35B-A3B. Модель имеет конфигурацию 35B-A3B; точные сведения об архитектуре, размере активируемой части, длине контекста и поддерживаемых языках в README не указаны. Репозиторий содержит варианты EMB_BF16, в которых таблица token_embd.weight сохраняется без квантизации в формате BF16. Эти embeddings хранятся в системной RAM и не занимают VRAM, что может повысить точность при наличии достаточного объёма оперативной памяти, хотя увеличивает требования к RAM. По заявленным результатам версия демонстрирует 10 отказов из 100 против 83 из 100 у оригинальной модели при KL-дивергенции 0,0015, то есть сохраняет близкое поведение исходной модели при значительно меньшем числе отказов. Ограничением является отсутствие подробных данных о качестве на широком наборе задач, языках и контекстном окне, а также повышенные требования к оперативной памяти для EMB_BF16-квантизаций. В метаданных указана лицензия Apache-2.0.
Это конвертированная версия Qwen3.6-35B-A3B, подготовленная exolabs для запуска через vLLM. Весы исходного GGUF с MXFP4-квантованием экспертов MoE и тензорами в форматах K-quant, Q8 и F32 были деквантованы и преобразованы в safetensors с точностью BF16; архитектурные тензоры Qwen3.6/GDN были переименованы и согласованы для загрузки в Transformers и vLLM. Модель предназначена для диалоговой генерации и обслуживания через vLLM. Хотя в метаданных указана задача image-text-to-text и способность vision, визуальная башня в этом артефакте отсутствует: README рекомендует запускать его только для обработки текста с параметром --language-model-only. Для мультимодального анализа изображений этот файл модели не подходит. В репозитории 21 шард safetensors общим размером около 69,3 ГБ; README сообщает об успешных проверках загрузки, генерации и запуска в vLLM. Лицензия указана как other, поэтому перед использованием следует проверить её условия на странице модели.
Qwen3.6-35B-A3B-NSC-ACE-SABER GGUF MTP — это квантизированная сборка модели, разработанная GestaltLabs на базе Qwen/Qwen3.6-35B-A3B. Репозиторий предоставляет файлы в формате GGUF для совместимых с llama.cpp сред выполнения, включая варианты F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K. Сборки подготовлены с поддержкой MTP (multi-token prediction) и предназначены для ускорения генерации при наличии соответствующей поддержки в runtime. Модель ориентирована на диалоговую генерацию текста, агентские сценарии и вызов инструментов, а также заявлена как multimodal image-text-to-text модель. В репозитории присутствуют конфигурация мультимодальности, процессор, шаблон чата и visual tower sidecar для обработки изображений и видео. В README указан английский язык. Пример запуска использует контекст 32768 токенов, однако максимальный размер контекста отдельно не подтверждён. К сильным сторонам относятся широкий выбор уровней квантизации, локальный запуск, MTP-ориентированная конвертация и улучшенные относительно базовой модели показатели на приведённой проверке BFCL для tool calling: например, точность имени функции выросла с 92,50% до 95,00%, а точность обязательных значений аргументов — с 79,79% до 83,54%. Ограничения включают зависимость ускорения от версии и возможностей llama.cpp, возможное ухудшение форматирования, точности аргументов и калибровки отказов у низких квантов, а также необходимость отдельно проверять поведение конкретных quant-файлов. Модель распространяется по лицензии Apache 2.0.
Qwen3.6-35B-A3B-oQ2e-FP16-MTP-MLX — модель семейства Qwen3.6, подготовленная Treeish в формате MLX safetensors как FP16-вариант пакета Qwen3.6-35B-A3B-oQ2e-MTP-MLX. Она предназначена прежде всего для локального запуска в Sprig на компьютерах Mac с чипами M1 и M2; для M3 и более новых рекомендуется BF16-вариант. Модель поддерживает обработку текста и изображений согласно заявленному pipeline image-text-to-text, однако подробности о визуальных возможностях в карточке не приведены. Архитектура содержит 35 млрд параметров, из которых примерно 3 млрд активны, и использует агрессивную смешанную oQ2e-квантизацию с imatrix: по умолчанию 2-битную affine-квантизацию с размером группы 64 и индивидуальными переопределениями точности от 3 до 8 бит. Остаточные плавающие тензоры имеют точность FP16. В пакет встроен один слой Multi-Token Prediction (MTP), контекстное окно составляет 262 144 токена. Размер пакета — около 13,6 ГБ; для работы Treeish использует 24 ГБ объединённой памяти и рекомендует 32 ГБ, но фактические требования зависят от длины контекста и настроек кэша. Сильными сторонами являются локальная генерация на Apple Silicon, поддержка MTP для потенциального ускорения декодирования и сохранение исходной структуры тензоров при переходе BF16 в FP16. В приведённом тесте на M4 Max скорость составила до 105,8 токена в секунду с MTP, но эти результаты относятся к одной машине и небольшому тестовому набору. Ограничения включают потери качества, возможные для низкобитной квантизации, зависимость от совместимого MLX Swift runtime и отсутствие гарантии побитового совпадения результатов MTP и базовой генерации. Модель распространяется по лицензии Apache 2.0.
Qwen3.6-35B-A3B-RAZOR-28B-A3B-E192of256 — производная диалоговая модель семейства Qwen, созданная методом RAZOR: из 256 маршрутизируемых экспертов в каждом MoE-слое оставлены 192. По README, это обучение-не-затрагивающее прореживание экспертов без градиентных обновлений и восстановительного дообучения; сохранены исходные веса оставшихся экспертов. В карточке указано 27,7 млрд параметров (27,0 млрд без модуля MTP) и около 3 млрд активных параметров на токен. Архитектура — Qwen3.5 MoE для Transformers; веса представлены в safetensors и bfloat16. Модель предназначена для генерации текста в диалогах и работы с интерфейсом вызова инструментов. Метаданные связывают её с Qwen/Qwen3.6-35B-A3B, краткое описание которого указывает на мультимодальный анализ изображений, однако README этой производной версии описывает только прореживание экспертов и не подтверждает сохранение или проверку обработки изображений. Лицензия — Apache-2.0. Прореживание уменьшает объём хранения экспертов, сохраняя примерно прежнее число активных параметров на токен, но является потерным: могут измениться разнообразие, форматирование и поведение завершения ответов; качество вне конечного калибровочного корпуса отдельно не охарактеризовано.
Qwen3.6-35B-A3B-REAM-192-heretic-APEX-GGUF — предварительная серия смешанных по точности GGUF-квантизаций модели keithnull/Qwen3.6-35B-A3B-REAM-192-heretic, основанной на архитектуре Qwen3.6 и разработанной сообществом вокруг Qwen. Модель распространяется в формате, совместимом с llama.cpp, и использует APEX (Adaptive Precision for EXpert Models) для MoE-aware квантизации экспертных слоёв. Доступны варианты размером примерно 12–19 ГБ с эффективной точностью около 3,80–5,91 BPW. Названия файлов с суффиксами Q3_K или Q5_K являются только подсказкой для каталогов и не отражают единственный тип квантизации: внутри используются комбинации K- и IQ-форматов, включая Q3_K, Q4_K, Q5_K, Q6_K, IQ2_S, IQ4_XS и Q8_0. Модель предназначена для локального текстового диалога и генерации текста, а также может использовать изображения при подключении совместимого vision-проектора mmproj-REAP-26B-F16.gguf через llama-server и OpenAI-совместимый chat-completions API. Архитектура сохраняет vision tower Qwen3.6-VL, совместимые скрытое пространство и токенизатор, однако опубликованные GGUF-файлы содержат только текстовые веса. Вариант Mini рассчитан на видеокарты с 16 ГБ VRAM, а I-Compact позиционируется как вариант для повседневного использования в классе размера стандартной Q4_K_M. Сильные стороны серии — MoE-ориентированная смешанная точность, наличие вариантов с imatrix-калибровкой и разные компромиссы между качеством, размером и скоростью декодирования. При этом релиз является preview: для этой APEX-рецептуры ещё не опубликованы измерения perplexity, KL-divergence и академических бенчмарков; проверка ограничивалась оценкой Heretic, качественной проверкой пяти промптов на BF16-весах и базовыми тестами связности генерации. Модель распространяется по лицензии Apache-2.0.
Это нативный 3-битный TurboQuant-чекпойнт Qwen3.6-35B-A3B, подготовленный varjosoft на основе Qwen/Qwen3.6-35B-A3B. Он предназначен для генерации текста в диалогах и запуска через vLLM с плагином turboquant-plus-vllm версии 0.13.5 или новее. Модель использует MoE-архитектуру с 35 млрд общих и примерно 3 млрд активных параметров, 256 экспертами, сочетанием GatedDeltaNet и внимания с частичной rotary-позиционной кодировкой. Веса экспертов упакованы в нативный формат TQ3; размер чекпойнта составляет около 16 ГБ вместо примерно 70 ГБ для BF16, при этом отдельные компоненты хранятся в FP16. Чекпойнт проверен на нескольких ускорителях NVIDIA и требует vLLM 0.20.2 или новее. Он ориентирован на более компактное размещение модели и инференс через совместимый загрузчик; README приводит скорость около 16 токенов в секунду при заданной конфигурации A100 и batch size 1. Базовая модель описана в каталоге как мультимодальная, однако эта карточка указывает text-generation и демонстрирует текстовые запросы и ответы. Лицензия — Apache-2.0. В примере модель выводит видимую цепочку рассуждений; качество и поведение после 3-битного сжатия могут отличаться от исходных весов.
Это GGUF-сборка модели Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved, подготовленная cvgro с применением смешанной квантизации APEX. В модели сохранены 20 слоёв MTP для спекулятивного декодирования; README заявляет о возможном ускорении генерации на 20–50% при соответствующих настройках llama.cpp. Модель основана на мультимодальной MoE-модели Qwen3.6-35B-A3B и принимает текстовые и визуальные запросы, выдавая текст. Сборка предназначена для диалога, генерации текста и работы с изображениями. Базовая модель была модифицирована Heretic и MPOA для снижения числа отказов, а эта версия дополнительно упакована в GGUF с вариантами APEX, включая F16. README утверждает, что APEX сохраняет качество при меньшем размере файлов, но приведённые таблицы сравнений в карточке опущены. Репозиторий распространяется по лицензии Apache-2.0. Для запуска README приводит примеры с llama.cpp и Ollama; указанный в примере контекст — 131072 токена. Это рекомендация для запуска, а не подтверждённый метаданными предел контекста модели.
Qwen3.6-35B-A3B · Winnow keep-25 — производная разреженная модель семейства Qwen, созданная методом поканального прореживания экспертов. По README, разработчик оставил 25% каналов маршрутизируемых экспертов, удалив 75%; промежуточная ширина SwiGLU экспертов сокращена по оценкам важности каналов, а внимание, эмбеддинги и маршрутизатор сохранены. В карточке указано 2,9 млрд параметров, тогда как README сообщает 10,5 млрд, поэтому размер модели в источниках расходится. Модель предназначена для генерации текста и диалогового использования. Указанный базовый чекпойнт — Qwen/Qwen3.6-35B-A3B; заявленное контекстное окно — 262 144 токена. Для запуска README требует Transformers версии 5 или новее и trust_remote_code=True; также описан запуск через vLLM с плагином winnow. На проверке perplexity на C4 приведено значение 22,53; сравнительные и downstream-результаты вынесены в отдельную публикацию. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о поддерживаемых языках и не даёт подробной оценки качества для прикладных задач; прореживание может влиять на качество относительно базовой модели.
Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-квантованная модель, разработанная DavidAU. Она расширена из Qwen3.6 27B до 40 млрд параметров и представляет собой плотную архитектуру без MoE с 96 слоями и 1275 тензорами. Обучение и дообучение выполнялись с использованием Unsloth, наборов данных TeichAI/claude-4.5-opus-high-reasoning-250x и DavidAU/PkDick-Deckard-5-Datasets, а также методов Heretic и NEO-CODE-Di-IMatrix. Модель предназначена для универсального применения: рассуждений, программирования, математики, творческого и художественного письма, генерации сюжетов и сцен, ролевых сценариев и работы с длинными диалогами. Заявлена поддержка контекста до 256K токенов, переменной длины рассуждений и текстовых сценариев на английском и китайском языках. Также заявлена работа с изображениями, но для этого требуется отдельный файл mmproj, размещённый рядом с GGUF-моделью. К сильным сторонам относятся большой контекст, развитые рассуждения, ориентация на код и универсальные задачи, а также оптимизированные NEO-CODE-Di-IMatrix-MAX-квантизации, для которых приведены показатели близости к полной точности BF16. Модель намеренно uncensored и unfiltered, поэтому может генерировать небезопасный или откровенный контент и требует самостоятельного контроля применения. Указанные характеристики производительности основаны на данных автора и приведённых в README тестах; независимая проверка не представлена. В метаданных указана лицензия Apache-2.0. Для запуска необходим совместимый GGUF-движок, а выбор квантизации влияет на требования к памяти и качество работы.
philbert440/Qwen3.6-40B-DeckardUncensored-OpusDistilled-HermesCalibrated-W4A16-AWQ — мультимодальная vision-language модель семейства Qwen3.6, разработанная philbert440. Она предназначена для генерации текста по текстовым и визуальным входным данным, а также для сценариев с использованием инструментов и function calling. Модель относится к коллекции Deckard-40B Uncensored и прошла Hermes-калибровку для задач работы с инструментами. Модель имеет размер 40B параметров и использует 4-битное квантование весов W4A16-AWQ с FP16-активациями и форматом compressed-tensors. Указана совместимость с 1Cat-vLLM на Tesla V100 с архитектурой SM70, включая режим TurboMind, а также со стандартным vLLM на GPU Ampere и новее. README не содержит сведений о поддерживаемых языках и максимальной длине контекста. К сильным сторонам относятся мультимодальность, поддержка tool use и function calling, а также возможность запуска крупной модели в квантованном формате на ограниченных GPU-ресурсах. Модель позиционируется как abliterated, то есть из неё удалены отказы, связанные с механизмами безопасности; это может расширять диапазон ответов, но повышает риски небезопасного или неправомерного использования и требует самостоятельного контроля со стороны пользователя. Модель распространяется по лицензии Apache-2.0.
amd/Qwen3.8-2.4T-A95B-Quark-MXFP4 — текстовая языковая модель на архитектуре Qwen3_5MoeForCausalLM, разработанная на базе Qwen/Qwen3.8-2.4T-A95B-FP8 и подготовленная Advanced Micro Devices, Inc. с использованием AMD-Quark 0.12. Модель принимает текст и генерирует текст; в метаданных указан английский язык. Размер контекста и полный перечень поддерживаемых языков не указаны. Модель предназначена для инференса и задач генерации текста, включая математические рассуждения и оценивание на бенчмарках. Квантованию подвергнуты routed experts: веса используют статическое представление OCP MXFP4, а активации — динамическое OCP MXFP4. Для запуска заявлена поддержка AMD MI350 и MI355 под Linux с ROCm 7.2.0 и PyTorch 2.12.0; рекомендованные движки инференса — SGLang и vLLM. На GSM8K модель получила точность 97,49%, полностью сохранив результат исходной FP8-модели по приведённому сравнению. Ограничения включают зависимость от указанного оборудования и программного стека, а также отсутствие в README сведений о результатах на других задачах, контекстном окне, детальных возможностях мультиязычной работы и лицензии исходной модели. Указано, что модификации защищены авторским правом Advanced Micro Devices, Inc. (2026), но отдельные условия лицензии в README не приведены.