I.5Создание и редактирование текста

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это GGUF-квантизированная версия многоэтапно дообученной и объединённой модели на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель подготовлена с использованием Unsloth, методов COLD FUSION и Fable Fusion 711; репозиторий konizquants содержит обычные и MTP-варианты Neo-CODER MAX DI-MATRIX GGUF-квантов. Заявлены языки английский и китайский, а также лицензия Apache 2.0. Точные сведения о длине контекста и полном устройстве архитектуры в README не указаны. Модель предназначена для общих задач, рассуждений и решения задач, программирования, генерации творческих текстов, художественной прозы, ролевых сценариев и работы с различными жанрами. Ключевая цель дообучения — сократить объём токенов рассуждения и ускорить генерацию при сохранении подробности и качества ответов; автор заявляет сокращение от примерно половины до одной десятой по сравнению с обычной Qwen3.8. Доступны варианты с 4- и 8-битным представлением, включая MTP, что ориентировано на запуск на потребительском оборудовании. README приводит высокие результаты внутренних и заявленных бенчмарков ARC, но не содержит независимой верификации. Ограничениями являются зависимость качества и скорости от конкретного кванта и оборудования, отсутствие подробных данных о контекстном окне и модальностях, а также заявленная «uncensored» направленность, из-за которой модель может требовать дополнительного контроля безопасности.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune-модель на базе Qwen3.8-27B, опубликованная schwyzquant и созданная с использованием наработок DavidAU и инструментов Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты квантования, с заявленной поддержкой 4- и 8-битных конфигураций. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, художественной прозы, ролевого взаимодействия и других сценариев генерации текста. Основные заявленные цели дообучения — повысить способность к решению задач, сократить объём рассуждений и ускорить генерацию при сохранении детализации и качества ответов. Указаны языки English и Chinese; архитектура основана на Qwen3.8 с 27 миллиардами параметров. Размер контекста в README не указан. К сильным сторонам относятся акцент на подробных ответах, программировании, творческих сценариях и сокращении избыточного «мышления», а также возможность запуска квантованных вариантов на потребительском оборудовании. Заявления о превосходстве над базовыми и другими моделями основаны на приведённых автором бенчмарках и не сопровождаются независимой проверкой в README. Ограничения включают отсутствие подробных данных о контекстном окне, точной архитектуре, системных требованиях и качестве по отдельным задачам; характеристики могут различаться между квантованными версиями. Модель описывается как uncensored, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель семейства Qwen3.8 с 27 млрд параметров, представленная в виде GGUF-квантовок. По README, это многоэтапная fine-tune-модель и результат объединения нескольких обученных версий, созданная с использованием Unsloth, методов Cold Fusion и Fable Fusion. В репозитории доступны обычные GGUF-варианты и варианты с MTP, включая 4- и 8-битные квантовки. Заявлены поддержка английского и китайского языков; максимальный размер контекста не указан. Метаданные также содержат тег image-text-to-text, однако подробности мультимодальных возможностей не приведены. Модель ориентирована на широкий спектр сценариев: решение задач и рассуждение, программирование, творческое письмо, художественную прозу, ролевые диалоги и другие универсальные задачи. Основной заявленный акцент — повышение качества при одновременном сокращении объёма внутренних thinking-токенов, что должно уменьшать задержку и расход вычислительных ресурсов. Автор README заявляет превосходство над базовой Qwen3.8-27B и рядом других моделей по семи ключевым бенчмаркам, а также высокие результаты ARC-C и ARC-E, но эти утверждения требуют независимой проверки. К сильным сторонам относятся ориентация на потребительское оборудование, наличие разных уровней квантования, поддержка MTP и заявленное сочетание подробных ответов с более быстрым выводом. Ограничения включают отсутствие в README точных сведений о контекстном окне, архитектурных деталях, системных требованиях, качестве мультимодальной обработки и воспроизводимых результатах тестов. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune и merge-сборка модели Qwen3.8 с 27 млрд параметров, опубликованная trinityomni на основе версии DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В разработке использовались методы Cold Fusion и Fable Fusion, а также инструменты Unsloth. Репозиторий содержит обычные и MTP GGUF-квантизации, включая варианты с точностью 4 и 8 бит, ориентированные на запуск на потребительском оборудовании. Модель предназначена для общих задач, рассуждений, программирования, creative writing, художественной прозы, ролевых сценариев и работы с различными жанрами текста. В карточке указаны английский и китайский языки; также заявлен pipeline image-text-to-text, однако подробности о поддерживаемых визуальных входах и мультимодальной архитектуре не приведены. Размер контекста не указан. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа, включая поддержку трёх режимов мышления и MTP. По утверждению авторов карточки, модель превосходит базовую Qwen3.8-27B и ряд других моделей в семи ключевых бенчмарках, а результаты ARC-C и ARC-E составляют соответственно до 735 и 880 для 8-битной версии; эти показатели являются заявленными разработчиками и не сопровождаются независимой верификацией в README. Сильными сторонами считаются скорость, сниженное избыточное рассуждение, навыки программирования и генерации творческого текста. Ограничения включают отсутствие данных о контекстном окне, системных требованиях, точных характеристиках мультимодальности и независимых тестах; из-за uncensored и abliterated-настройки модель может чаще выдавать небезопасный или нежелательный контент. Указанная лицензия — Apache-2.0.

DavidAU разработал эту дообученную мультимодальную модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Это плотная модель семейства Qwen3.5 примерно на 27 млрд параметров для диалога и ответов на текстовые запросы с анализом изображений; в метаданных для неё указан тег image-text-to-text и библиотека Transformers. Автор заявляет несколько переключаемых режимов рассуждения и инструкций, сокращение числа токенов рассуждения и усиленное снятие ограничений безопасности. Примеры в карточке демонстрируют помощь в творческом письме и обсуждение персонажей; автор также заявляет о сильном следовании инструкциям и внимании к деталям. Модель ориентирована на диалоговые сценарии, в которых нужны развёрнутые ответы, рассуждение или анализ изображений. Карточка не сообщает длину контекста и явно подтверждает только английский язык. Автор приводит результаты собственных сравнений по отказам, но не описывает независимую оценку этих результатов. Модель опубликована в формате safetensors под лицензией Apache-2.0.

llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved — дообученная мультимодальная модель автора llmfan46 на базе Qwen/Qwen3.8-27B. Это плотная модель класса Qwen3.5 с 27 млрд параметров, архитектурой причинного языкового моделирования и визуальным энкодером; в репозитории сохранены 15 компонентов MTP для многотокенного предсказания. Модель предназначена для диалога, ответов на запросы с изображениями и видео, а также общих задач рассуждения и генерации текста. Автор применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 из 100 случаев против 91 из 100 у исходной модели. README приводит результаты MMLU для исходной Qwen3.8-27B, а не отдельную оценку этой версии. Модель поддерживает визуальное понимание изображений и видео; заявленная длина контекста — 262 144 токена с расширением до 1 000 000. В режиме thinking модель сначала формирует рассуждения, которые можно отключить настройкой запроса. Файлы представлены в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Снижение числа отказов означает, что модель может отвечать на запросы, от которых исходная версия отказалась бы; приведённые тесты не устанавливают качество и безопасность ответов в других сценариях.

Callick99/Qwen3.8-27B-Uncensored-GGUF — это набор GGUF-квантизаций модели Qwen3.8-27B, разработанной на базе Qwen/Qwen3.8-27B и опубликованной пользователем Callick99. Модель предназначена для генерации текста и локального запуска через совместимые среды, включая llama.cpp. Доступны варианты с интегрированной MTP-головой для speculative decoding, отдельными target- и draft-файлами, а также vision-проектором для обработки изображений в совместимых runtime. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одной MTP-головой и контекстом до 262 144 токенов. Заявлена поддержка английского и китайского языков; наличие vision-компонента позволяет работать с изображениями при использовании соответствующего проектора и runtime. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, занимающие примерно от 10,6 до 29 ГБ. Основная особенность сборки — существенное снижение поведения, связанного с отказами, без дополнительного обучения и изменения обучающих данных; отказы не устранены полностью. MTP и speculative decoding могут повысить скорость генерации, однако для draft-головы возможна немного меньшая частота принятия токенов. Низкобитные квантизации экономят память, но могут снижать качество, особенно IQ2_M. Модель и её возможности в остальном наследуют ограничения базовой Qwen3.8-27B. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем jaromer и предназначенный для запуска через llama.cpp. Модель ориентирована на генерацию текста, диалоги и другие задачи обработки текста; доступны также варианты с поддержкой изображений, если это поддерживается базовой моделью. Уровень отказов существенно снижен с помощью метода abliteration на базе Heretic, однако полностью не устранён. Дополнительное обучение и новые обучающие данные не использовались. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, контекст до 262 144 токенов, один MTP-слой и поддержку vision. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ. Варианты с сохранённой MTP-головой поддерживают speculative decoding; также предлагаются отдельные target- и draft-файлы. Заявленные языки — английский и китайский. Сильными сторонами являются большой контекст, широкий выбор квантизаций, поддержка MTP и близкие к f16 показатели perplexity у большинства вариантов; IQ2_M заметно уступает остальным по этому измерению. Perplexity не оценивает качество рассуждений, программирования, мультиязычности или поведения отказов. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная в формате GGUF для использования с llama.cpp. Модель предназначена для генерации текста, локального запуска и сценариев, где важны различные уровни квантизации, включая работу со speculative decoding благодаря сохранённой голове multi-token prediction (MTP). Доступен вариант с поддержкой изображений, если это предусмотрено базовой моделью. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также варианты с объединённой MTP-головой и отдельными целевой и draft-моделями. По сравнению с исходной моделью существенно снижено поведение отказа от ответа, но оно не устранено полностью; при этом возможности, обучающие данные и архитектура базовой модели не изменялись. Сильными сторонами являются большой контекст, поддержка MTP для ускорения инференса, несколько вариантов размера файлов и сохранение качества при большинстве квантизаций. Ограничения включают возможное небольшое снижение доли принятых токенов при speculative decoding, зависимость от совместимости используемого runtime и отсутствие в README подробных сведений о фактических показателях рассуждения, программирования и мультиязычных возможностей. Распространение указано по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это модификация Qwen3.8-27B, разработанная HauhauCS и распространяемая в формате GGUF по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также работы с изображениями и видео. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и без стандартного поведения отказа. Это плотная языковая модель на 27 млрд параметров с vision encoder. Архитектура включает 64 слоя, размер скрытого состояния 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются английский, китайский и другие языки; заявлены текстовая, визуальная и видеомодальности. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Для обработки изображений и видео требуется отдельный vision projector в формате BF16. Модель сохраняет встроенный механизм NextN/MTP исходной Qwen3.8 и дополнительно поставляется с профилем ускорения HauhauCS FastMTP 32K, совместимым с различными текстовыми квантованиями. Доступны варианты от Q2 до Q8, включая специализированные K_P-кванты, оптимизированные для сохранения качества при уменьшенном размере. Ограничения включают значительные требования к памяти, зависимость визуального ввода от отдельного проектора и потенциальные риски некорректных или небезопасных ответов из-за uncensored-профиля; для критически важных длинноконтекстных агентских задач README рекомендует более сбалансированный вариант, если он доступен.

mradermacher/Qwen-3.8-27B-Uncensored-i1-GGUF — набор квантованных версий модели Qwen-3.8-27B-Uncensored, разработанной junafinity и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации и обработки текста, а также поддерживает сценарии image-text-to-text, то есть работу с изображениями и текстом. В README указан английский язык, библиотека Transformers и мультимодальная архитектура с поддержкой зрения. Модель содержит 27 млрд параметров; доступны варианты квантования i1 от Q2_K до Q6_K, включая IQ-квантизации, с размером файлов примерно от 11 до 22,5 ГБ. README отмечает, что IQ-варианты часто предпочтительнее обычных квантизаций сопоставимого размера, а i1-Q4_K_M рекомендуется как быстрый вариант. Конкретный размер контекста и архитектурные особенности не указаны. К сильным сторонам относятся широкий выбор квантов, возможность локального запуска в GGUF-совместимых инструментах и поддержка изображений. Ограничения включают возможное снижение качества при низких уровнях квантования, значительные требования к памяти и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0; для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория.

KasugaiSakura/Qwen3.8-27B-Uncensored-JonathanColetti-GGUF — это набор GGUF-квантизаций модели Qwen/Qwen3.8-27B, опубликованный KasugaiSakura. Вариант модифицирован с помощью Heretic для существенного снижения отказов в ответах; дополнительное обучение и новые данные не использовались, а основные возможности, обучающие данные и архитектура унаследованы от базовой модели. Модель предназначена для генерации текста и запуска через совместимые среды, включая llama.cpp, а также поддерживает обработку изображений при использовании vision-проектора и совместимого runtime. Архитектура обозначена как Qwen3_5ForConditionalGeneration и включает 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0; размер файлов составляет примерно от 10,6 до 29 ГБ. Сохранён MTP-head для speculative decoding, позволяющий ускорять генерацию, а опубликованные варианты включают как объединённые файлы, так и отдельные target/draft-модели. Заявлены языки English и Chinese. Сильными сторонами являются большой контекст, поддержка текста и изображений, широкий выбор уровней квантизации и возможность ускоренной генерации с MTP. Поведение отказов существенно ослаблено, но не устранено полностью; это может быть полезно для менее ограниченных сценариев, однако не означает отсутствия механизмов безопасности. Качество и требования к памяти зависят от выбранной квантизации: IQ2_M занимает меньше памяти, но показывает заметно более высокую perplexity, тогда как варианты от IQ4_XS и выше ближе к исходной точности. Модель распространяется по лицензии Apache-2.0.

bowmanslayer/Qwen3.8-27B-Uncensored-W4A16-vision-mtp — квантованная версия мультимодальной модели Qwen3.8-27B-Uncensored, разработанная bowmanslayer на базе Qwen/Qwen3.8-27B. Исходная модель была адаптирована JonathanColetti с помощью abliteration через Heretic, а в этом репозитории выполнены 4-битное квантование W4A16 и перепаковка vision tower. Модель предназначена для генерации текста, рассуждений и обработки изображений, а также может использовать видеовход через vLLM. Заявлены языки English и Chinese. Текстовая часть использует квантование с group size 128, формат GPTQ/AutoRound и kernels Marlin; vision tower сохранён в формате bf16. Размер модели составляет около 19 ГБ, включая MTP head объёмом 849 МБ. Поддерживается контекст до 256K токенов. Разработчик проверил запуск на двух NVIDIA RTX 3090 с tensor parallelism; для инференса рекомендован vLLM. Доступны reasoning и tool calling через соответствующие парсеры vLLM, а MTP head предназначен для экспериментов со speculative decoding. Сильными сторонами являются сочетание мультимодальности, большого контекстного окна и существенной экономии памяти благодаря W4A16-квантованию, при сохранении vision tower в bf16. Ограничения включают зависимость от совместимого окружения vLLM и необходимости корректно задавать параметры обработки изображений; квантование может влиять на качество относительно исходной модели. Оценки в README приведены при включённом режиме thinking и не должны напрямую сравниваться с результатами, полученными при отключённом reasoning. Лицензия — Apache 2.0.

Qwen3.8-2B-Distill-GGUF — набор GGUF-квантизаций модели Qwen3.8-2B, разработанной компанией Empero. Исходная модель представляет собой полнопараметрическую дистилляцию Qwen3.8 2.4T A95B в архитектуру Qwen3.5-2B; опубликованный вариант предназначен для запуска через llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и другие совместимые GGUF-рантаймы. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения. В README указаны английский язык и текстовая модальность. Доступны варианты Q4_K_M, Q5_K_M, Q6_K, Q8_0 и BF16 размером примерно от 1,312 до 3,897 ГБ. Архитектура использует гибрид Qwen3.5 с тремя слоями Gated DeltaNet на каждый слой full attention. Контекстное окно в предоставленных данных не указано. К сильным сторонам относятся небольшой размер, возможность работы на телефонах, одноплатных компьютерах и обычных ноутбуках, а также заметное улучшение результатов относительно базовой Qwen3.5-2B на тестах MMLU и GSM8K. Модель является reasoning-моделью и формирует рассуждения в блоке <think>, который при необходимости следует удалять перед показом пользователю. Для загрузки требуется свежая версия llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet; старые версии могут не распознать архитектуру. На длинном контексте основную дополнительную нагрузку создаёт KV-кэш. Весовые файлы распространяются по лицензии Apache-2.0. Квантизации унаследованы от базовой модели Qwen и опубликованы компанией Empero.

Qwen3.8-35B-A3B-Distill GGUF — это набор общественных GGUF-квантизаций текстовой MoE-модели empero-ai/Qwen3.8-35B-A3B-Distill, подготовленный пользователем ngquocvinh. Модель предназначена для локальной генерации текста с помощью llama.cpp и совместимых сред. Это неофициальный релиз Qwen3.8 и не результат дополнительного обучения или дообучения. Исходная модель содержит 35 млрд параметров, из которых примерно 3 млрд активируются для каждого токена, использует 256 экспертов и маршрутизацию к 8 экспертам. Архитектура включает гибридные компоненты внимания, а заявленная длина контекста в конфигурации исходной модели составляет 262 144 токена. В карточке указана поддержка английского языка и текстовой модальности. Доступны варианты квантизации от Q8_0 размером около 35,22 GiB до IQ2_XS размером около 10,01 GiB, что позволяет выбирать между качеством и требованиями к памяти. Сильной стороной релиза является возможность запуска крупной MoE-модели локально на совместимом оборудовании, а также наличие измерений отклонения квантизированных вариантов от BF16-источника. Q4_K_M обозначен как практичный баланс качества и потребления памяти; варианты Q3_K_M, Q2_K и IQ2_XS имеют существенно большее отклонение и считаются экспериментальными. Поддержка длинного контекста, вызова инструментов и других специализированных функций зависит от исходной модели и используемой среды, поэтому требует отдельной проверки. Релиз распространяется по лицензии Apache-2.0, унаследованной от исходной модели. Квантизации являются общественным проектом и не означают официального одобрения со стороны авторов исходной модели.

Qwen3.8-9B-Distill-uncensored-heretic-GGUF — GGUF-квантизированная версия модели Qwen3.8-9B-Distill, подготовленная пользователем petruhonk на базе empero-ai/Qwen3.8-9B-Distill. Модель подвергнута «abliteration» с помощью Heretic v1.4.0 для снижения числа отказов при ответах на запросы, которые исходная модель отклоняет. Она предназначена для генерации текста, диалоговых приложений, агентских сценариев и функционального вызова инструментов через llama.cpp. Модель содержит 9 млрд параметров, 33 блока и сохранённую MTP-голову для speculative decoding с режимом draft-mtp. В репозитории опубликованы только текстовые веса в формате GGUF, предположительно с квантизацией Q8_0; для запуска с мультимодальными возможностями необходим отдельный файл mmproj. Исходная архитектура поддерживает изображения и видео, однако данный репозиторий не содержит соответствующих компонентов. Встроенный шаблон чата поддерживает tools и <tool_call>, а пример запуска рассчитан на контекст до 32768 токенов. К сильным сторонам относятся сохранённая MTP-голова, совместимость со speculative decoding и существенно меньшее число отказов по сравнению с исходной моделью: 6 из 100 против 100 из 100 в указанном тесте. Ограничения включают неполную мультимодальную поставку, зависимость качества и потребления памяти от выбранной квантизации, а также возможные изменения поведения из-за abliteration; показатель KL-дивергенции относительно исходной модели составляет 0,0306. Модель распространяется по лицензии Apache-2.0.

Foresee/Qwen3.8-9B-heretic-uncensored-4bit-MTPLX — локальная 4-битная сборка модели rohit267/Qwen3.8-9B-heretic-uncensored для генерации текста. Она предназначена для запуска на компьютерах Apple Silicon с использованием MLX и ускорения вывода посредством спекулятивного декодирования MTPLX. Модель предоставляет совместимость с API OpenAI /v1/chat/completions и Anthropic /v1/messages, поэтому может использоваться в локальных чат-приложениях, инструментах программирования и других сценариях текстовой генерации. В состав входят 4-битная MLX-модель с группами квантования 64 и размером около 5 ГБ, отдельная MTP-голова, а также LoRA-адаптер ранга 64, объединяемый при загрузке. Указано, что модель относится к 9B-линейке Qwen, использует гибридную архитектуру с GatedDeltaNet и поддерживает английский язык. Контекст модели и полный перечень языков в README не указаны. На тесте с MacBook на M5 и 24 ГБ памяти скорость декодирования выросла с 21,25 до 40,05 токена в секунду; проверка спекулятивных токенов выполняется без потери точности относительно квантованной целевой модели. Основные ограничения — требование macOS 14 или новее, Apple Silicon, MLX и рантайма MTPLX; ускоренный MTP-путь специфичен для MTPLX. Квантование изменяет веса модели, хотя сама процедура спекулятивной проверки является точной. Модель всегда начинает ответ с блока <think>, что следует учитывать при расчёте бюджета токенов. Лицензия Apache-2.0, унаследованная от базовой модели Qwen3.5-9B.

Qwen3-8B-Abliterated — доработанная Richard Young (DeepNeuro) версия Qwen/Qwen3-8B, созданная методом abliteration. В плотной архитектуре Qwen3 изменены средние слои 15–30, чтобы ослабить отказы модели на запросы; указанный масштаб абляции — 1.0. Модель предназначена для диалоговой генерации текста, следования инструкциям, рассуждений, работы с кодом и вызова инструментов. Модель содержит 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В карточке указана библиотека Transformers и формат safetensors. Базовая Qwen3-8B описана как многоязычная, однако конкретный перечень поддерживаемых языков для этой версии не приведён. Снижение числа отказов означает ослабление защитных ограничений и требует внимательного выбора сценариев применения. Модель выпущена по лицензии Apache-2.0; автор предупреждает, что защитные механизмы частично удалены, и возлагает ответственность за этичное использование на пользователей.

ferrazzipietro/Qwen3-8B-cpt-tesi_it — дообученная авторегрессионная языковая модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. Она создана на основе Qwen/Qwen3-8B-Base и предназначена для генерации текста; в метаданных также отмечен разговорный режим. Модель принимает текст и генерирует текст, с контекстом до 32 768 токенов. README не раскрывает датасет, целевую специализацию или результаты оценки, поэтому нельзя подтвердить конкретные преимущества и сценарии, связанные с суффиксом «it». Лицензия — Apache 2.0.

LaTexT/qwen3-8b-gz9-newlines-iter2-w0.2 — дообученная модель на базе Qwen/Qwen3-8B, созданная с помощью TRL. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов, предназначенная для диалоговой генерации текста. Карточка связывает её с экспериментом LaTexT и указывает обучающий набор shannons/ot3-1.2m-10k-converted. Модель можно использовать для генерации ответов в чате и выполнения инструкций в текстовом интерфейсе; метаданные также отмечают интерфейс вызова инструментов. Поддерживаемые языки отдельно не перечислены, поэтому описание не приписывает ей конкретный языковой охват. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Это экспериментальный чекпойнт из исследовательского проекта; README не приводит сравнительных оценок качества или гарантий поведения. Условия лицензии в предоставленных сведениях не указаны.

DreamFast/qwen3-8b-heretic — модифицированная версия языковой модели Qwen/Qwen3-8B, созданная сообществом DreamFast с использованием Heretic v1.2.0. Метод abliteration уменьшает склонность модели к отказам при сохранении качества исходной модели; по приведённым данным, модель отказала в 13 из 100 тестовых запросов против 100 из 100 у оригинала, а KL-дивергенция составила 0,0838. Модель предназначена для генерации текста, диалоговых сценариев и использования в качестве текстового энкодера для моделей генерации изображений, в частности Klein 9B в ComfyUI. Модель содержит около 8 млрд параметров и поддерживает работу через Transformers, llama.cpp и ComfyUI. Указан английский язык. Доступны версии в формате BF16, а также квантованные варианты FP8, INT8, INT4, NVFP4, MXFP8 и GGUF с различными уровнями точности и требованиями к памяти. Полноразмерная версия занимает около 16 ГБ, а рекомендуемая версия GGUF Q4_K_M — около 5 ГБ. Квантованные варианты используют SVD-guided learned rounding, что должно уменьшать ошибку восстановления по сравнению с обычным округлением. Сильной стороной модели является снижение числа отказов при относительно небольшом отклонении от базовой Qwen3-8B, а также широкий выбор форматов для разного оборудования. Ограничения включают наследование ограничений базовой модели, возможное ухудшение поведения из-за abliteration и различия в производительности квантованных форматов; NVFP4 и MXFP8 лучше всего подходят для видеокарт NVIDIA Blackwell, хотя поддерживается программная деквантизация на более старых GPU. Модель распространяется по лицензии Apache-2.0.

Qwen3-8B-LayerBoost — гибридная модель для генерации текста и диалогового общения, разработанная Openchip на основе Qwen3-8B с применением фирменного метода линейризации LayerBoost. Она предназначена для использования в чат-сценариях и генерации текста. Модель имеет плотную архитектуру семейства Qwen3, содержит 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов; для работы используется библиотека Transformers, веса доступны в формате safetensors. Модель унаследовала базовую модель Qwen3-8B, но README не описывает подробно изменения LayerBoost, сравнительные результаты или поддерживаемые языки. Лицензия в предоставленных данных не указана.

Qwen3.8-Flash-Next-102B-A5B-Niwaki-v2.4-3bit-gguf — GGUF-сборка разреженной модели Mixture-of-Experts семейства Qwen, подготовленная проектом Niwaki для запуска через llama.cpp. Модель содержит 102 млрд параметров, из которых активно около 5,3 млрд; в ней 48 слоёв и 512 маршрутизируемых экспертов с выбором top-10. Веса распределены по типам квантования с учётом структуры модели, преимущественно Q3_K для экспертов и более высокой точностью для ряда других компонентов. Модель предназначена для генерации текста и диалогов, а также для задач рассуждения, отслеживания переменных и арифметики. README приводит результаты измерений на WikiText-2 и проверках программного состояния; авторы отмечают, что качество в целом близко к базовой модели, но числа и узкие технические сведения менее надёжны. Карточка описывает оценивание на англоязычных веб-данных и предупреждает о наследовании смещений базовой модели. Для загрузки требуется форк llama.cpp от neopolita: стандартная версия пока не поддерживает используемую раскладку тензоров. На Apple Silicon рекомендованной сборке требуется около 40,8 ГиБ видеопамяти плюс память для контекста. Модель разработана командой Qwen как базовая, а обрезку, восстановительное обучение и GGUF-сборку выполнил проект Niwaki. Метаданные указывают лицензию other; README отсылает к лицензии базовой модели, поэтому конкретные условия следует проверять в карточках обеих моделей.

agentionai/Qwen3.8-Flash-Next-AP-GGUF — набор квантизированных GGUF-вариантов базовой модели Qwen/Qwen3.8-Flash-Next, подготовленный AgentionAI. Модель предназначена для генерации текста и запуска через совместимые с mainline llama.cpp инструменты, включая локальный инференс при ограниченном объёме видеопамяти. Для работы с изображениями доступен отдельный vision projector mmproj-F16.gguf. Доступны варианты AP-Q5_K_XL, AP-Q5_K_M, AP-Q4_K_XL, AP-Q4_K_M, AP-IQ4_XS, AP-IQ3_XXS и AP-IQ2_S с эффективной разрядностью примерно от 3,69 до 5,46 бит на вес. Объём требуемой VRAM составляет около 49,21–76,75 GiB в зависимости от варианта. Архитектура включает таблицу n-грамм размером 51,2 млрд параметров, которую можно выгружать в системную RAM; это снижает требования к VRAM, но требует дополнительной оперативной памяти. Для сбалансированного качества и размера рекомендуется AP-Q4_K_XL, а AP-IQ2_S предназначен для систем с минимальным доступным объёмом VRAM. К сильным сторонам относятся оптимизация точности на каждый гигабайт VRAM, измеренные различия между вариантами на отложенном корпусе и совместимость со стандартными типами GGUF без отдельного форка llama.cpp. Ограничения включают высокие аппаратные требования, зависимость качества от выбранного уровня квантизации и отсутствие в README сведений о языках и максимальном контексте. Лицензия указана как qwen-community-1.0; модель распространяется по лицензии other, а файл условий доступен в репозитории.

AetherKelly00/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий также содержит материалы Unsloth для запуска и квантизации. Это причинная языковая модель с визуальным энкодером, предназначенная для обработки текста и изображений, диалоговых сценариев, анализа документов и агентских задач с длинным контекстом. Для запуска рекомендуются llama.cpp или Unsloth Desktop. Модель использует архитектуру с гибридным вниманием: Gated DeltaNet сочетается с Qwen Sparse Attention, работающим на уровне микроблоков. Также применяются Gated Residual, n-gram embedding и Mixture of Experts. Заявлено 125 млрд параметров, из которых активируется около 6 млрд, дополнительно 51 млрд параметров приходится на n-gram embedding и 4 млрд — на MTP. Архитектура включает 48 слоёв, 512 экспертов с 10 маршрутизируемыми и одним общим активным экспертом. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживаемые языки в README не указаны. К сильным сторонам относятся высокая вычислительная эффективность за счёт разреженной активации экспертов, оптимизации длинного контекста и возможность локального запуска в формате GGUF. Ограничения включают экспериментальный статус архитектуры, необходимость совместимого программного обеспечения и отсутствие в представленном README подробных результатов тестирования, конкретных требований к памяти и информации о поддерживаемых вариантах квантизации. Модель распространяется по лицензии qwen-community-1.0; указанный тип лицензии — other.

Hagwell/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий Hagwell распространяет модель в формате, предназначенном для локального запуска. Модель основана на архитектуре, которая заявлена как фундамент для будущего Qwen4, и поддерживает обработку текста и изображений благодаря языковой модели с vision encoder. Модель предназначена для генерации и понимания текста, работы с изображениями, задач с длинным контекстом и агентных сценариев. Она имеет 125 млрд параметров, из которых активируется около 6 млрд, а также включает 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура содержит 48 слоёв, комбинацию Gated DeltaNet и Qwen Sparse Attention, MoE с 512 экспертами, из которых маршрутизируются 10 экспертов и один общий, а также механизмы Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. К сильным сторонам относятся высокая эффективность активации параметров, поддержка длинного контекста, оптимизация sparse attention на уровне блоков и возможность локального запуска через llama.cpp или Unsloth Desktop. Ограничения включают экспериментальный статус архитектуры, высокие требования к памяти для полной модели, а также отсутствие в предоставленных данных сведений о поддерживаемых языках, подробных результатах тестирования и качестве на конкретных прикладных задачах. Модель распространяется по лицензии qwen-community-1.0; для использования следует ознакомиться с файлом LICENSE.

taurusduan/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий также содержит материалы Unsloth для запуска и квантования. Модель предназначена для генерации текста, задач с длинным контекстом и мультимодальных сценариев, включая обработку изображений, и может использоваться через llama.cpp или Unsloth Desktop. В README не указано точное назначение данного варианта квантования или его конкретные уровни квантования. Это причинная языковая модель с vision encoder и архитектурой, включающей Hybrid Attention с Gated DeltaNet и Qwen Sparse Attention, Mixture of Experts, Gated Residual и n-gram embedding. Всего заявлено 125 млрд параметров, из которых активируется 6 млрд, а также 51 млрд параметров n-gram embedding и 4 млрд для MTP. Модель содержит 48 слоёв, 512 экспертов, из которых активируются 10 маршрутизируемых и один общий, поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Поддержка языков и точные характеристики GGUF-файлов в README не указаны. К сильным сторонам относятся высокая вычислительная эффективность за счёт разреженного внимания и MoE, ориентация на длинный контекст, мультимодальность и возможность ускорения инференса с помощью MTP. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README результатов бенчмарков и подробностей о качестве конкретной квантованной сборки. Лицензия указана как qwen-community-1.0; ссылка на текст лицензии ведёт к файлу LICENSE.

OsaurusAI подготовила JANG_1L — квантованный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX. Это мультимодальная модель с архитектурой Qwen4-экспериментального семейства: в исходной системе заявлены 125 млрд параметров MoE, из которых активны 6 млрд, и таблица n-граммных эмбеддингов на 51 млрд параметров. В сборке JANG_1L присутствуют компоненты для обработки текста, изображений и видео; заявленный размер весов — около 59,8 GiB, а при обслуживании таблицы с SSD резидентное использование памяти составляет около 41 GiB. Модель предназначена для диалога, рассуждений, анализа изображений и видео, а также агентных сценариев с вызовом инструментов. Нативный контекст составляет 262 144 токена и может быть расширен до 1 млн с YaRN. В README приведены результаты сравнения квантования с bf16 на 5 931 позициях; сборка не включает голову multi-token prediction, а для вызова инструментов требуется совместимый с Qwen XML-парсер. Языковой тег карточки — английский. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

JANGQ-AI/Qwen3.8-Flash-Next-JANG_6S — квантованный пакет модели Qwen/Qwen3.8-Flash-Next, подготовленный Jinho Jang для запуска на Apple Silicon через MLX и vMLX. Это мультимодальная модель с архитектурой Qwen4-архитектуры: MoE на 125 млрд параметров с 6 млрд активных, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также отдельной таблицей n-граммных эмбеддингов. Веса для текста, изображений и видео включены в пакет. Модель предназначена для диалога, рассуждений, агентных сценариев и использования инструментов, а также для понимания изображений и видео. Нативный контекст — 262 144 токена, его можно расширить до 1 млн с YaRN; сохранена голова многотокенного предсказания для ускоренного декодирования в поддерживаемых средах. Для вызовов инструментов требуется парсер диалекта Qwen XML; Hermes-only парсеры могут некорректно обрабатывать такие вызовы. Пакет ориентирован на запуск в vMLX, а работа с таблицей n-грамм на SSD и полная поддержка мультимодальности зависят от возможностей среды исполнения. В README заявлены лицензия «other» и необходимость доступа через ручное одобрение для vMLX; конкретные условия лицензии в предоставленных данных не раскрыты. Качество и скорость зависят от конфигурации и среды исполнения; заявленные в карточке измерения сопоставляют квантованный пакет с исходной версией bf16.

Qwen3.8-Flash-Next MLX 4-bit — конвертированная и аффинно квантованная версия Qwen/Qwen3.8-Flash-Next от автора True2456. Репозиторий содержит веса для MLX в формате safetensors: эксперты MoE квантованы до 4 бит с размером группы 64, а ряд компонентов, включая attention, embeddings и MTP-драфтер, хранится в 8 бит; router и gated-residual компоненты — в 16 бит. Также доступны индексатор QSA и таблица PLE из исходного чекпойнта. Модель предназначена для генерации текста и диалогов в MLX-рантайме на Apple Silicon, в частности как банк весов для пути обслуживания Rindi Flash-Next. Метаданные указывают поддержку интерфейса вызова инструментов. Для запуска нужна сборка MLX-рантайма с поддержкой архитектуры qwen4_exp; обычная версия mlx-lm пока не подходит. README указывает требования Apple Silicon и для описанного гибридного пути ANE — M5 и около 128 ГБ объединённой памяти. Конверсия выполнена из официального BF16-чекпойнта Qwen/Qwen3.8-Flash-Next. Используется лицензия Qwen Community License 1.0; для коммерческих MaaS- и coding-assistant-продуктов действуют дополнительные условия.