I.5Создание и редактирование текста

Chungulus/Qwen3.8-27B-Q3_K_L-GGUF — это независимая ванильная GGUF-квантизация базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель не является дообучением, слиянием или изменённой версией; сохранены исходные шаблон чата, режимы рассуждений, нативный формат вызова инструментов и мультимодальные компоненты. Квантизация выполнена в формате Q3_K_L с использованием llama.cpp, размер основного файла составляет около 14,56 ГБ, а полный репозиторий занимает около 15,5 ГБ. Модель предназначена для генерации текста, вызова инструментов, анализа изображений и работы с видео через vision projector. Она использует гибридную архитектуру с чередованием Gated DeltaNet и полнотекстового внимания, а также содержит MTP-тензоры, однако спекулятивное ускорение не заявлено. Текстовая генерация, вызов инструментов и мультимодальные сценарии прошли функциональную проверку; валидационная скорость составила около 14,77 токена в секунду на тестовой системе. Для запуска требуется совместимый runtime, поддерживающий граф Qwen3.8, vision tower, проектор, токенизатор и MTP-метаданные, а также ориентировочно не менее 19 ГБ доступной памяти без гарантии пикового потребления. Максимальный размер контекста в README не указан и полноценно не тестировался, языки также не перечислены. Квантизация может снижать качество, особенно из-за небольшой разрядности. Модель и её квантизация распространяются по лицензии Apache-2.0.

Chungulus/Qwen3.8-27B-Q4_K_M-GGUF — это неизменённая vanilla-квантизация базовой модели Qwen/Qwen3.8-27B в формате GGUF. Репозиторий подготовлен Chungulus и содержит основной файл модели с квантизацией Q4_K_M, а также отдельный vision projector в формате F16. Это не дообученная, не объединённая и не изменённая с точки зрения шаблона чата модель. Модель предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов через нативный формат Qwen. Сохранены механизмы управления рассуждениями, включая enable_thinking, reasoning_effort и preserve_thinking. Архитектура включает гибридную структуру Gated DeltaNet и полноразмерного внимания, зрительную башню и проектор; заявленный размер базовой модели — 27 млрд параметров. Поддерживаемые языки и максимальная длина контекста в README не указаны. Преимущества модели — подтверждённая работоспособность генерации текста, vision- и video-сценариев, tool calling и совместимость с llama.cpp при наличии соответствующей поддержки архитектуры. Квантизация уменьшает требования к памяти, однако может снижать качество, особенно по сравнению с полной точностью. Для запуска рекомендуется иметь примерно 21 ГБ доступной памяти, причём KV-кэш дополнительно увеличивает расход памяти в зависимости от контекста. Максимальный контекст README не подтверждает тестированием. Модель и её квантизация распространяются по лицензии Apache-2.0.

Qwen3.8-27B-Quark-AWQ-INT4-W4A16 — квантизированная версия модели Qwen/Qwen3.8-27B, разработанная с использованием AMD Quark компанией Advanced Micro Devices, Inc. Модель предназначена для задач генерации текста и, согласно метаданным карточки, относится к классу image-text-to-text. Подробные сведения о поддерживаемых языках и полном наборе модальностей не указаны. Используется 4-битное квантизирование весов по алгоритму AWQ с группой размера 128 (W4A16): веса представлены в INT4, активации сохраняются в BF16. Калибровка выполнена на 128 образцах с длиной последовательности 512 токенов. Размер базовой модели — 27B параметров. В тестах модель сохранила близкую к исходной BF16-версии производительность на GSM8K, Wikitext и однопоточных сценариях BFCL; однако результаты зависят от режима генерации и настроек оценки. Основное преимущество — снижение требований к памяти за счёт квантизации при сохранении большей части качества базовой модели. Ограничения включают возможные потери точности по сравнению с BF16-версией и необходимость совместимого inference runtime с поддержкой схемы W4A16Int4, например соответствующей конфигурации vLLM и AMD Quark. Базовая модель распространяется по лицензии Apache 2.0; для модификаций указаны авторские права Advanced Micro Devices, Inc. за 2026 год.

Qwen3.8-27B-Ridge-GGUF — квантизированная GGUF-версия официальной модели Qwen3.8-27B, разработанная Empero. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других совместимых средах, включая задачи генерации текста, рассуждений и работы с изображениями. Модель использует гибридную архитектуру из 64 слоёв: на каждые три слоя Gated-DeltaNet приходится один слой полноценного внимания, а также сохраняет встроенную MTP-голову для ускорения генерации. Основной файл имеет квантизацию Ridge с эффективностью 3,69 бит на параметр и размером 11,73 GiB. Поддерживаются английский и китайский языки. Для обработки изображений требуется отдельный BF16-файл mmproj размером около 0,87 GiB. Заявлены нативное контекстное окно 262 тысячи токенов и расширение YaRN до 1 миллиона токенов, однако такие режимы существенно увеличивают требования к памяти. Сильная сторона сборки — специальное распределение точности, учитывающее чувствительность состояния Gated-DeltaNet: соответствующий путь хранится в Q8_0, а микшеры — в Q4_K. По измерениям из карточки, perplexity на Wiki-подобном наборе составляет 7,82 против 7,15 у BF16-версии. Ограничения связаны с потерями качества квантизации, большими затратами памяти при длинном контексте и необходимостью отдельного vision-проектора для изображений. Лицензия — Apache-2.0.

Solstice-AI/Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-NM-DAU-UltraOptimised-VariableThinking-GGUF — это мультимодально заявленная GGUF-версия многоэтапной fine-tune и multi-stage merge-модели на базе Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, разработанная авторами проекта с использованием Unsloth. В карточке указаны поддержка английского и китайского языков, а также pipeline image-text-to-text, однако подробности о реализации визуального ввода не приведены. Модель распространяется в обычных и MTP-квантизациях, включая варианты для 4- и 8-битного представления, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: общего диалога, рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других универсальных применений. Заявлены пять режимов рассуждения и пять instruct-режимов, включая UltraXhigh и Einstein, с возможностью переключения через API, напрямую или на уровне сообщения. Основной акцент сделан на сокращении объёма reasoning-токенов, ускорении генерации и снижении избыточного «обдумывания» при сохранении детализации и качества ответа. К сильным сторонам относятся вариативные режимы работы, поддержка GGUF-квантизаций для локального использования, ориентация на подробные ответы и творческие задачи, а также заявленное улучшение качества по сравнению с базовыми моделями семейства Qwen. Ограничения состоят в том, что приведённые результаты бенчмарков и характеристики производительности не подтверждены независимыми данными, а контекстное окно, точные параметры архитектуры, требования к памяти и фактические возможности мультимодального ввода не указаны. Лицензия — Apache-2.0.

A3Pz0/Qwen3.8-27B-TURBO-Fable-Uncen-MTP-GGUF — это многос этапная дообученная и объединённая версия Qwen3.8-27B, разработанная автором DavidAU с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит, и ориентирована на работу на потребительском оборудовании. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking и reasoning, а также оптимизация для сокращения объёма рассуждений и ускорения генерации при сохранении детализации ответа. В карточке указаны английский и китайский языки. Архитектура и размер унаследованы от Qwen3.8-27B; поддержка изображений заявлена через тег image-text-to-text, но подробности мультимодальных возможностей в README не приведены. К сильным сторонам относятся заявленные автором высокие результаты на наборах ARC-C и ARC-E, улучшение по сравнению с базовой Qwen3.8-27B, сокращение числа токенов рассуждений и наличие вариантов для разного объёма памяти. Ограничения включают отсутствие независимой проверки приведённых бенчмарков, неполные сведения о контекстном окне и мультимодальности, а также возможную специфику поведения uncensored/abliterated-дообучения. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-fcf-GGUF — открытая многоэтапная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, опубликованная в формате GGUF. В README указаны разработчик базовой модели и участники обучения DavidAU и его команда; для обучения применялись Unsloth, методы COLD FUSION и Fable Fusion 711, а также наборы данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Репозиторий содержит обычные и MTP-квантизации, включая варианты для 4- и 8-битного запуска на потребительском оборудовании. Модель предназначена для широкого спектра задач: рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других текстовых применений. Заявленная особенность TURBO-версии — сокращение объёма внутреннего рассуждения по сравнению с обычной Qwen3.8 при сохранении детализации и качества ответов, что должно повышать скорость генерации и снижать расход токенов. В метаданных указаны английский и китайский языки; контекстное окно и точный набор поддерживаемых модальностей в README не описаны, хотя pipeline_tag указывает image-text-to-text. Ключевые характеристики — около 27 млрд параметров, архитектура на базе Qwen3.8, поддержка трёх режимов рассуждения согласно описанию автора, а также обычных и MTP GGUF-квантов. README заявляет высокие результаты на ARC-C и ARC-E и превосходство базовых моделей по нескольким бенчмаркам, однако эти утверждения не подтверждены независимыми данными в предоставленном тексте. Модель обозначена как uncensored, поэтому её ответы могут быть менее ограниченными с точки зрения защитных фильтров; конкретные требования к оборудованию и контексту запуска не приведены. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4-W4A16-T336 — производная модель, опубликованная esatapedico на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, основана на Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и развёртывания через vLLM; настройка TWIN-TURBO ориентирована на сокращение количества токенов рассуждений при сохранении качества ответов. Это 27-миллиардная языковая модель с архитектурой Qwen3_5ForCausalLM, 64 слоями, гибридной архитектурой GatedDeltaNet, поддержкой мультиязычных сценариев и заявленным контекстом до 262144 токенов. В репозитории также сохранены vision tower и MTP head, пригодный для speculative decoding. Контрольная точка использует формат compressed-tensors NVFP4: веса W4A16 с группировкой 16 и масштабами FP8; часть наиболее чувствительных компонентов оставлена в BF16. Калибровочные данные не применялись, размер файла model.safetensors составляет около 21 ГБ. Главные преимущества — значительное сжатие весов, совместимость с vLLM, сохранение полноточных компонентов, влияющих на качество, а также измеренная близкая к родительской модели perplexity на англоязычном наборе. Ограничения включают зависимость от vLLM-совместимых движков, необходимость подходящей аппаратной конфигурации и отсутствие GGUF в репозитории; заявленная проверка проводилась при tensor parallel 2 и контексте 2048 токенов, поэтому практические характеристики на максимальном контексте могут отличаться. Модель распространяется по лицензии Apache 2.0.

KasugaiSakura/Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций модели Qwen3.8-27B от Qwen, опубликованный KasugaiSakura для запуска через совместимые среды, включая llama.cpp. Модель предназначена для генерации текста, а также поддерживает обработку изображений при использовании совместимого vision runtime и файла mmproj. Вариант Uncensored создан с целью существенно снизить выраженность отказов без дообучения, дополнительного датасета и изменения базовых возможностей, однако отказы не устранены полностью. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Указаны английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, варианты со встроенной или отдельной MTP-головой для speculative decoding, а также отдельный vision-проектор F16. Размер файлов составляет примерно от 10,6 до 29 ГБ, не считая отдельных компонентов. Сильные стороны модели — длинный контекст, поддержка текста и изображений, широкий выбор квантизаций и возможность ускорения генерации с помощью speculative decoding. Ограничения включают зависимость от совместимого runtime и достаточного объёма памяти, возможное снижение acceptance rate для черновой MTP-головы, а также то, что уменьшение отказов не является полным и может влиять на поведение модели. Квантизации GGUF распространяются по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это квантованная версия Qwen3.8-27B, выпущенная HauhauCS в формате GGUF. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также анализа изображений и видео при использовании отдельного vision-проектора. Вариант Aggressive настроен на прямые ответы, минимальное вступление и отсутствие стандартного поведения отказа. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder, 64 слоями, размером скрытого состояния 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются языки English, Chinese и другие языки, заявленные как multilingual. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Встроенный NextN/MTP сохранён, а FastMTP добавляет отдельный профиль ускорения для контекста 32K и заявленное ускорение генерации. Сильные стороны модели — широкий контекст, текстовые и мультимодальные возможности, несколько вариантов квантования с разным соотношением качества и размера, а также ускорение speculative decoding через MTP. Ограничения включают отсутствие защитного поведения и отказов в Aggressive-режиме, что может быть нежелательно для надёжных агентских и критически важных сценариев; для них автор рекомендует Balanced-вариант, если он доступен. Для обработки изображений и видео требуется отдельный BF16 vision projector. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизированная версия мультимодальной модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Профиль Aggressive ориентирован на прямые ответы с минимальным вступлением и без стандартного поведения отказа; при этом заявлено сохранение исходных текстовых, reasoning-, agentic-, image- и video-возможностей базовой модели. Модель представляет собой плотную causal language model на 27 млрд параметров с vision encoder и поддержкой языков English, Chinese и других языков за счёт мультиязычной базы. Архитектура включает 64 слоя языковой модели, hidden size 5120, FFN size 17408, словарь размером 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживается нативный контекст 262 144 токена с возможностью расширения до 1 000 000 токенов. В поставку входят различные GGUF-квантизации, отдельный BF16 vision projector для изображений и видео, а также профиль HauhauCS FastMTP 32K для ускорения speculative decoding; заявлено ускорение до 3,02 раза для документов и до 1,93 раза для reasoning-сценариев по сравнению с режимом без MTP. Сильные стороны модели — широкий набор модальностей, длинный контекст, сохранённые возможности Qwen3.8, выбор квантизаций от Q2 до Q8 и оптимизированные K_P-кванты, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Агрессивный профиль может быть менее подходящим для надёжно контролируемых агентских и критически важных задач, где предпочтительнее более сбалансированная настройка. Для мультимодального ввода требуется отдельный vision projector, а запуск требует значительных ресурсов: размер текстовых файлов составляет примерно от 10,32 до 31,46 ГБ в зависимости от квантизации. Модель распространяется по лицензии Apache-2.0.

StargazerLabs Qwen3.8-32B-Jumbo — производная плотная языковая модель для генерации текста и диалогов. Она создана переносом трёх блоков слоёв из Qwen3.6-27B в Qwen3.8-27B: архитектура расширена с 64 до 76 слоёв, а число параметров составляет около 31,9 млрд. Веса опубликованы в формате safetensors для MLX, лицензия — Apache-2.0. Модель предназначена для текстовых запросов, общения, программирования и многошаговых задач. По описанию автора, перенос блоков должен вернуть часть широты фактических знаний Qwen3.6, сохранив улучшения Qwen3.8 в коде и агентных возможностях. README также заявляет совместимость с черновой моделью Qwen3.8-27B-MTP для спекулятивного декодирования; указанную скорость следует считать заявлением автора. Данные о размере контекста и явной поддержке других модальностей не приведены; доступные сведения описывают текстовую генерацию. Модель рассчитана на английский язык согласно метаданным. Качество восстановления знаний и заявленная скорость ускорения в README не подкреплены приведёнными результатами независимой оценки.

Ma7ee7/Qwen3.8_4B_Distilled_GGUF — набор квантованных версий модели Ma7ee7/Qwen3.8_4B_Distilled, созданной независимым разработчиком на основе Qwen3-4B-Thinking-2507. Модель обучена методом sequence-level knowledge distillation на ответах и рассуждениях, сгенерированных моделью qwen3.8-max-preview, и не является официальным релизом Qwen или Alibaba. Распространяется в формате GGUF для запуска через llama.cpp, LM Studio, Ollama, Jan и другие совместимые приложения. Это decoder-only causal language model архитектуры Qwen3 примерно с 4 миллиардами параметров. Она предназначена для генерации текста, диалогов и задач, требующих рассуждений; режим thinking включён. Основным языком указан английский. В README приведены параметры контекста до 32 768 токенов, однако заявленные возможности могут зависеть от используемого приложения и квантования. Доступны варианты Q4_K_M, Q5_K_M и Q8_0: Q4_K_M рекомендуется как баланс качества, скорости и потребления памяти, Q5_K_M обеспечивает более высокую точность, а Q8_0 — наибольшую точность при максимальных требованиях к памяти. Модель компактнее исходной учительской системы и удобна для локального запуска, но не должна рассматриваться как эквивалент qwen3.8-max-preview: её возможности ограничены размером студенческой модели и потерями от квантования. В карточке указана лицензия Apache-2.0.

Qwen3.8-4B-Distill-GGUF — набор GGUF-квантизаций модели, разработанной Empero. Это полнопараметрическая дистилляция Qwen3.8 2.4T A95B в архитектуру Qwen3.5-4B, предназначенная для генерации текста и запуска в llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых средах. Модель ориентирована на рассуждения и использует встроенный шаблон чата; ответы начинаются с блока <think>, который при необходимости можно удалять перед показом пользователю. Доступны варианты от Q4_K_M до BF16 размером примерно от 2,783 до 8,666 ГБ. Рекомендуемый Q4_K_M обеспечивает баланс качества и размера, а Q8_0 и BF16 дают более высокое качество при повышенных требованиях к памяти. Архитектура Qwen3.5 использует гибрид из слоёв Gated DeltaNet и полноценных attention-слоёв, поэтому требуется свежая версия llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet. В карточке указаны английский язык и сценарий text-generation; размер контекста не заявлен. По приведённым оценкам, модель заметно превосходит базовую Qwen3.5-4B в MMLU, но уступает ей в GSM8K CoT, поэтому качество зависит от типа задачи. Для Q4_K_M и Q5_K_M подходят видеокарты с 4–6 ГБ памяти, Q6_K и Q8_0 требуют примерно 6–8 ГБ, а BF16 — от 12 ГБ; при длинном контексте дополнительные ресурсы нужны для KV-кэша. Веса распространяются по лицензии Apache-2.0.

mlx-community/Qwen3-8B-4bit — языковая модель для генерации текста, преобразованная сообществом mlx-community из базовой модели Qwen/Qwen3-8B в формат MLX с использованием mlx-lm версии 0.24.0. Модель предназначена для запуска и генерации текста через библиотеку mlx-lm, включая диалоговые сценарии с применением chat template, если он доступен в токенизаторе. Модель имеет 8B параметров; обозначение 4bit указывает на 4-битное представление, ориентированное на более компактное хранение и эффективный запуск. В README не указаны архитектурные детали, поддерживаемые языки, контекстное окно или дополнительные модальности, поэтому эти характеристики нельзя достоверно определить. Сильной стороной является готовая конвертация в формат MLX и возможность использования через стандартный интерфейс mlx-lm; ограничениями могут быть особенности совместимости и качества, связанные с 4-битным представлением, однако конкретные показатели в README не приведены. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README содержит пример загрузки модели и генерации ответа.

Карточка модели VladShash/qwen3-8b-classic-one-shot на Hugging Face совпадает с карточкой VladShash/qwen3-8b-classic-with-repair, поэтому описание составлено по ней. VladShash/qwen3-8b-classic-with-repair — дообученная модель семейства Qwen3, созданная на базе formalmathatepfl/qwen3-cpt с использованием набора данных SFT. Она предназначена для генерации текста в диалоговом режиме. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Карточка не раскрывает тематику дообучения, поэтому нельзя надёжно определить специализированные сценарии, языки или преимущества варианта «classic-with-repair». Модель распространяется в формате safetensors; лицензия указана как other, без дополнительных условий в предоставленных данных.

Это дообученная arefehRajabian версия языковой модели Qwen3-8B-FP8. Она предназначена для генерации текста в диалоговом режиме и может использоваться в приложениях, которым нужны ответы на текстовые запросы. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 40 960 токенов. Веса представлены в формате safetensors. Модель обучена с помощью Unsloth и библиотеки Hugging Face TRL. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, поэтому область применения и качество на конкретных задачах по ней определить нельзя.

ggml-org/Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, автоматически преобразованная в формат GGUF проектом ggml-org. Исходная модель разработана командой Qwen; в карточке также указаны связанные исходные модели Qwen/Qwen3-8B, z-lab/Qwen3-8B-DFlash-b16 и deepseek-ai/dspark_qwen3_8b_block7. Модель предназначена для генерации текста и может использоваться через совместимые инструменты, включая llama.app. Объём модели составляет 8B параметров; формат GGUF и квантизация ориентированы на более удобный запуск и эффективное использование ресурсов по сравнению с полноразмерной версией. Сведения о конкретном варианте квантизации, архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Модель распространяется по лицензии Apache-2.0. Ограничения по качеству, точности, требованиям к оборудованию и рекомендуемым сценариям использования отдельно не описаны.

ISTA-DASLab/Qwen3-8B-GGUF-GSQ — это квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen и доработанной ISTA-DASLab с применением метода GSQ (Gumbel-Softmax Quantization). Модель предназначена для генерации текста и запуска локальных больших языковых моделей с пониженным потреблением памяти. Модель поставляется в формате GGUF K-Quant с вариантами разной точности, включая Q2_K, Q4_K и Q6_K. Квантизация начинается с публичной инициализации Unsloth GGUF, после чего дискретные значения весов уточняются методом GSQ и упаковываются обратно в тот же формат K-Quant. Размер модели составляет 8 миллиардов параметров. Поддерживаются llama.cpp, Ollama, LM Studio и другие программы, совместимые с GGUF. Ключевое преимущество модели — улучшение качества при агрессивной низкобитной квантизации: для варианта Q2_K средний результат бенчмарков повышен с 50,03 до 56,28 относительно исходной инициализации Unsloth. При этом сохраняются стандартная структура GGUF K-Quant и совместимость с существующими инструментами. Ограничения включают возможную потерю качества по сравнению с полной точностью и отсутствие в README сведений о языках, максимальном контексте, поддерживаемых модальностях и подробных результатах по отдельным тестам. Модель распространяется по лицензии Apache-2.0.

maheshrawat18/Qwen3-8B-grpo-emotion-v5-merged — дообученная модель семейства Qwen3, разработанная maheshrawat18 на основе maheshrawat18/Qwen3-8B-grpo-emotion-v4-merged. Это плотная авторегрессионная языковая модель с 7,6 млрд параметров, предназначенная для генерации текста в диалоговом формате. В метаданных указан контекст до 40 960 токенов и поддержка английского языка. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README отмечено, что обучение проводилось с Unsloth; дополнительных сведений о задачах эмоциональной классификации или специальных возможностях карточка не содержит.

Модель linchiyi/qwen3-8b-hw3-grpo-lora-merged-16bit — дообученная разговорная языковая модель семейства Qwen3 с плотной архитектурой и 7,6 млрд параметров. Она основана на unsloth/qwen3-8b; для обучения использовались Unsloth и библиотека TRL. Репозиторий содержит веса в формате safetensors, а длина контекста составляет 40 960 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка не уточняет специализацию дообучения или результаты оценки, поэтому пригодность для конкретных предметных областей и качество ответов по ним определить нельзя. Лицензия — Apache-2.0.

MrLvTian/Qwen3-8B-shortgpt-prune-1-layer — текстовая генеративная модель из семейства Qwen3, опубликованная пользователем MrLvTian на Hugging Face. Модель предназначена для генерации текста и диалоговых сценариев на основе входного контекста и поддерживает работу через библиотеку Transformers. Модель содержит около 7,4 млрд параметров и рассчитана на контекст длиной до 40 960 токенов. В названии указана модификация shortgpt с удалением одного слоя, однако README не содержит подробностей об архитектуре этой модификации, методе сокращения, обучающих данных, результатах оценки, разработчиках или лицензии. Модель может использоваться для продолжения текста, генерации ответов в чатах, создания черновиков и прототипирования приложений на базе LLM. README не предоставляет подтверждённых сведений о поддерживаемых естественных языках, поэтому языковую совместимость следует проверять отдельно.

Qwen3-8B TMax SFT v3 — контрольная точка модели Qwen3-8B после supervised fine-tuning, обученная командой или автором репозитория willamazon1. Она создана на итерации 353 запуска tmax_sft_v3 и использовалась как начальная политика и референсная модель для последующего обучения с подкреплением, чьи контрольные точки опубликованы отдельно. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Это плотная причинная языковая модель архитектуры Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. README сообщает о конвертации обучающего чекпойнта Megatron-LM в формат Hugging Face safetensors и о весах bfloat16. Базовая модель Qwen3-8B многоязычная и поддерживает генерацию, рассуждения, следование инструкциям, код и вызов инструментов. Эта версия является промежуточным SFT-чекпойнтом, поэтому её качество и поведение могут отличаться от последующих RL-чекпойнтов; README не приводит результаты оценки. Лицензия — Apache-2.0.

Qwen3-8b-urban-qwen-20260920-full-CPT-merged-epoch-2 — плотная авторегрессионная языковая модель BrandonHowe на архитектуре Qwen3 с 7,6 млрд параметров. Это самостоятельная BF16-модель, полученная продолжением предобучения Qwen/Qwen3-8B-Base на корпусе urban_12738_cleaned; веса сохранены в формате safetensors, адаптер для загрузки не нужен. Модель предназначена для генерации текста и диалогового использования. Контекст — до 32 768 токенов; заявлен интерфейс для вызова инструментов. Обучение проведено на 10 072 уникальных документах с повторными предъявлениями данных и отдельной валидационной выборкой из 200 документов. Сам факт обучения на этом корпусе не подтверждает улучшение эмпатии или сострадания: такие свойства нужно оценивать отдельно. Модель принимает текст и генерирует текст. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить на странице репозитория и для базовой модели Qwen/Qwen3-8B-Base.

Qwen3.8-Flash-Next-ANE — пакет гибридного инференса модели Qwen3.8-Flash-Next от True2456 для компьютеров Apple Silicon. Модель дообучена на базе Qwen/Qwen3.8-Flash-Next; в README описаны 36 слоёв Gated DeltaNet и 12 слоёв Qwen Sparse Attention, исполняемые на Apple Neural Engine, и разрежённые MoE-эксперты, работающие через MLX на GPU. Веса языковой модели хранятся в 4-битном формате, а для ускорения декодирования применяются спекулятивная генерация и таблицы n-грамм. Пакет предназначен для диалогов, генерации текста и агентных сценариев, включая работу через OpenAI-совместимый API и интерфейс вызова инструментов. Автор сообщает о тестировании на Mac с M5 Max и 96 или 128 ГБ объединённой памяти; README приводит результаты производительности и тестов качества для этой конфигурации. Это не полностью исполняемая на ANE модель: часть вычислений выполняется на GPU и CPU. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.

Qwen3.8-Flash-Next-GGUF — это квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF для запуска через llama.cpp. Модель предназначена для задач генерации и анализа текста, а также обработки изображений при использовании отдельного файла mmproj, что позволяет применять её в мультимодальных сценариях. Модель содержит 180 млрд параметров и поддерживает текстовый и графический ввод. Для неё доступны варианты от BF16 и Q8_0 до более компактных Q2–Q5 и IQ-квантизаций; размер файлов варьируется примерно от 88 до 354 ГБ. Квантизация выполнена с использованием imatrix, а speculative decoding не поддерживается. Рекомендуемый компромисс между качеством и требованиями к памяти — Q4_K_M размером около 119,6 ГБ; более высокие варианты сохраняют качество, но требуют значительно больше ресурсов. К сильным сторонам относятся большой масштаб модели, поддержка мультимодального ввода, широкий выбор уровней квантизации и совместимость с llama.cpp. Ограничениями являются очень высокие требования к оперативной или видеопамяти даже у компактных вариантов, возможное снижение качества при сильной квантизации и необходимость отдельного mmproj-файла для работы с изображениями. Указана лицензия qwen-community-1.0; дополнительные условия приведены в файле LICENSE.

Guile/Qwen3.8-Flash-Next-GGUF — это GGUF-квантизированная версия модели Qwen3.8-Flash-Next, разработанной командой Qwen и квантизированной bartowski с использованием llama.cpp. Модель содержит около 180 млрд параметров и предназначена для задач генерации и понимания текста, а также обработки изображений в мультимодальном режиме при наличии файла mmproj. Поддержка speculative decoding не заявлена. Доступны варианты весов от BF16 и Q8_0 до низкобитных Q2–Q5 и IQ-квантизаций. Размер файлов составляет примерно от 88 до 354 ГБ, поэтому модель рассчитана на системы с большим объёмом оперативной или видеопамяти. В README рекомендуется Q4_K_M как компромисс между качеством и размером, а Q6_K — как вариант с очень высоким качеством. Квантизации используют imatrix, что должно помогать сохранять качество при уменьшении размера, однако более низкие разрядности сопровождаются заметным снижением качества. Модель запускается через совместимые инструменты экосистемы llama.cpp и распространяется с лицензией qwen-community-1.0; указана лицензия other и ссылка на файл LICENSE. Сведения о поддерживаемых языках, размере контекстного окна и точных архитектурных особенностях в предоставленном README отсутствуют.

Qwen3.8-Flash-Next-heretic-2-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next-heretic-2. Модель разработана trohrbaugh на основе Qwen3.8-Flash-Next от команды Qwen с применением модифицированного Heretic для снижения отказов; данный репозиторий spiritfather переупаковывает веса для запуска через llama.cpp. Модель предназначена для генерации текста, диалогов, творческого письма и ролевых сценариев, а также поддерживает обработку изображений через отдельный vision-проектор. Архитектура — qwen4exp, MoE: 177 млрд параметров всего и около 3 млрд активных. Указан нативный контекст до 262 144 токенов, встроенное рассуждение с уровнями reasoning_effort и возможность его отключения. Доступны квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 130,8 до 175,3 GiB; также включена собственная MTP/NextN-голова для speculative decoding. Сильные стороны модели — большой контекст, мультимодальность, низкое авторское число отказов и поддержка ускоренного декодирования через MTP. Ограничения связаны с очень высокими требованиями к памяти, необходимостью актуальной версии llama.cpp, а для MTP — поддержки PR #27836. Представленные показатели CaliperBench характеризуют творческое письмо, ролевое взаимодействие и готовность отвечать, а не общий интеллект модели. Лицензия указана как qwen-community-1.0; применяются условия лицензии Qwen.

Qwen3.8-Flash-Next-IQ4_XS-GGUF — это квантизированная версия базовой модели Qwen/Qwen3.8-Flash-Next-FP8 в формате GGUF. Исходная модель разработана командой Qwen, а данный вариант подготовлен пользователем julianmb с использованием ROCmFPX и проверенного конвейера преобразования. Модель предназначена для генерации текста, включая повседневный диалог, программирование и работу с длинным контекстом. В репозитории представлены варианты квантизации IQ4_XS, включая статический файл размером около 116 GiB, imatrix-квантизацию M2 размером около 115 GiB и облегчённый PLE-вариант размером около 91 GiB. Для M2 заявлены 5,56 бит на вес и лучшее измеренное значение perplexity среди представленных вариантов; PLE-вариант уменьшает размер за счёт квантизации 51-миллиардной n-gram lookup table до iq4_nl. Также доступен отдельный MTP-файл Q8_0 размером около 3,9 GiB для ускоренной генерации в совместимых движках. Модель ориентирована на запуск на системах с 128 GiB унифицированной памяти, в частности на Strix Halo, через совместимые сборки llama.cpp и Vulkan. Заявлена работа с контекстом до 256k токенов при использовании SSD-PLE и специальных параметров запуска. Производительность зависит от варианта файла, глубины контекста, MTP и конкретного движка. Важное ограничение — PLE-вариант несовместим с некоторыми форками движков, которые не выполняют требуемую деквантизацию; в таких случаях рекомендуется статический вариант IQ4_XS или M2. Сведения о поддерживаемых языках и точной архитектуре в README не указаны. Лицензия обозначена как qwen-community-license-1.0.

Vontra/Qwen3.8-Flash-Next-MLX-2bit-MTP — это MLX-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео на устройствах Apple Silicon через совместимые MLX-совместимые среды, включая oMLX и MLX-VLM. Архитектура указана как vision-language sparse MoE с компонентами Qwen4Exp. Модель содержит 125 млрд параметров, из которых около 6 млрд активируются при обработке запроса, 48 слоёв, скрытое состояние размером 2560, 512 маршрутизируемых экспертов, 10 активных экспертов на токен и один общий эксперт. Используются Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual streams, хешированные биграммные и триграммные embedding-компоненты, а также собственный MTP-блок для speculative decoding. Контекст составляет 262 144 токена и может быть расширен до 1 млн токенов в исходной модели. Языки не указаны в предоставленных данных. Ключевая особенность версии — affine-квантизация 2-bit с размером группы 32 для экспертных и predictive-embedding-модулей при сохранении чувствительных компонентов, включая attention, vision-модули, embeddings, output head и native MTP, в BF16 или совместимой исходной точности. Размер весов составляет около 80,07 ГБ, формат — MLX safetensors. На Apple M3 Studio измеренная скорость генерации составила 29,37 токена в секунду при отключённом MTP и 28,62 токена в секунду при включённом, поэтому MTP рекомендуется отключать по умолчанию. Для работы требуется runtime с поддержкой архитектуры qwen4_exp и native MTP. Модель распространяется по лицензии Qwen Community License 1.0. В предоставленных данных не приведены подробные результаты исходных оценок, полный перечень поддерживаемых языков и ограничения безопасности; за ними следует обращаться к карточке базовой модели.