II.6Документация и сопровождение разработки

bunnycore/Qwen2-7B-TitanFusion — разговорная языковая модель на архитектуре Qwen2, созданная сообществом Bunnycore путём слияния нескольких моделей с помощью mergekit и метода DARE TIES. В качестве базовой использована natong19/Qwen2-7B-Instruct-abliterated; в слияние также вошли Samantha-Qwen-2-7B, Dolphin 2.9.2 Qwen2 7B, Arcee Spark и Orca Mini v7 7B. Модель содержит 7,1 млрд параметров, работает с текстом и предназначена для диалогов и генерации текста, включая ответы на вопросы. Максимальная длина контекста составляет 32 768 токенов. В карточке не заявлена специализация на конкретных языках или предметных областях. Файлы доступны в формате safetensors для Transformers; лицензия в предоставленных данных не указана.

nvidia/Qwen3-14B-FP8 — квантизированная версия авторегрессионной языковой модели Qwen3-14B, разработанной Alibaba и подготовленной NVIDIA с помощью TensorRT Model Optimizer. NVIDIA не является владельцем или разработчиком исходной модели; компания выпустила её FP8-вариант для заданных сценариев развертывания. Модель предназначена для генерации текста в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Она принимает текстовые последовательности и возвращает текст. Модель имеет архитектуру Transformer, около 14,8 млрд параметров и контекстное окно до 131 тысячи токенов. Поддерживается только текстовая модальность; конкретный набор языков в README не указан. Вариант FP8 квантизирует веса и активации линейных операторов внутри блоков Transformer, что делает модель ориентированной на эффективный инференс с TensorRT-LLM. Указана совместимость с GPU-архитектурой NVIDIA Blackwell, операционной системой Linux и тестовым оборудованием NVIDIA B200. Ограничения включают зависимость от поддерживаемого NVIDIA-стека и отсутствие опубликованных в README сведений о результатах тестирования, обучающих данных и языковых характеристиках. Калибровка выполнялась на датасете cnn_dailymail, а остальные сведения о наборах данных не раскрыты. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0. Перед применением разработчикам рекомендуется самостоятельно оценить качество, безопасность и соответствие модели требованиям конкретной отрасли и сценария.

OpenPipe/Qwen3-14B-Instruct — вариант Qwen3-14B, дообученный OpenPipe. Это плотная причинная языковая модель на 14,8 млрд параметров с 40 слоями и групповой многозапросной внимательностью (40 голов Q и 8 голов KV). Шаблон чата настроен так, чтобы модель по умолчанию отвечала в режиме без рассуждений и сохраняла согласованный формат сообщений при обучении и генерации. Модель предназначена для диалоговой генерации текста и дальнейшей настройки в OpenPipe и других фреймворках дообучения. Метаданные указывают контекст 40 960 токенов; в README для базовой Qwen3-14B заявлены 32 768 токенов нативно и до 131 072 с YaRN. Поддерживаются сценарии общения и генерации текста на базе Qwen3. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает совместимость шаблона и общие возможности Qwen3, но не приводит отдельной оценки качества именно этого варианта; результат зависит от запроса и последующей настройки.

Модель taskmaster141/Qwen3-1.7b-fullft-25chk-2ep — дообученная языковая модель семейства Qwen3, опубликованная taskmaster141. Она предназначена для генерации текста и диалогового взаимодействия. Модель содержит 1,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. Модель дообучена на основе trainer_output/checkpoint-25; в карточке также указано, что обучение проводилось с использованием Unsloth. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Qwen3-1.7B-MLX-bf16 — компактная плотная языковая модель семейства Qwen3 с 1,7 млрд параметров, подготовленная lmstudio-community на основе Qwen/Qwen3-1.7B и преобразованная в формат MLX для использования с mlx-lm. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её контекст составляет до 40 960 токенов. В карточке указана лицензия Apache-2.0. README описывает преобразование в MLX, тогда как метаданные указывают формат файлов safetensors.

OP12138/qwen3-1.7b-safechain — дообученная авторами репозитория модель Qwen3-1.7B на датасете safechain. Она предназначена для генерации текста и диалогового взаимодействия; метаданные отмечают поддержку чата и указывают архитектуру Qwen3ForCausalLM с плотной сетью и 1,7 млрд параметров. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет 40 960 токенов. Базовая модель Qwen3 описана как многоязычная.

Dohyeon1/Qwen3-30B-A3B-HC-SMoE-ngroups96 — языковая модель для генерации текста и диалогового взаимодействия, опубликованная пользователем Dohyeon1 на Hugging Face. Модель предназначена для использования через библиотеку Transformers и относится к семейству Qwen3 MoE; в метаданных также указана поддержка conversational-сценариев. Модель содержит 2,6 млрд параметров и поддерживает контекст длиной до 40 960 токенов. Она ориентирована на текстовые задачи: продолжение и генерацию текста, ответы в диалогах, подготовку черновиков и обработку длинных текстовых запросов. Мультимодальные возможности и перечень поддерживаемых естественных языков не заявлены. В README отсутствуют сведения о разработчике, обучающих данных, результатах оценки, лицензии и специализированных ограничениях использования. Поэтому модель следует предварительно тестировать на целевых данных и учитывать возможные фактические ошибки, нежелательные продолжения и нестабильность ответов.

Qwen3-30B-A3B-Instruct-2507-MLX-6bit — это 6-битная квантованная версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на компьютерах Apple Silicon. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях использования, включая работу через совместимые инструменты на устройствах Apple Silicon. Она относится к семейству text-generation и использует архитектуру и характеристики исходной модели Qwen3-30B-A3B-Instruct-2507, однако README не содержит сведений о языках, длине контекста, поддерживаемых модальностях и других архитектурных деталях. Ключевое преимущество версии — снижение требований к памяти по сравнению с полноразмерными весами благодаря 6-битному квантованию и оптимизации под MLX. Ограничения включают возможную потерю точности из-за квантования, зависимость от платформы Apple Silicon и отсутствие в README подробных данных о качестве, производительности и бенчмарках. Модель распространяется по лицензии Apache-2.0.

Dohyeon1/Qwen3-30B-A3B-M-SMoE-ngroups64 — текстовая генеративная модель на архитектуре Qwen3 MoE, опубликованная пользователем Dohyeon1 на Hugging Face и предназначенная для диалоговой генерации текста. Модель содержит 2,6 млрд параметров, поддерживает контекст до 40 960 токенов и предназначена для запуска через библиотеку Transformers; в метаданных также указаны форматы Safetensors и conversational-тег. Модель можно применять для генерации ответов в чатах, продолжения текста, подготовки черновиков и других сценариев text generation. README не содержит сведений о точных языках, лицензии, данных обучения, результатах оценки, рекомендуемых параметрах запуска и разработчике исходной архитектуры. Поэтому перед использованием в production необходимо самостоятельно проверить совместимость, качество на целевых данных и условия распространения.

Dohyeon1/Qwen3-30B-A3B-M-SMoE-ngroups96-adaptive — модель генерации текста на базе архитектуры Qwen3 MoE с адаптивной группировкой и 96 группами, опубликованная пользователем Dohyeon1 на Hugging Face. В метаданных указано 2,6 млрд параметров и нативное контекстное окно до 40 960 токенов; модель предназначена для работы через библиотеку Transformers и поддерживает формат conversational. Модель подходит для генерации продолжений текста, диалоговых ответов, черновиков и других сценариев text-generation, где требуется контекстное окно большого размера. README создан автоматически и не содержит сведений о разработчике, языках, обучающих данных, результатах оценки, лицензии, рекомендуемых сценариях или ограничениях, поэтому эти характеристики нельзя достоверно определить по предоставленным источникам.

lmstudio-community/Qwen3-32B-MLX-8bit — языковая модель для генерации текста, представленная сообществом lmstudio-community и созданная на основе Qwen/Qwen3-32B. Модель преобразована в формат MLX с использованием mlx-lm версии 0.24.0 и предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm с поддержкой чат-шаблона, если он задан в токенизаторе. Ключевые характеристики модели — размер базовой модели 32B параметров, 8-битное представление и специализация на текстовой генерации. Формат MLX ориентирован на использование в совместимой среде, однако README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности, производительности и ограничениях. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-4bit — языковая instruct-модель для генерации текста, разработанная командой Qwen и конвертированная сообществом mlx-community в формат MLX из базовой модели Qwen/Qwen3-4B-Instruct-2507. Модель предназначена для диалогового взаимодействия и выполнения текстовых запросов с использованием chat template. Модель содержит 4 миллиарда параметров и представлена в 4-битном формате квантования. Она работает с текстовой модальностью; сведения о поддерживаемых языках и размере контекста в README не указаны. Формат MLX и использование библиотеки mlx-lm ориентированы на запуск модели в экосистеме MLX. Конкретные преимущества и ограничения качества по сравнению с исходной моделью в предоставленных данных не описаны; 4-битное представление может влиять на точность, но степень такого влияния не указана. Модель распространяется по лицензии Apache 2.0. Конвертация выполнена с использованием mlx-lm версии 0.26.2.

Qwen3-4B-Instruct-2507-GGUF — набор квантованных версий языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантование выполнено Dhptl с использованием quant-kit в формате GGUF, предназначенном для локального запуска через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. Модель относится к классу текстовых instruction-following и conversational-моделей и предназначена для диалогов, генерации текста, ответов на вопросы и других сценариев работы с текстом. Заявленный размер базовой модели — 4 млрд параметров. В карточке указано поддерживаемое язык — английский; сведения о контекстном окне, точной архитектуре и мультимодальности отсутствуют. Доступны варианты квантования от Q2_K до Q8_0 размером примерно от 1,55 до 3,99 ГБ. Версия Q4_K_M рекомендована как баланс размера и качества, Q3_K_M — для систем с ограниченной памятью, а Q8_0 — для максимально близкого к исходной модели качества. Квантование уменьшает требования к памяти и позволяет запускать модель на потребительском оборудовании, но варианты с более сильным сжатием могут заметно терять в качестве. Приведённые показатели сохранения качества около 97–99% заявлены без фактических результатов тестов в этой карточке, поэтому их следует воспринимать ориентировочно. Модель распространяется по лицензии Apache-2.0. Для практического использования необходимо выбрать конкретный GGUF-файл с учётом доступной оперативной памяти и допустимого компромисса между скоростью, размером и качеством.

Qwen3-4B-Instruct-2507-NVFP4 — это квантизированная версия инструкционной языковой модели Qwen/Qwen3-4B-Instruct-2507, опубликованная под идентификатором llmat/Qwen3-4B-Instruct-2507-NVFP4. Квантизация выполнена с помощью llmcompressor по схеме NVFP4: она применяется к линейным слоям, а слой lm_head исключён. Для калибровки использовано 512 образцов, максимальная длина последовательности при калибровке составляла 2048 токенов. Модель предназначена для генерации текста и диалоговых сценариев с применением инструкций, включая развёртывание через backend vLLM и OpenAI-совместимый сервер. В README не указаны точные поддерживаемые языки, максимальная длина контекста исходной модели, модальности или архитектурные детали помимо квантизации и принадлежности к семейству Qwen. Основное преимущество — потенциально более эффективное по ресурсам выполнение благодаря NVFP4-квантизации; возможным ограничением является влияние квантизации на качество, однако количественные результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-Q8_0-GGUF — это квантизированная версия модели Qwen3-4B-Instruct-2507, преобразованная в формат GGUF проектом ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и работы в диалоговых и инструкционных сценариях; запуск возможен через llama.cpp в режиме CLI или сервера, включая локальное развертывание. Из известных характеристик следует, что это модель размером 4B параметров с инструкционным назначением и квантованием Q8_0. README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекста, поэтому эти свойства нельзя достоверно уточнить. Формат GGUF и совместимость с llama.cpp удобны для локального запуска на различном оборудовании, однако конкретные требования к ресурсам и производительность зависят от используемой конфигурации. Модель распространяется по лицензии Apache-2.0.

heretic-org/Qwen3-4B-Thinking-2507-heretic — производная языковая модель команды heretic-org на базе Qwen/Qwen3-4B-Thinking-2507. Это плотная авторегрессионная модель с 3,7 млрд параметров для генерации текста в диалоговом формате; она ориентирована на рассуждения и поддерживает контекст до 262 144 токенов. По карточке, модель прошла abliteration: доля отказов в приведённом тесте снизилась с 99 из 100 у исходной модели до 5 из 100. Модель предназначена для сложных запросов, включая логические задачи, математику, науку и программирование, а также для следования инструкциям, использования инструментов и генерации текста. Базовая модель работает только в режиме рассуждений; сведения в карточке о её возможностях и оценках относятся к Qwen3-4B-Thinking-2507 и не подтверждают, что все результаты сохраняются после изменения. Указаны Transformers, формат safetensors и лицензия Apache-2.0. Языки обучения или поддержки в предоставленных данных не определены.

LinkRur/Qwen_3.5_4B_Fix — исправленная версия мультимодальной модели Qwen3.5, опубликованная в формате Transformers. Это причинная языковая модель с визуальным энкодером; в карточке указано около 4 млрд параметров, а метаданные фиксируют 3,4 млрд. Веса основаны на Qwen/Qwen3.5-4B-Base и лицензированы по Apache-2.0. Модель предназначена для диалогов, генерации и анализа текста, а также понимания изображений. Она поддерживает контекст до 262 144 токенов, расширяемый, согласно README, до 1 010 000, и широкое многоязычное покрытие: заявлены 201 язык и диалект. В README описана коррекция весов проекций ключей в восьми слоях полного внимания, призванная устранить бесконечные циклы повторения; остальные веса, по заявлению автора, не менялись. Модель подходит для мультимодальных ассистентов, вопросов по изображениям и задач с длинным контекстом. README сообщает о режиме рассуждений по умолчанию и возможностях вызова инструментов. При этом заявленные улучшения основаны на описании автора, а независимые результаты проверки исправления и подробные ограничения качества в доступных данных не приведены.

TheStageAI/Qwen3.5-9B-GGUF — квантизированная версия модели Qwen3.5-9B от Qwen, подготовленная TheStageAI в формате GGUF для запуска через llama.cpp. Модель предназначена для локальной генерации текста, диалоговых сценариев и задач, требующих следования инструкциям; доступны четыре варианта с размером от 3,21 до 9,53 ГБ. Модель поддерживает режимы без рассуждений и с длинными рассуждениями. Вариант XS рекомендуется для режима без рассуждений, а S, M и L — для задач с развёрнутым рассуждением. Рекомендуемый вариант M занимает 5,06 ГБ и, согласно приведённым оценкам, сопоставим с исходной BF16-моделью по IFEval и близок к ней по MMLU-Pro. В репозитории описан производственный PTQ-процесс с распределением точности между слоями и учётом накопления ошибки квантования. Сильные стороны модели — возможность локального запуска, несколько вариантов размера и точности, а также хорошее сохранение результатов исходной модели при существенно меньшем объёме хранения. Ограничения включают потерю точности по сравнению с полной BF16-версией, особенно у наиболее компактного варианта XS, и отсутствие в предоставленных данных сведений о языках, мультимодальности и размере контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9b-Opus-Openclaw-Distilled-i1-GGUF — это квантизированная в формате GGUF версия модели Qwen3.5-9b-Opus-Openclaw-Distilled. Исходную модель разработал ykarout, а квантизацию выполнил mradermacher. Модель основана на Qwen3.5 и имеет размер около 9 млрд параметров. Модель предназначена для генерации текста, диалоговых сценариев, reasoning-задач, агентских приложений и использования инструментов. В метаданных заявлены поддержка vision, conversational- и agentic-сценариев, а также интеграция с Transformers и text-generation-inference. Указаны языки: английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. Контекстное окно и точная архитектура в README не указаны. Основное преимущество — наличие набора GGUF-квантизаций разных размеров, включая imatrix-вариант, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. При этом низкобитные варианты могут заметно снижать качество; README отдельно характеризует некоторые из них как предназначенные для крайних случаев или имеющие низкое качество. Для обработки изображений могут потребоваться дополнительные mmproj-файлы из связанного репозитория. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Uncensored — 27-миллиардная плотная модель семейства Qwen3.5 от Lemura Labs, дообученная на основе lemuralabs/Qwen3.6-27B-Fable-Agentic. Она предназначена для диалогов, пошаговых рассуждений, общих вопросов и многошагового вызова инструментов. Архитектура поддерживает текст и изображения; README описывает работу с инструментами в нескольких ходах диалога. В тестах, приведённых авторами, модель показала 88,29% на MMLU-Pro, 97,67% на GSM8K и 56,57% на GPQA-Diamond. У модели снижено число отказов от запросов, поэтому она может отвечать на запросы, которые отклонила бы модель с более строгими ограничениями. Указанная в метаданных лицензия — Apache-2.0; README также рекомендует учитывать лицензии базовой модели и обучающих данных. Длина контекста в метаданных не приведена; пример запуска задаёт максимальную длину 16 384 токена, что является параметром конфигурации запуска.

Avesed/Qwen3.6-27B-INT8-W8A8 — квантованная версия базовой модели Qwen/Qwen3.6-27B, разработанной командой Qwen и подготовленной Avesed. Это плотная гибридная модель с архитектурой, объединяющей линейное внимание GatedDeltaNet и периодическое полноформатное внимание. Модель имеет vision tower и MTP head, однако в карточке указаны языки English и Chinese, а назначение обозначено как text-generation. Модель предназначена для генерации текста и задач, поддерживаемых базовой Qwen3.6-27B, включая сценарии, где важны рассуждения и работа с длинными последовательностями; точный размер контекста в README не указан. Ключевая особенность — INT8-квантизация по схеме W8A8: веса квантуются в симметричный INT8 по каналам, а активации — динамически по токенам. Большинство MLP-слоёв, полное внимание и выходная проекция GatedDeltaNet квантуются, тогда как чувствительные к качеству компоненты сохраняются в формате bf16. По заявлению автора, INT8 W8A8 обеспечивает почти отсутствие потерь качества и уменьшает требования к памяти по сравнению с полноразмерной моделью. Для запуска рекомендуется vLLM с INT8 W8A8 CUTLASS path и tensor parallelism; указана совместимость с GPU Ampere sm_80 и sm_86. Ограничения включают зависимость от подходящего программного стека и оборудования, а также отсутствие в README точных данных о контексте, производительности и качестве на конкретных наборах задач. Модель распространяется по лицензии Apache-2.0.

mmangkad/Qwen3.6-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.6-35B-A3B, разработанной Alibaba и подготовленной с использованием NVIDIA Model Optimizer. Модель предназначена для генерации текста и может применяться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Модель построена на архитектуре Transformers и имеет 35 млрд параметров, из которых 3 млрд активируются при работе. Она принимает и генерирует текст, поддерживает контекст длиной до 262 тысяч токенов. Веса и активации линейных операторов в MoE-компонентах transformer-блоков квантизированы в формат NVFP4, что ориентировано на эффективный инференс на GPU NVIDIA. Указана совместимость с NVIDIA Blackwell, Linux и SGLang; тестирование проводилось на B300. Данные о поддерживаемых языках и полном составе обучающего набора не раскрыты. Сильные стороны модели — предварительная NVFP4-квантизация, большой контекст и оптимизация для развертывания на совместимом оборудовании NVIDIA. Для запуска требуется SGLang, по README рекомендуется актуальная версия из основной ветки. Модель может воспроизводить токсичные формулировки и общественные предубеждения из исходных данных, а также генерировать неточные, неполные или нерелевантные ответы. Распространение и использование разрешены по лицензии Apache 2.0 с учетом требований и ограничений базовой модели.

Qwen3.6-35B-A3B · Winnow keep-50 — это производная модель семейства Qwen, созданная методом структурного прореживания routed-экспертов. Разработчик уменьшил промежуточную ширину каналов SwiGLU-экспертов на 50% по оценкам важности, сохранив без изменений механизм внимания, эмбеддинги и маршрутизатор. В README указано 18,5 млрд параметров, тогда как метаданные каталога сообщают 2,9 млрд; эти сведения расходятся. Архитектура — MoE для причинной генерации текста, модель поддерживает диалоговый сценарий и принимает до 262 144 токенов контекста. Модель предназначена для генерации текста и диалогов. На тесте C4 для этого чекпойнта указана perplexity 14,69 на 32 последовательностях длиной 2048 токенов; README отсылает к отдельной работе за сравнением с REAP и результатами downstream-тестов. Для запуска требуется Transformers версии 5 или новее и trust_remote_code=True; README описывает обслуживание через vLLM с плагином winnow и поддержку запуска на двух GPU по 24 ГБ. Лицензия — Apache-2.0.

Это мультимодальная 27,8-миллиардная плотная модель семейства Qwen3.5, опубликованная True2456 как AWQ-квантизованный вариант Qwen/Qwen3.8-27B для запуска на Apple Silicon через oMLX. Она принимает текст и изображения и предназначена для диалогов, анализа визуальных материалов, программирования и многошаговых задач; метаданные также отмечают интерфейс вызова инструментов. Контекст модели — 256 тысяч токенов. Калибровка AWQ с размером группы 64 включала текст и изображения; файлы занимают около 17,36 ГБ при 5 битах на вес. Карточка приводит замеры скорости и памяти на M5 Max, а также описывает встроенные MTP-головы и ускорение SpecPrefill для длинных запросов. Эти результаты относятся к указанной конфигурации оборудования и oMLX. Квантизация может влиять на качество относительно исходной точности, а автор отдельно отмечает, что влияние несовпадения токенизаторов на точность длинноконтекстного поиска не измерялось. Лицензия — Apache-2.0. Модель является производной от Qwen/Qwen3.8-27B и рассчитана на локальный инференс; карточка указывает оптимизацию под M5 NAX.

benjzzz/Qwen3.8-27B-BenQ-6bit — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная автором benjzzz. Веса и vision tower представлены методом BenQ: 6-битные коды с отдельной таблицей значений для каждой строки, что, по README, даёт 6,16 бит на вес с учётом таблиц. Модель принимает текст и изображения и предназначена для диалогов, анализа изображений и программирования; метаданные также указывают интерфейс вызова инструментов. Для генерации текста в README приведён пример с кодом Python.

Developer-pintu/Qwen3.8-27B-bucket — дообученная языковая модель на архитектуре Qwen2, созданная Developer-pintu на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Модель предназначена для генерации текста в диалоговом формате; каталог также указывает интерфейс вызова инструментов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Язык карточки и языковые теги указывают на английский. Модель распространяется по лицензии Apache-2.0. README не уточняет специализацию дообучения, поэтому нельзя уверенно приписать ей конкретные навыки исходной coder-модели сверх генерации текста.

TaterTotterson/Qwen3.8-27B-GGUF-Tater-NoThink — это упаковка официальной модели Qwen3.8-27B в формате GGUF для работы с llama.cpp. Базовую модель разработала команда Qwen, а автор репозитория изменил только метаданные chat template, добавив режим Tater NoThink. Тензоры, квантизация, vision projector и MTP draft model не изменялись. Модель представляет собой плотную vision-language модель с 27 млрд параметров. Она предназначена для понимания текста, изображений и видео, поддерживает вызов инструментов, контекстное окно размером 262K токенов и Multi-Token Prediction (MTP) для speculative decoding. В комплект входят основная модель Q4_K_M, vision projector Q8_0 и MTP draft model Q8_0. Для использования мультимодальных возможностей требуется vision projector, а для speculative decoding — отдельная MTP-модель; эффективность ускорения зависит от аппаратного обеспечения, бэкенда, промпта и длины контекста. Главная особенность варианта NoThink — принудительное отключение режима рассуждений: генерация начинается с пустого блока <think></think> и сразу переходит к ответу, даже если клиент запрашивает thinking mode. Это может быть удобно для получения более прямых ответов и сокращения служебного вывода, но ограничивает использование явного режима рассуждений. Модель распространяется по лицензии Apache License 2.0.

Qwen3.8-27B-Uncensored-Q4_K_M-GGUF — это квантованная в формате GGUF версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем qaqab и предназначенная для запуска через llama.cpp и совместимые среды. Модель ориентирована на генерацию текста, включая диалоги, написание и анализ текстов, а также другие сценарии применения многоцелевой языковой модели. В README указаны поддержка английского и китайского языков и наличие vision-возможностей у базовой архитектуры, однако для обработки изображений требуется соответствующий vision-файл. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одним MTP-слоем и контекстом до 262 144 токенов. Файл Q4_K_M имеет размер около 16,8 ГБ и сохраняет MTP-компонент для speculative decoding; также опубликована версия без MTP. Квантование выполнено с использованием importance matrix. По измерениям perplexity на wikitext-2 показатель для Q4_K_M составляет 7,1814, но этот тест не оценивает напрямую рассуждения, программирование, мультиязычность или поведение отказов. Вариант Uncensored создан с существенным снижением склонности к отказам с помощью Heretic без дополнительного обучения и новых данных; это поведение не устранено полностью. Возможное снижение acceptance rate черновой MTP-модели может немного повлиять на ускорение speculative decoding, но не должно ухудшать качество проверяемого целевой моделью вывода. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-3.6-27B-blend — неофициальная производная модель, подготовленная JetBrains на основе моделей Qwen от Alibaba Cloud. Это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration; её параметры получены линейным слиянием в пропорции 50/50 чекпойнтов Qwen3.6-27B и Qwen3.8-27B. Конфигурация, токенизатор, процессор и шаблон чата взяты от Qwen3.8-27B. Модель предназначена для диалогов, работы с изображениями и программирования; поддерживает интерфейс вызова инструментов. JetBrains приводит результаты внутреннего бенчмарка на задачах программирования, однако описание не содержит численных результатов качества. Доступны варианты BF16, GGUF, MLX 4-bit и MTP MLX 4-bit; в репозитории Hugging Face указаны веса safetensors. Дополнительного обучения или тонкой настройки не проводилось. Модель распространяется по лицензии Apache 2.0. Ограничения качества и поддерживаемые языки отдельно не описаны; применение для видео и многошаговых задач указано в сведениях о базовой модели, но карточка производной модели подтверждает только задачу image-text-to-text.

Qwen3.8 4B Distilled — созданная сообществом модель генерации текста от Ma7ee7, полученная дообучением Qwen/Qwen3-4B-Thinking-2507 на примерах ответов и рассуждений, сгенерированных моделью qwen3.8-max-preview. Это плотная decoder-only языковая модель архитектуры Qwen3 примерно с 3,7 млрд параметров; она принимает текст и выдаёт текст, поддерживает чатовый формат и интерфейс вызова инструментов. Заявленная длина контекста — 262 144 токена. Модель предназначена для математических и логических задач, программирования, научных вопросов, следования инструкциям, длинных ответов и локальных разговорных ассистентов. Обучающая смесь преимущественно англоязычная; дистилляция переносит некоторые поведенческие шаблоны учителя, но модель не наследует его архитектуру или полный набор возможностей. Доступна по лицензии Apache-2.0. Это компактная модель для экспериментов и практических задач рассуждения, но её ответы могут содержать фактические, математические и программные ошибки, а видимые цепочки рассуждений не гарантируют правильность. Примеры использования инструментов составляют небольшую часть обучения, поэтому результаты в важных сценариях следует проверять.