II.6Документация и сопровождение разработки

CultriX/Qwen2.5-14B-Wernicke — объединённая плотная авторегрессионная языковая модель семейства Qwen2.5, созданная с помощью mergekit методом Model Stock. В основу слияния взята Qwen/Qwen2.5-14B; в объединение также вошли EVA-Qwen2.5-14B-v0.0, Qwen2.5-14B-Instruct, SuperNova-Medius, Rombos-LLM-V2.6-Qwen-14b и Qwen2.5-Lumen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Модель подходит для ответов на запросы, свободного продолжения текста и формирования структурированных ответов; в метаданных также отмечен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык, а заявленная длина контекста составляет 131 072 токена. Для оценки приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но данных недостаточно, чтобы определить практическое качество в конкретных сценариях. Распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-1.5B-Instruct-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Qwen2.5-1.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и опубликованной сообществом Unsloth. Модель предназначена для диалоговых ассистентов, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Модель относится к causal language models и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Исходная модель содержит около 1,54 млрд параметров, 28 слоёв и Grouped Query Attention с 12 головами Q и 2 головами KV. Указанный контекст исходной модели составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта bnb-4bit — сниженное потребление памяти и возможность запуска на более доступном оборудовании; при этом квантование может уменьшать точность по сравнению с полноформатной моделью. Размер 1,5 млрд параметров делает модель подходящей для локального инференса и ресурсоограниченных приложений, однако её возможности и качество уступают более крупным моделям. Для работы рекомендуется актуальная версия библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

Qwen2.5.1-Coder-7B-Instruct-GGUF — это квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и работы с программным кодом: она подходит для написания, объяснения и исправления кода, а также для диалоговых сценариев с использованием системных и пользовательских инструкций. В README заявлена поддержка английского языка. Модель имеет размер 7 миллиардов параметров. Доступны варианты от F16 до различных уровней квантизации Q8_0, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Квантизации выполнены с помощью llama.cpp и imatrix; отдельные варианты оптимизированы для ARM-процессоров. Более компактные версии удобны для локального запуска, в том числе через LM Studio, однако снижение разрядности может уменьшать качество генерации. Длина контекста, полный список поддерживаемых языков и результаты бенчмарков в README не указаны. Модель распространяется по лицензии Apache-2.0.

Richard Young подготовил декензурированную версию Qwen2.5-3B-Instruct с помощью Heretic v1.4.0. Это плотная причинная языковая модель на 3,1 млрд параметров для диалоговой генерации текста. Она подходит для чат-ботов, ответов на инструкции, написания и анализа текста, а также задач по программированию и математике. Модель принимает текст и выдаёт текст; контекст составляет 32 768 токенов, поддерживается генерация до 8 192 токенов. В основе лежит Qwen2.5-3B-Instruct с архитектурой Qwen2ForCausalLM; заявлены RoPE, SwiGLU, RMSNorm и grouped-query attention. README указывает многоязычную поддержку более чем 29 языков, включая русский и английский. В приведённом сравнении модель отказала в 3 случаях из 100 против 96 у исходной версии, поэтому её следует считать менее склонной к отказам при запросах на чувствительные темы. Это не означает гарантии полноты или точности ответов. В метаданных лицензия обозначена как other, а README не содержит её условий, поэтому перед использованием следует проверить лицензию на странице модели и базовой модели. Модель предназначена для работы через библиотеку Transformers.

BenevolenceMessiah/Qwen2.5-72B-2x-Instruct-TIES-v1.0 — объединённая плотная языковая модель семейства Qwen2.5, созданная методом TIES с помощью mergekit. В качестве основы использована Qwen/Qwen2.5-72B; в объединение также вошли Rombos-LLM-V2.5-Qwen-72b и Dracarys2-72B-Instruct. Модель содержит 71,5 млрд параметров и имеет заявленное контекстное окно 131 072 токена. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Её можно применять для составления ответов, продолжения текста и сценариев чат-ассистента. README не уточняет специальные преимущества объединения, а сведения о языках обучения и целевых сценариях ограничены. Файлы представлены в формате Safetensors и предназначены для Transformers. Лицензия в предоставленных данных не указана.

bunnycore выпустил эту объединённую языковую модель на архитектуре Qwen2, созданную с помощью mergekit методом task arithmetic. В качестве основы использована Qwen/Qwen2.5-7B, объединённая с DeepSeek-R1-Distill-Qwen-7B и Bespoke-Stratos-7B. Модель содержит 7,1 млрд параметров, работает с библиотекой Transformers и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Подходит для развёртывания чат-ассистентов и генерации ответов на длинные запросы. Карточка не сообщает о специальной настройке на конкретные языки или прикладную область. Лицензия в предоставленных данных не указана.

Qwen-2.5-Aether-SlerpFusion-7B — слитая текстовая модель на архитектуре Qwen2, созданная ZeroXClem с помощью mergekit и метода SLERP. Она объединяет Locutusque/StockQwen-2.5-7B и allknowingroger/QwenSlerp8-7B; размер модели составляет 7,1 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая создание контента, суммаризацию, перевод и чат-ботов. README также предлагает использовать её для юридических, медицинских и технических задач, однако не приводит специализированных оценок или подтверждения качества в этих областях. Модель принимает текст и генерирует текст; метаданные указывают английский и китайский языки. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

kechengcode/Qwen2-5B-16Layers — текстовая генеративная модель на архитектуре Qwen2, созданная объединением слоёв Qwen/Qwen2-7B методом passthrough с помощью mergekit. В репозитории указаны 4,3 млрд параметров, формат safetensors и контекст до 131 072 токенов; модель предназначена для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст. Карточка не уточняет языки, качество на отдельных задачах и специальные области применения. Лицензия в предоставленных данных не указана.

ApolloRaines/Qwen2.5-Coder-3B-Instruct-Jbliterated — дообученная инструктивная языковая модель на архитектуре Qwen2 с 3,1 млрд параметров, созданная на основе Qwen/Qwen2.5-Coder-3B-Instruct. Она предназначена для генерации текста и кода по запросам, а также для диалогового взаимодействия. Модель принимает текст и поддерживает контекст до 32 768 токенов; в карточке указаны английский и китайский языки. Автор сообщает, что изменены все слои трансформера, базовый формат весов — bfloat16, а выпуск является демонстрационной версией с намеренно ограниченной силой возможностей. Карточка также описывает запуск на маломощной видеокарте с переносом слоёв между GPU, оперативной памятью и диском; это характеристика заявленного способа запуска, а не отдельная возможность самой модели. Репозиторий распространяется по лицензии Apache-2.0.

bocalan/Qwen2.5-Coder-3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-3B-Instruct, преобразованная пользователем bocalan в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и работы с программным кодом в диалоговых сценариях, включая написание, дополнение и объяснение кода. В метаданных указаны английский язык, базовая модель Qwen/Qwen2.5-Coder-3B-Instruct и библиотека transformers. Модель содержит 3 миллиарда параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией и делает запуск возможным через llama.cpp на совместимом локальном оборудовании. GGUF-версия поддерживает запуск в CLI и серверном режиме llama.cpp; в README приведён пример контекста 2048 токенов, однако это значение относится к примеру запуска и не подтверждает максимальный размер контекста модели. К сильным сторонам относятся специализация на программном коде, инструкционное обучение и удобство локального запуска в оптимизированном GGUF-формате. Ограничения включают меньший размер по сравнению с более крупными моделями и отсутствие в предоставленных данных подробностей об архитектуре, полном наборе языков, точной производительности и мультимодальных возможностях; указана только текстовая генерация. Модель распространяется по лицензии qwen-research; дополнительные условия следует уточнять в лицензии базовой модели Qwen2.5-Coder-3B-Instruct.

mlx-community/Qwen2.5-Coder-7B-8bit — версия модели Qwen2.5-Coder-7B, подготовленная сообществом mlx-community для запуска с MLX. README сообщает о конвертации из Qwen/Qwen2.5-Coder-7B с помощью mlx-lm 0.18.1; метаданные каталога связывают её с Qwen/Qwen2.5-7B как дообучение. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и кода в диалоговом режиме, включая помощь при написании и объяснении программ. Метаданные указывают английский язык, поддержку чата и интерфейса вызова инструментов. Лицензия — Apache 2.0. README подтверждает конвертацию в формат MLX, но не уточняет способ 8-битного представления весов.

Qwen2.5-Mavapy-b-7B — слитая методом della модель генерации текста, созданная с помощью mergekit на основе Qwen2.5-Mavapy-7B и объединяющая Locutusque/StockQwen-2.5-7B и fblgit/cybertron-v4-qw7B-MGS. Модель разработана сообществом mergekit-community; архитектура — плотная Qwen2ForCausalLM с 7,1 млрд параметров, доступная в формате safetensors. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает контекст до 32 768 токенов и работает с текстовым вводом и выводом. README описывает конфигурацию с типом выходных весов bfloat16. README рекомендует дообучить модель перед использованием. Данных о лицензии и конкретных языках в предоставленных источниках нет.

RedHatAI/Qwen3-1.7B-quantized.w4a16 — компактная языковая модель для генерации текста, разработанная Red Hat совместно с Neural Magic на основе Qwen/Qwen3-1.7B от Qwen. Модель предназначена для рассуждений, function calling, многоязычного следования инструкциям, перевода и создания специализированных решений после дообучения. Она принимает текст и генерирует текст, поддерживая архитектуру Qwen3ForCausalLM и контекст длиной до 40960 токенов в конфигурации оценки. Ключевая особенность модели — INT4-квантизация весов линейных операторов в трансформерных блоках. Используется асимметричная поканальная по группам схема с размером группы 64 и алгоритм GPTQ, реализованный в llm-compressor; веса lm_head не квантизуются. Переход с 16 до 4 бит уменьшает размер на диске и требования к GPU-памяти примерно на 75%, что делает модель более удобной для эффективного развертывания, в частности через vLLM. К ограничениям относятся возможные потери качества, связанные с квантизацией, а также отсутствие в README количественных результатов оценки и подробного перечня поддерживаемых языков. Лицензия модели — Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

Карточка модели Juanpa2414/Qwen3-235B-A22B-Thinking-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-235B-A22B-Thinking-2507, поэтому описание составлено по ней. Qwen3-235B-A22B-Thinking-2507 — большая языковая модель семейства Qwen3 от команды Qwen, построенная на архитектуре причинной MoE-модели. В ней 235 млрд параметров всего, из которых активируются 22 млрд; модель имеет 94 слоя и использует 8 из 128 экспертов на шаг. Она работает только в режиме рассуждения и рассчитана на генерацию текста и диалоговое взаимодействие, включая использование инструментов. Модель предназначена для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям и работы с длинными текстовыми контекстами. Нативная длина контекста составляет 262 144 токена. По сравнению с предыдущей версией Qwen3-235B-A22B-Thinking в карточке заявлены улучшения качества рассуждений и общих возможностей; независимые результаты в предоставленных данных не подтверждены. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache-2.0. Режим рассуждения увеличивает длину ответов и может быть избыточен для простых запросов; предоставленные данные не описывают конкретные ограничения качества или перечень поддерживаемых языков.

Qwen3-235B-A22B-Thinking-2507 — большая языковая модель семейства Qwen3 от команды Qwen, построенная на архитектуре причинной MoE-модели. В ней 235 млрд параметров всего, из которых активируются 22 млрд; модель имеет 94 слоя и использует 8 из 128 экспертов на шаг. Она работает только в режиме рассуждения и рассчитана на генерацию текста и диалоговое взаимодействие, включая использование инструментов. Модель предназначена для сложных задач логического рассуждения, математики, науки, программирования, следования инструкциям и работы с длинными текстовыми контекстами. Нативная длина контекста составляет 262 144 токена. По сравнению с предыдущей версией Qwen3-235B-A22B-Thinking в карточке заявлены улучшения качества рассуждений и общих возможностей; независимые результаты в предоставленных данных не подтверждены. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache-2.0. Режим рассуждения увеличивает длину ответов и может быть избыточен для простых запросов; предоставленные данные не описывают конкретные ограничения качества или перечень поддерживаемых языков.

Qwen3-30B-A3B-Instruct-2507-MLX-8bit — 8-битная квантованная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon через MLX. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях: диалоговых системах, подготовке и преобразовании текстов, ответах на вопросы и других задачах, поддерживаемых исходной instruct-моделью. README не содержит сведений о точной архитектуре, числе активируемых параметров, размере контекста, поддерживаемых языках и модальностях, поэтому эти характеристики нельзя достоверно уточнить. Ключевое преимущество модели — 8-битное представление, ориентированное на более эффективный запуск на Apple Silicon по сравнению с полноразмерной версией. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, а также типичные для генеративных моделей риски неточных, вредных или неподходящих ответов. Модель распространяется по лицензии Apache 2.0.

YOYO-AI/Qwen3-30B-A3B-Mixture-2507 — объединённая модель от YOYO-AI на архитектуре Qwen3 MoE. Она создана слиянием Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-30B-A3B-Instruct-2507 методом nuslerp; в README указаны параметры float32 для слияния и bfloat16 для выходных весов. Модель предназначена для диалогов, выполнения инструкций и генерации текста, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Метаданные указывают английский и китайский языки, активный размер — 2,6 млрд параметров, контекст — до 262 144 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Практическое качество и ограничения отдельно не описаны; характеристики унаследованных режимов Instruct и Thinking для объединённой модели не уточнены.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-nonuniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

YOYO-AI разработала Qwen3-30B-A3B-YOYO-AutoThink как диалоговую модель с автоматическим переключением между кратким ответом и более развёрнутым рассуждением. Она основана на объединении Qwen3-30B-A3B-Instruct-2507 и Qwen3-30B-A3B-Thinking-2507 методом arcee_fusion с последующей заменой экспертных весов из thinking-модели. Архитектура — Qwen3 MoE для генерации текста; репозиторий содержит веса safetensors. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов, а README также заявляет длину контекста 1 010 000 токенов без пояснения условий для этого значения. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с глубиной рассуждения, меняющейся в зависимости от сложности запроса; метаданные также отмечают интерфейс вызова инструментов. В карточке перечислены английский и китайский языки. Лицензия — Apache-2.0. README приводит рекомендованные параметры генерации: temperature 0.6, top_p 0.95 и top_k 20.

Qwen3.5-2B-text-only — текстовый вариант семейства Qwen3.5, опубликованный Principled Intelligence. Это плотная авторегрессионная языковая модель с архитектурой Qwen3_5ForCausalLM и примерно 1,7 млрд параметров. Из чекпойнта удалены веса визуального энкодера, поэтому он занимает меньше места и требует меньше видеопамяти, чем исходная мультимодальная версия. Модель предназначена для генерации текста и диалогов; заявленная длина контекста составляет 262 144 токена. Чекпойнт сохранён в формате safetensors и рассчитан на запуск через HuggingFace Transformers версии 5.2.0 или новее. По карточке, он сохраняет токенизатор, шаблон диалога и поведение генерации исходной модели, но не принимает изображения. Лицензия — Apache 2.0. Авторы описывают публикацию как лабораторный эксперимент, а поддержку vLLM, SGLang, llama.cpp, Ollama и других движков пока не заявляют.

RedHatAI/Qwen3.5-35B-A3B-FP8-dynamic — мультимодальная разреженная MoE-модель, созданная RedHatAI на основе Qwen/Qwen3.5-35B-A3B от Alibaba Cloud. Она принимает текст и изображения, а генерирует текст. Модель ориентирована на рассуждения, вызов инструментов, обработку визуально-текстовых запросов и обычные текстовые сценарии генерации и анализа. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются для отдельного запроса, и использует FP8-квантизацию весов и активаций. Квантизация выполнена с помощью LLM Compressor в формате compressed-tensors и предназначена для эффективного инференса через vLLM. В FP8 преобразованы линейные операторы трансформерных блоков, тогда как визуальный энкодер, некоторые компоненты attention и MoE, маршрутизатор экспертов и эмбеддинги сохранены в исходной точности. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Сильными сторонами модели являются сочетание языковых и визуальных возможностей, поддержка reasoning, tool calling, speculative decoding с Multi-Token Prediction и возможность запуска в текстовом режиме с освобождением памяти под KV-cache. Модель валидирована с vLLM 0.18.0, RHAIIS 3.4 и RHOAI 3.4. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна и численные результаты тестов, поэтому влияние квантизации на качество и ограничения по отдельным задачам оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Qwen-3.5-4B-Auto-ASVD — структурно факторизованная и дообученная языковая модель Kodjaoglanian на основе Qwen/Qwen3.5-4B. Она предназначена для генерации текста и диалогов; архитектура — плотная причинная Transformer-модель Qwen3.5 с гибридными слоями внимания и Gated DeltaNet. Веса сохранены в bfloat16, размер модели — 3,4 млрд параметров, длина контекста — до 262 144 токенов. При сокращении структуры автор применил Hessian-aware оценку чувствительности, Activation-Aware SVD и последующее восстановительное LoRA-дообучение на Wikitext-2. По README, факторизованы 64 матрицы проекций, а общее число параметров уменьшено примерно на 6,86% относительно целевых матриц; адаптеры объединены с весами, поэтому отдельный адаптер и специальные инференс-ядра не требуются. Модель использует стандартный интерфейс причинной языковой модели через Transformers. Карточка указывает английский язык. Базовая модель семейства Qwen описана как мультимодальная, но для этого репозитория подтверждены только текстовая генерация и чат, поэтому возможности понимания изображений или вызова инструментов не следует считать установленными. README предупреждает о возможном снижении качества на медицинских, юридических и специализированных задачах без дополнительной настройки. Лицензия — Apache-2.0.

RedHatAI/Qwen3.5-9B-FP8-dynamic — это квантованная версия мультимодальной модели Qwen3.5-9B, разработанная RedHatAI на базе Qwen/Qwen3.5-9B. Модель принимает текст и изображения, генерирует текст и предназначена для задач диалога, следования инструкциям, рассуждений и обработки визуально-текстовых запросов. Для развёртывания предусмотрена интеграция с vLLM; доступен также режим только языковой модели с меньшими требованиями к памяти. В модели применена динамическая FP8-квантизация весов и активаций линейных операторов в трансформерных блоках. Активации квантизуются во время вывода с использованием масштабирования по тензору, без калибровочных данных. Размер модели на диске сокращён с 19,3 до 14,0 ГБ, примерно на 27%. В README указана возможность запуска через vLLM с параметром максимальной длины контекста 262144 токена, однако отдельные сведения о языках модели не приведены. По опубликованным оценкам, квантованная версия сохраняет около 98,4–99,9% результатов исходной модели на тестах GSM8k-Platinum, MMLU-Pro, IFEval, Math 500, AIME 2025 и GPQA Diamond. Основные преимущества — уменьшенный объём хранения и потенциально более эффективный инференс при сохранении близкого к исходному качества. Ограничение заключается в небольшом снижении показателей на всех приведённых тестах; фактические требования к аппаратному обеспечению и производительность зависят от конфигурации. Модель распространяется по лицензии Apache-2.0.

CodeShield/Qwen3.5-9B-Instruct — инструкционная текстовая генеративная модель семейства Qwen, опубликованная на Hugging Face под организацией CodeShield. Модель предназначена для диалогового взаимодействия и генерации текста по инструкциям; для работы предполагается использование библиотеки Transformers. Из идентификатора модели следует размер порядка 9 млрд параметров и ориентация на instruction-tuning, однако подробности архитектуры, обучения и состава данных в доступных материалах не описаны. Модель может применяться для ответов на вопросы, ведения диалога, создания и преобразования текстов, а также в составе приложений на базе conversational AI. Лицензия, поддерживаемые естественные языки и длина контекста в предоставленных данных не указаны. README содержит шаблонную автоматически созданную карточку без результатов оценки и конкретных рекомендаций по использованию, поэтому модель следует дополнительно проверять на качество, безопасность и соответствие задачам перед применением.

techwithsergiu/Qwen3.5-text-9B-bnb-4bit — текстовая производная модели Qwen3.5-9B, подготовленная разработчиком techwithsergiu на основе text-only версии techwithsergiu/Qwen3.5-text-9B. Модель предназначена для генерации текста и диалоговых сценариев, а также для адаптации под специализированные задачи с помощью LoRA и QLoRA. Поддерживает режимы прямого ответа и пошагового рассуждения, указанные в README. Модель имеет размер 9B параметров и использует текстовый backbone, без visual tower, поэтому принимает только текстовые входные данные и не предназначена для обработки изображений. Backbone подвергнут 4-битному квантованию BNB NF4 с double quantization и вычислениями в bfloat16; веса lm_head сохранены в bf16 для повышения качества и стабильности вывода. Такое представление уменьшает требования к видеопамяти по сравнению с полноразмерной версией и упрощает использование в text-only LoRA fine-tuning. К ограничениям относятся отсутствие мультимодальных возможностей и отсутствие в README точных сведений о поддерживаемых языках и размере контекстного окна. Документация по тонкой настройке отмечена как находящаяся в разработке, хотя inference проверен, а применение с Unsloth и QLoRA заявлено как основной сценарий обучения. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Omnimerge-v4 — мультимодальная модель для диалога, программирования, рассуждений и работы с изображениями, созданная ManniX-ITA. Это слияние базовой Qwen/Qwen3.6-27B и трёх её дообученных вариантов методом DARE-TIES Omnimerge v2; в архитектуре Qwen3.5 используется плотная модель с условной генерацией. В репозитории указаны веса safetensors, библиотека Transformers и лицензия Apache-2.0. Модель принимает текст и изображения и генерирует текст; README также описывает отдельную MLX-VL-сборку для работы с изображениями и видео. В карточке приведены результаты тестов на генерации кода и вопросах научного уровня, но они зависят от конфигурации оценки. Автор сообщает о 27 млрд параметров для базовой модели; параметры контекста этой версии в предоставленных данных не приведены. README описывает уязвимость исходного слияния к небольшим изменениям MLP, влияющим на выдачу reasoning-тегов; в этой версии MLP сохранены от базовой модели. Указано, что это ограничивает часть улучшений в задачах программирования. Для запуска с поддержкой зрения в GGUF требуется совместимый mmproj-проектор; лицензия репозитория — Apache-2.0.

sakamakismile/Qwen3.6-27B-Text-NVFP4-MTP — текстовая NVFP4-квантизованная версия базовой модели Qwen/Qwen3.6-27B. Модель подготовлена пользователем sakamakismile с использованием pipeline GGUF-to-NVFP4-SM120 от Lna-Lab. Она предназначена для генерации текста и запуска через vLLM на GPU NVIDIA Blackwell с архитектурой SM120, включая сценарии со speculative decoding. Модель содержит около 27,78 млрд параметров, 64 слоя гибридной архитектуры с linear attention и full attention, а также один MTP-слой Multi-Token Prediction. Зрительная башня удалена, поэтому модель работает только с текстом. Поддерживаются английский, китайский, японский, корейский, французский, немецкий, испанский, итальянский, португальский, русский и арабский языки. Заявлен максимальный контекст до 256 тысяч токенов. Квантизация выполнена в формате modelopt NVFP4 с помощью nvidia-modelopt 0.43.0; MTP-компоненты и ряд других частей сохранены в bf16 для совместимости и эффективной спекулятивной генерации. К сильным сторонам относятся оптимизация под Blackwell, меньшие требования к памяти по сравнению с полноразмерной bf16-моделью, поддержка KV-кэша FP8 и рабочий MTP-механизм для ускорения декодирования. Ограничения — отсутствие обработки изображений, зависимость от совместимой версии vLLM и аппаратуры Blackwell, а также потенциальные ограничения по памяти при большом контексте и высокой конкуренции запросов. Модель распространяется по лицензии Apache-2.0.

FreedomAISVR выпустила GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled, дообученной на базе Qwen/Qwen3.6-35B-A3B с дистилляцией рассуждений Claude 4.7 Opus. Это текстовая MoE-модель для диалогов и генерации ответов; архитектура использует 35 млрд параметров, около 3 млрд из которых активны на токен. Контекст составляет 262 144 токена, поддержка изображений отсутствует. Эксперты квантизированы в MXFP4, остальные веса — в Q8_0, веса маршрутизатора хранятся в F32; файл GGUF занимает около 18,87 ГБ. Модель можно запускать через llama.cpp, например как сервер для диалогового приложения. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-imatrix-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B, подготовленная liodon-ai с использованием калибровки importance matrix (iMatrix). Базовую модель разработала команда Qwen компании Alibaba Cloud. Модель предназначена для локальной генерации текста, диалогов и выполнения инструкций через llama.cpp, Ollama, LM Studio и Jan. Модель использует MoE-архитектуру с 35 млрд параметров, из которых активно 3,5 млрд, и поддерживает контекст до 128K токенов. Доступны варианты квантизации от Q2_K до Q8_0, включая i-кванты IQ2_M, IQ3_M и IQ4_XS. iMatrix-калибровка повышает связность и качество следования инструкциям при низкой разрядности по сравнению со стандартной квантизацией, сохраняя меньший размер файлов. Ограничения зависят от выбранного варианта: более сильная квантизация снижает качество, а для запуска требуются от 6 до 36,9 ГБ памяти в зависимости от файла. Лицензия Apache 2.0.

unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.