II.7DevOps, облако и эксплуатация IT-систем

Карточка модели exolabs/Step-3.7-Flash-IQ4_XS-dequant-bf16-vllm на Hugging Face совпадает с карточкой stepfun-ai/Step-3.7-Flash, поэтому описание составлено по ней. StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Tess-v2.5 (Qwen2-72B) — разговорная языковая модель, созданная Migel Tissera и дообученная на базе Qwen2-72B. Она предназначена для диалога и генерации текста, включая рассуждения, программирование, математику и ответы на вопросы по широкому кругу тем. Архитектура — плотная Qwen2ForCausalLM, размер — 71,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и использует формат запросов ChatML. Для дообучения применён датасет Tess-v2.5 из 300 тысяч синтетических примеров по бизнесу, истории, социальным наукам, искусству, STEM и программированию; модель обучалась с Axolotl. Автор сообщает о сильных результатах на MMLU и AGIEval, однако эти заявления основаны на оценках автора. Модель не проходила RLHF или DPO и может выдавать неточные, вводящие в заблуждение, предвзятые или оскорбительные ответы. Лицензия указана как other, поэтому условия использования следует проверить в репозитории модели.

Мультимодальная диалоговая модель darkc0de/XORTRON.CriminalComputing.Qwen3.5-27B-Claude-Opus-4.6-Distill-darkc0de-heretic создана на базе unsloth/Qwen3.5-27B и дообучена на наборах данных с примерами рассуждений, включая данные, оформленные в стиле Claude Opus 4.6. Разработчик также применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 случаях из 100 против 92 из 100 у исходной модели для сравнения. Модель предназначена для диалогов общего назначения, программирования, творческого письма и визуального анализа. Архитектура Qwen3.5 — плотная модель с 27 млрд параметров; она принимает текст и изображения, поддерживает интерфейс вызова инструментов и выдаёт текст. Карточка рекомендует длину генерации до 32 768 токенов для обычных запросов и до 81 920 для сложных задач; это рекомендации по выходу, а не подтверждённая длина контекста. В README приведены результаты отдельных тестов, но они не гарантируют качество на других задачах. Снижение отказов означает, что модель может отвечать на запросы, которые базовая версия отклоняет. Лицензия — Apache-2.0.

BrainTransformers-3B-Chat — чат-модель на 3,1 млрд параметров от LumenScopeAI, построенная на архитектуре BrainGPTForCausalLM с использованием спайковых нейронных сетей (SNN). Она предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её контекст составляет до 32 768 токенов. В README приведены результаты на общих, математических, научных, программных и многоязычных бенчмарках, включая MMLU, GPQA, MATH и HumanEval. Текущая версия сохраняет часть вычислений с плавающей точкой; разработчики сообщают о планах оптимизации для более энергоэффективного SNN-оборудования. Лицензия — Apache-2.0.

Command A+ — флагманская модель Cohere для корпоративных агентных сценариев. Она принимает текст и изображения, поддерживает контекст длиной 192 тысячи токенов и нативный вызов инструментов со строгими схемами. Модель предназначена для многошаговых рабочих процессов, где требуется анализировать входные данные и обращаться к внешним инструментам. Доступный фрагмент карточки подтверждает поддержку текста и изображений, но не сообщает архитектуру, число параметров, языки, лицензию или ограничения. Поэтому эти характеристики нельзя надёжно описать.

unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit — это 4-битная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth и основанная на модели DeepSeek AI. Модель предназначена для диалоговых сценариев и задач, требующих рассуждений, включая математику, программирование и общую логику. Она поддерживает режимы с рассуждением и без него и работает через библиотеку Transformers. Модель имеет размер 8B параметров, однако README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекста. По заявленным данным, обновление DeepSeek-R1-0528 улучшает глубину рассуждений и результаты на сложных задачах; в частности, точность на AIME 2025 выросла до 87,5%. Для режима рассуждений не рекомендуется использовать жадное декодирование, поскольку это может снижать качество и приводить к повторениям. Для запуска требуется соблюдать рекомендованный шаблон чата и параметры генерации. Модель распространяется под лицензией MIT. README не приводит подробностей о возможных ограничениях качества, безопасности или применимости в критически важных сценариях.

unsloth/DeepSeek-R1-Distill-Qwen-32B-bnb-4bit — 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, опубликованная Unsloth на основе модели DeepSeek. Модель относится к семейству плотных языковых моделей, дистиллированных из DeepSeek-R1 и построенных на базе Qwen. Разработчики DeepSeek указывают, что эта версия предназначена для задач рассуждения и превосходит OpenAI o1-mini на ряде бенчмарков для плотных моделей. Модель ориентирована на решение сложных задач, включая математические рассуждения, программирование, пошаговый анализ и генерацию текста. В README заявлены способности, связанные с самопроверкой, рефлексией и построением длинных цепочек рассуждений. Указан размер 32B, библиотека Transformers и английский язык; сведения о поддерживаемых модальностях, размере контекста и точной архитектуре в предоставленных данных отсутствуют. Ключевое преимущество варианта — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полноразмерными весами, однако README не содержит точных характеристик производительности или качества именно этой квантованной сборки. Возможными ограничениями являются зависимость результатов от качества квантования и отсутствие подтверждённых данных о контекстном окне и мультиязычности. Модель распространяется по лицензии Apache-2.0.

kathisacutie/DeepSeek-V3.2 — текстовая генеративная модель на архитектуре DeepSeek V3.2, представленная как дообучение deepseek-ai/DeepSeek-V3.2-Exp-Base. В карточке заявлены эффективное рассуждение и работа в агентных сценариях, включая взаимодействие с инструментами. Модель использует механизм разреженного внимания DeepSeek Sparse Attention, рассчитанный на длинный контекст; размер указан как 37,6 млрд параметров, контекст — до 163 840 токенов. Модель предназначена для генерации текста, решения задач, требующих многошагового рассуждения, и сценариев, где агент использует инструменты. Для работы с сообщениями предусмотрен обновлённый формат чата с поддержкой вызова инструментов и режима рассуждения с инструментами; README отмечает, что шаблон Jinja не приложен. Репозиторий содержит веса в формате safetensors с FP8. Лицензия — MIT. README предупреждает, что парсер вывода рассчитан только на корректно сформированные строки и не исправляет ошибочный формат, поэтому для практического применения требуется надёжная обработка ошибок. Заявления об олимпиадных результатах и сравнении с другими моделями приведены авторами карточки и здесь не подтверждаются независимой оценкой.

DeepSeek-V4-Flash-0731-REAP37-native-MLX — это MLX-конверсия модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek. Модель предназначена для генерации текста, диалоговых приложений, агентских сценариев и вызова инструментов через формат DSML. Она работает только с текстом и не содержит компонентов для обработки изображений. Модель использует архитектуру deepseek_v4 с механизмом внимания HISA, hyper-connections и маршрутизацией экспертов: в 40 слоях применяется обучаемая маршрутизация, а в первых трёх — hash-routing. Из исходных 256 экспертов в каждом слое сохранено 163, что соответствует сокращению примерно на 36,7%. Размер модели на диске составляет около 96 ГБ против примерно 155 ГБ у исходного варианта с 304 млрд параметров. Сохранённая точность является штатной для исходных весов — дополнительное квантование не применялось; выжившие эксперты побитово совпадают с исходным checkpoint. Главное преимущество модели — уменьшенный размер при сохранении исходной 4-битной точности оставшихся весов, а также поддержка нативного вызова инструментов DSML. Модель рассчитана на запуск в экосистеме MLX и тестировалась с oMLX; также доступна через mlx_vlm. Ограничения включают отсутствие независимого сравнения с полной моделью на стандартных бенчмарках, поэтому качество следует проверять на собственных задачах. Лицензия — MIT, унаследованная от базовой модели.

Gemma 4 12B MXFP4 CRACK — мультимодальная модель на базе Google Gemma 4 12B Instruct, опубликованная dealignai. Это дообученная и квантизированная 4-битная версия с архитектурой Gemma4 Unified и гибридным скользящим и глобальным вниманием; автор заявляет поддержку изображений и аудио, многоязычность, рассуждения и генерацию кода. Модель предназначена для диалогов, ответов на вопросы, анализа изображений и аудио, многошаговых рассуждений и генерации кода; интерфейс также поддерживает вызов инструментов. README сообщает об удалении отказов и высокой готовности отвечать на запросы из вредоносных категорий HarmBench, при заявленном сохранении результата MMLU базовой модели. Эти показатели приведены автором и не являются независимой проверкой. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на Mac с Apple Silicon; стандартные mlx_lm и mlx_vlm, согласно README, поддерживают модель не полностью. Лицензия указана как Gemma; автор позиционирует публикацию как исследовательскую и возлагает на пользователей ответственность за соблюдение законов.

RedHatAI/GLM-5.3-MXFP4 — текстовая генеративная модель, разработанная RedHatAI на основе zai-org/GLM-5.3. Она предназначена для задач генерации текста, следования инструкциям и решения математических и других reasoning-задач. Модель принимает текст и возвращает текст, поддерживает английский и китайский языки и реализует архитектуру GlmMoeDsaForCausalLM. Размер модели и длина контекстного окна в README не указаны. Это квантизированная версия GLM-5.3 для инференса через vLLM. Веса и активации линейных операторов внутри transformer-блоков представлены в формате FP4 по схеме MXFP4 с микромасштабированием OCP; для весов используются формат e2m1, группы размера 32 и масштабы E8M0, а для активаций — динамическое масштабирование по группам. По сравнению с контрольной версией FP8 такая оптимизация примерно на 50% уменьшает размер на диске и требования к памяти GPU, при этом на заявленных тестах сохраняет большую часть качества FP8-модели. Наибольшее относительное снижение показателей отмечено на AIME 2025 и GPQA Diamond. Модель предназначена для развёртывания с vLLM; в README приведена конфигурация с FP8 KV-cache, четырьмя устройствами в tensor parallelism и speculative decoding. Квантизация выполнена методом model-free post-training quantization без калибровочных данных с использованием LLM Compressor, а модель экспортирована в формате compressed-tensors. Лицензия обозначена как glm-5.3, тип лицензии — other; дополнительные условия в README не раскрыты.

Granite 3.2 8B Instruct — языковая instruction-tuned модель семейства Granite, разработанная IBM (ibm-granite). Представленная версия — GGUF-квантизация исходной модели granite-3.2-8b-instruct, подготовленная bartowski с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, требующие развитых способностей к рассуждению. Модель имеет размер 8 миллиардов параметров и поддерживает контекст длиной до 128 тысяч токенов. Она работает с текстом и поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Формат GGUF ориентирован на локальный инференс в совместимых инструментах, включая llama.cpp и LM Studio. К сильным сторонам относятся большой контекст, многоязычность и настройка на задачи, связанные с рассуждением. Ограничения включают влияние квантизации на качество по сравнению с исходной моделью, а также возможность получать неточные, неподходящие или вводящие в заблуждение ответы. В README не указаны конкретные параметры квантизации и требования к аппаратным ресурсам. Модель распространяется по лицензии Apache 2.0.

JOSIE-4B-Instruct — разговорная instruction-following модель Гёкдениза Гюльмеза, созданная полновесным дообучением gabliterated-версии Qwen3-4B-Instruct-2507. Это плотная причинная языковая модель семейства Qwen3 с 3,7 млрд параметров; метаданные указывают контекст до 262 144 токенов. Модель предназначена для естественного диалога, практических ответов и повседневной помощи, а также для письма, мозгового штурма, объяснений, анализа и задач по программированию. Модель ориентирована на следование инструкциям и прямой, дружелюбный стиль общения без чрезмерной угодливости; карточка также заявляет сохранение способностей к рассуждению и отсутствие встроенной фильтрации контента. Поддерживаются английский, испанский, французский, португальский, итальянский, арабский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Модель распространяется по лицензии MIT. Её ответы могут быть неподходящими для части аудиторий; результаты в узкоспециализированных областях и критически важных сценариях требуют проверки, а стиль с эмодзи подходит не для всех формальных задач.

insraq/LFM2.5-2.6B-heretic — созданная с помощью Heretic v1.4.0 декензурированная версия языковой модели LiquidAI LFM2.5-2.6B. Это плотная гибридная текстовая модель семейства LFM2 для генерации текста и диалогов, содержащая 2,6 млрд параметров и рассчитанная на контекст до 128 000 токенов. По карточке исходная LFM2.5 обучена для локального и периферийного развёртывания, поддерживает многоязычный ввод и вывод, следование инструкциям и работу с инструментами. Модель подходит для агентных сценариев, вызова инструментов, извлечения данных, RAG и работы с длинным контекстом. В тесте из карточки версия Heretic дала 3 отказа из 100 против 95 из 100 у исходной модели; это указывает на снижение склонности к отказам, но не гарантирует корректность или безопасность ответов. Карточка не приводит отдельную лицензию этой производной модели; метаданные указывают лицензию «other».

Llama-Deepsync-3B — дообученная PrithivMLmods диалоговая языковая модель на архитектуре Llama 3.2, предназначенная для генерации текста с рассуждениями, решения задач и помощи в программировании. По карточке, модель умеет следовать инструкциям, создавать структурированные ответы, включая JSON, работать с таблицами и генерировать длинные тексты. Модель содержит 3,2 млрд параметров и поддерживает контекст до 131 072 токенов; заявленная длина генерации — до 8 000 токенов. README заявляет поддержку более 29 языков, а метаданные перечисляют английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель доступна в формате safetensors для Transformers и распространяется по лицензии CreativeML OpenRAIL-M. Модель подходит для диалоговых помощников, объяснения решений, программирования, математики и творческого письма. Заявления о повышении качества и поддержке языков приведены в карточке модели и не сопровождаются результатами оценки; фактическое качество может различаться в зависимости от задачи и языка.

mlx-community/Meta-Llama-3.1-70B-Instruct-4bit — 4-битная квантованная версия инструкционной большой языковой модели Llama 3.1, разработанной Meta и адаптированной сообществом mlx-community для экосистемы MLX. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые сценарии, ответы на вопросы, подготовку и преобразование текстов и другие задачи обработки естественного языка. Известно, что модель содержит 70 миллиардов параметров и работает в формате 4-bit quantization, что снижает требования к памяти по сравнению с полноразмерной версией и делает локальный запуск более доступным при совместимом оборудовании и программном обеспечении. Заявлены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В карточке указаны библиотеки Transformers и MLX, однако архитектура и размер контекстного окна не уточнены. Модель подходит для локального инференса и приложений, где важны качество инструкционного следования и многоязычная генерация. К ограничениям относятся высокие вычислительные требования, обусловленные размером 70B, возможные потери качества из-за 4-битного квантования и отсутствие в предоставленных данных сведений о мультимодальности, точных характеристиках производительности и контекстном окне. Использование регулируется Llama 3.1 Community License от Meta: при распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая указание «Built with Llama», сохранение уведомления об авторских правах и Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено получение отдельной лицензии Meta.

Rubra AI выпустила эту инструктивную версию Meta-Llama-3-70B, дополнительно обученную на собственном наборе данных для диалогов, выполнения инструкций и вызова функций. Модель предназначена для многошаговых бесед, в которых ассистент может вызывать инструменты и продолжать диалог с учётом полученных результатов. Это плотная авторегрессионная языковая модель архитектуры Llama с 69,5 млрд параметров. Она принимает текст и генерирует текст; карточка указывает поддержку английского языка и контекст до 8192 токенов. Модель доступна в формате safetensors для Transformers. Модель подходит для диалоговых ассистентов и сценариев с интеграцией инструментов. Она может выдавать ошибочные или предвзятые ответы, поэтому результаты требуют проверки, особенно в чувствительных и критически важных областях. Указана лицензия Llama 3 (llama3).

MaziyarPanahi/Mixtral-8x22B-Instruct-v0.1-GGUF — набор квантизированных моделей в формате GGUF, созданный и опубликованный MaziyarPanahi на основе Mixtral-8x22B-Instruct-v0.1 от Mistral AI. Это инструкционно дообученная большая языковая модель для генерации текста, диалогов и выполнения пользовательских инструкций, включая сценарии с вызовом функций и инструментов. Модель использует архитектуру Mixture of Experts (MoE) Mixtral с восемью экспертами размером 22B каждый; README не уточняет общий объём параметров, эффективное число активных параметров и размер контекста. Доступны варианты квантизации от 2 до 8 бит, а также 16-битный вариант. Указана поддержка английского, французского, испанского, итальянского и немецкого языков. Формат GGUF и совместимость с llama.cpp позволяют загружать модель локально, в том числе в виде сегментированных файлов, с выбором подходящего уровня квантизации. К сильным сторонам относятся широкий выбор уровней квантизации, возможность локального запуска и поддержка инструкционного режима и function calling. К ограничениям относятся потенциальные потери качества и точности при низкой битности, значительные требования к памяти для крупных вариантов, а также отсутствие в README подробных результатов оценки, сведений о производительности и ограничений безопасного использования. Модель распространяется по лицензии Apache-2.0.

Nemotron-3-Nano-Omni-AEON-Ultimate-Uncensored-BF16 — экспериментальная модификация мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 от AEON-7. Это вариант BF16 с удалённым механизмом отказов методом ортогонализации подпространства в остаточном потоке; модель предназначена для диалогов, рассуждений, генерации кода и работы с изображениями и аудио. Архитектура NemotronH сочетает Mamba2, attention и MoE; в мультимодальный стек входят зрительная башня RADIO и аудиоэнкодер Parakeet. Метаданные указывают поддержку английского языка и задач генерации текста и any-to-any. Автор сообщает, что мультимодальные веса сохранены без изменений, а в точечных проверках сохранились арифметика, перевод, код и другие навыки. При этом релиз помечен как альфа: внутренние испытания выявили зацикливание рассуждений, пустые или повторяющиеся ответы и ухудшение в многоходовых диалогах; разработчик рекомендует считать модель исследовательским артефактом. Лицензия в метаданных обозначена как other, поэтому условия использования следует уточнить по карточке модели.

Occiglot-7B-FR-EN-Instruct — генеративная языковая модель с 7 млрд параметров, разработанная исследовательским коллективом Occiglot при поддержке подразделений DFKI SAINT и SLT. Это instruct-версия модели occiglot-7b-fr-en, предназначенная для диалогового взаимодействия и выполнения инструкций на английском и французском языках, а также для работы с кодом. Модель доступна в формате GGUF и распространяется по лицензии Apache 2.0. Модель построена на архитектуре авторегрессионного decoder-only Transformer, а её токенизатор унаследован от Mistral-7B-v0.1. Для дообучения использовались 160 млн дополнительных токенов мультиязычных и кодовых инструкций, включая англоязычные и франкоязычные наборы Open-Hermes-2B, Bactrian-X, AI-Society Translated, GT-Dorimiti, OASST-2 и Aya-Dataset. Обучение выполнялось с контекстом 8192 токена и шаблоном диалогов ChatML. Сильная сторона модели — специализация на английском и французском языках при сохранении возможностей генерации кода и следования инструкциям. Она может применяться для чат-ботов, ответов на вопросы, генерации и преобразования текста, а также вспомогательных задач программирования. При этом проект позиционируется как открытое исследование, а README предупреждает, что модель не проходила safety alignment и может генерировать проблемный или небезопасный контент. Результаты оценки следует интерпретировать с осторожностью, поскольку часть неанглоязычных тестов основана на машинном переводе и англоязычных запросах.

Phi-4-mini-instruct-4bit — это 4-битная версия модели Phi-4-mini-instruct, разработанной Microsoft и преобразованная в формат MLX с использованием mlx-lm 0.21.5. Модель предназначена для генерации текста в диалоговом формате, решения задач обработки естественного языка и работы с кодом. Модель относится к семейству text-generation, поддерживает мультиязычные сценарии согласно карточке и использует базовую модель microsoft/Phi-4-mini-instruct. Ключевая особенность этой версии — 4-битное представление в формате MLX, что ориентировано на запуск через библиотеку mlx-lm. Архитектура, количество параметров, максимальная длина контекста и точный перечень языков в README не указаны. Сильными сторонами являются инструктивная настройка, поддержка диалогового шаблона и компактное 4-битное представление. Ограничения связаны с отсутствием в карточке подробных характеристик качества, производительности, размера модели и контекста; поэтому область применимости и результаты на конкретных задачах следует оценивать отдельно. Модель распространяется по лицензии MIT.

Mungert/Phi-4-mini-instruct-GGUF — набор GGUF-версий инструкционной языковой модели Phi-4-mini-instruct, разработанной Microsoft и опубликованный пользователем Mungert. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и кода. Доступны варианты для запуска на GPU, CPU и устройствах с ограниченной памятью. Представлены файлы в форматах BF16 и F16, а также квантованные варианты Q8_0, Q6_K, Q4_K, Q4_0 и IQ3. Квантование уменьшает потребление памяти ценой возможного снижения точности. Заявлена поддержка multilingual-сценариев и языков, включая английский, русский, китайский, японский, корейский, арабский, французский, немецкий, испанский, португальский, украинский и другие. Точный размер модели, архитектура, максимальная длина контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель. Сильные стороны набора — широкий выбор точности и размера файлов, возможность локального запуска на CPU или GPU и адаптация под устройства с разными ограничениями памяти. Более низкобитные варианты экономичнее, но могут уступать полноформатным версиям по качеству. В README не приведены результаты тестов, точные требования к памяти и подробные ограничения поведения модели. Лицензия — MIT.

mlx-community/Qwen2.5-14B-Instruct-bf16 — преобразованная в формат MLX модель Qwen2.5-14B-Instruct, подготовленная сообществом mlx-community для запуска на Apple Silicon. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, предназначенная для генерации текста в диалоговом режиме и интерфейса вызова инструментов. Метаданные указывают контекст до 32 768 токенов и поддержку английского языка; README описывает конвертацию из Qwen/Qwen2.5-14B-Instruct с помощью mlx-lm 0.18.1. Модель распространяется по лицензии Apache-2.0.

bunnycore/Qwen-2.5-7B-R1-Stock — слитая с помощью mergekit методом Model Stock языковая модель на архитектуре Qwen2. В основу объединения легла Qwen/Qwen2.5-7B-Instruct; также использованы DeepSeek-R1-Distill-Qwen-7B и модель Qwen-2.5-7b-rp-lora на базе Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции и задачи, где полезны возможности включённых базовых моделей. Доступна на английском языке; метаданные также указывают интерфейс вызова инструментов. Лицензия и специальные ограничения применения в предоставленных данных не описаны.

AMD Qwen3-235B-A22B-Instruct-2507-MXFP4 — текстовая instruction-tuned модель на архитектуре Qwen3MoeForCausalLM, созданная Advanced Micro Devices на базе Qwen/Qwen3-235B-A22B-Instruct-2507. Модель принимает текст и генерирует текст; в карточке указана поддержка английского языка. Обозначение модели относится к классу 235B с разреженной MoE-архитектурой и примерно 22B активных параметров, однако подробные архитектурные характеристики в README не приведены. Модель предназначена для задач генерации и понимания текста, включая диалоговые и инструкционные сценарии, а также развёртывание инференса на ускорителях AMD MI300 и MI350/MI355 под Linux. Она оптимизирована для SGLang и vLLM, использует AMD-Quark 0.11 и статическую квантизацию весов в OCP MXFP4 с динамической квантизацией активаций. В конфигурации оценки применялось максимальное окно 32768 токенов; это значение отражает проверенный сценарий запуска. На GSM8K модель получила 0,897 против 0,909 у исходной модели, что соответствует восстановлению 98,64% исходной точности. Квантизация снижает требования к памяти и ориентирована на эффективный инференс, но может немного ухудшать точность по сравнению с оригиналом. Для работы требуются совместимые AMD-ускорители, ROCm 7.0, PyTorch 2.8.0 и Transformers 4.57.0; поддержка других аппаратных платформ и языков в README не заявлена. Базовая лицензия — Apache-2.0; модификации AMD защищены авторским правом Advanced Micro Devices, Inc.

Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1 — экспериментальная модель на 9 млрд параметров, разработанная Jackrong на базе Qwen3.5-9B. Она обучена методом supervised fine-tuning с дистилляцией рассуждений из GLM-5.1, с использованием Unsloth и LoRA. В карточке также указан pipeline image-text-to-text, однако подробности о поддержке изображений не приведены. Модель предназначена для диалогов, следования инструкциям, многошагового рассуждения, математики, STEM-задач, программирования и исследовательских сценариев. Обучающие данные включают очищенные и отфильтрованные наборы с рассуждениями GLM-5.1 и Qwen3.5. Заявлены поддержка английского, китайского, японского и испанского языков, а также улучшенная декомпозиция задач, структурированность ответов и стабильность следования инструкциям. Ожидаемые преимущества модели — более последовательное решение сложных задач, организованная подача результатов и лучшее использование знаний базовой модели. При этом автор подчёркивает, что улучшения для модели такого размера, вероятно, будут постепенными, а не радикальными; подтверждённые количественные результаты и ограничения производительности в README не описаны. Модель распространяется по лицензии Apache-2.0 и ориентирована на локальный inference в формате GGUF, в том числе через llama.cpp. Размер контекста в карточке не указан.

FreedomAISVR публикует квантованную в NVFP4 модель Qwen3.5-9B-Instruct в формате GGUF. Это мультимодальная модель семейства Qwen на 9 млрд параметров для диалога и выполнения инструкций; карточка указывает поддержку генерации текста, понимания изображений, рассуждений и генерации кода. В архитектуре сочетаются GQA и MLA, чередование блоков SSM (Mamba-2), а для изображений используется визуальный энкодер SigLIP ViT с мультимодальным проектором. Режим рассуждений по умолчанию выключен. Квантование NVFP4 рассчитано прежде всего на ускорение инференса на GPU NVIDIA Blackwell с 4-битными тензорными ядрами. В репозитории есть текстовая модель размером 5,31 ГБ и проектор изображений F16 размером 0,92 ГБ. Для запуска с изображениями README описывает использование llama.cpp и отдельного файла проектора. Метаданные указывают лицензию Apache-2.0. Модель подходит для диалоговых помощников, ответов на вопросы об изображениях, программирования и многоязычных текстовых задач. README рекомендует традиционные форматы квантования для оборудования до поколения Blackwell, GPU AMD и CPU; качество и скорость этой сборки на иных конфигурациях не охарактеризованы. Языковая поддержка включает английский, китайский и другие языки, но основной язык для этой сборки не выделен.

techwithsergiu/Qwen3.5-text-9B-bnb-4bit — текстовая производная модели Qwen3.5-9B, подготовленная разработчиком techwithsergiu на основе text-only версии techwithsergiu/Qwen3.5-text-9B. Модель предназначена для генерации текста и диалоговых сценариев, а также для адаптации под специализированные задачи с помощью LoRA и QLoRA. Поддерживает режимы прямого ответа и пошагового рассуждения, указанные в README. Модель имеет размер 9B параметров и использует текстовый backbone, без visual tower, поэтому принимает только текстовые входные данные и не предназначена для обработки изображений. Backbone подвергнут 4-битному квантованию BNB NF4 с double quantization и вычислениями в bfloat16; веса lm_head сохранены в bf16 для повышения качества и стабильности вывода. Такое представление уменьшает требования к видеопамяти по сравнению с полноразмерной версией и упрощает использование в text-only LoRA fine-tuning. К ограничениям относятся отсутствие мультимодальных возможностей и отсутствие в README точных сведений о поддерживаемых языках и размере контекстного окна. Документация по тонкой настройке отмечена как находящаяся в разработке, хотя inference проверен, а применение с Unsloth и QLoRA заявлено как основной сценарий обучения. Модель распространяется по лицензии Apache-2.0.

Карточка модели spinochenza/Qwen3.6-35B-A3B-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/Qwen3.6-35B-A3B-uncensored-heretic, поэтому описание составлено по ней. llmfan46/Qwen3.6-35B-A3B-uncensored-heretic — мультимодальная чат-модель независимого автора, созданная на основе Qwen/Qwen3.6-35B-A3B. Это вариант с ослабленным отказом на запросы: в карточке приведено сравнение, где доля отказов составляет 10 из 100 против 83 из 100 у исходной модели. Модель предназначена для диалога, анализа изображений и сценариев агентного программирования с вызовом инструментов. Архитектура Qwen3.5 MoE содержит 35 млрд параметров, из которых активируется около 3 млрд; README также описывает языковую модель с визуальным энкодером и 262 144 токена нативного контекста, расширяемого до 1 010 000. Указаны возможности сохранения рассуждений в истории диалога и результаты тестирования MMLU, но эти сведения не гарантируют качество на конкретных задачах. Модель принимает текст и изображения и выдаёт текст. Файлы представлены в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. Поскольку модель специально снижает число отказов, она может отвечать на запросы, которые исходная модель отклоняет; ответы следует проверять, особенно в чувствительных сценариях.

Bazwilks/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-квантизированная языковая модель, опубликованная Bazwilks и основанная на Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking. В README также указаны разработки и методы DavidAU, включая обучение через Unsloth, датасеты TeichAI/claude-4.5-opus-high-reasoning-250x и DavidAU/PkDick-Deckard-5-Datasets, а также специальные процедуры квантизации NEO-CODE-Di-IMatrix-MAX. Модель предназначена для широкого круга задач: диалогов, рассуждений, программирования, математики, творческого письма, генерации сюжетов и сцен, ролевых сценариев и работы с текстами различных жанров. Заявлены английский и китайский языки, поддержка изображений через отдельный mmproj-файл и контекст до 256K токенов. Архитектура плотная, не MoE, содержит около 40 миллиардов параметров, 96 слоёв и 1275 тензоров; предусмотрен режим переменной длины рассуждений. К сильным сторонам относятся большой контекст, акцент на рассуждениях, коде и творческих задачах, а также набор квантизаций с разным компромиссом между качеством и требованиями к ресурсам. Модель позиционируется как uncensored и unfiltered, поэтому может генерировать небезопасный или NSFW-контент; это одновременно ограничение для сценариев с повышенными требованиями к модерации. Для работы с изображениями требуется совместимый mmproj-файл. Указанная лицензия — Apache-2.0.