II.3Рефакторинг, миграция и модернизация

Inkling-Small-NVFP4 — мультимодальная авторегрессионная модель, разработанная Thinking Machines и представленная в виде NVFP4-квантизованной версии модели Inkling-Small. Она принимает текст, изображения и аудио, а генерирует текст. Модель предназначена для разработчиков AI-приложений, включая агентные и tool-use системы, ассистентов программирования, чат-ботов и решения с retrieval-augmented generation, а также для диалогов, следования инструкциям и общих языковых и мультимодальных задач. Поддерживаются английский язык и, согласно описанию, общие мультиязычные сценарии, а также работа с несколькими языками программирования. Архитектура представляет собой 42-слойный decoder-only transformer с разреженным Mixture-of-Experts: из 256 экспертов для каждого токена выбираются 6, дополнительно активны 2 общих эксперта. Модель использует гибридные локальные и глобальные слои внимания, иерархический patch encoder для изображений и дискретное токенизирование аудио, объединяя модальности в общем скрытом пространстве. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд; поддерживается формат NVFP4, а исходная модель также выпускается в BF16. Для изображений рекомендован размер каждой стороны от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью желательно менее двух минут. Размер контекстного окна в README не указан. Модель доступна с открытыми весами для исследований, дообучения и интеграции в сторонние продукты, а также может запускаться локально через совместимые инструменты экосистемы Transformers. К сильным сторонам относятся мультимодальность, MoE-архитектура с небольшим числом активных параметров и поддержка сценариев, требующих обработки текста, изображений и аудио. Ограничениями являются высокая общая параметрическая ёмкость и требования к инфраструктуре, а также отсутствие в предоставленном описании подробных результатов бенчмарков и точных характеристик контекста. Лицензия — Apache 2.0; дополнительно для использования действует политика допустимого применения разработчика.

Klear-46B-A2.5B-Instruct — инструктивная версия разреженной языковой модели семейства Klear, разработанная командой Kwai-Klear компании Kuaishou и дообученная с помощью DPO на базе Kwai-Klear/Klear-46B-A2.5B-Base. Архитектура MoE содержит 46 млрд параметров, из которых при генерации активны около 2,5 млрд; в каждом слое задействуются 8 экспертов и один общий эксперт. Модель принимает текст и генерирует текст в диалоговом формате, поддерживает китайский и английский языки и контекст до 65 536 токенов. Модель предназначена для диалогов, следования инструкциям и генерации текста, включая задачи общего характера, программирование и рассуждения. Разреженная активация экспертов рассчитана на повышение эффективности инференса по сравнению с плотной моделью сопоставимого общего размера. Для запуска README указывает Transformers версии 4.56.0 или новее с trust_remote_code=True, а для vLLM — форк разработчиков. Модель распространяется по лицензии Apache-2.0.

Llama-3.3-70B-Instruct-FP8-dynamic — это 70-миллиардная инструкционно дообученная языковая модель Meta на архитектуре Llama 3.3, опубликованная RedHatAI в динамически квантизованном варианте FP8 и адаптированная FuriosaAI для запуска на аппаратуре FuriosaAI RNGD с использованием Furiosa-LLM. Модель предназначена для автодополнения текста, многоязычного диалога, выполнения инструкций и вызова инструментов через функции. Модель работает с текстом на входе и выходе, поддерживает английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий языки. Это плотный autoregressive Transformer; веса линейных слоёв квантизованы в FP8, а активации квантизуются динамически для каждого токена во время инференса. Поддерживается tool calling через парсер llama3_json. Для запуска на RNGD используется tensor parallelism с 32 PE, что соответствует четырём картам RNGD. Сильные стороны модели — сочетание большого размера, инструкционного обучения, многоязычности, поддержки вызова инструментов и сниженных требований к вычислительным ресурсам благодаря FP8-квантизации. Ограничения включают необходимость совместимой инфраструктуры для запуска оптимизированной версии: Furiosa-LLM и аппаратуры FuriosaAI RNGD; в README не указаны размер контекстного окна, результаты бенчмарков и подробные ограничения безопасности. Модель распространяется по лицензии Llama 3.3 Community License.

Llama TI 8B Instruct — дообученная и объединённая модель на основе Meta Llama 3.1 8B Instruct, разработанная и опубликованная ehristoforu. Она использует плотную архитектуру LlamaForCausalLM и предназначена для диалогов и генерации текста; заявленный размер — 8,03 млрд параметров, а длина контекста — до 131 072 токенов. Автор сообщает об улучшениях в математике, физике, биологии, логическом рассуждении и творческом письме. Модель также подходит для программирования и анализа длинных текстов, а интерфейс поддерживает чат и вызов инструментов. В карточке перечислены возможности на английском и работа с кодом; автор отдельно заявляет о письме на многих языках. Модель распространяется в формате Safetensors под лицензией Apache-2.0. Заявленные улучшения приведены в карточке без количественных результатов оценки, поэтому их качество на конкретных задачах следует проверять отдельно.

Mungert/Meta-Llama-3-8B-Instruct-GGUF — это версия инструкционно дообученной языковой модели Meta Llama 3, подготовленная пользователем или организацией Mungert в формате GGUF. Базовую модель разработала Meta. Она предназначена для генерации текста по инструкциям и диалоговых сценариев; в карточке указана специализация text-generation и поддержка английского языка. Из идентификатора следует, что модель относится к семейству Llama 3 с размером около 8 миллиардов параметров и ориентирована на локальный инференс в совместимых инструментах, поддерживающих формат GGUF. Точные характеристики архитектуры, размер контекста, варианты квантования, системные требования и перечень модальностей в README не указаны; по доступным данным модель является текстовой и не предназначена для обработки изображений или других мультимодальных входов. Лицензия — Meta Llama 3 Community License: она допускает использование, копирование, модификацию и распространение с установленными условиями, включая соблюдение Acceptable Use Policy, указание атрибуции и требований к маркировке продуктов. Для крупных сервисов с более чем 700 миллионами месячных пользователей предусмотрено получение отдельного разрешения Meta.

MaziyarPanahi/Mistral-Large-Instruct-2411-GGUF — это набор файлов модели в формате GGUF для Mistral-Large-Instruct-2411, разработанной компанией mistralai и преобразованной в GGUF пользователем MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях и сервисах, совместимых с GGUF. Формат GGUF поддерживается llama.cpp и рядом библиотек и интерфейсов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, candle и ctransformers. Это позволяет запускать модель локально, в том числе с аппаратным ускорением и через OpenAI-совместимые серверы, в зависимости от выбранного инструмента. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Сведения об архитектуре, количестве параметров, поддерживаемых языках, размере контекста, точных характеристиках вариантов квантования и лицензии в README не указаны. Поэтому пригодность конкретного варианта для определённых задач и аппаратной конфигурации следует оценивать отдельно.

Mistral-Small-Instruct-2409 — плотная языковая модель на 22 млрд параметров от команды Mistral AI, дообученная следовать инструкциям. Она предназначена для диалогов, генерации текста и вызова функций в приложениях и inference-сервисах. Модель поддерживает контекст до 32 768 токенов и, согласно карточке, функцию вызова инструментов; для запуска рекомендуются vLLM или mistral-inference. Для работы на одном GPU требуется не менее 44 ГБ видеопамяти, либо можно распределить нагрузку между несколькими устройствами. В карточке перечислена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Репозиторий содержит веса Safetensors. Лицензия указана как other, поэтому условия использования следует проверять в материалах модели на Hugging Face.

Qwen2-1.5B-Instruct — инструктивно дообученная языковая модель из серии Qwen2, разработанной командой Qwen. Она предназначена для диалогов и генерации текста по пользовательским инструкциям, включая задачи понимания языка, программирования, математики и рассуждений. Модель содержит 1,5 млрд параметров, использует плотную архитектуру Transformer с декодером Qwen2 и поддерживает контекст до 32 768 токенов. В карточке отмечены улучшенный токенизатор для нескольких естественных языков и кода, а также конкурентные результаты на тестах понимания, генерации, программирования и математики. Репозиторий содержит веса safetensors; для работы с библиотекой Transformers рекомендуется версия 4.37.0 или новее. Модель распространяется по лицензии Apache-2.0.

nvidia/Qwen3-32B-NVFP4 — текстовая авторегрессионная языковая модель на базе Qwen3-32B, разработанной Alibaba. NVIDIA подготовила её квантованную версию с использованием TensorRT Model Optimizer v0.35.0; при этом модель не является собственной разработкой NVIDIA. Она предназначена для коммерческого и некоммерческого применения, включая AI Agent-системы, чат-боты, RAG-системы и другие приложения на основе генеративного ИИ. Модель использует архитектуру Transformers и содержит 32,8 млрд параметров. Она принимает и генерирует текстовые последовательности, поддерживает контекст длиной до 131 тысячи токенов. В рамках посттренировочной квантования веса и активации линейных операторов в трансформерных блоках преобразованы в формат FP4, что ориентировано на эффективный инференс. Указанная конфигурация предназначена для запуска с TensorRT-LLM на GPU NVIDIA, включая архитектуру Blackwell, преимущественно в среде Linux. К сильным сторонам относятся большой контекст, высокая ёмкость базовой модели и оптимизация FP4 для аппаратно ускоренного инференса. По приведённым результатам, относительно эталонной версии BF16 качество на MMLU Pro и AIME 2024 немного ниже, на SciCode сопоставимо или немного выше, а на MATH-500 совпадает; однако результаты не охватывают все сценарии применения. README не содержит сведений о поддерживаемых естественных языках, полном наборе ограничений, данных обучения и характеристиках производительности вне тестовой конфигурации. Лицензия — Apache License 2.0.

unsloth/Qwen3.5-4B-GGUF — компактная мультимодальная модель семейства Qwen3.5, разработанная командой Qwen и подготовленная в формате GGUF компанией Unsloth. Она предназначена для локального запуска, а также для задач, связанных с обработкой текста и изображений: рассуждений, программирования, визуального понимания и агентских сценариев. Модель поддерживает 201 язык и диалект. Это каузальная языковая модель с vision-энкодером и гибридной архитектурой, объединяющей Gated Delta Networks, Gated Attention и разреженный Mixture-of-Experts. Модель содержит около 4 млрд параметров, 32 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 010 000 токенов. Указанные характеристики делают её ориентированной на эффективный инференс с относительно низкими требованиями к ресурсам, однако фактическая скорость и доступный контекст зависят от используемого движка и оборудования. Сильные стороны модели — сочетание текстовых и визуальных возможностей, широкий языковой охват, длинный контекст и пригодность для локального развертывания и дообучения с помощью Unsloth. Ограничения, включая качество на конкретных языках, типах изображений и прикладных задачах, в README подробно не описаны и требуют самостоятельного тестирования. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — текстовая генеративная модель, разработанная Jackrong на базе Qwen/Qwen3.5-9B. Она дообучена методом supervised fine-tuning с применением LoRA и дистилляции рассуждений из источников, связанных с Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Модель предназначена для задач, требующих структурированного анализа, декомпозиции, планирования, многошагового вывода и отслеживания ограничений. Модель относится к семейству Dense и содержит около 9 млрд параметров. Она работает в режиме text-generation и ориентирована на текстовые запросы и ответы. В README заявлена поддержка английского, китайского и корейского языков. Обучающие данные охватывают математику, логику, программирование, системный анализ, безопасность, физику, инженерию, право, медицину, финансы, химию и прикладные социальные задачи. Размер контекстного окна и другие параметры инференса не указаны. Сильными сторонами модели считаются более организованный стиль рассуждений, улучшенное решение сложных многошаговых задач, междисциплинарное покрытие и ориентация на анализ атак, отказов и ограничений. При этом дистилляция и специализированное дообучение могут ухудшать обобщение на отдельных сценариях или приводить к частичному забыванию знаний базовой модели, поэтому модель следует оценивать на собственных данных перед применением. Модель распространяется по лицензии Apache-2.0.

Rombo-LLM-V2.5-Qwen-7b — дообученная разработчиком Rombo-Org языковая модель на архитектуре Qwen2, основанная на Qwen/Qwen2.5-7B-Instruct. В README указано, что модель получена непрерывным дообучением и объединением instruct- и базовой версий методом TIES; заявлено повышение производительности относительно исходных моделей. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов. Максимальная длина контекста составляет 131 072 токена. В метаданных указаны интерфейс вызова инструментов и формат весов safetensors; README также упоминает наличие квантованных версий GGUF. Модель опубликована по лицензии Apache-2.0.

Spark-X2.5-4B-OptiQ-4bit — это локально запускаемая MLX-квантизированная версия модели XHToken/Spark-X2.5-4B, подготовленная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для диалогов, программирования, вызова инструментов и агентских сценариев, особенно на компьютерах Apple Silicon без PyTorch и облачных сервисов. Она поддерживает текстовую генерацию и заявляет поддержку более 200 языков. Модель использует плотную архитектуру Spark-X2.5 с 4 млрд параметров и нативным контекстом до 1 млн токенов. Квантизация смешанной точности преимущественно 4-битная: чувствительные слои хранятся в 8-битном формате, остальные — в 4-битном; размер весов на диске составляет около 2,8 ГБ. Для KV-кэша предусмотрена отдельная смешанная точность. Архитектура включает полное внимание только в девяти слоях, а остальные используют скользящее окно размером 512 токенов, что снижает рост потребления памяти при длинных запросах. Сильные стороны модели — компактный размер, эффективный локальный запуск, длинный контекст и сохранение качества за счёт чувствительной к слоям квантизации. В приведённых тестах смешанная квантизация превзошла равномерную 4-битную по среднему Capability Score, а также показала улучшения в MMLU, GSM8K, BFCL, HumanEval и HashHop; в IFEval результат немного снизился. Модель требует установки mlx-optiq и импорта optiq перед загрузкой, поскольку стандартный mlx-lm не распознаёт тип spark2_5. Лицензия — Apache 2.0, унаследованная от базовой модели.

ThinkingCap Qwen3.8 27B — дообученная Bottlecap AI мультимодальная модель на базе Qwen/Qwen3.8-27B, предназначенная для диалогов, сложных задач с рассуждениями и агентных сценариев. Она принимает текст и изображения и выдаёт текст; карточка относит её к задаче image-text-to-text и отмечает поддержку vision и chat. В тестах авторов модель сохраняла среднюю точность, близкую к базовой, при сокращении числа токенов рассуждения в среднем на 37%; на задачах длинного контекстного поиска точность сохранилась и число токенов рассуждения снизилось на 39%. Авторы рекомендуют режим reasoning_effort=xhigh. Модель распространяется в формате safetensors через Transformers; лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и базовой модели перед внедрением.

Darwin-35B-A3B-Opus — мультимодальная модель типа mixture-of-experts, разработанная командой FINAL-Bench и опубликованная в GGUF-квантизациях пользователем bartowski. Модель предназначена для генерации текста, сложных рассуждений, работы с мультиязычными запросами, задачами программирования, агентскими сценариями и вызовами инструментов. Заявлена поддержка обработки изображений и текста, а также длинного контекста до 262 тысяч токенов. Модель содержит 35 миллиардов параметров, из которых около 3 миллиардов активируются на один запрос, однако конкретные архитектурные детали в README не указаны. Заявлена поддержка 201 языка; среди явно перечисленных — английский, китайский, корейский, японский, немецкий, французский, испанский, русский и арабский. В качестве ориентиров приведены непроверенные результаты: 90% на GPQA Diamond и 85% на MMMLU. Доступны варианты от BF16 и Q8_0 до более компактных IQ4 и Q4, причём README рекомендует ряд Q4–Q6-квантизаций как компромисс между качеством и размером. Сильными сторонами модели являются заявленные продвинутые способности к рассуждению, мультимодальность, многоязычность, поддержка длинного контекста и широкий выбор квантизаций для локального запуска через llama.cpp и совместимые приложения. Ограничения включают крупные требования к дисковому пространству и вычислительным ресурсам, зависимость возможностей от используемого варианта квантизации и отсутствие подтверждённых в README результатов тестирования. Модель и её квантизации распространяются по лицензии Apache-2.0.

Granite-3.3-2B-Base — базовая языковая модель, разработанная командой Granite компании IBM. Это плотный decoder-only трансформер с 2,5 млрд параметров и контекстом до 131 072 токенов. Архитектура включает GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Поддержка Fill-in-the-Middle позволяет генерировать фрагмент текста с учётом контекста до и после него, в том числе для автодополнения кода. Модель предназначена для генерации текста, суммаризации, классификации и извлечения информации, ответов на вопросы и работы с длинным контекстом. Она обучена на данных из веба, кода, академических источников, книг и математики, а также на многоязычных, инструкционных и синтетических длинноконтекстных данных. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель выпущена под лицензией Apache 2.0. Она не прошла safety-выравнивание, поэтому может генерировать проблемный контент; возможны предвзятость, недостоверные ответы и дословное воспроизведение обучающих данных.

Saxo/Linkbricks-Horizon-AI-Avengers-V2-32B — многоязычная языковая модель Linkbricks, дообученная на базе Saxo/Linkbricks-Horizon-AI-Avengers-V1-32B методами SFT и предпочтительной оптимизации. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров и контекстом до 32 768 токенов; веса доступны в формате Safetensors, библиотека — Transformers. Модель предназначена для диалога и генерации текста, перевода между корейским, японским, китайским и английским языками, суммаризации, анализа отзывов и публикаций в соцсетях, написания текстов и кода, а также решения математических и логических задач. В карточке заявлена поддержка вызова функций и инструментов. Обучение включало многоязычные новостные и вики-корпуса, а также данные по задачам; токенизатор оставлен от базовой модели. Модель ориентирована прежде всего на корейский и другие восточноазиатские языки вместе с английским. Качество может различаться между языками и типами задач; описание не приводит количественных результатов оценки. Лицензия — Apache-2.0.

furiosa-ai/Meta-Llama-3.1-8B-Instruct-FP8-dynamic — это инструкция-ориентированная языковая модель Meta Llama 3.1 с 8 млрд параметров, подготовленная для диалогов на естественном языке, выполнения инструкций и вызова инструментов. Модель представляет собой плотный авторегрессионный Transformer, работает с текстом на входе и выходе и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Квантованная версия FP8-dynamic опубликована RedHatAI на основе Meta Llama 3.1 8B Instruct, а данный репозиторий дополнительно содержит пакет Furiosa Executable Bundle для запуска на аппаратном обеспечении FuriosaAI RNGD через Furiosa-LLM. Линейные веса Transformer-блоков используют статическое квантование FP8, а активации динамически квантуются в FP8 для каждого токена во время инференса, без предварительной офлайн-калибровки. Модель поддерживает вызов функций через парсер llama3_json и рассчитана на параллелизм по 8 processing elements на одной карте RNGD. Основной сценарий использования — развёртывание текстового диалогового сервиса через OpenAI-совместимый API Furiosa-LLM; также заявлена совместимость с другими фреймворками, включая vLLM, SGLang и Transformers. Ограничения по размеру контекста в предоставленных данных не указаны. Модель распространяется по лицензии Llama 3.1 Community License.

SillyTilly/mistralai_Mistral-Nemo-Instruct-2407 — разговорная instruct-модель, созданная на основе Mistral-Nemo-Base-2407 совместно Mistral AI и NVIDIA. Это трансформер Mistral с плотной архитектурой и 12,1 млрд параметров, дообученный следовать инструкциям и вести диалог. Модель предназначена для генерации ответов, выполнения инструкций и вызова функций. Она обучалась на многоязычных данных и коде; карточка заявляет окно контекста 128 тыс. токенов, тогда как метаданные указывают 1 024 000 нативных токенов. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Модель задумана как замена Mistral 7B и может применяться в чат-ботах и текстовых помощниках. Модель выпущена по лицензии Apache 2.0. В карточке она названа демонстрацией возможностей дообучения базовой модели; указано, что у неё нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

Phi-4-mini-instruct — компактная языковая модель Microsoft семейства Phi-4 с архитектурой Phi-3 и 3,8 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-материалах, а затем дообучена с учителем и оптимизирована по предпочтениям для следования инструкциям и повышения безопасности. Метаданные указывают контекст 4096 токенов; в README заявлен контекст до 128K токенов. Модель предназначена для диалоговых и генеративных приложений общего назначения, особенно при ограниченных вычислительных ресурсах или требованиях к низкой задержке. Среди заявленных сильных сторон — рассуждения, в особенности математические и логические задачи, следование инструкциям, работа с кодом и интерфейс вызова инструментов. Поддерживается многоязычная работа, включая русский и английский; качество может различаться между языками. Модель принимает текст и генерирует текст. Она выпущена под лицензией MIT. README предупреждает о возможных ошибках и вредных ответах, уязвимости к длительным многоходовым jailbreak-атакам и галлюцинациях имён функций или URL при вызове инструментов; для конкретных сценариев рекомендуется оценивать точность, безопасность и справедливость.

AtomicChat/Qwen2.5-7B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct, подготовленная Atomic Chat из оригинальных весов Qwen. Модель предназначена для генерации текста, диалоговых приложений и локального офлайн-использования через совместимые инструменты, включая llama.cpp, Ollama, LM Studio и Jan. Модель имеет 7,6 млрд параметров, 28 слоёв и архитектуру плотного декодера Qwen2ForCausalLM с гибридным вниманием: sliding-window attention и глобальным вниманием. Заявленная длина контекста составляет 32 768 токенов, размер словаря — 152 064 токена. Поддерживается только текстовый ввод и вывод; заявлена многоязычная работа более чем с 29 языками, включая китайский, английский, французский, испанский, немецкий, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий содержит варианты GGUF-квантизации Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0. Квантизация с importance matrix помогает сохранить качество исходной модели при уменьшении размера; Q4_K_M рекомендуется как компромисс между размером, скоростью и качеством, а Q8_0 обеспечивает практически исходную точность, но требует около 8,1 ГБ. Ограничения связаны с потерями качества у низкобитных вариантов и необходимостью применять шаблон чата Qwen2.5; в llama.cpp следует использовать параметр --jinja. Исходная модель распространяется по лицензии Apache 2.0; квантизация выполнена Atomic Chat.

RedHatAI/Qwen3.5-35B-A3B-FP8-dynamic — мультимодальная разреженная MoE-модель, созданная RedHatAI на основе Qwen/Qwen3.5-35B-A3B от Alibaba Cloud. Она принимает текст и изображения, а генерирует текст. Модель ориентирована на рассуждения, вызов инструментов, обработку визуально-текстовых запросов и обычные текстовые сценарии генерации и анализа. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются для отдельного запроса, и использует FP8-квантизацию весов и активаций. Квантизация выполнена с помощью LLM Compressor в формате compressed-tensors и предназначена для эффективного инференса через vLLM. В FP8 преобразованы линейные операторы трансформерных блоков, тогда как визуальный энкодер, некоторые компоненты attention и MoE, маршрутизатор экспертов и эмбеддинги сохранены в исходной точности. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Сильными сторонами модели являются сочетание языковых и визуальных возможностей, поддержка reasoning, tool calling, speculative decoding с Multi-Token Prediction и возможность запуска в текстовом режиме с освобождением памяти под KV-cache. Модель валидирована с vLLM 0.18.0, RHAIIS 3.4 и RHOAI 3.4. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна и численные результаты тестов, поэтому влияние квантизации на качество и ограничения по отдельным задачам оценить нельзя. Модель распространяется по лицензии Apache-2.0.

FastFlowLM/Qwen3.5-9B-NPU2 — мультимодальная каузальная языковая модель с vision encoder, основанная на Qwen/Qwen3.5-9B. Модель предназначена для обработки текста и изображений, включая задачи рассуждения, программирования, работы с агентами и визуального понимания. Она поставляется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 9 млрд параметров, 32 слоя и использует гибридную архитектуру Gated Delta Networks со sparse Mixture-of-Experts и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта, однако подробные сведения о распределении качества между языками в README не приведены. Сильными сторонами являются мультимодальность, длинный контекст, высокая эффективность архитектуры и ориентация на производительный инференс с низкой задержкой. Ограничения, требования к аппаратному обеспечению и характеристики варианта NPU2 отдельно не описаны; приведённые результаты тестов относятся к базовой Qwen3.5-9B и не обязательно отражают поведение FastFlowLM/Qwen3.5-9B-NPU2. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.6-35B-A3B-FP8-dynamic — мультимодальная модель семейства Qwen3.6 с архитектурой mixture-of-experts (MoE), разработанная RedHatAI на основе Qwen/Qwen3.6-35B-A3B от Alibaba Cloud. Модель принимает текст и изображения, а генерирует текст; заявлены улучшенные возможности рассуждений, вызова инструментов и обработки визуально-языковых запросов. Точные поддерживаемые языки и размер контекстного окна в представленном README не указаны. Модель оптимизирована для инференса в vLLM с помощью динамической FP8-квантизации весов и активаций. Квантизация применяется к линейным слоям трансформерных блоков, тогда как визуальный энкодер, MoE-маршрутизатор, общие эксперты, эмбеддинги и некоторые другие компоненты сохраняются в исходной точности. Это примерно на 50% снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Поддерживаются текстовый и мультимодальный режимы, вызов инструментов, рассуждения и speculative decoding с Multi-Token Prediction. Модель распространяется по лицензии Apache 2.0; в README подтверждена валидация для vLLM 0.18.0, RHOAI 3.4 и RHAIIS 3.4.

Qwen3.8-27B-4bit-MLX-TextOnly — текстовая 4-битная квантованная версия модели Qwen3.8-27B, разработанной командой Qwen. Модель преобразована в формат MLX с использованием mlx-lm 0.31.2 и предназначена для запуска в экосистеме MLX и mlx-lm. Она поддерживает генерацию текста, диалоговые сценарии, рассуждения, использование инструментов и работу с длинным контекстом; заявлена как многоязычная. Модель содержит около 27 миллиардов параметров в исходной версии и использует weight-only-квантование до 4 бит с group size 64, affine- и RTN-подходами. Это текстовая модель без vision tower: возможности обработки изображений удалены, поэтому она работает только с текстом. К сильным сторонам относятся уменьшенный объём весов и пригодность для локального запуска в MLX, а ограничением — отсутствие мультимодальных возможностей и потенциальная потеря точности по сравнению с полной моделью из-за квантования. Точная длина контекста в README не указана. Распространяется по лицензии Apache-2.0.

KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS — мультимодальная производная модель на базе Qwen/Qwen3.8-27B. Она сохраняет гибридную текстово-визуальную архитектуру исходной модели, имеет 27 млрд параметров и распространяется в формате BF16 Safetensors, а также в нескольких текстовых вариантах GGUF. Модель заявлена как многоязычная и предназначена для диалогов, генерации и анализа текста, программирования, работы с JSON, объяснений, математических задач и обработки изображений. Для запуска в Transformers рекомендуется около 56 ГБ памяти под веса без учёта служебных расходов и KV-кэша; в примере для Ollama указан контекст 32768 токенов, но это не подтверждает максимальный контекст модели. Основная особенность версии PHILADELPHIA CLASS — существенное снижение отказов от ответа. По внутренним автоматизированным проверкам авторов, модель не отказала в 842 основных и 126 отложенных запросах, а также прошла 23 из 24 проверок связности; эти результаты не являются независимым аудитом или публичными бенчмарками, причём часть тестовых запросов использовалась при настройке преобразования. Возможные ограничения включают отсутствие гарантии сохранения исходных показателей рассуждений, точности, программирования и компьютерного зрения, зависимость поведения от квантования и серверной части, а также отсутствие MTP-головы, из-за чего недоступно спекулятивное декодирование на её основе. Safetensors предназначен для проверенного мультимодального режима, тогда как GGUF-файлы являются текстовыми и требуют отдельного совместимого vision projector для работы с изображениями. Модель выпущена по лицензии Apache License 2.0.

Qwen3.8-27B-NVFP4-MTP-GGUF — квантизированная версия модели Qwen3.8-27B от Qwen, подготовленная Avifenesh как артефакт сервинга для движка tiyuvta. Модель предназначена для генерации текста, диалоговых и агентных сценариев, включая вызов инструментов и работу с рассуждениями. Артефакт ориентирован на GPU NVIDIA Blackwell и поддерживает спекулятивное декодирование с MTP (multi-token prediction). Модель использует 4-битную квантизацию NVFP4 с масштабами FP8 для каждого блока из 16 значений; эмбеддинги и выходная голова имеют формат Q5_K, нормы — F32. В файл встроена MTP-голова NextN, а дополнительные masked draft heads позволяют ускорять декодирование. Указан текстовый контекст до 262 144 токенов, словарь содержит 248 320 токенов, встроен chat template с поддержкой tool calling и thinking blocks. В этой сборке нет upstream VL tower, поэтому визуальная модальность не поддерживается. Сильные стороны модели — большой контекст, совместимость с GGUF, низкое потребление памяти благодаря квантизации и возможность ускоренного декодирования. В README приведены измерения производительности на RTX PRO 6000 Blackwell и RTX 5090 Laptop, однако скорость зависит от длины вывода и нагрузки. Masked MTP-голова ограничивает множество кандидатов только на этапе чернового предсказания и, согласно описанию, не изменяет итоговый вывод; артефакт требует движка, поддерживающего соответствующие MTP-файлы и спекулятивное декодирование. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3.8-Flash-Next-AWQ-INT4 — квантованная версия Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers. Модель предназначена для генерации и понимания текста, агентских сценариев, задач STEM, а также мультимодальных задач с изображениями благодаря архитектуре языковой модели с vision encoder. Она совместима с Transformers, vLLM, SGLang и TokenSpeed. Архитектура включает 125 млрд параметров, из которых активируется 6 млрд, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Используются гибридное внимание с Gated DeltaNet и Qwen Sparse Attention, Gated Residual и n-gram embedding; модель содержит 48 слоёв и имеет скрытую размерность 2560. Ключевые заявленные особенности ориентированы на эффективную обработку длинного контекста и снижение вычислительных затрат. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Размер файлов модели указан как 188,29 ГБ. Преимуществами являются мультимодальность, поддержка нескольких языков, оптимизации для длинного контекста и возможность локального развёртывания в распространённых inference-системах. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README точного размера контекстного окна для данного репозитория и потенциальными потерями качества, характерными для INT4 AWQ-квантизации. Лицензия указана как qwen-community-1.0; применяются условия, приведённые в файле LICENSE.

Qwen3.8-Flash-Next-mixed-NVFP4-FP8 — это квантованная версия Qwen3.8-Flash-Next, подготовленная командой Primitive AI. Модель предназначена для мультимодальных сценариев image-text-to-text, генерации текста, рассуждений и вызова инструментов. Она поддерживает работу через Transformers и vLLM, включая tool calling с thinking, parser qwen3_coder и speculative decoding MTP. Модель имеет размер около 183,7 ГБ и использует смешанную точность NVFP4, FP8 и BF16 в формате compressed-tensors. Полноразмерные и линейные attention-проекции переведены в FP8, что сокращает нагрузку на память и ускоряет декодирование. Заявлена работа на одной GPU Blackwell с 96 ГБ видеопамяти и примерно 100 ГБ оперативной памяти; измерения проводились при контексте 32 768 токенов и до 36 последовательностей. Нативный контекст базовой модели указан как 262 144 токена, а для более длинного контекста предлагается RoPE-масштабирование YaRN. По данным карточки, модель сохраняет сопоставимое с обычной NVFP4-сборкой качество при показателях 92,2 для knowledge, 84,8 для call и 56,7 для abstain, а также достигает 84,4 токена в секунду в однопоточном режиме и 526 токенов в секунду при concurrency 32. Основное ограничение — необходимость использовать переменную VLLM_GDN_DECODE_KERNEL=triton: стандартное CUDA-ядро может зависать при высокой конкуренции. Для запуска также требуются специальные параметры vLLM, значительный объём RAM и совместимое оборудование Blackwell. Модель распространяется по лицензии Qwen Community 1.0.

QuantTrio/Qwen3-VL-235B-A22B-Thinking-AWQ — квантизированная AWQ-версия мультимодальной модели Qwen3-VL-235B-A22B-Thinking из семейства Qwen, разработанного командой Qwen. Репозиторий содержит веса для генерации текста с поддержкой визуальных входных данных, включая изображения и видео, а также задач компьютерного зрения и взаимодействия с графическими интерфейсами. Модель предназначена для визуально-текстового понимания и рассуждений, распознавания объектов и текста, анализа документов, пространственного восприятия, STEM- и математических задач, генерации кода и выполнения агентных сценариев. Заявлены возможности работы с GUI, временной привязки событий в видео, OCR на 32 языках и обработки длинного контекста: нативно до 256 тысяч токенов с заявленным расширением до 1 миллиона. Архитектура — Mixture-of-Experts (MoE), общий размер 235B параметров, из которых 22B активны; применяются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. AWQ-квантизация уменьшает требования к памяти по сравнению с полноразмерными весами, однако модель остаётся очень крупной: размер файлов указан как 117 GB. В README приведён сценарий запуска через vLLM с tensor parallelism на 8 GPU и включённым expert parallelism; для этой конфигурации указана максимальная длина контекста 32 768 токенов, что может отличаться от возможностей исходной модели. Для инференса рекомендуются vLLM и qwen-vl-utils. Лицензия — Apache-2.0.