I.15Доступность и ассистивные технологии

unsloth/gemma-3-27b-it-qat-GGUF — instruction-tuned мультимодальная модель семейства Gemma 3, разработанная Google DeepMind и подготовленная Unsloth в формате GGUF с QAT-квантизацией. Модель основана на google/gemma-3-27b-it-qat-q4_0-unquantized и имеет размер 27 млрд параметров. Она принимает текст и изображения, а генерирует текст; поддерживает более 140 языков, включая английский, указанный в карточке модели. Изображения нормализуются до разрешения 896×896 и представляются как 256 токенов каждое. Контекстное окно составляет 128K токенов, максимальный объём генерируемого ответа — 8192 токена. Модель предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений. Большое контекстное окно и мультимодальность подходят для работы с длинными документами и визуальными данными, а GGUF и квантизация ориентированы на локальное развертывание на ноутбуках, настольных компьютерах и собственной инфраструктуре с ограниченными ресурсами. К возможным ограничениям относятся компромисс между эффективностью и качеством, связанный с квантизацией, а также отсутствие в доступных данных подробностей об аппаратных требованиях, результатах тестирования и ограничениях безопасности. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use.

Карточка модели RedHatAI/gemma-3-12b-it на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

Это NVFP4-квантизованная сборка в формате GGUF модели Gemma 4 E4B IT от Google DeepMind, подготовленная для запуска через llama.cpp и другие совместимые движки. В основе указана QAT-версия Gemma 4 E4B IT; архитектура — Gemma4ForConditionalGeneration, с 4,3 млрд эффективных параметров (7,5 млрд с эмбеддингами) и 42 слоями. В репозитории есть варианты весов NVFP4 и BF16, а также MTP-модель для ускорения генерации. Модель принимает текст, изображения и аудио и генерирует текст. Она предназначена для диалога, анализа изображений и аудио, рассуждений, программирования и локального запуска; заявлены контекст до 128 тыс. токенов, поддержка более 140 языков и структурированного вызова инструментов. Для мультимодального ввода требуется файл mmproj.gguf. NVFP4 уменьшает требования к памяти, а QAT призван сохранить качество, однако качество конкретной квантизованной сборки может отличаться от исходных весов. Лицензия — Apache 2.0.

Qwen3.8-27B-FP8-Pessoa — квантованный вариант мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для обработки текста, изображений и видео, включая сценарии визуально-языкового анализа и генерации текста по мультимодальному вводу. Квантование выполнено с использованием llm-compressor; веса сохранены в формате compressed-tensors для непосредственного применения с vLLM. Лицензия — Apache-2.0. Языковая часть содержит около 27 млрд параметров, vision tower — 460,7 млн, а MTP-голова — 82,3 млн. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания с GQA; нативный контекст составляет 262 144 токена. Поддерживается многоязычный ввод. Линейные, MLP- и полные attention-слои используют weight-only FP8 E4M3 W8A16 с BF16-активациями, GPTQ-коррекцией и поканальным масштабированием. Vision tower и MTP-голова оставлены в BF16, поэтому сохраняются возможности понимания изображений и видео, а также speculative decoding. Главные преимущества — уменьшенный до 31,24 ГБ размер чекпойнта против 55,6 ГБ у BF16-версии и низкая ошибка квантования. Компромисс заключается в более низкой скорости предварительной обработки по сравнению с W8A8 из-за деквантования перед GEMM, а также в высоких требованиях к памяти и ускорителям. Для работы рекомендуется vLLM 0.26.1rc0 с FlashInfer; заявлена поддержка NVIDIA Blackwell, Ampere и Hopper с поддержкой FP8 E4M3.

EXAONE-4.5-33B-FP8 — открытая мультимодальная vision-language модель, разработанная LG AI Research. Она предназначена для обработки текста и изображений, включая визуальные вопросы и ответы, анализ документов, контекстное рассуждение и общие задачи понимания мультимодального контента. Модель может применяться в ассистентах, системах работы с документами и исследовательских приложениях. Модель имеет плотную архитектуру causal language model с выделенным vision encoder: 31,7 млрд параметров приходится на языковую часть и 1,29 млрд — на визуальный энкодер, всего около 33 млрд параметров. Используются hybrid attention со sliding window размером 4096 токенов и global attention, Grouped Query Attention, 2D RoPE для визуальных представлений и контекст до 262 144 токенов. Модель поддерживает английский, корейский, испанский, немецкий, японский и вьетнамский языки. Знания ограничены декабрём 2024 года, а веса представлены в FP8-квантизации. Сильными сторонами заявлены конкурентоспособные результаты на общих мультимодальных бенчмарках, понимание документов и рассуждение с учётом корейского контекста; при этом показатели зависят от задачи, а FP8-квантизация и размер модели предъявляют повышенные требования к вычислительным ресурсам. Модель лицензирована по условиям EXAONE; точные ограничения следует уточнять в файле LICENSE.

InternVL3-38B-Instruct-GGUF — мультимодальная instruction-tuned модель, опубликованная Unsloth на основе OpenGVLab/InternVL3-38B. Это SFT-версия InternVL3: она прошла нативное мультимодальное предварительное обучение и дообучение с учётом инструкций, но не проходила MPO. Модель предназначена для понимания изображений и текста, мультимодального восприятия и рассуждений, работы с инструментами, создания GUI-агентов, промышленного анализа изображений и задач 3D-восприятия. Заявлена поддержка multilingual-сценариев. Архитектура построена по схеме ViT-MLP-LLM и включает визуальную часть InternViT-6B-448px-V2_5 и языковую часть Qwen2.5-32B; общий размер семейства для этой конфигурации — 38B параметров. Распространяемая версия представлена в формате GGUF и использует квантизацию Unsloth Dynamic 2.0, однако конкретный вариант квантизации, требования к памяти и размер контекста в предоставленных данных не указаны. Сильными сторонами являются сочетание анализа изображений с генерацией текста, мультимодальное рассуждение и широкий спектр прикладных сценариев. Модель может быть менее подходящей для задач, требующих точных гарантий фактической корректности, а значительный размер и мультимодальная архитектура предполагают высокие требования к вычислительным ресурсам. Для выбора между версиями семейства авторы рекомендуют рассмотреть базовую InternVL3-38B. В метаданных указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen.

Это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной Alibaba Cloud; репозиторий FreedomAISVR распространяет её в формате MXFP4_MOE для запуска через llama.cpp. Модель имеет архитектуру MoE: 35 млрд параметров всего, около 3 млрд активируются на токен, используются 256 экспертов и гибридное внимание Gated DeltaNet с полным вниманием. Контекстное окно — 262 144 токена. Модель предназначена для диалогов, генерации текста и анализа изображений. Для обработки изображений вместе с основными весами требуется файл проектора mmproj. В MXFP4 квантизированы веса экспертов, а маршрутизатор и общие экспертные слои сохранены в Q8_0; README указывает размер основных весов 18,4 ГБ. Указана поддержка 201 языка, среди которых английский и китайский. Квантизация снижает требования к памяти, но может повлиять на качество относительно исходных весов; фактическая совместимость и скорость зависят от оборудования и версии llama.cpp. Лицензия репозитория — Apache-2.0.

OsaurusAI подготовила JANG_1L — квантованный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX. Это мультимодальная модель с архитектурой Qwen4-экспериментального семейства: в исходной системе заявлены 125 млрд параметров MoE, из которых активны 6 млрд, и таблица n-граммных эмбеддингов на 51 млрд параметров. В сборке JANG_1L присутствуют компоненты для обработки текста, изображений и видео; заявленный размер весов — около 59,8 GiB, а при обслуживании таблицы с SSD резидентное использование памяти составляет около 41 GiB. Модель предназначена для диалога, рассуждений, анализа изображений и видео, а также агентных сценариев с вызовом инструментов. Нативный контекст составляет 262 144 токена и может быть расширен до 1 млн с YaRN. В README приведены результаты сравнения квантования с bf16 на 5 931 позициях; сборка не включает голову multi-token prediction, а для вызова инструментов требуется совместимый с Qwen XML-парсер. Языковой тег карточки — английский. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.

EXAONE 4.5-33B — открытая по весам мультимодальная модель LG AI Research для диалога и анализа изображений. Она сочетает причинную языковую модель с визуальным энкодером и содержит 33 млрд параметров, из которых около 1,29 млрд приходятся на визуальную часть. Архитектура использует плотные слои, гибридное внимание с локальными окнами и глобальными слоями; контекст — до 262 144 токенов. Модель предназначена для ответов на вопросы по изображениям и документам, распознавания и интерпретации их содержимого, а также для текстового диалога и рассуждений. Разработчик отмечает сильные результаты в понимании документов и корейских контекстов. Основные языки карточки — английский, корейский, испанский, немецкий, японский и вьетнамский. Для обслуживания рекомендуются оптимизированные движки, например vLLM, TensorRT-LLM или SGLang; запуск с длинным контекстом требует мощных GPU. Модель может выдавать неверные, предвзятые или неподходящие ответы, а её знания ограничены данными до декабря 2024 года. В метаданных указана лицензия «other»; конкретные условия следует сверять с лицензией репозитория и правилами LG AI Research.

Mistral-Small-3.2-24B-Instruct-2506 — плотная модель Mistral на 24 млрд параметров, дообученная на основе mistralai/Mistral-Small-3.1-24B-Base-2503. Она предназначена для следования инструкциям, диалогов и вызова функций; поддерживает обработку изображений и текста. В версии 3.2 улучшены следование инструкциям, снижение повторов и вызов функций по сравнению с версией 3.1. Модель опубликована в формате safetensors и совместима с vLLM. Модель подходит для ассистентов, которым нужно отвечать на запросы, разбирать изображения и обращаться к инструментам через вызов функций. В карточке перечислена поддержка 23 языков, включая русский, английский, французский, немецкий, испанский, китайский и японский. Лицензия Apache-2.0 разрешает свободное использование и распространение с соблюдением её условий.

leok7v/Qwen3.8-27B — мультимодальная квантизованная сборка базовой модели Qwen3.8-27B, разработанной Qwen и Alibaba. Квантизацию выполнила unsloth, упаковку — leok7v. Модель предназначена для автономного запуска на устройстве: чата, суммаризации, подготовки текстов, ответов на вопросы по предоставленному контексту и описания изображений в офлайн-режиме или сценариях, чувствительных к конфиденциальности. Это плотная гибридная авторегрессионная языковая модель с чередованием трёх блоков линейного внимания Gated DeltaNet и одного блока полного внимания, дополненная vision encoder. Линейные блоки используют компактное рекуррентное состояние вместо растущего KV-кэша, а блоки полного внимания поддерживают дальний контекст. Веса представлены в нескольких вариантах квантизации от 1 до 4 битов размером примерно от 6,88 до 15,17 GiB. В каждый файл встроены vision tower, токенизатор, chat template, параметры семплирования и drafter для speculative decoding. Сильные стороны модели — мультимодальность, полностью автономная поставка в одном файле, отсутствие необходимости обращаться к серверу и потенциально сниженное потребление памяти благодаря гибридной архитектуре. Ограничения включают зависимость формата .ggxf от runtime Gadeon: совместимость со сторонними GGUF-инструментами не проверялась, а некоторые из них могут не поддерживать встроенный vision tower или тип iq4_nl. Квантизация снижает точность, особенно в 1- и 2-битных вариантах; возможны фактические ошибки, накопление ошибок в многошаговых рассуждениях и расхождения с исходной моделью. Модель не содержит дополнительного safety-тюнинга или фильтрации и не предназначена для принятия юридических, медицинских, финансовых и иных высокоставочных решений без проверки человеком. Лицензия — Apache 2.0, унаследованная от базовой модели.

trohrbaugh/Qwen3.8-Flash-Next-heretic-2 — производная версия Qwen3.8-Flash-Next, представленная как разговорная модель с открытыми весами. Это причинная языковая модель с визуальным энкодером и поддержкой обработки изображений вместе с текстом; метаданные относят её к архитектуре Qwen4Exp. Модель содержит 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. В README указаны гибридное внимание с Qwen Sparse Attention и Gated DeltaNet, MoE с 512 экспертами и нативный контекст 262 144 токена с расширением до 1 млн. Модель предназначена для диалогов, визуально-языковых запросов и агентных сценариев с длинным контекстом, включая работу с изображениями, документами и программными задачами. README описывает базовую Qwen3.8-Flash-Next и её тестирование в агентных и визуальных бенчмарках, но не приводит отдельной оценки именно этой производной версии. Теги heretic, uncensored, decensored и abliterated указывают на модификацию ограничений поведения, однако конкретная методика изменений не описана. В репозитории указаны веса Safetensors и библиотека Transformers. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой и лицензией базовой модели перед применением.

Gemma 3 1B IT QAT Q4_0 GGUF — лёгкая инструкционная мультимодальная модель Google DeepMind из семейства Gemma, созданная на основе технологий, использованных в Gemini. Модель принимает текст и изображения и генерирует текст; версия предназначена для запуска в формате GGUF, в том числе через llama.cpp и совместимые среды. Модель имеет размер 1B параметров, использует квантизацию Q4_0 и Quantization Aware Training, благодаря чему снижает требования к памяти при сохранении качества, близкого к версии bfloat16. Для варианта 1B заявлено контекстное окно до 32K токенов, максимальный объём генерируемого ответа — 8192 токена. Изображения обрабатываются с нормализацией до 896×896 пикселей и кодированием в 256 токенов; модель поддерживает более 140 языков. Gemma 3 1B IT подходит для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Небольшой размер облегчает локальное развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Ограничения включают меньший контекст по сравнению с более крупными версиями Gemma 3 и зависимость мультимодальных возможностей от используемого программного обеспечения: например, указанное использование через Ollama поддерживает только текстовый ввод. Доступ к модели на Hugging Face требует принятия условий лицензии Google Gemma; точные условия определяются лицензией Gemma.

VIDraft/Gemma-3-R1984-12B — мультимодальная модель на архитектуре Gemma 3, дообученная на базе google/gemma-3-12b-pt. Карточка описывает локальную платформу для диалогов, анализа изображений и документов, а также исследовательских запросов с веб-поиском через SERPHouse API. Заявлена обработка изображений, видео и текстовых документов; поиск может включать до 20 результатов с цитированием источников. В карточке указаны около 12 млрд параметров и контекст до 8 000 токенов. Метаданные подтверждают задачу image-text-to-text, поддержку vision и chat, библиотеку Transformers и лицензию Gemma. Для веб-поиска требуется ключ SERPHouse; README рекомендует развёртывание на NVIDIA L40S, но не приводит независимых оценок качества или подробностей обучения. Условия лицензии следует сверять с лицензией Gemma, указанной в метаданных: упоминание MIT для платформы в README не подтверждает лицензию весов модели.

Это мультимодальная инструкционная модель Gemma 4 на 12 млрд параметров, созданная tepirale с помощью слияния моделей методом DARE TIES. В качестве основы использована google/gemma-4-12B-it; в слияние также вошли модели tepirale для агентных сценариев и генерации кода. Репозиторий содержит веса в формате Safetensors и предназначен для использования с библиотекой Transformers. Модель принимает текст и изображения и генерирует текст. Её можно применять для диалога по изображениям, анализа визуального содержимого и задач с кодом или агентным поведением. Базовая Gemma 4 поддерживает также видео и аудио, однако карточка этой объединённой модели подтверждает только обработку изображений. Лицензия в предоставленных данных не указана.

GPT-5.4 — фронтирная модель OpenAI, объединяющая линейки Codex и GPT. По карточке, она поддерживает контекст более чем в 1 млн токенов: до 922 тыс. входных и 128 тыс. выходных токенов. В доступных данных также указана задача image-text-to-text. Модель предназначена для работы с текстом и изображениями и выдачи текстовых ответов. Сведений о конкретных сценариях, языках, архитектуре, размере и лицензии в предоставленных данных нет, поэтому их нельзя уточнить.

ISTA-DASLab/Mistral-Small-3.1-24B-Instruct-2503-GPTQ-4b-128g — квантированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, опубликованная ISTA-DASLab. Она предназначена для диалоговых задач, генерации и обработки текста, а также сценариев image-text-to-text, включая анализ изображений и ответы на вопросы по ним. Модель содержит 24 млрд параметров и использует INT4-квантование весов линейных операторов языковой части трансформера методом GPTQ с симметричной поканальной по группам схемой и размером группы 128. Визуальная модель и мультимодальный проекционный слой сохранены в исходной точности. Квантование сокращает размер на диске и требования к GPU-памяти примерно на 75%; чекпойнт сохранён в формате compressed_tensors. В README явно указан пример использования с vLLM и Transformers, а для оценки применялся vLLM. По сравнению с исходной моделью на наборе OpenLLM v1 средний результат снизился с 0,7910 до 0,7814, а показатель восстановления составил 0,9878, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. Ограничения включают зависимость от совместимых версий vLLM или Transformers и необходимость учитывать, что приведённые результаты получены при максимальной длине контекста 4096 токенов; другие характеристики контекста и поддерживаемых языков в README не указаны. Модель распространяется по лицензии Apache-2.0.

Это квантованная в NVFP4 версия Qwen3.5-9B-Instruct от команды Qwen компании Alibaba, опубликованная FreedomAISVR в формате GGUF. Модель предназначена для генерации текста по инструкциям; вместе с файлом мультимодального проектора поддерживает обработку изображений и видео. В основе — гибридная архитектура Mamba2 и Attention, 9 млрд параметров и контекст до 262 тыс. токенов; предусмотрена поддержка Multi-Token Prediction и управления режимом рассуждений. Для запуска README приводит примеры с llama.cpp и llama-cpp-python. Квантование NVFP4 рассчитано на ускорение на GPU NVIDIA Blackwell и занимает меньше места, чем исходные веса; карточка указывает 4,73 бита на вес. Для обработки изображений и видео требуется отдельный проектор F16. Языки карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.

OsaurusAI Qwen3.8-Flash-Next-JANG_2L — квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный Jinho Jang для Apple Silicon и MLX. Это мультимодальная модель семейства Qwen с архитектурой Qwen4-архитектурного превью: смесь экспертов на 125 млрд параметров, из которых активны около 6 млрд, гибридные слои Gated DeltaNet и Qwen Sparse Attention, а также отдельные компоненты для изображений и видео. Веса сохранены в формате safetensors; заявленный объём набора — 65,3 ГиБ, а при обслуживании n-граммной таблицы с SSD в оперативной памяти требуется около 48 ГиБ. Модель предназначена для диалога, ответов с анализом изображений и видео, рассуждений и агентных сценариев с вызовом инструментов. Нативная длина контекста составляет 262 144 токена; с YaRN её можно расширить до 1 млн. В комплекте сохранена голова многотокенного предсказания для ускоренного декодирования в совместимых средах. По замерам на 5 931 позициях JANG_2L показывает медианный KL 0,0260 и top-1 совпадение 88,2% с bf16-версией. Модель требует совместимого runtime для MLX и Apple Silicon и значительных ресурсов памяти либо поддержки SSD-таблицы. Вызовы инструментов используют парсер Qwen XML; среды, поддерживающие только Hermes JSON, могут обрабатывать их с ошибками. Для скачанных до 5 сентября 2026 года комплектов требуется повторная загрузка из-за реорганизации вспомогательных файлов MTP. В метаданных указана лицензия other, без конкретных условий использования.

NovaeonStudio/Qwen3.8-Flash-Next-Uncensored-oQ3e-fp16-mtp — сборка Novaeon.Studio на базе orcarouter/Qwen3.8-Flash-Next-Uncensored. Это неконтентно-ограниченная мультимодальная MoE-модель с поддержкой изображений, подготовленная для запуска через oMLX на компьютерах Apple Silicon с большим объёмом оперативной памяти, прежде всего на системах с 128 ГБ и более. Модель предназначена для генерации текста, объяснений, рассуждений, анализа изображений, работы с длинными контекстами и интеграции с инструментами. Архитектура обозначена как qwen4_exp: 48 слоёв, скрытое представление размерностью 2560, 512 экспертов, из которых активно 10, сочетание линейного внимания GatedDeltaNet и полного внимания, а также PLE/n-граммный стек эмбеддингов и 27-слойная vision-башня с размерностью 1152. Поддерживаются английский язык и контекст до 262 144 токенов. Сохранён нативный MTP-модуль для спекулятивного декодирования; в измерениях на Apple M5 Max он повысил скорость генерации примерно на 67%. Квантование oQ3e использует преимущественно 3-битное представление с выборочными участками повышенной точности и fp16 для критически важных компонентов. Размер модели составляет около 85,2 ГБ на диске и 79,5 ГБ в памяти oMLX. Сильные стороны модели — связная генерация, рассуждения, анализ изображений, извлечение данных из контекста длиной до 80 тысяч токенов и отсутствие отказов на проверенных запросах. Ограничение — слабая надёжность параллельных и многошаговых вызовов инструментов, поэтому модель не является оптимальным выбором для сложных агентных сценариев. Сборка носит экспериментальный характер и требует версии oMLX с поддержкой исправленного загрузчика qwen4_exp, начиная с 0.7.0.dev2. Распространяется по лицензии Apache-2.0.

EnlistedGhost/Ministral-3-8B-Instruct-2512-GGUF — это квантизированная версия мультимодальной модели Ministral 3 8B Instruct 2512 BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с поддержкой текста и изображений. Указаны языки: английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Доступны варианты квантования от Q2_K_L до Q8_0_L, а также F16 и мультимодальные vision-проекторы в форматах F16 и F32. Модель ориентирована на локальный запуск и совместима с llama.cpp, Ollama и Yollama. Семейство Ministral 3 разработано для edge-развёртывания; исходная версия 8B, по данным README, может работать примерно в пределах 32 ГБ VRAM в BF16 и менее 24 ГБ RAM или VRAM в квантизированном виде. К сильным сторонам относятся компактный размер, поддержка мультимодального ввода и широкий выбор квантованных вариантов, однако качество и требования к ресурсам зависят от выбранного варианта. Лицензия — Apache-2.0.

Qwen3.8-27B-FP8 — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная huginnfork на базе модели Qwen/Qwen3.8-27B. Она предназначена для задач, объединяющих работу с текстом и изображениями, включая генерацию и понимание ответов по визуально-текстовым запросам. Модель поддерживает speculative decoding и multi-token prediction, однако конкретный набор языков и максимальная длина контекста в предоставленных данных не указаны. Модель имеет плотную архитектуру семейства Qwen3.5 с гибридом линейного внимания и полного self-attention, vision tower и MTP-head. Квантование выполнено по схеме FP8_DYNAMIC W8A8: веса и активации MLP-проекций квантуются в FP8 E4M3, а активации обрабатываются динамически на уровне токенов. Пути self-attention, linear attention на базе SSM, vision tower, lm_head и MTP-head сохранены в формате bf16. Размер чекпойнта составляет около 35,8 GiB в восьми файлах против 51,7 GiB у версии bf16. Выборочная квантизация MLP снижает объём хранения и, согласно приведённым измерениям, обеспечивает меньшее расхождение с исходной bf16-моделью, чем официальный FP8-релиз, при сохранении сопоставимой perplexity. Ограничения включают необходимость совместимого программного и аппаратного стека для FP8 и отсутствие в предоставленном README подробностей о фактической производительности, поддерживаемых языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

granite-vision-3.2-2b — компактная мультимодальная модель IBM, дообученная на базе ibm-granite/granite-vision-3.2-2b для понимания изображений и работы с визуальными документами. Архитектура LLaVA-NeXT объединяет визуальный энкодер SigLIP, двухслойный MLP-коннектор и языковую модель Granite 3.1 2B Instruct; модель использует разрешение AnyRes и многослойные признаки энкодера. В метаданных указаны архитектура LlavaNextForConditionalGeneration и формат safetensors. Модель принимает изображения и инструкции на английском языке и формирует текстовые ответы. Она предназначена для извлечения сведений из таблиц, графиков, инфографики, диаграмм и других документов, OCR, ответов на вопросы по изображениям, а также общих задач визуального понимания. В базовой языковой модели заявлено контекстное окно 128 тыс. токенов. Лицензия — Apache 2.0. Модель может ошибаться, выдавать предвзятые или небезопасные ответы; её компактный размер может повышать риск галлюцинаций. Для задач только с текстовым вводом README рекомендует использовать текстовые модели Granite.

Millie 1.1 — мультимодальная языковая модель с поддержкой изображений от LLMs For All, представленная в формате GGUF для локального запуска на устройствах с ограниченной памятью. Это MoE-модель примерно с 35 млрд параметров и 3 млрд активных параметров на токен; около 90% весов хранятся в троичном представлении, остальные тензоры используют более высокую точность. Для обработки изображений предусмотрен отдельный файл vision encoder/projector, который можно не устанавливать при работе только с текстом. Модель основана на Qwen/Qwen3.6-35B-A3B и подходит для диалогов, ответов на вопросы по изображениям и локального мультимодального помощника. В приведённой авторами оценке результаты близки к исходной модели на MMLU Redux и HumanEval+, а на GPQA Diamond заметно ниже; измерения выполнены в отдельных запусках и не гарантируют аналогичных результатов в других сценариях. Репозиторий распространяется по лицензии Apache-2.0.

OpenThai 2.0 Qwen3.8-27B — дообученная компанией OpenThai мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров. Она принимает текст и изображения и предназначена прежде всего для работы с тайскими документами: распознавания печатного и рукописного текста, транскрипции страниц, извлечения структуры и ответов на вопросы по документам. Также подходит для ответов на тайском и английском языках, следования инструкциям, программирования и использования инструментов. Модель заявлена с контекстом 262 144 токена; в производственном API используется контекст до 131 072 токенов. В README приведены результаты оценки тайских экзаменационных знаний, следования инструкциям и распознавания документов, включая улучшение распознавания рукописного текста относительно базовой модели. Модель распространяется под лицензией Apache-2.0. Качество структурированного извлечения данных примерно соответствует базовой модели и слабее в разборе таблиц, извлечении ключевой информации и вопросах по диаграммам. Текст на вывесках и других сценах распознаётся хуже, а рукописный текст остаётся сложным: на сложных примерах возможны ошибки примерно в каждом четвёртом символе. Возможны галлюцинации на нечитаемых изображениях; длинные ответы могут различаться между запусками.

INCModel2/Qwen3.5-397B-A17B-MXFP4-Mixed-CT-AutoRound — вариант Qwen3.5-397B-A17B, сжатый в формат MXFP4 с помощью intel/auto-round и представленный в формате llm_compressor. Это мультимодальная модель с архитектурой Qwen3.5 MoE, предназначенная для диалогов и обработки изображений вместе с текстом; заявлен интерфейс вызова инструментов. В репозитории доступны веса safetensors, а для запуска автор приводит пример с vLLM и контекстом до 131072 токенов. Модель подходит для вопросов по изображениям, диалогов, задач на рассуждение и сценариев с вызовом инструментов. В приведённых тестах MXFP4 сохраняет 99,5% среднего результата BF16 на GSM8K, MMLU, PIQA и HellaSwag. README предупреждает о возможных фактических ошибках, предвзятых или оскорбительных ответах и рекомендует проверять безопасность перед развертыванием. Указано следовать лицензии исходной модели; метаданные репозитория указывают Apache-2.0.

88plug/Qwen3.6-27B-W8A16 — квантованная версия мультимодальной модели Qwen3.6-27B, разработанной командой Qwen и опубликованной пользователем 88plug. Модель предназначена для обработки изображений и текста с генерацией текста: анализа изображений, визуально-текстовых запросов, рассуждений и задач общего назначения. Поддерживает английский язык; заявленный контекст составляет до 262 144 токенов. Это плотная модель примерно на 27 млрд параметров без MoE, с гибридной архитектурой Gated DeltaNet и полносвязных MLP-блоков. В ней 41 чередующийся слой полной и линейной внимания. Применена посттренировочная квантование AutoRound W8A16: веса хранятся в INT8, а активации — в BF16; размер группы квантования равен 32. Модель занимает около 27 ГБ и рассчитана на запуск на GPU Ampere и новее, включая RTX 4090, A6000 и A100-40. Для развёртывания предпочтителен vLLM версии 0.21 или новее с форматом compressed-tensors. К сильным сторонам относятся существенно меньшие требования к памяти по сравнению с BF16-версией, поддержка длинного контекста и возможность работы на распространённых GPU без ограничений, характерных для FP8. Текстовые компоненты калибровались на смешанном наборе UltraChat-200k и WikiText-103, однако визуальный энкодер получил некалиброванное RTN-квантование INT8, поэтому качество обработки изображений может быть менее проверенным. Формат compressed-tensors не поддерживается TGI, а виджет Hugging Face может работать нестабильно. Модель распространяется по лицензии Apache-2.0.

T5-3B — языковая модель семейства Text-To-Text Transfer Transformer, разработанная Colin Raffel, Noam Shazeer и соавторами. Она представляет задачи обработки естественного языка в формате преобразования текста в текст: принимает текст и генерирует текстовый ответ. В метаданных указано 385,2 млн параметров, архитектура T5WithLMHeadModel и контекст до 512 токенов; README называет чекпойнт T5-3B моделью с 3 млрд параметров, поэтому размер в источниках расходится. Модель предназначена для машинного перевода; подход T5 также применим к суммаризации документов, ответам на вопросы, классификации, анализу тональности и перефразированию. Она обучалась на C4 и смеси задач денойзинга и контролируемого обучения. Указанные языки — английский, французский, румынский и немецкий. Модель распространяется по лицензии Apache 2.0. README не приводит конкретных результатов оценки или подробных ограничений; контекст в 512 токенов ограничивает длину входа и выхода.

mT5-base — многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5 с 291,2 млн параметров. Она предварительно обучена в формате text-to-text на корпусе mC4, собранном из Common Crawl и охватывающем 101 язык. Веса доступны в форматах PyTorch, TensorFlow и Flax; лицензия — Apache-2.0. Модель служит базой для дообучения под прикладные задачи обработки естественного языка: например, перевод, суммаризацию и ответы на вопросы. Предварительное обучение не включало обучение на размеченных задачах, поэтому для использования в конкретном сценарии модель необходимо дообучить.

Bee-8B-SFT — мультимодальная модель с открытыми весами от команды Open-Bee, дообученная на базе Qwen/Qwen3-8B на корпусе Honey-Data-15M примерно из 15 миллионов примеров. Архитектура Bee — плотная модель класса BeeForConditionalGeneration; она принимает изображения и текст и отвечает в формате диалога. Для работы доступны режимы с рассуждениями и без них. Модель предназначена для диалоговых сценариев с изображениями и текстом, включая сложные рассуждения, математические задачи, анализ документов, диаграмм и других структурированных визуальных данных. Авторы сообщают о высоких результатах на MathVerse, LogicVista, DynaMath и CharXiv; поддерживаются Transformers и vLLM. Карточка указывает английский язык, а базовая Qwen3-8B описана как многоязычная. Размер контекста в предоставленных данных не указан. Модель распространяется по лицензии Apache-2.0. Заявления о качестве основаны на результатах бенчмарков авторов; конкретные ограничения и гарантии качества не описаны.