I.15Доступность и ассистивные технологии

Qwen3.5-27B — мультимодальная модель семейства Qwen, опубликованная Unsloth в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-27B для диалогов и задач, где нужно совместно анализировать текст и изображения. Модель имеет 27 млрд параметров, причинную языковую архитектуру с визуальным энкодером и сочетает Gated Delta Networks с разреженной архитектурой Mixture-of-Experts. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель подходит для ответов на вопросы по изображениям, визуального анализа, рассуждений, программирования и агентных сценариев с вызовом инструментов. В README заявлена поддержка 201 языка и диалекта. Для запуска доступны веса в формате safetensors, совместимые с Transformers и рядом движков инференса; лицензия — Apache-2.0. Большой размер требует значительных вычислительных ресурсов; при длинном контексте возможен дефицит видеопамяти. Режим рассуждений включён по умолчанию, а скорость и пропускная способность зависят от движка и его версии.

Google Gemma 3 27B IT QAT Q4_0 Unquantized — мультимодальная инструктивно настроенная модель на основе Google Gemma 3 27B IT, предназначенная для диалога и понимания изображений. Она принимает текст и изображения, а генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. В репозитории указаны веса safetensors и связь с базовой моделью google/gemma-3-27b-it. Модель подходит для ответов на вопросы по изображениям и текстам, диалоговых помощников, генерации и суммаризации текста, а также извлечения и интерпретации визуальной информации. Размер семейства позволяет запускать модели Gemma 3 на локальных компьютерах или собственной облачной инфраструктуре, но для варианта на 27 млрд параметров всё равно требуются заметные вычислительные ресурсы. К ограничениям относятся возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии Google Gemma и политику запрещённого использования.

WhiskyAKM/Gemma-4-12B-it-qat-NVFP4-GGUF — сборка Gemma 4 12B IT от Google DeepMind, подготовленная WhiskyAKM в формате GGUF для llama.cpp и других совместимых движков. В репозитории есть варианты NVFP4 и BF16; NVFP4 уменьшает требования к памяти, а ускорение инференса на NVIDIA Blackwell зависит от совместимого оборудования и движка. Модель содержит 12 млрд параметров и мультимодальную архитектуру Gemma4ForConditionalGeneration. Модель предназначена для диалога и понимания текста, изображений и аудио с генерацией текстовых ответов; также заявлены работа с видео, многоязычность более чем на 140 языках, контекст до 256 тысяч токенов и поддержка вызова инструментов. Для обработки изображений и аудио требуется подключить файл проектора mmproj.gguf. Лицензия — Apache 2.0.

llmfan46 представил uncensored-вариант Gemma 4 26B A4B IT, дообученный с изменением компонента attn.o_proj. Это диалоговая мультимодальная модель для анализа изображений и генерации текста; карточка указывает на поддержку чата и vision, а также на архитектуру Gemma 4 и формат safetensors. Базовая модель разработана Google DeepMind, использует гибридный механизм внимания и рассчитана на контекст до 256 тысяч токенов. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста и рукописей, понимания графиков и интерфейсов, а также для диалогов, рассуждений, программирования и вызова инструментов. Вариант предназначен для ослабления ограничений базовой модели, однако карточка не описывает метод дообучения и не приводит отдельные оценки качества именно этой версии. Поддерживаемые базовой линейкой языковые и аудиовозможности не следует полностью переносить на этот чекпойнт: метаданные подтверждают только image-text-to-text и vision. Модель выпущена по лицензии Apache-2.0. Возможны предвзятость и пробелы в данных, ошибки в фактах и затруднения с неоднозначными или сложными запросами; маркировка uncensored также означает, что ответы могут быть менее ограничены защитными механизмами.

Megalodon-OCR-Sync-0713-AIO-GGUF — мультимодальная модель, разработанная prithivMLmods. Это GGUF-версия Megalodon-OCR-Sync-0713, дообученной на базе Qwen2.5-VL-3B-Instruct. Модель предназначена для обработки изображений и текста, включая OCR, извлечение и анализ содержимого документов, а также работу с визуальными данными. Модель ориентирована на поиск и извлечение информации из документов разных типов и форматов, распознавание структурированных и неструктурированных данных, таблиц, графиков, математических выражений и других визуальных представлений. Она поддерживает контекстный анализ сложных и длинных документов, форматирование результатов в LaTeX, мультиязычный анализ, визуальное позиционирование объектов для управления устройствами и понимание видео длительностью более 20 минут. Заявлены английский и китайский языки. Объём контекста в README не указан. Доступны варианты квантования GGUF от F16 размером 6,18 ГБ до компактных вариантов менее 1 ГБ, что позволяет выбирать баланс между качеством и требованиями к ресурсам. Сильными сторонами являются специализация на OCR и документах, работа с разнообразными визуальными структурами и применимость в образовательных и корпоративных сценариях. Ограничениями являются значительные требования к вычислительным ресурсам, а также возможное снижение качества на изображениях низкого качества и при работе с редкими языками. Лицензия — Apache 2.0.

ZuzeTt/Qwen3-VL-4B-Instruct-heretic-Imatrix-GGUF — децензурированная версия мультимодальной модели Qwen3-VL-4B-Instruct, созданная пользователем ZuzeTt на основе модели Qwen и обработанная с помощью Heretic v1.0.1. Модель предназначена для работы с текстом и визуальными данными, включая понимание изображений и видео, визуальное рассуждение, OCR, анализ пространственных отношений, генерацию кода и взаимодействие с графическими интерфейсами. Модель относится к классу Dense и имеет 4 млрд параметров. Заявлены контекст длиной 256K токенов с возможным расширением до 1M, поддержка OCR на 32 языках, улучшенное понимание видео и временных связей, а также архитектурные механизмы Interleaved-MRoPE, DeepStack и Text–Timestamp Alignment. Репозиторий распространяется в формате GGUF, однако конкретные параметры квантования в README не указаны. Главная особенность версии — снижение количества отказов от ответа: в приведённом сравнении модель отказала в 8 из 100 случаев против 92 из 100 у исходной Qwen3-VL-4B-Instruct; KL-дивергенция относительно оригинала составляет 0,27. Это может быть полезно для исследовательских и экспериментальных сценариев, требующих менее ограниченного поведения, но одновременно означает изменение исходных механизмов безопасного отказа. Лицензия — Apache-2.0.

coreOCR-7B-050325-preview — модель prithivMLmods, дообученная на базе Qwen/Qwen2-VL-7B-Instruct для распознавания текста и анализа документов по изображениям. Она построена на архитектуре Qwen2-VL, содержит 7,1 млрд параметров, принимает изображения и текстовые запросы и формирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Модель предназначена для извлечения текста и структурированных данных из сканов, PDF, форм, счетов и научных статей, а также для ответов на вопросы по изображениям и преобразования математических выражений в LaTeX. Карточка также заявляет поддержку видео, длинных последовательностей и визуально управляемых действий, однако метаданные подтверждают только задачу image-text-to-text. Модель поддерживает многоязычные OCR-сценарии, но отдельные языки в метаданных и README не перечислены. Качество может снижаться на зашумлённых или низкокачественных изображениях и редких письменностях; возможны неполные или галлюцинированные ответы при длинных запросах, а размер модели затрудняет запуск на устройствах с ограниченной памятью. Распространяется по лицензии Apache-2.0.

Mungert/gemma-3n-E2B-it-GGUF — инструкционная мультимодальная модель семейства Gemma 3n, разработанная Google DeepMind и представленная в формате GGUF. Репозиторий создан с использованием llama.cpp. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и поддерживает обработку текста, изображений, видео и аудио с генерацией текстовых ответов. Архитектура использует MatFormer и технологию выборочной активации параметров: фактический размер модели составляет около 6 млрд параметров, но за счёт выгрузки редко используемых матриц требования к памяти сопоставимы с традиционной моделью эффективного размера 2 млрд параметров. Поддерживаются изображения с разрешением 256×256, 512×512 или 768×768, аудио одного канала, кодируемое со скоростью 6,25 токена в секунду, и общий контекст до 32 тысяч токенов. Максимальная длина вывода также составляет до 32 тысяч токенов за вычетом токенов входного запроса. Модели Gemma 3n обучались на данных более чем для 140 разговорных языков. Модель подходит для ответов на вопросы, суммаризации документов, анализа изображений, аудио и видео, а также для других инструкционных и мультимодальных сценариев. К сильным сторонам относятся сочетание нескольких модальностей и сниженные требования к ресурсам; при этом в карточке не приведены результаты тестов, точные параметры GGUF-квантизации и подробные сведения о поддерживаемых языках. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия условий лицензии.

hamishivi выпустил дообученную версию мультимодальной модели Qwen3.5-4B в формате Transformers. Это причинная языковая модель с визуальным энкодером на 4 млрд параметров, которая принимает текст и изображения и формирует текстовые ответы. Модель поддерживает диалог, визуальное понимание и вызов инструментов через соответствующий интерфейс. Модель предназначена для ответов на вопросы по изображениям, диалоговых и рассуждающих задач, работы с длинными текстовыми контекстами и сценариев с агентами и инструментами. В README заявлены поддержка 201 языков и диалектов, контекст 262 144 токена с расширением до 1 010 000 токенов и режим рассуждения по умолчанию. Архитектура сочетает Gated Delta Networks и разреженный Mixture-of-Experts. Весовые файлы совместимы с Transformers, vLLM, SGLang и KTransformers; лицензия — Apache-2.0. Изменённый шаблон чата сохраняет промежуточные рассуждения, а запуск с длинным контекстом может требовать значительных ресурсов памяти.

UDOP-large-512-300k — модель для анализа документов, разработанная авторами работы «Unifying Vision, Text, and Layout for Universal Document Processing». Она использует архитектуру encoder-decoder Transformer на основе T5 и предназначена для задач, объединяющих изображение документа, текст и его пространственную структуру. Модель с 386,3 млн параметров принимает изображение документа и текстовый запрос, а затем генерирует текстовый ответ. Её можно применять для классификации изображений документов, разбора документов и визуальных вопросов и ответов по документам (DocVQA). Веса опубликованы в формате safetensors; лицензия — MIT.

Camel-Doc-OCR-080125 — дообученная PrithivMLmods мультимодальная модель на базе Qwen2.5-VL-7B-Instruct с 7,1 млрд параметров. Она принимает текст и изображения, а её контекст составляет до 128 000 токенов. Модель предназначена для анализа документов: распознаёт и извлекает текст и структурированные данные, находит нужные сведения, связывает элементы документа и отвечает на вопросы по его содержимому. Модель также рассчитана на разбор таблиц, графиков и математических выражений, включая преобразование формул в LaTeX. В карточке заявлены анализ видео и визуально управляемое взаимодействие с устройствами; основной тег задачи в метаданных — image-text-to-text. Языковые теги карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0. К ограничениям относятся снижение точности на изображениях низкого качества или с помехами, вариативность результатов для редких языков и скриптов, возможные галлюцинации и высокие требования к вычислительным ресурсам. Обработка длинных видео может требовать много памяти; для потоковой работы модель не оптимизирована.

NuExtract3-GGUF — квантизированная версия NuExtract3, разработанная компанией NuMind. Это мультимодальная vision-language модель с архитектурой на 4 млрд параметров, предназначенная для понимания документов, структурированного извлечения информации и преобразования изображений документов в Markdown. Модель принимает текст, изображения или их сочетание. Для структурированного извлечения она использует JSON-шаблон и инструкции, возвращая данные в формате JSON; также поддерживает генерацию шаблонов из естественного языка или содержимого документа. NuExtract3 подходит для OCR и подготовки данных для RAG, обработки сканов, чеков, форм, счетов, договоров, таблиц и других документов. Заявлена поддержка многоязычных документов, режимов вывода с рассуждением и без него, а также больших входных и выходных контекстов. К сильным сторонам относятся объединение визуального анализа, OCR, рассуждений и структурированного извлечения в одной модели, а также возможность преобразования сложных документов в Markdown с HTML для таблиц, LaTeX для математических выражений и описаниями изображений. Внутренний бенчмарк NuMind показал средний результат 0,651 для варианта NuExtract3.4_4B-RL на наборе примерно из 600 документов, однако часть ответов не была корректно десериализуема в JSON, а производительность может снижаться на особенно больших или сложных заданиях. Модель распространяется по лицензии Apache-2.0. Данный репозиторий содержит квантизированный вариант базовой модели NuMind/NuExtract3; конкретные параметры квантизации и точное максимальное окно контекста в карточке не указаны.

Eagle 2.5-8B — мультимодальная модель семейства Eagle 2.5 от NVIDIA для анализа изображений, видео и текста. В основе архитектуры — визуальный энкодер SigLIP2-So400m-Patch16-512 и языковая модель Qwen2.5-7B-Instruct, объединённые в мультимодальную архитектуру на базе LLaVA с разбиением изображений на фрагменты. Модель поддерживает изображения высокого разрешения, многостраничные документы, длинный текст и видео до 512 кадров; контекст при обучении постепенно расширяли с 32K до 128K токенов. Модель предназначена для ответов на вопросы по видео и изображениям, суммаризации видео, локализации событий и понимания документов. В README сообщается о результатах на тестах понимания длинных видео и изображений, включая 72,4% на Video-MME при подаче 512 кадров. Указанная в метаданных лицензия — other; конкретные условия следует сверять с карточкой модели.

Vishva007/gemma-4-E4B-it-W4A16-AutoRound-GPTQ — это 4-битная GPTQ-квантизованная версия мультимодальной модели Google Gemma 4 E4B Instruct, созданная на базе google/gemma-4-E4B-it. Модель предназначена для генерации и понимания текста, работы с изображениями и аудио, включая мультимодальные диалоги, описание изображений и анализ визуальных материалов. Заявлена поддержка английского и многоязычных сценариев. Модель распространяется для использования через Transformers и vLLM; в README рекомендована совместимая сборка vLLM для сервинга и OpenAI-совместимого API. Архитектура включает 42-слойную текстовую часть Gemma4TextModel с размерностью скрытого состояния 2560 и смешанным локальным и глобальным вниманием, 16-слойную vision-модель с размерностью 768 и 12-слойную audio-модель с conformer-подобными слоями. Размер словаря составляет 262 144 токена. Линейные слои языковой модели квантизованы по схеме W4A16: веса INT4, активации BF16, размер группы 128, симметричная квантизация. Визуальная и аудиобашни, а также мультимодальные проекторы сохраняются в полной точности, что помогает поддерживать мультимодальное качество. В рекомендованной конфигурации vLLM указан максимальный размер контекста 18 432 токена, а число визуальных токенов на изображение можно настраивать. Главные преимущества — снижение требований к памяти и возможность эффективного развёртывания при сохранении мультимодальных возможностей. Ограничения связаны с использованием RTN-режима AutoRound без полной оптимизации, возможным небольшим снижением точности из-за пропуска слоёв, размеры которых не кратны 32, а также более низкой эффективностью speculative decoding по сравнению с исходной неквантизованной моделью. Лицензия указана как gemma; конкретные условия её применения следует уточнять в лицензии Google Gemma.

MamayLM-Gemma-3-27B-IT-v2.0 — украински адаптированная мультимодальная языковая модель, разработанная INSAIT на основе Google Gemma 3 27B IT. Это плотная модель архитектуры Gemma 3 с 27 млрд параметров, предназначенная для диалогов, следования инструкциям и понимания изображений вместе с текстом. Карточка описывает улучшенную поддержку украинского языка и культурного контекста, многоходовые беседы и сложные инструкции; также модель поддерживает английский язык. Модель подходит для ответов на вопросы по тексту и изображениям, диалоговых помощников и анализа визуального содержимого с учётом текстового контекста. Данные предобучения охватывают период до мая 2025 года, а инструкционная настройка — до октября 2025 года. Репозиторий содержит веса в формате Safetensors; для работы с изображениями требуется сохранять корректную обработку vision-компонентов. Лицензия — Gemma.

RadicalNotionAI/Qwen3.5-397B-A17B-heretic — мультимодальная модель для диалога и понимания изображений, созданная на основе Qwen3.5-397B-A17B. Это вариант с abliterated-настройкой: по приведённому в карточке тесту он реже отказывается отвечать, чем исходная модель. Карточка описывает архитектуру Qwen3.5 как языковую модель с визуальным энкодером и разреженной смесью экспертов: 397 млрд параметров суммарно, из которых активируются 17 млрд. Модель предназначена для диалога, рассуждений, работы с изображениями и вызова инструментов через интерфейс tool calling. Она поддерживает 201 язык и диалект; длина контекста исходной модели составляет 262 144 токена с возможностью расширения примерно до 1 010 000. В качестве формата указаны веса Safetensors для Transformers и совместимых сред инференса. В таблице карточки вариант heretic показывает 2 отказа из 100 против 99 у оригинала, при KL-дивергенции 0,3823; это указывает на изменение поведения и возможное ослабление отказов, но не устанавливает качество или безопасность ответов в других сценариях. Модель опубликована под лицензией Apache-2.0.

cmarkea/dit-base-layout-detection — модель cmarkea для анализа структуры страниц документов. Это BEiT-base, дообученная на наборе DocLayNet; модель сегментирует изображение документа по 11 типам элементов: подписи, сноски, формулы, пункты списка, колонтитулы, изображения, заголовки разделов, таблицы, основной текст и заголовки. Модель предназначена для извлечения макета страниц из сканов и изображений документов, в том числе при подготовке документных коллекций для систем ответов на вопросы по документам. Она содержит около 119,5 млн параметров и выдаёт семантическую сегментацию; из масок сегментации можно получить ограничивающие рамки элементов. В опубликованной оценке на страницах DocLayNet приведены F1 90,77, GIoU 56,29 и точность классов рамок 85,26; для DETR-варианта cmarkea в той же таблице показатели рамок выше. Модель принимает изображения и выдаёт разметку областей документа. Лицензия — Apache-2.0. Результаты обнаружения рамок приведены для простого преобразования масок через OpenCV findContours без дополнительной постобработки, поэтому точность рамок может зависеть от последующей обработки.

Ministral 3 3B Instruct 2512 — компактная мультимодальная модель компании Mistral AI, постобученная для выполнения инструкций. Она сочетает языковую модель на 3,4 млрд параметров и визуальный энкодер на 0,4 млрд параметров; веса представлены в формате FP8. Модель предназначена для локального и периферийного развёртывания, а для работы в FP8 достаточно 8 ГБ видеопамяти согласно карточке модели. Поддерживается контекст до 256 тысяч токенов. Модель принимает текст и изображения, отвечает на вопросы о визуальном содержимом, создаёт короткие тексты, классифицирует текст, извлекает данные и помогает с переводом. Также заявлены поддержка системных инструкций, вызова функций и вывода JSON. Указаны английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Модель можно применять для лёгких приложений реального времени на устройствах с ограниченными ресурсами. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование и модификацию. Результаты могут зависеть от выбранных настроек и качества входных изображений; автор рекомендует для визуальных задач изображения с соотношением сторон, близким к 1:1. Заявления о характеристиках и бенчмарках приведены разработчиком; таблицы README преимущественно показывают результаты более крупной модели Ministral 3 14B, поэтому их нельзя напрямую считать оценкой версии 3B.

Anrn 12B R1 — мультимодальная модель на основе Gemma 4 Unified, выпущенная проектом Anrn и представленная как BF16-база Google Gemma 4 12B с отдельным обученным адаптером LoRA, применяемым с проверенным коэффициентом 0,45. Архитектура — плотный декодер с 11,95 млрд параметров; заявлены входы в виде текста, изображений, аудио и видео. Для Transformers доступен мультимодальный сервис, а дополнительная сборка llama.cpp предназначена для текстового режима. Для llama.cpp указана поддержка контекста 128K. Модель рассчитана на диалог и решение сложных текстовых задач, а также на анализ изображений, аудио и видео через нативный сервис. В README приведены результаты MMLU-Pro, GPQA Diamond и AIME 2026 без инструментов; показатели получены в проектной оценке за август 2026 года и зависят от шаблонов промптов, параметров генерации и версии оценочного набора. BF16-веса требуют значительных ресурсов, а выгрузка части вычислений на CPU снижает скорость. Путь llama.cpp является квантованным текстовым вариантом и не поддерживает нативный мультимодальный ввод. Лицензия — Apache-2.0.

unsloth/gemma-3-4b-it — мультимодальная модель семейства Gemma 3, опубликованная Unsloth на базе Google Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; подходит для диалогов, ответов на вопросы по изображениям, суммаризации и других задач генерации и понимания текста. Модель использует плотную архитектуру Gemma 3 и доступна в формате safetensors для Transformers. В README семейство Gemma 3 описано как поддерживающее контекст до 128 тысяч токенов и более 140 языков. Модель можно применять в чат-ботах и виртуальных помощниках, для извлечения сведений из изображений, составления кратких сводок и создания текстов. К компактному размеру относится заявленная возможность развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре; точный объём памяти для этой версии не указан. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и неверно трактовать тонкие языковые нюансы. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

zaakirio/gemma-4-12b-it-uncensored-GGUF — набор GGUF-квантизаций модели zaakirio/gemma-4-12b-it-uncensored, разработанной на основе Google Gemma 4 12B Instruct. Это декензурированная версия, полученная методом Heretic-abliteration, ориентированная на диалоговые сценарии и запуск через llama.cpp. Модель предназначена для генерации текста, общения, анализа изображений и аудио, а также обработки видео через выборку кадров и аудиодорожку. Модель представляет собой encoder-free unified multimodal decoder-only transformer с 12 млрд параметров и контекстным окном до 256K токенов. Поддерживаются текст, изображения, аудио и видео; для мультимодального ввода требуется отдельный проектор mmproj-gemma-4-12B-it-bf16.gguf. Доступны варианты от Q2_K до Q8_0 и f16 размером примерно от 4,50 до 22,20 ГБ. Опциональный MTP-драфтер может ускорить генерацию на GPU. Поддерживается reasoning-режим, а также системная роль. Сильные стороны модели — сочетание мультимодальности, большого контекста, различных уровней квантизации и совместимость с llama.cpp. Обработка аудио в llama.cpp отмечена как экспериментальная, поэтому качество распознавания может быть сниженным; обработка видео зависит от клиента, выполняющего извлечение кадров. Языки модели явно не перечислены, однако в README подтверждена точная многоязычная транскрипция речи. Лицензия указана как gemma.

GPT-4o от OpenAI, версия от 20 ноября 2024 года, — мультимодальная модель для работы с текстом и изображениями. В карточке отмечено улучшение творческого письма: ответы стали естественнее, интереснее и лучше подстраиваются под запрос, с упором на релевантность и читаемость. Также модель работает с загруженными материалами. Модель подходит для написания и редактирования текстов, диалога и анализа изображений и загруженных файлов. Данных о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных источниках нет.

FreedomAISVR/Muse-Glimmer-30B-NVFP4-GGUF — квантованная сборка Muse-Glimmer-30B от Meta в формате GGUF для локального запуска через llama.cpp. Это плотный причинный трансформер с интегрированным визуальным энкодером; базовая модель насчитывает 27,8 млрд параметров и принимает изображения, в том числе снимки экрана, диаграммы и документы. Контекст достигает 131 тыс. токенов. Сборка использует NVIDIA NVFP4: 4-битные значения E2M1 с масштабированием E4M3 на группы из 16 значений; размер файла — 15,6 ГБ. Модель предназначена для генерации текста и диалогов, а также анализа изображений при локальном инференсе. Для работы с изображениями README рекомендует llama-mtmd-cli или llama-server с mmproj. Проверенная конфигурация использует llama.cpp 1647+ с поддержкой CUDA и видеокарту NVIDIA с 16 ГБ видеопамяти; NVFP4 рассчитан на GPU NVIDIA Blackwell, например RTX 50-й серии. В README приведены результаты на RTX 5060 Ti 16 ГБ: 80,2 токена/с обработки входа и 8,7 токена/с генерации. README указывает лицензию Apache 2.0 для базовой модели. Среди ограничений — требования к совместимому GPU и CUDA-ядрам; отключение рассуждений через конфигурацию не гарантируется, поэтому автор рекомендует параметр --reasoning off при запуске.

Qwen3.8-27B-GGUF — это квантизированная мультимодальная vision-language модель на базе Qwen/Qwen3.8-27B, подготовленная разработчиком 6block с использованием llama.cpp. Она предназначена для обработки текста, изображений и видео с генерацией текстовых ответов, поэтому подходит для визуального анализа, работы с документами и общих текстовых задач. Заявлены английский и китайский языки. Модель имеет плотную архитектуру с 27,8 млрд параметров, включая vision tower, и 64 decoder-слоя. В гибридной схеме 16 слоёв используют grouped-query full attention, а 48 — Gated DeltaNet linear attention. Нативная длина контекста составляет 262 144 токена, с возможностью дальнейшего расширения через YaRN; словарь содержит 248 320 токенов, embeddings не связаны. Доступны варианты квантизации от Q8_0 до IQ2_XXS, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Для мультимодального ввода требуется отдельный файл vision projector mmproj; без него модель работает только с текстом. Благодаря гибридной архитектуре KV-кэш растёт только для 16 полно-внимательных слоёв, что снижает затраты памяти на длинном контексте. К сильным сторонам относятся поддержка текста, изображений и видео, очень длинный контекст, широкий набор вариантов квантизации и imatrix-калибровка для сохранения качества при сжатии. Ограничениями являются значительные требования к памяти: размер текстового backbone составляет примерно от 9,3 до 26,1 GiB в зависимости от варианта, а для мультимодальной работы дополнительно нужен vision projector размером около 0,9 GiB и память под KV-кэш. Модель распространяется по лицензии Apache-2.0.

VARCO-VISION-2.0-14B — мультимодальная модель NCSOFT, построенная по архитектуре LLaVA-OneVision. Она объединяет визуальную модель SigLIP2-so400m-patch16-384 и языковую Qwen3-14B; число параметров языковой базовой модели — 14 млрд. Модель принимает текст и одно или несколько изображений и отвечает на вопросы по их содержимому. Модель предназначена прежде всего для корейского и английского языков. Она умеет анализировать документы, таблицы и графики, распознавать текст на изображениях и указывать его положение рамками, а также отвечать на повседневные вопросы и суммировать информацию. Разработчик отмечает улучшенное понимание корейского языка и культурного контекста. Для работы с несколькими изображениями рекомендуется Transformers версии 4.53.1 или выше. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки зависят от бенчмарка и формата запроса; README также предупреждает, что результаты некоторых тестов с оценкой другой LLM могут быть невоспроизводимы.

Vishva007/Qwen3.8-27B-W4A16-AutoRound-GPTQ — квантованная версия модели Qwen/Qwen3.8-27B, подготовленная с использованием алгоритма Intel AutoRound. Базовая архитектура разработана командой Qwen; автор репозитория адаптировал её для более экономичного запуска. Модель относится к мультимодальным vision-language моделям и поддерживает сценарии обработки текста и изображений с генерацией текста, включая визуальное рассуждение и OCR. Модель содержит около 27 млрд параметров и использует формат W4A16: веса представлены в 4-битном виде, а активации — в 16-битном. Квантование выполнено с размером группы 64, симметричной схемой и калибровкой на 512 образцах. Vision tower сохранён в формате BF16, как и специальные MTP-слои, что должно помогать сохранять качество работы с изображениями. Заявленное потребление видеопамяти составляет примерно 16–18 ГБ против около 54 ГБ у исходной BF16-модели; это позволяет запускать модель на одной видеокарте с 24 ГБ памяти. В README приведён пример использования с vLLM и длиной контекста 4096 токенов, однако полный набор поддерживаемых языков и исходный максимальный контекст не указаны. К преимуществам относятся существенно сниженные требования к VRAM, потенциально более высокая скорость декодирования за счёт уменьшения нагрузки на пропускную способность памяти и сохранение vision tower в BF16. Ограничениями являются возможная потеря точности из-за 4-битного квантования, зависимость от совместимости используемого движка с AutoRound или GPTQ и отсутствие подробных результатов бенчмарков. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Instruct-NVFP4 — мультимодальная модель для генерации текста по текстовым и визуальным входным данным, опубликованная пользователем или организацией ig1. Она основана на Qwen/Qwen3-VL-30B-A3B-Instruct и предназначена для сценариев, где требуется анализ изображений совместно с обработкой естественного языка; README также упоминает поддержку изображений и видео, однако конкретные языки и полный набор мультимодальных возможностей не указаны. Модель использует архитектуру Qwen3-VL с mixture-of-experts; обозначение 30B-A3B указывает на 30 млрд параметров в общей модели и около 3 млрд активных параметров на токен. Она подвергнута NVFP4-квантизации с использованием llm-compressor и предназначена для запуска через vLLM с поддержкой OpenAI-совместимого сервера, автоматического выбора инструментов и parser hermes. Для видеокарт RTX 5090 README рекомендует ограничивать контекст примерно 56K токенами, использовать не более трёх изображений и отключать видео из-за ограничений памяти; точный максимальный контекст модели не указан. К сильным сторонам относятся сниженные требования к памяти благодаря NVFP4-квантизации и возможность быстрого инференса на совместимом оборудовании. Ограничения включают возможную потерю качества из-за квантизации, зависимость от совместимой версии vLLM и необходимость уменьшать контекст или число мультимодальных входов на видеокартах с ограниченной памятью. Модель распространяется по лицензии Apache-2.0.

timm/vit_pe_lang_large_patch14_448.fb — вариант визуального энкодера Perception Encoder Language от Meta, преобразованный для библиотеки timm и содержащий только энкодер изображений. Это большая модель семейства ViT с патчами 14×14 и входным разрешением 448 пикселей; она обучена на контрастивных изображениях и текстах и дополнительно выровнена для языковых задач. В полном мультимодальном конвейере энкодер можно сочетать с языковым декодером, например Llama или Qwen. Модель предназначена для получения визуальных признаков для поиска и других задач понимания изображений; семейство PE Lang особенно хорошо показало себя на OCR и анализе документов, включая ответы на вопросы по документам. Эта карточка содержит только визуальный энкодер: сама модель не генерирует текст и не принимает видео. Веса доступны в форматах PyTorch и safetensors по лицензии Apache 2.0.

FreedomAISVR выпустила квантованную сборку Muse-Glimmer-30B в формате GGUF с квантизацией MXFP4. В основе — Muse-Glimmer-30B от Meta: плотный причинный трансформер примерно на 27,8 млрд параметров со встроенным визуальным энкодером ViT-G/14. Модель предназначена для генерации текста в диалоге и анализа изображений, включая скриншоты, графики и документы. README заявляет контекст 131K+ токенов; для запуска указаны llama.cpp build 1647+ с поддержкой CUDA и видеокарта NVIDIA с 16 ГБ видеопамяти или больше. Квантизация MXFP4 использует 4,46 бита на вес, а файл модели занимает около 14,8 ГБ. В README приведены результаты на RTX 5060 Ti 16GB: 246,3 токена/с при обработке запроса и 25,3 токена/с при генерации; это результаты конкретной конфигурации и оборудования. Для обработки изображений требуется llama-mtmd-cli или сервер llama.cpp с mmproj. Базовая модель имеет лицензию Apache 2.0; отдельные условия лицензии этой сборки в предоставленных данных не приведены.

Qwen3.5-122B-A10B-PRISM-LITE-GGUF — мультимодальная GGUF-версия Qwen3.5-122B-A10B, подготовленная Ex0bit с применением PRISM-процесса для частичного снижения чрезмерных отказов. Модель предназначена для диалогов, рассуждений и анализа изображений и видео; поддерживает режимы Thinking и Instant. В README заявлены 122 млрд параметров, из которых 10 млрд активны на токен, архитектура MoE с 256 маршрутизируемыми и одним общим экспертом на слой, а также сочетание GatedDeltaNet и пол attention. Контекст составляет 262 144 токена. Поставляется в формате GGUF с динамической поканальной квантизацией размером около 57,7 ГБ; для работы с изображениями включён файл vision encoder mmproj. Метаданные указывают лицензию Apache-2.0 и библиотеку llama.cpp. Вариант LITE снижает чрезмерные отказы лишь частично; заявления README о сохранении связности и удалении отказов не сопровождаются независимыми оценками. Базовая модель поддерживает широкий набор языков, включая русский.