I.8Изображения и компьютерное зрение

OpenGryd/PaddleOCR-VL-1.6-MLX-16bit — конверсия PaddlePaddle/PaddleOCR-VL-1.6 в формат MLX для запуска на компьютерах Apple Silicon. Это мультимодальная модель обработки документов на основе ERNIE-4.5 с архитектурой PaddleOCRVLForConditionalGeneration; в README указано 0,9 млрд параметров, а размер файлов составляет около 1,81 ГБ. Модель использует точность bfloat16 без квантизации, принимает изображение вместе с текстовым запросом и выдаёт текстовый разбор документа. Контекст — до 131 072 токенов; языковые метки карточки указывают английский, китайский и многоязычную поддержку. Модель предназначена для локального распознавания и структурирования документов: извлекает текст целых страниц в Markdown или JSON, анализирует макет, распознаёт таблицы и формулы, диаграммы, печати и текстовые области. Повышенный предел разрешения изображения нацелен на распознавание мелкого текста, но увеличивает время обработки крупных страниц; README приводит замеры на 8-битной версии. Для работы требуется библиотека mlx-vlm и включение trust_remote_code=True, а запрос должен включать изображение. Лицензия — Apache-2.0.

Qwen2.5-VL-7B-Instruct-heretic — модифицированная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная автором saidutta69 с использованием Heretic v1.4.0. Модель предназначена для работы с текстом и изображениями, а также поддерживает сценарии, связанные с OCR, разбором документов, привязкой объектов на изображении и анализом видео. В карточке указано, что основной язык — английский. Модель сохраняет архитектуру и основные возможности базовой Qwen2.5-VL-7B-Instruct; заявленный нативный размер составляет около 8,3 млрд параметров. Вариант создан методом directional ablation («abliteration»): из весов целенаправленно удалены направления, связанные с отказами в ответах, без дообучения. Поэтому у модели должны в значительной степени сохраняться знания в области vision-language и следование инструкциям базовой модели, но защитные ограничения и фильтрация намеренно ослаблены. Это может быть полезно разработчикам, которым требуется меньше отказов, однако одновременно повышает риск выдачи нежелательного или небезопасного содержимого. Доступны полные веса в формате Safetensors BF16 и текстовые GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0. GGUF-файлы содержат текстовую часть и не включают vision-энкодер, поэтому для полноценной мультимодальной работы следует использовать полные веса Safetensors. Модель совместима с Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Лицензия — Apache-2.0, унаследованная от базовой модели.

Ar4ikov/Qwen3.8-27B-Uncensored-AWQ-W4A16-ASYM — 4-битная AWQ-квантованная версия мультимодальной модели orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации и анализа текста и изображений, включая сценарии с поддержкой reasoning и спекулятивного декодинга. Разработчик квантованного варианта — Ar4ikov; исходная модель разработана orcarouter. Модель содержит 27B параметров и использует гибридную архитектуру Qwen3.8-27B: 64 слоя с комбинацией Gated DeltaNet и Gated Attention, vision-башню и MTP-голову. Применяется схема W4A16_ASYM с 4-битными весами, group size 128 и BF16-активациями; размер модели сокращён примерно с 52 до 19 ГБ. Поддерживаются мультимодальные входы, контекст до 262 144 токенов и режимы reasoning_effort low, medium и xhigh. Vision-башня, эмбеддинги, lm_head, чувствительные SSM-гейты и MTP-голова сохранены в BF16. Основное преимущество — существенное снижение размера при сохранении визуальной части и совместимость с нативной загрузкой в vLLM, а также потенциально в SGLang. Реальная экономия памяти доступна в рантаймах с INT4-ядрами; transformers распаковывает веса обратно в BF16. Качество на изображениях должно быть близко к исходной модели, но в текстовой части возможна деградация из-за квантования. Бенчмарк-валидация не проводилась, проверена только связность генерации, поэтому модель требует собственных оценок перед production-использованием. Распространяется по лицензии Apache-2.0.

FuriosaAI публикует эту сборку Qwen3-VL-32B-Thinking вместе с пакетом Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это плотная мультимодальная модель с 32 млрд параметров: она сочетает визуальный энкодер и трансформерный декодер, использует Interleaved-MRoPE и слияние признаков DeepStack. Квантизация не применялась; веса сохраняют точность исходной модели Qwen/Qwen3-VL-32B-Thinking. Модель принимает изображения и текст, а отвечает текстом. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео. Версия Thinking формирует рассуждение перед итоговым ответом; также поддерживается вызов инструментов. README описывает запуск через Furiosa-LLM на RNGD, а также совместимость с vLLM, SGLang и Transformers. Модель выпущена под лицензией Apache 2.0. Для запуска на RNGD требуется конфигурация с 32 PE, распределёнными по четырём картам RNGD; отдельные ограничения качества в предоставленных материалах не описаны.

Qwen3-VL-32B-Instruct-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-32B-Instruct в формате GGUF: языковую часть в вариантах FP16, Q8_0 и Q4_K_M и vision encoder в вариантах FP16 и Q8_0. Модель предназначена для обработки текста и изображений, а также для понимания видео, включая визуальные вопросы и ответы, OCR, анализ документов, пространственное рассуждение, STEM-задачи, визуальное программирование и взаимодействие с графическими интерфейсами через инструменты. Ключевые возможности включают расширенное визуальное восприятие, распознавание объектов и текста, анализ пространственных отношений, понимание длительных видеопоследовательностей и генерацию кода или разметки по изображениям и видео. Заявлен нативный контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона. OCR поддерживает 32 языка. В архитектуре используются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, улучшающие обработку пространственных, временных и мелких визуальных деталей. Модель совместима с llama.cpp, Ollama и другими инструментами экосистемы GGUF и может запускаться на CPU, NVIDIA GPU, Apple Silicon и Intel GPU. Разные уровни точности позволяют выбирать компромисс между качеством, скоростью и требованиями к памяти, однако модель размером 32B может предъявлять значительные аппаратные требования, а квантование способно снижать точность. Для работы рекомендуется актуальная версия llama.cpp. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Thinking-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит GGUF-веса базовой модели Qwen3-VL-32B-Thinking и предназначен для локального запуска через llama.cpp, Ollama и другие инструменты, совместимые с GGUF, на CPU, NVIDIA GPU, Apple Silicon и Intel GPU. Модель объединяет языковую модель и vision encoder, поддерживает обработку текста, изображений и видео. Она ориентирована на визуально-языковое понимание и рассуждение, включая анализ документов и сцен, OCR, пространственное восприятие, STEM- и математические задачи, генерацию кода и разметки по изображениям или видео, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены контекст до 256K токенов с возможностью расширения до 1M, поддержка OCR на 32 языках и улучшенное понимание длительных видео с временной привязкой событий. Архитектурные особенности включают Interleaved-MRoPE для моделирования времени и пространственных измерений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Доступны варианты языковой модели FP16, Q8_0 и Q4_K_M, а vision encoder — FP16 и Q8_0, что позволяет выбирать баланс качества, скорости и требований к памяти. Ограничения включают высокие вычислительные и ресурсные требования 32B-модели, а также возможное снижение качества при использовании более агрессивного квантования; конкретные результаты бенчмарков в README не приведены. Распространение указано по лицензии Apache-2.0.

unsloth/Qwen3-VL-8B-Instruct-unsloth-bnb-4bit — это 4-битно квантованная версия мультимодальной vision-language модели Qwen3-VL-8B-Instruct, подготовленная Unsloth на базе Qwen/Qwen3-VL-8B-Instruct. Модель предназначена для обработки и генерации текста по текстовым, визуальным и видеоданным, а также для мультимодального рассуждения, анализа документов, OCR, понимания пространственных отношений и взаимодействия с графическими интерфейсами через визуального агента. Она также ориентирована на генерацию кода и разметки Draw.io, HTML, CSS и JavaScript по изображениям и видео. Модель использует плотную архитектуру размером 8B параметров и поддерживает контекст длиной 256K токенов с возможностью расширения до 1M. Среди заявленных компонентов — Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. Заявлена поддержка OCR на 32 языках, включая работу с размытыми, наклонёнными и низкоконтрастными изображениями, а также понимание длинных документов и продолжительных видеозаписей. К сильным сторонам относятся сочетание текстового и визуального понимания, развитое пространственное и временное рассуждение, обработка изображений и видео, а также сниженные требования к памяти благодаря формату unsloth-bnb-4bit. Ограничения включают возможную потерю точности из-за 4-битной квантизации и необходимость совместимого программного окружения для запуска мультимодальных сценариев; точный перечень поддерживаемых языков и требования к аппаратному обеспечению в представленном README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Instruct-GGUF — мультимодальная instruction-модель, разработанная Unsloth на основе Qwen/Qwen3-VL-32B-Instruct. Она предназначена для диалогов и генерации ответов по тексту и изображениям, а также для анализа видео, визуального распознавания, OCR, пространственного рассуждения, STEM- и математических задач, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель использует плотную архитектуру размером 32B параметров и поставляется в формате GGUF. Заявлены контекст длиной 256K токенов с возможностью расширения до 1M, поддержка изображений, видео и текста, а также OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE для пространственно-временного позиционирования, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. Репозиторий также включает исправления chat template от Unsloth. Сильные стороны модели — объединённое понимание текста и визуальных данных, детальное распознавание объектов и документов, работа с длинным контекстом и видео, а также расширенные возможности пространственного и агентного рассуждения. Ограничения связаны с высокой вычислительной и памятьевой нагрузкой 32B-модели, а GGUF предполагает использование совместимого программного обеспечения для запуска; конкретные требования к ресурсам и поддерживаемые языки вне OCR в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Репозиторий основан на Qwen/Qwen2.5-VL-7B-Instruct и содержит 7B-версию модели в формате GGUF. Указана лицензия Apache-2.0; заявленный язык — английский, задача — преобразование изображений и текста в текст. Модель предназначена для анализа изображений, документов, диаграмм, таблиц, графики и макетов, распознавания текста, визуального вопросно-ответного взаимодействия, структурированного извлечения данных из счетов и форм, визуальной локализации объектов с помощью координат или точек, а также анализа видео. Она может обрабатывать длинные видео длительностью более часа и выделять релевантные моменты. Также заявлены сценарии визуального агента, включая взаимодействие с компьютером и мобильными устройствами. Архитектура включает языковую модель Qwen2.5, vision encoder ViT с window attention, SwiGLU и RMSNorm, динамическое разрешение изображений и динамическую частоту выборки кадров видео. Для временного измерения используется mRoPE с идентификаторами и абсолютным выравниванием времени. Ключевые сильные стороны — распознавание документов и текста, понимание диаграмм и видео, генерация структурированных результатов и визуальная локализация. Ограничения: README не содержит точных требований к ресурсам, максимального контекста, полного списка поддерживаемых языков и подробностей качества GGUF-квантизации; приведённые результаты зависят от конкретных бенчмарков и настроек.

Qwen3-VL-4B-Instruct-GGUF — это мультимодальная vision-language модель серии Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-4B-Instruct в формате GGUF: языковую модель и отдельный vision encoder в вариантах FP16, Q8_0 и Q4_K_M. Модель предназначена для понимания и генерации текста с учётом изображений, а также для анализа видео. Модель ориентирована на визуальные вопросы и ответы, OCR, распознавание объектов и сцен, пространственное рассуждение, анализ документов и видео, STEM-задачи, генерацию кода и взаимодействие с графическими интерфейсами через инструменты. Заявлены контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, понимание длительных видео и поддержка OCR на 32 языках. В архитектуре используются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками для улучшения пространственного и временного анализа. К сильным сторонам относятся сочетание текстового и визуального понимания, работа с мелкими деталями изображений, пространственным контекстом, документами и видео, а также возможность запуска локально на CPU, NVIDIA GPU, Apple Silicon и Intel GPU через llama.cpp, Ollama и другие инструменты GGUF. Выбор точности компонентов позволяет адаптировать потребление памяти и производительность под оборудование, однако квантованные варианты могут уступать FP16 по качеству, а README не содержит подробных числовых результатов бенчмарков, точного перечня поддерживаемых языков для обычного диалога и требований к ресурсам. Лицензия — Apache-2.0.

Qwen2.5-VL-72B-Instruct-GGUF — мультимодальная instruct-модель семейства Qwen2.5-VL, разработанная Qwen и представленная в формате GGUF. Квантизация выполнена bartowski на основе llama.cpp версии b5317. Модель предназначена для работы с текстом и изображениями. Модель подходит для анализа изображений, распознавания объектов, чтения и интерпретации текста, таблиц, графиков, значков, схем и элементов макета. Она также рассчитана на сценарии визуального агента с рассуждением и динамическим управлением инструментами, включая взаимодействие с компьютером и телефоном. Поддерживает структурированный вывод и формирование стабильного JSON, а также многоязычную работу. Заявленная длина контекста составляет 128 тысяч токенов. README не уточняет точную архитектуру, перечень поддерживаемых языков и параметры конкретного файла квантизации, поэтому производительность и требования к ресурсам зависят от выбранного варианта GGUF. Как и другие генеративные модели, модель может выдавать неточные, вредоносные или неподходящие результаты. Лицензия указана как qwen и other; подробные условия приведены в лицензии исходной модели Qwen2.5-VL-72B-Instruct.

Qwen2.5-VL-7B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Это AWQ-квантованная версия модели Qwen2.5-VL-7B-Instruct с 7 миллиардами параметров, предназначенная для задач vision-language. Модель принимает текст, изображения и видео и может распознавать объекты, анализировать текст, графики, таблицы, иконки и макеты, извлекать структурированные данные из счетов и форм, локализовать объекты с помощью bounding boxes или точек, а также поддерживать сценарии визуального агента, включая взаимодействие с компьютером и телефоном. Она способна анализировать видео длительностью более часа и находить релевантные временные фрагменты. В архитектуре заявлены динамическое разрешение и частота кадров для видео, временная версия mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. К сильным сторонам относятся широкий набор мультимодальных возможностей, обработка документов и структурированный вывод, визуальная локализация и понимание длительных видео. Модель позиционируется как более эффективная за счет AWQ-квантования, а использование flash attention 2 может снизить потребление памяти и ускорить инференс. README не содержит результатов оценки, точного размера контекстного окна и подробного перечня поддерживаемых языков; в метаданных указан английский язык. Для работы рекомендуется актуальная версия Transformers и соответствующие инструменты обработки изображений и видео. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-2B-Thinking-FP8 — мультимодальная vision-language модель из серии Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-2B-Thinking с мелкозернистой квантизацией и размером блока 128; согласно README, её показатели почти идентичны исходной BF16-модели. Модель предназначена для обработки изображений, видео и текста, включая генерацию и понимание текста, визуальное рассуждение, OCR, анализ документов, пространственное восприятие, STEM- и математические задачи, а также взаимодействие с графическими интерфейсами и инструментами. Модель поддерживает нативный контекст до 256K токенов с возможностью расширения до 1M, понимает длительные видео и использует механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Заявлена поддержка OCR на 32 языках, однако полный перечень языков в README не приведён. Среди сильных сторон — детальное визуальное восприятие, анализ пространственных отношений и видео, мультимодальное рассуждение, распознавание текста в сложных условиях и снижение требований к памяти благодаря FP8-квантизации. README указывает на ограничения совместимости: Transformers пока не поддерживает прямую загрузку этих весов. Для запуска рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct-GGUF — мультимодальная vision-language модель семейства Qwen3-VL, разработанная командой Qwen; данный репозиторий содержит её веса в формате GGUF и включает исправления chat template от Unsloth. Модель предназначена для диалогов и генерации текста по текстовым и визуальным входам, включая анализ изображений и видео, OCR, визуальное рассуждение, понимание пространственных отношений, обработку документов, визуальное программирование и взаимодействие с графическими интерфейсами через инструменты. Модель имеет плотную архитектуру и размер 8B параметров. Заявлены нативный контекст 256K токенов с возможностью расширения до 1M, поддержка видео с временной привязкой событий и OCR на 32 языках; полный список языков текстового общения в README не указан. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся объединённое понимание текста и изображений, распознавание деталей и документов, пространственный и мультимодальный анализ, а также сценарии визуального агента. Ограничения, точные требования к ресурсам и характеристики конкретной GGUF-квантизации в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Данная версия представляет собой GGUF-сборку весов Qwen3-VL-4B-Instruct, подготовленную автором Mungert с использованием llama.cpp. Модель предназначена для диалога и генерации текста на основе изображений, видео и текстовых запросов. Модель имеет плотную архитектуру и размер 4B параметров. Она поддерживает анализ изображений и видео, визуальное распознавание, OCR, пространственное рассуждение, понимание длительных видеосцен, мультимодальные задачи STEM и генерацию кода интерфейсов и схем по визуальным материалам. Также заявлены возможности визуального агента для взаимодействия с графическими интерфейсами и инструментами. Контекст составляет 256K токенов с возможностью расширения до 1M; OCR заявлен для 32 языков, однако полный перечень языков в карточке не указан. К сильным сторонам относятся расширенное понимание изображений и видео, точное пространственное и временное рассуждение, обработка длинного контекста, улучшенное распознавание текста и интеграция визуальной и текстовой информации. GGUF-формат удобен для локального запуска через llama.cpp, а применённый автором подход с повышением точности отдельных слоёв призван улучшить качество при заданном уровне квантизации, хотя увеличивает размер файла. Ограничения включают зависимость качества от выбранного варианта квантизации и аппаратных ресурсов, а также отсутствие в README подробных результатов тестирования и требований к памяти. Лицензия — Apache 2.0.

ZuzeTt/Qwen3-VL-4B-Instruct-heretic-Imatrix-GGUF — децензурированная версия мультимодальной модели Qwen3-VL-4B-Instruct, созданная пользователем ZuzeTt на основе модели Qwen и обработанная с помощью Heretic v1.0.1. Модель предназначена для работы с текстом и визуальными данными, включая понимание изображений и видео, визуальное рассуждение, OCR, анализ пространственных отношений, генерацию кода и взаимодействие с графическими интерфейсами. Модель относится к классу Dense и имеет 4 млрд параметров. Заявлены контекст длиной 256K токенов с возможным расширением до 1M, поддержка OCR на 32 языках, улучшенное понимание видео и временных связей, а также архитектурные механизмы Interleaved-MRoPE, DeepStack и Text–Timestamp Alignment. Репозиторий распространяется в формате GGUF, однако конкретные параметры квантования в README не указаны. Главная особенность версии — снижение количества отказов от ответа: в приведённом сравнении модель отказала в 8 из 100 случаев против 92 из 100 у исходной Qwen3-VL-4B-Instruct; KL-дивергенция относительно оригинала составляет 0,27. Это может быть полезно для исследовательских и экспериментальных сценариев, требующих менее ограниченного поведения, но одновременно означает изменение исходных механизмов безопасного отказа. Лицензия — Apache-2.0.

Qwen3-VL-4B-Thinking-FP8 — мультимодальная модель семейства Qwen, представленная в репозитории Qwen и основанная на Qwen3-VL-4B-Thinking. Это FP8-квантизированная версия с мелкозернистым квантованием и размером блока 128; заявлено, что её показатели почти идентичны исходной модели в формате BF16. Модель предназначена для генерации текста по изображениям и тексту, а также для анализа видео. Модель ориентирована на визуальное понимание и рассуждение, включая распознавание текста на изображениях, анализ документов, STEM- и математические задачи, пространственное восприятие, понимание динамики видео, локализацию событий по временным меткам и визуальное программирование. Она также рассчитана на сценарии visual agent: распознавание элементов интерфейса ПК и мобильных устройств, понимание их функций, вызов инструментов и выполнение задач. Поддерживаются изображения, видео и текст; заявлен нативный контекст 256K с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный список языков в README не приведён. К архитектурным особенностям относятся Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и механизм выравнивания текста с временными метками. Сильными сторонами являются расширенное визуальное и пространственно-временное понимание, обработка длинного контекста, OCR и мультимодальное рассуждение. Ограничение состоит в том, что на момент публикации README Transformers не поддерживал прямую загрузку этих весов; для развёртывания рекомендованы vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

openbmb/MiniCPM-V-4_5-AWQ — квантованная в формате AWQ версия мультимодальной модели MiniCPM-V 4.5, разработанная командой OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языкового диалога, включая локальное использование на мобильных и обычных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает более 30 языков, обрабатывает изображения высокого разрешения с произвольным соотношением сторон и площадью до 1,8 млн пикселей, а также видео с высокой частотой обновления — до 10 кадров в секунду. Унифицированный 3D-Resampler сжимает видеотокены до 96 раз, а архитектура на основе LLaVA-UHD снижает количество визуальных токенов при работе с изображениями. Доступны режимы быстрого и глубокого рассуждения. Сильные стороны модели — заявленные высокие результаты в визуально-языковых задачах, OCR, распознавании рукописного текста, анализе PDF и длинных видео, а также возможность эффективного запуска через llama.cpp, Ollama, vLLM и SGLang. Ограничения, включая точные требования к памяти и аппаратному обеспечению, контекстное окно и условия коммерческого использования, в README не указаны. README также не содержит явной информации о лицензии, поэтому условия распространения следует уточнять отдельно.

Qwen3.8-27B-Pessoa-5090 (AR11) — квантованный вариант Qwen/Qwen3.8-27B, подготовленный автором lribeiro. Это vision-language model для обработки текста и изображений, включая сценарии image-text-to-text; языковая часть поддерживает multilingual-данные. Модель предназначена для запуска через vLLM на одной видеокарте NVIDIA RTX 5090 с архитектурой Blackwell SM120 и поддерживает speculative decoding с помощью MTP. Модель содержит 27,79 млрд параметров и использует архитектуру Qwen3_5ForConditionalGeneration: 27-слойный ViT-энкодер изображений и языковую модель из 64 слоёв, объединяющую 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания. Максимальный контекст составляет 262 144 токена, словарь — 248 320 токенов. Квантование выполнено методом AutoRound 0.14.2 в формате compressed-tensors: ранние MLP-слои используют INT4, поздние — INT5, а проекции внимания — INT6; активации, KV-cache, визуальный энкодер, эмбеддинги, lm_head и MTP-head сохраняются в BF16. Главное преимущество — уменьшение размера с 55,6 до 22,59 ГБ при сохранении качества: заявлены KLD 0,00397 наты и совпадение top-1 в 97,64% случаев на тесте из 278 392 позиций. Ограничения включают зависимость от совместимого стека vLLM, FlashInfer и оборудования Blackwell, а также потенциальные потери точности из-за квантования весов. Модель распространяется по лицензии Apache-2.0.

Карточка модели gonghao1234/Qwen3-VL-4B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-4B-Instruct, поэтому описание составлено по ней. Qwen3-VL-4B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также предназначена для понимания видео и временных событий; в ответ генерирует текст. Модель доступна как репозиторий весов в формате safetensors и рассчитана на диалоговое использование через Transformers. Модель подходит для визуальных вопросов и ответов, распознавания и разбора текста на изображениях, анализа видео, пространственного рассуждения, мультимодальных STEM-задач и управления интерфейсами с вызовом инструментов. В README заявлены контекст 256 тысяч токенов с возможностью расширения до миллиона и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных данных и объединение многоуровневых визуальных признаков DeepStack. Лицензия Apache-2.0. Это вариант Instruct, предназначенный для применения в мультимодальных диалоговых сценариях; качество зависит от задачи и входных данных, а заявленные возможности не сопровождаются в карточке результатами бенчмарков.

Zen Designer GGUF — мультимодальная модель семейства Zen от Hanzo AI и Zoo Labs Foundation, дообученная на основе Qwen/Qwen3-VL-235B-A22B-Instruct, обработанная методом abliteration и выпущенная в формате GGUF. Это MoE-модель на 235 млрд параметров, из которых активно 22 млрд; заявленная длина контекста — 256 тыс. токенов. В репозитории указаны варианты квантизации Q2_K и Q4_K_M, а метаданные также отмечают GGUF F16. Модель предназначена для диалогов и анализа изображений, видео, документов, диаграмм, таблиц и интерфейсов, включая OCR, пространственное понимание и навигацию по GUI. README сообщает о поддержке временных рассуждений по видео и визуального определения областей. Поддерживаемые языки по метаданным: английский, китайский, японский, корейский, французский, немецкий, испанский, португальский, итальянский и русский; в карточке отдельно не выделен основной язык. Abliteration удаляет заложенные в весах отказы, поэтому поведение модели может быть менее безопасным; автор рекомендует задавать правила поведения на уровне приложения. Для локального запуска предлагается llama.cpp с отдельным файлом mmproj для визуального ввода. Модель распространяется по лицензии Apache-2.0.

Это мультимодальная vision-language модель Qwen3.8-27B, разработанная командой Qwen и представленная в квантованном варианте пользователем lribeiro. Модель предназначена для обработки текста, изображений и видео, включая задачи понимания визуального содержания и генерации текста по визуальному контексту. Она реализована на базе архитектуры Qwen3_5ForConditionalGeneration и поддерживает многоязычные сценарии. Языковая часть содержит около 27 млрд параметров, а vision tower — ещё около 460,7 млн. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, а также vision encoder на базе 27-слойного ViT. Контекст в указанной конфигурации составляет 8192 токена. Лингвистические слои используют FP8 E4M3 в режиме W8A8 с GPTQ-коррекцией весов, тогда как визуальный энкодер и MTP-head сохранены в BF16. Размер чекпойнта составляет 29,97 ГБ против 55,6 ГБ у BF16-базы. Сильными сторонами являются сохранённая обработка изображений и видео, уменьшенный размер, высокая скорость prefill и поддержка MTP speculative decoding; после исправления конфигурации заявлена скорость декодирования 106,9 токена в секунду против 69,4. Ограничения включают необходимость оборудования с поддержкой FP8, прежде всего NVIDIA Blackwell, Ampere или Hopper, а также зависимость от совместимой версии vLLM и FlashInfer. Модель распространяется по лицензии Apache-2.0.

Swift-Qwen3.8-27b-oQ4e-fp16-mtp — плотная мультимодальная модель класса 27B, разработанная на основе Swift-Qwen3.8-27b от UkisAI и преобразованная в формат MLX. Она предназначена для задач, сочетающих работу с текстом и изображениями, включая генерацию и понимание текстово-визуального содержимого. Модель содержит текстовый backbone, vision encoder и один слой multi-token prediction (MTP). Текстовая часть включает 64 слоя со скрытым размером 5 120 и feed-forward-размером 17 408. В архитектуре используются 48 слоёв linear attention и 16 слоёв full attention; полный attention применяется на каждом четвёртом слое. Словарь содержит 248 320 токенов, заявленный предел контекста составляет 262 144 токена, однако фактическая доступная длина зависит от настроек runtime и объёма памяти. Vision encoder состоит из 27 слоёв со скрытым размером 1 152, 16 attention heads и обрабатывает изображения через патчи 16×16; визуальные признаки проецируются в пространство размерности 5 120. Чекпойнт использует смешанную квантизацию: по умолчанию применяются аффинные 4-битные веса с группами по 64 значения, а для 187 модулей заданы 5-битные переопределения. Часть параметров MTP, включая fusion matrix и веса нормализации, сохраняется в FP16, поэтому суффикс fp16 не означает полностью FP16-модель. Такой формат снижает требования к памяти по сравнению с полноразмерными весами, но точные характеристики производительности и совместимость зависят от MLX runtime и оборудования. Языки в README не указаны. Модель распространяется на условиях Swift Open License v1.0; преобразование не изменяет условия upstream-лицензии. Перед использованием необходимо ознакомиться с условиями лицензии и ограничениями доступа исходной модели.

Qwen3.8-27B-Huihui-Abliterated-NVFP4-MTP-VL — мультимодальная квантованная модель, разработанная lyf на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это поведенческий производный вариант, предназначенный для исследований и локального инференса, включая генерацию текста, работу с изображениями и видео, рассуждения, вызов инструментов и ускорение декодирования с помощью MTP (эталонного многотокенного предсказания). Модель использует языковую часть размером 27B параметров с квантованием линейных слоёв в формате NVFP4 W4A4 и размером группы 16. Башня обработки изображений и видео, MTP-голова, lm_head, эмбеддинги токенов и GDN conv1d сохранены в формате BF16. Поддерживаются английский и китайский языки. Указанный проверенный профиль рассчитан на видеокарты NVIDIA RTX 5090 с архитектурой Blackwell, ограничением контекста 4096 токенов и KV-кэшем FP8; большие контексты требуют отдельной проверки доступной видеопамяти. К сильным сторонам относятся мультимодальность, существенное снижение требований к памяти благодаря NVFP4, сохранение исходной BF16 vision/video tower и MTP-компонентов, а также совместимость с vLLM и OpenAI-compatible API. На одной RTX 5090 модель успешно прошла проверки текстовой генерации, MTP и мультимодального профиля; во время генерации использовалось около 28 944 MiB VRAM. Ограничения включают зависимость от совместимого оборудования и программного окружения, необходимость валидации для иных нагрузок и контекстов, а также экспериментальный характер abliterated-производной. Модель распространяется по лицензии Apache-2.0. Она предназначена для исследовательского использования и локального инференса; ответственность за дальнейшее применение и соблюдение соответствующих политик лежит на пользователе.

ZuzeTt/Qwen3-VL-4B-Thinking-heretic-imatrix-GGUF — мультимодальная модель для понимания и генерации текста по изображениям и текстовым запросам. Она создана на основе Qwen/Qwen3-VL-4B-Thinking и представляет собой её декензурированную версию, полученную с помощью Heretic 1.1.0. В README указано, что исходная модель относится к семейству Qwen; отдельный разработчик этой модификации не назван. Модель предназначена для визуального анализа, рассуждений по изображениям, решения STEM- и математических задач, распознавания текста, понимания пространственных отношений, анализа видео, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены поддержка длинного контекста до 256K токенов с возможным расширением до 1M, понимание длительных видео, OCR на 32 языках и мультимодальное рассуждение. Архитектурные особенности базовой модели включают Dense-архитектуру, режим Thinking, Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками; размер модели — 4B параметров. Ключевая особенность модификации — существенное снижение количества отказов: в приведённом тесте она отказала в 3 из 100 случаев против 97 из 100 у исходной модели, при KL divergence 0,0259. Это может быть преимуществом для исследовательских и прикладных сценариев, где требуется менее ограниченное поведение, но одновременно повышает риск небезопасных или нежелательных ответов. В README не приведены результаты независимой оценки качества, полный перечень поддерживаемых языков генерации, точные характеристики GGUF-квантизации или требования к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

GLM-4.6V-Flash — компактная мультимодальная модель семейства GLM-V от Z.ai, предназначенная для локального развёртывания и приложений с низкой задержкой. Это плотная модель с 9 млрд параметров, работающая с изображениями и текстом; карточка Hugging Face указывает архитектуру GLM4V, библиотеку Transformers и формат Safetensors. Модель поддерживает диалог и визуальное понимание, а контекстное окно серии GLM-4.6V достигает 128 тыс. токенов. Модель подходит для анализа изображений, скриншотов и страниц документов, включая понимание их текста, компоновки, таблиц, графиков и иллюстраций. Она также рассчитана на мультимодальное использование инструментов и на создание HTML/CSS по скриншотам интерфейсов. Заявленные в карточке возможности серии включают генерацию смешанного текста и визуального содержимого; README уточняет, что Flash — облегчённая версия для локального использования. Разработчики отмечают, что чисто текстовые ответы слабее мультимодальных возможностей. Модель может чрезмерно рассуждать, повторять ответ, ошибаться при подсчёте объектов и распознавании конкретных людей. Лицензия — MIT.

PaddleOCR-VL-1.5 — компактная мультимодальная модель PaddlePaddle для разбора документов по изображениям. Она сочетает зрительную обработку и генерацию текста; в метаданных указано 318,2 млн параметров, а контекст составляет 131 072 токена. Модель поддерживает распознавание текста и его расположение на изображении, в том числе в таблицах, формулах, диаграммах и печатях. Модель предназначена для извлечения структурированного содержимого из документов, включая многостраничные материалы и изображения с перекосом, деформацией, бликами и неравномерным освещением. README сообщает о результатах 94,5% на OmniDocBench v1.5 и расширенной поддержке редких символов, древних текстов, тибетского письма и бенгальского языка. По карточке доступны английский, китайский и многоязычный режимы; лицензия — Apache 2.0. Заявленные возможности включают слияние таблиц и распознавание заголовков между страницами, а также локализацию строк текста и распознавание печатей. Результаты бенчмарков приведены разработчиками и сами по себе не гарантируют качество на конкретных документах. Для запуска README описывает PaddleOCR и Transformers; пример Transformers использует bfloat16 и FlashAttention 2.

unsloth/Qwen2-VL-2B-Instruct-bnb-4bit — мультимодальная instruction-tuned модель, основанная на Qwen/Qwen2-VL-2B-Instruct и опубликованная Unsloth. Она предназначена для обработки изображений, видео и текста, визуального вопросно-ответного взаимодействия, анализа документов и сцен, а также сценариев, где требуется принимать решения на основе визуальной информации и текстовых инструкций. Модель содержит 2 миллиарда параметров и распространяется в 4-битном формате bnb. Она поддерживает динамическое разрешение изображений, преобразуя изображения в переменное число визуальных токенов, и использует Multimodal Rotary Position Embedding (M-ROPE) для обработки текстовых, двумерных визуальных и трёхмерных видеопозиционных данных. Заявлена поддержка понимания видео длительностью более 20 минут и распознавания текста на английском, китайском, большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Сильные стороны модели — сочетание компактного размера, 4-битного квантования и мультимодальных возможностей, включая анализ изображений высокого разнообразия разрешений и пропорций, документов и видео. Ограничения, включая возможные потери качества из-за квантования и отсутствие в карточке подробных характеристик контекстного окна, производительности и требований к оборудованию, следует учитывать при выборе модели. Модель распространяется по лицензии Apache-2.0.

greghavens/Qwen3.8-27B-bnb-4bit — это 4-битная NF4-квантизованная версия мультимодальной модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для обработки текста и изображений, включая задачи visual question answering, генерацию текста по изображениям и работу с агентами и инструментами. Указан английский язык. Размер модели — около 18,60 ГБ в шести сегментах, что позволяет запускать её на одной видеокарте с 24 ГБ памяти при использовании bitsandbytes и совместимого ускорителя. Квантизация применяется к 496 языковым линейным слоям, тогда как vision tower, lm_head, входные эмбеддинги и нормализующие слои сохранены в bfloat16. В комплекте также присутствует MTP head в bfloat16 для speculative decoding в vLLM и SGLang, хотя Transformers его не использует. Модель совместима с Transformers и поддерживает QLoRA-файнтюнинг через PEFT. Контекст модели в README не указан. По заявленным измерениям, квантизация почти не меняет результаты IFEval и NoveltyBench, а ухудшение perplexity на Wikitext-2 составляет около 1,14%. При этом показатель BFCL для вызова инструментов снижается с 0,8218 до 0,8113, а на нерелевантные запросы модель чаще ошибочно генерирует вызов инструмента. Для Blackwell и сценариев, ориентированных только на инференс, README рекомендует более быстрые варианты NVFP4 или FP8. Модель распространяется по лицензии Apache-2.0.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ4e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, разработанная независимым технологическим проектом KostkaIT на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель предназначена для локального программирования, рассуждений, создания мультимодальных ассистентов и исследовательских задач. Модель поставляется в формате MLX safetensors, оптимизированном для Apple Silicon и совместимого с рантаймом oMLX. Это смешанная квантизация oQ4e: базовые веса представлены в 4-битном формате с group_size 64, а отдельные тензоры сохранены в 5- и 6-битной точности с использованием importance matrix. В репозитории присутствуют конфигурация и процессор для работы с изображениями, vision-тензоры, а также встроенные веса Native MTP с одним скрытым слоем MTP. MTP можно включать или отключать в совместимых версиях oMLX. К сильным сторонам относятся поддержка текста и изображений, более компактное локальное развертывание благодаря квантизации, а также сочетание смешанной точности с Native MTP. Ограничения включают зависимость от оборудования Apple Silicon и совместимого MLX/oMLX-окружения, возможные потери качества из-за 4-битной квантизации и отсутствие в предоставленных данных сведений о языках, размере контекста и точных характеристиках производительности. Модель распространяется по лицензии Apache-2.0.