I.10Видео, анимация и 3D

Qwen3-VL-235B-A22B-Thinking-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-235B-A22B-Thinking в формате GGUF и предназначен для локального запуска на совместимых устройствах через llama.cpp, Ollama и другие инструменты GGUF. Модель предназначена для анализа и генерации текста по изображениям и видео, визуального распознавания, OCR, пространственного и временного рассуждения, решения STEM- и математических задач, генерации Draw.io/HTML/CSS/JS по визуальным примерам, а также взаимодействия с графическими интерфейсами и инструментами. Заявлены улучшенные возможности понимания документов, объектов, сцен, событий в видео и GUI. Поддерживается нативный контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона; OCR заявлен для 32 языков. Архитектура включает языковую модель и отдельный vision encoder mmproj. Для компонентов доступны варианты FP16 и квантованные варианты Q8_0 и Q4_K_M для языковой модели, а также FP16 и Q8_0 для vision encoder. Поддерживаются CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Основные ограничения — очень высокий размер модели и соответствующие требования к памяти и вычислительным ресурсам; производительность и доступное качество зависят от выбранной точности и оборудования. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct-FP8 — FP8-квантизированная версия мультимодальной модели Qwen3-VL-4B-Instruct из семейства Qwen. Репозиторий содержит веса с мелкозернистой FP8-квантизацией и размером блока 128; по данным карточки, показатели почти идентичны исходной версии BF16. Разработчик в README явно не назван, но модель относится к серии Qwen. Модель предназначена для понимания и генерации текста по изображениям и видео, визуального анализа, OCR, пространственного рассуждения, обработки документов, STEM-задач, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Она поддерживает анализ изображений и видео, включая временную привязку событий, а также сценарии visual agent для PC и мобильных GUI. Заявлена поддержка контекста 256K токенов с возможностью расширения до 1M и OCR на 32 языках; конкретный перечень языков в README не приведён. К ключевым архитектурным особенностям относятся Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Сильными сторонами являются мультимодальное рассуждение, распознавание текста в сложных условиях, понимание пространственных отношений и длинных видео. Ограничение состоит в том, что на момент публикации Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-2B-Instruct-bnb-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-2B-Instruct, опубликованная Unsloth на основе модели Qwen. Это instruction-модель архитектуры Dense с примерно 2 млрд параметров, предназначенная для обработки изображений и текста, а также для задач понимания видео и визуально-текстового диалога. Модель подходит для описания и анализа изображений, визуального и пространственного рассуждения, OCR, STEM- и математических задач, генерации кода и разметки Draw.io/HTML/CSS/JS по визуальным материалам, а также для взаимодействия с графическими интерфейсами и инструментами. Заявлены контекст длиной 256 тысяч токенов с возможностью расширения до 1 млн, понимание длинных документов и продолжительных видеозаписей, а также OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся сочетание языкового и визуального понимания, улучшенная работа с пространственными отношениями, видео, документами и мелкими визуальными деталями, а также сниженные требования к памяти благодаря 4-битному формату. README не приводит точный перечень поддерживаемых языков, аппаратные требования и детальные ограничения квантованной версии; на практике 4-битное представление может влиять на точность, но конкретные потери здесь не указаны. Лицензия — Apache-2.0.

Qwen3-VL-32B-Instruct — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen; этот репозиторий содержит её веса в формате safetensors. Модель принимает текст и изображения, а также предназначена для анализа видео и диалога с визуальными данными. Вариант Instruct поддерживает чат и интерфейс вызова инструментов. Модель рассчитана на визуальные вопросы и ответы, OCR и разбор структуры документов, понимание видео, пространственное рассуждение, STEM-задачи и генерацию кода интерфейсов по изображениям или видео. Заявлена длина контекста 256 тысяч токенов с возможностью расширения до 1 миллиона. Для распознавания текста заявлена поддержка 32 языков, но их перечень в предоставленных данных отсутствует. К архитектурным особенностям относятся Interleaved-MRoPE для пространственных и временных позиций и DeepStack для объединения признаков ViT. Модель распространяется по лицензии Apache-2.0. Заявленные возможности описаны в карточке; независимые результаты оценки качества в предоставленных данных не приведены.

Qwen3-VL-235B-A22B-Thinking — мультимодальная модель семейства Qwen3-VL от Qwen, представленная в варианте с архитектурой MoE и режимом рассуждений Thinking. Репозиторий содержит веса в формате safetensors; модель предназначена для диалога по тексту, изображениям и видео, визуального анализа и взаимодействия с инструментами. Лицензия — Apache-2.0. Модель подходит для ответов на вопросы по изображениям и видео, OCR и разбору длинных документов, STEM-задач, пространственного анализа, генерации кода и разметки интерфейсов по визуальным примерам, а также управления GUI через инструменты. В README заявлены контекст 256K токенов с расширением до 1M и поддержка OCR на 32 языках. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и привязку видео-событий к временным меткам. Карточка описывает широкие возможности мультимодального рассуждения и понимания текста, но не приводит здесь конкретных результатов бенчмарков. Для развёртывания модели такого размера требуются значительные вычислительные ресурсы; фактическая поддержка видео и вызова инструментов зависит от используемого окружения.

Qwen3-VL-2B-Instruct-1M-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF с динамической квантизацией Unsloth Dynamic 2.0. Репозиторий основан на Qwen3-VL-2B-Instruct и предназначен для запуска и инференса через совместимые инструменты, включая llama.cpp и Transformers. Модель принимает текст и изображения, а также ориентирована на понимание видео. Она предназначена для визуального вопросно-ответного взаимодействия, описания изображений, OCR, анализа документов, STEM- и математического рассуждения, пространственного анализа, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Заявлены поддержка контекста 256K с возможным расширением до 1M токенов, улучшенное понимание длительных видео и OCR на 32 языках; конкретный перечень языков в README не приведён. Архитектурно модель использует плотную конфигурацию с примерно 2 млрд параметров, а среди ключевых компонентов указаны Interleaved-MRoPE для временных и пространственных позиций, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, работа с длинным контекстом, документами, видео и пространственными отношениями. Ограничения включают небольшой по современным меркам размер, возможные потери качества из-за квантизации и отсутствие в README подробных количественных результатов, точного списка языков и требований к аппаратному обеспечению. Лицензия — Apache-2.0.

Qwen3-VL-30B-A3B-Instruct — мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen. Она принимает текст и изображения, а также анализирует видео, отвечая на вопросы и выполняя инструкции в диалоге. Модель предназначена для визуального анализа, распознавания текста на изображениях и документах, пространственных рассуждений и взаимодействия с графическими интерфейсами через инструменты. Архитектура — Qwen3-VL-MoE; обозначение модели указывает на 30 млрд параметров всего и 3 млрд активных параметров на токен. В README заявлен контекст 256 тыс. токенов с возможностью расширения до 1 млн. Модель поддерживает OCR на 32 языках, работу с видео с привязкой событий ко времени, а также генерацию кода и разметки интерфейсов по изображениям и видео. Доступна в формате safetensors и использует библиотеку Transformers. Модель подходит для визуальных вопросов и ответов, разбора документов, анализа видео и управления интерфейсами с помощью инструментов. Заявлены улучшения в распознавании деталей и пространственных отношениях, но в карточке нет численных результатов бенчмарков. Лицензия — Apache-2.0.

Карточка модели karanjaWakaba/Qwen3-VL-4B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen3-VL-4B-Instruct, поэтому описание составлено по ней. Qwen3-VL-4B-Instruct от Unsloth — весовой репозиторий мультимодальной модели для диалога и задач с изображениями и видео. Это дообученная версия Qwen/Qwen3-VL-4B-Instruct с плотной архитектурой Qwen3-VL и примерно 4 млрд параметров; модель распространяется в формате safetensors и работает с библиотекой Transformers. Модель принимает текст и изображения, отвечает текстом и поддерживает визуальное рассуждение, OCR, анализ видео, понимание пространственных отношений и взаимодействие с инструментами. В README заявлены контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках. Также описаны сценарии визуального управления интерфейсами и генерации кода или разметки по визуальному примеру. Лицензия — Apache-2.0. README не содержит численных результатов раздела производительности; заявленные преимущества и возможности следует считать описанием разработчика, а качество проверять на целевых данных.

Qwen3-VL-4B-Instruct от Unsloth — весовой репозиторий мультимодальной модели для диалога и задач с изображениями и видео. Это дообученная версия Qwen/Qwen3-VL-4B-Instruct с плотной архитектурой Qwen3-VL и примерно 4 млрд параметров; модель распространяется в формате safetensors и работает с библиотекой Transformers. Модель принимает текст и изображения, отвечает текстом и поддерживает визуальное рассуждение, OCR, анализ видео, понимание пространственных отношений и взаимодействие с инструментами. В README заявлены контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках. Также описаны сценарии визуального управления интерфейсами и генерации кода или разметки по визуальному примеру. Лицензия — Apache-2.0. README не содержит численных результатов раздела производительности; заявленные преимущества и возможности следует считать описанием разработчика, а качество проверять на целевых данных.

unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit — это квантованная 4-битная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для понимания и генерации текста на основе изображений, а также для работы с видео и текстовыми запросами. Модель имеет размер 4B параметров и архитектуру vision-language с режимом Instruct. Она поддерживает визуальное распознавание, OCR для 32 языков, анализ пространственных отношений, понимание длительных видеосцен, мультимодальное рассуждение в STEM-задачах и взаимодействие с графическими интерфейсами ПК и мобильных устройств. Заявлен нативный контекст до 256K токенов с возможностью расширения до 1M. Среди архитектурных компонентов указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, обработка изображений, документов и видео, распознавание текста в сложных условиях, а также задачи визуального программирования и управления интерфейсами. Ограничения включают зависимость качества и совместимости от 4-битного квантования, а также необходимость подходящей аппаратной и программной конфигурации для длинного контекста и видео; конкретные языки, требования к ресурсам и детальные числовые результаты в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Thinking — плотная мультимодальная модель семейства Qwen3-VL, разработанная командой Qwen и представленная в виде репозитория весов. Она принимает изображения и текст и формирует текстовые ответы; версия Thinking предназначена для задач, где требуется визуальное и логическое рассуждение. Модель работает через библиотеку Transformers, поддерживает диалог и интерфейс вызова инструментов. Контекст составляет 256 тысяч токенов с возможностью расширения до 1 миллиона. Модель предназначена для распознавания и анализа изображений, OCR, понимания видео, пространственных вопросов, STEM-задач и взаимодействия с графическими интерфейсами. README также описывает генерацию разметки Draw.io и кода HTML/CSS/JS по изображениям и видео. Среди заявленных особенностей — обработка временных меток в видео, распознавание текста на 32 языках и объединение визуальной и текстовой информации. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Размер модели — 4 млрд параметров. Это компактная плотная модель, однако для обработки изображений, видео и длинного контекста нужны соответствующие вычислительные ресурсы. В карточке не приведены количественные результаты бенчмарков; заявленные возможности не заменяют проверку качества на конкретных данных и сценариях.

InternVL3-78B-GGUF — мультимодальная большая языковая модель семейства InternVL3, подготовленная Unsloth на основе OpenGVLab/InternVL3-78B. Модель предназначена для обработки текста и изображений, мультимодального восприятия и рассуждений, а также для сценариев с использованием инструментов, GUI-агентами, промышленным анализом изображений и восприятием 3D-сцен. Указанный вариант распространяется в формате GGUF. Архитектура модели следует схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-72B, объединённые через MLP-проектор. Размер модели — 78B параметров. Модель поддерживает мультимодальные входы и заявлена как многоязычная, однако точный перечень языков и размер контекстного окна в README не указаны. Обучение связано с набором данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание крупной языковой и визуальной подсистем, развитые возможности мультимодального анализа и рассуждений, а также поддержка специализированных агентных и визуальных задач. Ограничения включают высокие требования к вычислительным ресурсам, характерные для модели такого размера, и отсутствие в README подробных данных о производительности, контекстном окне и языковом покрытии. Лицензия указана как other с названием qwen; приведена ссылка на лицензию Qwen2.5-72B-Instruct.

OsaurusAI Qwen3.8-Flash-Next-JANG_2L — квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный Jinho Jang для Apple Silicon и MLX. Это мультимодальная модель семейства Qwen с архитектурой Qwen4-архитектурного превью: смесь экспертов на 125 млрд параметров, из которых активны около 6 млрд, гибридные слои Gated DeltaNet и Qwen Sparse Attention, а также отдельные компоненты для изображений и видео. Веса сохранены в формате safetensors; заявленный объём набора — 65,3 ГиБ, а при обслуживании n-граммной таблицы с SSD в оперативной памяти требуется около 48 ГиБ. Модель предназначена для диалога, ответов с анализом изображений и видео, рассуждений и агентных сценариев с вызовом инструментов. Нативная длина контекста составляет 262 144 токена; с YaRN её можно расширить до 1 млн. В комплекте сохранена голова многотокенного предсказания для ускоренного декодирования в совместимых средах. По замерам на 5 931 позициях JANG_2L показывает медианный KL 0,0260 и top-1 совпадение 88,2% с bf16-версией. Модель требует совместимого runtime для MLX и Apple Silicon и значительных ресурсов памяти либо поддержки SSD-таблицы. Вызовы инструментов используют парсер Qwen XML; среды, поддерживающие только Hermes JSON, могут обрабатывать их с ошибками. Для скачанных до 5 сентября 2026 года комплектов требуется повторная загрузка из-за реорганизации вспомогательных файлов MTP. В метаданных указана лицензия other, без конкретных условий использования.

Это репозиторий весов Qwen3-VL-8B-Instruct, опубликованный Unsloth на основе Qwen/Qwen3-VL-8B-Instruct. Модель относится к плотной мультимодальной архитектуре Qwen3-VL и содержит 8 млрд параметров; для работы используется библиотека Transformers, веса представлены в формате safetensors. Лицензия — Apache-2.0. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов. Она предназначена для ответов на вопросы по изображениям, визуального рассуждения, OCR, анализа видео, пространственного понимания и задач визуального агента, а также генерации текста. В карточке заявлен контекст 256 тысяч токенов с возможностью расширения до 1 млн; для OCR указана поддержка 32 языков, но их перечень не приведён. Среди заявленных улучшений — обработка временных меток в видео, объединение визуальных признаков разных уровней и распознавание мелких деталей. Практические ограничения и независимые результаты оценки в README не приведены; заявленные характеристики производительности не сопровождаются таблицами результатов.

Qwen3-VL-2B-Instruct-GGUF — мультимодальная vision-language модель из серии Qwen3-VL, представленная Unsloth на основе Qwen/Qwen3-VL-2B-Instruct. Репозиторий содержит GGUF-версию весов с исправлениями chat template от Unsloth и предназначен для локального запуска и интеграции с совместимыми инструментами. Модель рассчитана на обработку текста и изображений, а семейство Qwen3-VL также поддерживает понимание видео. Она предназначена для визуального диалога, распознавания и анализа содержимого изображений, OCR, пространственного рассуждения, STEM-задач, генерации кода и взаимодействия с графическими интерфейсами. Указан размер 2B параметров; архитектура описана как мультимодальная, с компонентами Interleaved-MRoPE, DeepStack и выравниванием текста с временными метками. Для семейства заявлен контекст до 256K токенов с возможностью расширения до 1M, но применимость этих характеристик именно к данной GGUF-сборке README не уточняет. Сильные стороны модели — сочетание компактного размера, визуального и текстового понимания, расширенного OCR для 32 языков, анализа пространственных отношений и видео, а также возможности локального развертывания в GGUF-формате. Ограничения включают меньший размер по сравнению с более крупными вариантами семейства и зависимость производительности от выбранного уровня квантования и используемого программного обеспечения; конкретные параметры квантования в README не указаны. Модель распространяется по лицензии Apache-2.0.

Agnes-3.0-Flash Preview GGUF — набор квантизированных сборок базовой модели Agnes-AI/Agnes-3.0-Flash, опубликованный quimmedes. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями и видео, а также для локального запуска через совместимый runtime llama.cpp. Доступны варианты квантования от Q3 до Q9 и несколько альтернативных сборок с разным распределением точности между компонентами модели. Архитектура основана на гибридной схеме с recurrent SSM- и attention-слоями: 72 слоя, включая 54 delta-rule и 18 global attention, дополнительная параллельная SwiGLU-ветвь в каждом слое, около 32,63 млрд параметров, размер скрытого состояния 5120, словарь из 248 320 токенов и один MTP-слой. Поддерживаются текст, изображения и видео; точный набор языков и максимальная длина контекста в README не указаны, хотя приведён пример запуска с контекстом 32 768 токенов. Модель использует тот же токенизатор и шаблон чата, что и Qwen3.8-27B, но имеет дополнительные слои и переобученные проекционные матрицы. Ключевое преимущество сборок — сочетание гибридного внимания, поддержки длинного контекста, мультимодальности и выбора размера файла: от 12,12 до 32,28 GiB для основной линейки. Для работы требуется патченная версия cafe-llama.cpp; стандартная llama.cpp не поддерживает необходимые тензоры и может завершиться ошибкой или некорректно загрузить модель. Указанные требования к видеопамяти и параметры запуска ориентированы на карту 24 ГБ, однако фактические возможности зависят от выбранного квантования и длины контекста. Модель и сборки распространяются по лицензии Apache-2.0.

JANGQ-AI/GLM-5.3-Flash-JANG — квантованная для Apple Silicon и MLX сборка GLM-5.3-Flash, подготовленная Jinho Jang. Это модель семейства GLM с архитектурой MoE примерно на 300 млрд параметров и 288 экспертами; в README также описаны линейное внимание KDA, гибрид MLA/DSA и отдельные компоненты для обработки изображений и видео. Размер весов составляет около 95,5 GiB, заявленный нативный контекст — 1 млн токенов. По данным карточки, квантование распределено по модулям: внимание, маршрутизация и параметры gating сохранены в 8-битном или полном формате, а снижение точности сосредоточено в экспертных блоках. Разработчик приводит измерения сходства выходных логитов с официальной FP8-версией на отложенных запросах; это не заменяет независимую оценку качества на прикладных задачах. Сборка предназначена для диалогов, рассуждений, агентных сценариев и работы с изображениями и видео на Mac с 128 ГБ памяти. README предупреждает, что публичная поддержка новой архитектуры в runtime vMLX ещё разрабатывается и на момент публикации карточки эти веса корректно загружались только во внутренней среде оценки. Модель наследует базовую GLM-5.3-Flash, а репозиторий распространяет её под лицензией MIT.

GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.

Qwen3-VL-30B-A3B-Instruct — мультимодальная модель семейства Qwen3-VL, представленная Unsloth как репозиторий весов с исправлениями шаблона чата. Она предназначена для диалога по изображениям и видео, визуального распознавания, OCR, пространственных рассуждений и взаимодействия с графическими интерфейсами через инструменты. Также поддерживает генерацию текста и решение задач STEM и математики с опорой на визуальные данные. Модель использует архитектуру Qwen3-VL MoE и распространяется в формате safetensors. В README указано контекстное окно 256 тыс. токенов с возможностью расширения до 1 млн. Заявлена поддержка OCR на 32 языках, однако их перечень в предоставленных данных отсутствует. Лицензия — Apache-2.0. В README описаны сильные стороны в понимании видео с временными метками, разборе длинных документов и мелких визуальных деталей, а также в работе с интерфейсами и пространственными отношениями. Эти заявления не сопровождаются приведёнными в карточке результатами тестирования; фактическое качество может зависеть от сценария и конфигурации запуска.

n0kovo/Qwen3-VL-32B-Instruct-heretic-v2 — версия Qwen3-VL-32B-Instruct, обработанная методом abliteration: по приведённому сравнению модель реже отказывает в ответе, сохраняя близость к исходному поведению с KL-дивергенцией 0,1565. Это плотная мультимодальная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration, предназначенная для диалогов по тексту и изображениям. Модель подходит для визуальных вопросов и ответов, распознавания текста на изображениях, анализа сцен и пространственных отношений, а также понимания видео и генерации текста. В README для исходной модели указаны контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках; метаданные этой копии не подтверждают, что все эти характеристики сохранены без изменений. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

Это квантованная в NVFP4 версия Qwen3.5-9B-Instruct от команды Qwen компании Alibaba, опубликованная FreedomAISVR в формате GGUF. Модель предназначена для генерации текста по инструкциям; вместе с файлом мультимодального проектора поддерживает обработку изображений и видео. В основе — гибридная архитектура Mamba2 и Attention, 9 млрд параметров и контекст до 262 тыс. токенов; предусмотрена поддержка Multi-Token Prediction и управления режимом рассуждений. Для запуска README приводит примеры с llama.cpp и llama-cpp-python. Квантование NVFP4 рассчитано на ускорение на GPU NVIDIA Blackwell и занимает меньше места, чем исходные веса; карточка указывает 4,73 бита на вес. Для обработки изображений и видео требуется отдельный проектор F16. Языки карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.

openbmb/MiniCPM-V-4_5-gguf — квантизированная версия мультимодальной модели MiniCPM-V 4.5, разработанной OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языковых диалогов, включая локальное использование на компьютерах и мобильных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает мультиязычные сценарии более чем на 30 языках, обработку изображений высокого разрешения до 1,8 млн пикселей при любом соотношении сторон, а также видео с высокой частотой кадров и длинным контекстом. Унифицированный 3D-ресэмплер обеспечивает сжатие видеотокенов до 96 раз. Доступны управляемые режимы быстрого и глубокого рассуждения. Формат GGUF ориентирован на эффективный локальный инференс через llama.cpp и совместимые инструменты. Сильные стороны модели — высокие заявленные результаты в задачах vision-language, OCR и разбора PDF-документов, эффективная обработка видео, экономное использование визуальных токенов и возможность запуска на локальных устройствах. Ограничения включают зависимость качества от используемой квантизации, аппаратных ресурсов и программной совместимости; конкретные требования к памяти и поддерживаемые варианты квантизации в предоставленных данных не указаны. В README лицензия модели не указана.

FuriosaAI публикует эту сборку Qwen3-VL-32B-Thinking вместе с пакетом Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это плотная мультимодальная модель с 32 млрд параметров: она сочетает визуальный энкодер и трансформерный декодер, использует Interleaved-MRoPE и слияние признаков DeepStack. Квантизация не применялась; веса сохраняют точность исходной модели Qwen/Qwen3-VL-32B-Thinking. Модель принимает изображения и текст, а отвечает текстом. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео. Версия Thinking формирует рассуждение перед итоговым ответом; также поддерживается вызов инструментов. README описывает запуск через Furiosa-LLM на RNGD, а также совместимость с vLLM, SGLang и Transformers. Модель выпущена под лицензией Apache 2.0. Для запуска на RNGD требуется конфигурация с 32 PE, распределёнными по четырём картам RNGD; отдельные ограничения качества в предоставленных материалах не описаны.

unsloth/Qwen3-VL-8B-Instruct-FP8 — мультимодальная vision-language модель серии Qwen3-VL, разработанная на базе Qwen3-VL-8B-Instruct и опубликованная Unsloth. Это FP8-квантизированная версия с мелкозернистой квантизацией и размером блока 128; заявлено, что её показатели почти идентичны исходной версии в формате BF16. Модель предназначена для понимания и генерации текста по тексту, изображениям и видео. Она поддерживает визуальное распознавание, OCR, анализ документов, пространственное и STEM-рассуждение, понимание длительных видео, генерацию HTML/CSS/JS и Draw.io по визуальным материалам, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, улучшенная работа с временной структурой видео и OCR для 32 языков. К архитектурным особенностям относятся плотная модель на 8 млрд параметров, визуальный энкодер ViT, механизмы Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового, визуального и видеоанализа, длинный контекст, пространственное рассуждение и сохранение качества после квантизации. Ограничение состоит в том, что на момент публикации веса нельзя напрямую загружать через Transformers; для развертывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3-VL-30B-A3B-Instruct-AWQ — квантизированная в формате AWQ версия мультимодальной instruct-модели Qwen3-VL-30B-A3B-Instruct из семейства Qwen. Модель предназначена для генерации текста по текстовым, графическим и видеовходам, визуального анализа и рассуждений, OCR, понимания пространственных отношений и временной структуры видео, а также взаимодействия с графическими интерфейсами и инструментами. Она может применяться для анализа документов и изображений, визуального программирования, STEM-задач и создания ответов на основе мультимодального контекста. Архитектура относится к MoE: заявлен размер 30B, а обозначение A3B указывает на активацию примерно 3B параметров на запрос. Модель поддерживает изображения, видео и текст, использует механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Базовая версия заявляет нативный контекст 256K токенов с возможностью расширения до 1M; в приведённой конфигурации vLLM длина контекста ограничена 32768 токенами. Для OCR указана поддержка 32 языков, но полный список языков не приведён. Сильные стороны модели — сочетание языкового и визуального понимания, работа с длинными документами и видео, распознавание текста в сложных условиях, пространственное и временное рассуждение, а также сравнительно низкие требования к памяти благодаря AWQ-квантизации. Ограничения включают возможную потерю качества из-за квантизации, необходимость совместимого окружения с vLLM и рекомендуемого tensor parallelism на двух GPU; конкретные показатели качества и аппаратные требования в README не указаны. Модель распространяется по лицензии Apache 2.0.

Qwen3-VL-8B-Thinking-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит GGUF-веса модели Qwen3-VL-8B-Thinking, разделённые на языковую модель и vision encoder в формате mmproj. Модель предназначена для анализа изображений и видео, генерации и понимания текста, визуального рассуждения, OCR, пространственного анализа, STEM- и математических задач, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Модель относится к thinking-редакции и имеет размер 8B параметров. Поддерживаются варианты языковой части FP16, Q8_0 и Q4_K_M, а vision encoder доступен в FP16 и Q8_0. Заявлены нативный контекст 256K с возможностью расширения до 1M, работа с длительными видео и распознавание текста на 32 языках. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Модель поддерживает мультимодальный ввод изображений и видео, однако конкретный список языков помимо OCR в README не указан. GGUF-файлы совместимы с llama.cpp, Ollama и другими инструментами экосистемы GGUF и могут запускаться на CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Доступны разные уровни точности для компромисса между качеством, скоростью и требованиями к памяти; при этом производительность зависит от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

ZuzeTt/Qwen3-VL-4B-Instruct-heretic-Imatrix-GGUF — децензурированная версия мультимодальной модели Qwen3-VL-4B-Instruct, созданная пользователем ZuzeTt на основе модели Qwen и обработанная с помощью Heretic v1.0.1. Модель предназначена для работы с текстом и визуальными данными, включая понимание изображений и видео, визуальное рассуждение, OCR, анализ пространственных отношений, генерацию кода и взаимодействие с графическими интерфейсами. Модель относится к классу Dense и имеет 4 млрд параметров. Заявлены контекст длиной 256K токенов с возможным расширением до 1M, поддержка OCR на 32 языках, улучшенное понимание видео и временных связей, а также архитектурные механизмы Interleaved-MRoPE, DeepStack и Text–Timestamp Alignment. Репозиторий распространяется в формате GGUF, однако конкретные параметры квантования в README не указаны. Главная особенность версии — снижение количества отказов от ответа: в приведённом сравнении модель отказала в 8 из 100 случаев против 92 из 100 у исходной Qwen3-VL-4B-Instruct; KL-дивергенция относительно оригинала составляет 0,27. Это может быть полезно для исследовательских и экспериментальных сценариев, требующих менее ограниченного поведения, но одновременно означает изменение исходных механизмов безопасного отказа. Лицензия — Apache-2.0.

cyankiwi/Qwen3-VL-8B-Thinking-AWQ-4bit — это 4-битно-квантизированная версия vision-language модели Qwen3-VL-8B-Thinking, разработанной командой Qwen. Модель предназначена для совместной работы с текстом и изображениями, а также для понимания видео, визуального рассуждения и генерации ответов на естественном языке. Она подходит для анализа изображений и документов, OCR, STEM- и математического рассуждения, визуального программирования, пространственного анализа и сценариев визуального агента, включая взаимодействие с графическими интерфейсами и инструментами. Модель использует плотную архитектуру размером 8B параметров и поддерживает мультимодальный ввод. Заявлен контекст до 256K токенов с возможностью расширения до 1M, а видео может анализироваться с учетом временной структуры и привязки событий к временным меткам. Среди архитектурных особенностей указаны Interleaved-MRoPE для позиционного кодирования во времени, ширине и высоте, DeepStack для объединения многоуровневых визуальных признаков и улучшенное выравнивание текста с временными метками. OCR заявлен для 32 языков, однако полный перечень языков в README не приведен. Сильными сторонами являются визуальное и пространственное восприятие, понимание длинного контекста и видео, мультимодальное рассуждение, распознавание объектов и документов, а также поддержка агентских и визуально-кодировочных задач. Ограничения, включая возможные ошибки распознавания, рассуждения и требования к вычислительным ресурсам, в README не описаны; 4-битная AWQ-квантизация призвана снизить требования к памяти по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache-2.0.

openbmb/MiniCPM-V-4_5-AWQ — квантованная в формате AWQ версия мультимодальной модели MiniCPM-V 4.5, разработанная командой OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языкового диалога, включая локальное использование на мобильных и обычных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает более 30 языков, обрабатывает изображения высокого разрешения с произвольным соотношением сторон и площадью до 1,8 млн пикселей, а также видео с высокой частотой обновления — до 10 кадров в секунду. Унифицированный 3D-Resampler сжимает видеотокены до 96 раз, а архитектура на основе LLaVA-UHD снижает количество визуальных токенов при работе с изображениями. Доступны режимы быстрого и глубокого рассуждения. Сильные стороны модели — заявленные высокие результаты в визуально-языковых задачах, OCR, распознавании рукописного текста, анализе PDF и длинных видео, а также возможность эффективного запуска через llama.cpp, Ollama, vLLM и SGLang. Ограничения, включая точные требования к памяти и аппаратному обеспечению, контекстное окно и условия коммерческого использования, в README не указаны. README также не содержит явной информации о лицензии, поэтому условия распространения следует уточнять отдельно.

Qwen3-VL-30B-A3B-Instruct — мультимодальная модель семейства Qwen3-VL, опубликованная Red Hat AI. Это MoE-модель для диалога и генерации ответов по тексту и визуальным данным; в README указана конфигурация с 30 млрд параметров и активной частью A3B. Она предназначена для анализа изображений и видео, визуального рассуждения, OCR, пространственного понимания и взаимодействия с инструментами. Модель также может распознавать интерфейсы и выполнять задачи через GUI, а по изображениям и видео создавать код для Draw.io, HTML, CSS и JavaScript. README заявляет контекст 256 тысяч токенов с возможностью расширения до 1 млн, поддержку OCR на 32 языках и улучшенное понимание длительных видео с привязкой событий ко времени. Среди архитектурных особенностей названы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Лицензия — Apache-2.0. Описание не приводит результатов бенчмарков или точного перечня поддерживаемых языков; заявленные возможности и качество следует оценивать на целевых данных и сценариях.