I.4Обработка документов и форм

Qwen3-VL-4B-Instruct-GGUF — набор GGUF-квантизованных версий мультимодальной модели Qwen3-VL-4B-Instruct, разработанной Qwen. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач преобразования изображений и текста в текст, включая работу с визуальными данными и текстовыми запросами, и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов в формате BF16 размером 8,05 ГБ до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3 размером примерно от 1,81 до 4,28 ГБ. Квантизация позволяет снизить требования к памяти, однако более компактные варианты обладают меньшим качеством; наиболее рекомендуемыми в README названы варианты Q6, Q5 и Q4. Поддерживаются мультимодальные входные данные, но сведения о языках, размере контекста и точной архитектуре в README не указаны. Модель подходит для локального инференса на совместимом оборудовании, особенно когда важны автономность и экономия памяти. Ограничения зависят от выбранного уровня квантизации: варианты Q3 характеризуются сниженным качеством, а для работы требуются llama.cpp или совместимое программное обеспечение с поддержкой этой модели. Лицензия в README не указана.

Qwen_Qwen3-VL-4B-Thinking-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3-VL-4B-Thinking, разработанной Qwen и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач преобразования изображений и текста в текст, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от полноразмерных весов BF16 размером 8,05 ГБ до более компактных квантизаций размером около 1,8–4,3 ГБ. Указан размер базовой модели — 4B параметров, а поддерживаемая мультимодальность включает изображения и текст. README не содержит сведений о языках, размере контекста, точной архитектуре, результатах оценки или конкретных прикладных сценариях исходной модели. Версии Q6 и Q5 позиционируются как высококачественные, Q4 — как сбалансированные по качеству и размеру, а Q3 и некоторые IQ-варианты — как решения для устройств с ограниченным объёмом оперативной памяти, но с заметным снижением качества. Лицензия в предоставленных данных не указана; условия использования следует уточнять в репозитории базовой модели Qwen/Qwen3-VL-4B-Thinking.

mlx-community/SmolVLM-256M-Instruct-4bit — четырёхбитная конверсия мультимодальной модели HuggingFaceTB/SmolVLM-256M-Instruct в формат MLX, опубликованная mlx-community. Модель семейства Idefics3 принимает текстовые запросы и изображения и формирует текстовые ответы; предназначена для диалоговых сценариев с визуальным содержимым, включая описание изображений и ответы на вопросы по ним. В метаданных указана архитектура Idefics3ForConditionalGeneration и поддержка чата и зрения. Модель создана на основе SmolLM2-135M-Instruct и SigLIP Base Patch16-512; в README сказано, что конверсия выполнена с помощью mlx-vlm 0.1.11. Репозиторий заявляет лицензию Apache-2.0. Карточка отсылает за подробностями к исходной модели, поэтому конкретные ограничения и характеристики контекста здесь не приведены.

Модель anshulVashist/houdini_gemma4_finetune — дообученная pahaadi мультимодальная Gemma 4 E2B IT на базе unsloth/gemma-4-E2B-it. Она предназначена для диалогов с текстовым и визуальным вводом, включая анализ изображений и документов. В репозитории доступны веса Safetensors и GGUF в формате F16; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель подходит для вопросов по изображениям и документов, содержащих визуальную информацию, а также для обычного общения с текстовым помощником. README не описывает специальную предметную область или результаты оценки качества. Лицензия — Apache-2.0.

InternVL-Chat-V1-2-Plus — мультимодальная большая языковая модель, разработанная OpenGVLab для диалогов с изображениями и генерации текста. Она объединяет визуальный энкодер InternViT-6B-448px-V1-2, MLP-проектор и языковую модель Nous-Hermes-2-Yi-34B; общее число параметров — 40 млрд. Модель рассчитана на работу с изображениями размером 448 × 448, которые кодируются в 256 визуальных токенов, а также поддерживает текстовые диалоги. Версия Plus использует тот же тип архитектуры, что и InternVL-Chat-V1-2, но дообучена на 12 млн примеров SFT. Её можно применять для описания изображений, визуальных вопросов и ответов, распознавания текста на изображениях и мультимодального чата. Репозиторий содержит веса Safetensors, модель запускается через Transformers с поддержкой пользовательского кода. Лицензия — MIT. Модель поддерживает интерфейс многораундового общения с несколькими изображениями и видео, однако авторы отмечают низкое качество этих сценариев из-за недостатка соответствующих обучающих данных. Также авторы предупреждают, что 4-битная квантизация BNB может заметно ухудшить понимание изображений и приводить к бессмысленным ответам.

LFM2.5-Encoder-350M-PII-Detector — дообученная Liquid AI модель для обнаружения и классификации персональных данных в тексте. Она основана на двунаправленном энкодере LFM2.5-Encoder-350M с головой token classification и распознаёт 40 типов персональных данных в 16 языках, включая имена, идентификаторы, контактные и финансовые сведения. Модель предназначена для поиска чувствительных фрагментов в документах и их последующего удаления или маскирования, а также для других задач защиты конфиденциальности. В карточке приведены результаты сравнительных тестов на нескольких наборах данных; качество зависит от набора и принятой схемы разметки. Архитектура относится к семейству LFM2, число параметров по метаданным — 444,6 млн, длина контекста — до 128 000 токенов. Для загрузки требуется Transformers; README предупреждает, что загрузка использует пользовательский код через trust_remote_code=True. Модель принимает текст и выдаёт разметку токенов с типами сущностей. Лицензия указана как other, без уточнения условий в доступных данных; перед использованием следует проверить лицензионные условия репозитория.

Lfm2-MaleCNS-Titans-VL-3B-V2-PT — экспериментальная мультимодальная модель на базе LiquidAI/LFM2.5-VL-3B, дообученная автором карточки с MaleCNS-Titans и сохранением VAE-латентных представлений. Она принимает изображения и текст, сохраняя исходные языковую модель, визуальный модуль и проектор; дополнительные механизмы памяти подключены к визуальному входу и нескольким языковым слоям. Модель предназначена для визуальных запросов и задач, где нужно сохранять информацию между фрагментами или сессиями; README также описывает обновление памяти по наблюдениям и загрузку сохранённых данных из архива. Версия PT включает объединённые LoRA-веса и 536 обновлений в рамках двухчасового обучения; автор сообщает о последующих SFT-весах, сохранённых отдельно. Исходная длина контекста оставлена без изменений, а межфрагментная память управляется вызывающей программой и сессией. README указывает на обучение на материалах на традиционном китайском, отдельных математических и визуальных данных; метаданные также отмечают английский язык. Лицензия обозначена как other, конкретные условия следует смотреть в документах репозитория. Точность извлечения новой информации требует проверки на целевых задачах.

Qwen3-VL-4B-Instruct-NVFP4 — это 4-битная квантованная версия мультимодальной модели Qwen/Qwen3-VL-4B-Instruct, опубликованная пользователем JEILDLWLRMA. Модель предназначена для задач vision-language и image-to-text: обработки изображений вместе с текстовыми запросами, визуального понимания и генерации ответов. Базовая модель содержит около 4,4 млрд параметров; поддерживаемые языки и точный размер контекстного окна в README не указаны. Квантование выполнено методом SmoothQuant с использованием NVFP4 и библиотеки compressed-tensors/llm-compressor. Все текстовые линейные слои используют схему W4A4, а на архитектурах Ampere возможен режим W4A16 через Marlin. Vision Encoder и LM Head сохранены в формате BF16 без квантования, что должно поддерживать качество визуального анализа и генерации. Размер модели составляет около 4,1 ГБ против примерно 8,9 ГБ у версии BF16, то есть сжатие достигает около 54%. Модель откалибрована на 512 образцах Flickr30k с максимальной длиной последовательности 2048; в примерах заявлена работа с vLLM и Transformers, включая контекст до 8192 токенов в vLLM. Ограничениями являются зависимость от совместимого аппаратного и программного стека для compressed-tensors/NVFP4, а также отсутствие в README подробных результатов бенчмарков и характеристик по языкам. Лицензия — Apache 2.0, как у базовой модели.

VisionPsy-Nano-460M — компактная модель «зрение–язык», разработанная Tether AI Research на базе nanoVLM. Она предназначена для локального запуска на устройствах с ограниченными ресурсами и решает задачи визуальных вопросов и ответов, чтения текста на изображениях, понимания документов, диаграмм и графиков, а также выполнения простых инструкций по изображению. Модель содержит около 460 млн параметров, использует визуальный энкодер SigLIP2 и языковую основу SmolLM2, обрабатывает изображения размером 512×512 и поддерживает контекст до 8 тысяч токенов. По внутренним оценкам разработчика, она сопоставима с моделями схожего размера на большинстве из 17 публичных тестов; результаты получены на едином стенде VLMEvalKit с использованием LLM-судьи для части метрик. Модель рассчитана на одно изображение в запросе и преимущественно на английский язык. Она может ошибаться, неверно считать объекты и хуже справляться с плотными документами и длинными математическими рассуждениями; другие языки официально не поддерживаются. Не предназначена для решений, критичных для безопасности или имеющих высокую цену ошибки. Лицензия — Apache-2.0.

xGen-MM-phi3-mini-base-r-v1.5 — базовая большая мультимодальная модель, разработанная Salesforce AI Research. Она продолжает разработки серии BLIP и обучалась на наборах данных для создания подписей к изображениям и на данных с чередованием изображений и текста. Модель принимает изображения вместе с текстом и генерирует текст; карточка относит её к архитектуре xGenMM и указывает поддержку диалогового взаимодействия и зрения. Базовая версия предназначена для мультимодального обучения в контексте и оценки по задачам понимания изображений, включая визуальные вопросы и ответы, чтение текста на изображениях и генерацию описаний. В README приведены результаты few-shot-оценки без дообучения на инструкциях. Модель выпущена для исследовательских целей под лицензией Apache 2.0. Данные из интернета и вклад базовых языковых моделей могут приводить к смещениям; точность, безопасность и справедливость следует оценивать для конкретного применения.

ArabicOCR-Qwen2.5-VL-7B-Vision — визуально-языковая модель на базе Qwen2.5-VL-7B, дообученная loay для распознавания арабского текста на изображениях. Для обучения использовались LoRA-адаптеры, объединённые с базовой моделью; репозиторий содержит веса float16 в формате safetensors. Модель принимает изображения с арабским текстом и выдаёт их текстовую транскрипцию. Её можно применять для извлечения текста из фотографий и сканов, содержащих арабскую письменность. Размер модели — 7,1 млрд параметров, заявленная длина контекста — 128 000 токенов. Лицензия — Apache-2.0. Для инференса в float16 README указывает требование более 14 ГБ видеопамяти. Модель специализирована на арабском OCR; её точность для других языков и типов изображений в предоставленных материалах не описана.

CoE-Wiki-CoE-8B-i1-GGUF — квантизированная версия мультимодальной модели PeiyangLiu/CoE-Wiki-CoE-8B, подготовленная mradermacher в формате GGUF. Модель относится к семейству Qwen3-VL и предназначена для работы с визуальными данными, визуальными вопросами и пониманием документов, включая сценарии, где требуется сопоставлять сведения и формировать ответы на основе цепочки доказательств. В README указан английский язык. Модель имеет около 8 миллиардов параметров и поддерживает мультимодальный ввод, однако точная архитектура и размер контекстного окна не указаны. Репозиторий содержит множество вариантов квантизации, от очень компактных IQ1 до более качественных Q6_K; рекомендуемыми названы i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Более агрессивные варианты уменьшают требования к памяти, но могут заметно снижать качество ответов. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, точных требований к оборудованию, ограничений по разрешению изображений или подробных сведений о качестве на разных задачах, поэтому эти характеристики нельзя оценить по имеющимся данным.

dots.mocr-FP8 — мультимодальная модель для задач image-text-to-text, представляющая FP8-квантизированную версию rednote-hilab/dots.mocr. Модель опубликована под идентификатором binedge/dots.mocr-FP8; базовая модель разработана rednote-hilab. Она предназначена для сценариев, где требуется обработка изображений и генерация текстового ответа, однако конкретные прикладные задачи, поддерживаемые языки и особенности поведения в README не указаны. Ключевая особенность версии — динамическая FP8-квантизация текстового backbone с использованием llm-compressor. Квантизации подверглись Linear-слои, а модель сохранена в формате compressed-tensors. Модуль lm_head и пользовательский vision tower исключены из квантизации; vision tower сохранён в формате BF16. Размер модели, архитектура, число параметров, поддерживаемые модальности и максимальная длина контекста в предоставленных данных не указаны. К преимуществам относятся снижение требований к хранению и потенциальное ускорение инференса по сравнению с полноразмерной версией при сохранении vision tower в BF16. Ограничения связаны с отсутствием подробных сведений о качестве, совместимости, производительности, языках и контексте, а также с возможными особенностями поддержки FP8 и compressed-tensors в конкретной инфраструктуре. Модель распространяется по лицензии Apache-2.0.

LFM2.5-VL-1.6B — мультимодальная модель для работы с текстом и изображениями, разработанная Liquid AI и преобразованная сообществом litert-community в формат LiteRT-LM для локального запуска на устройствах через runtime Google LiteRT. Модель предназначена для сценариев on-device и edge-инференса, включая ответы на вопросы по изображениям, описание содержимого, OCR и другие задачи image-text-to-text. Она поддерживает одно изображение на запрос; изображение автоматически приводится к размеру 512×512 и представляется 256 визуальными токенами. В основе модели — гибридная текстовая архитектура LFM2 с 16 слоями, объединяющая gated short-convolutions и grouped-query attention; размер скрытого представления составляет 2048, словарь — 64 тысячи токенов. Используется крупная vision-башня SigLIP2 из 27 слоёв с размером скрытого представления 1152. Максимальный контекст KV-кэша — 4096 токенов. Доступны варианты квантования int8 и int4; размер int4-сборки составляет около 1,30 ГБ, int8 — около 1,81 ГБ. Поддерживаются CPU и GPU при использовании совместимого LiteRT-LM. Ключевое ограничение исходной сборки связано с ошибкой в vision-пути LiteRT-LM 0.16.0 и текущей основной ветке: модель фактически видит только верхнюю четверть изображения. Поэтому хорошо работают описание, вопросы о цветах и OCR крупных объектов, но позиционные задачи, подсчёт и перечисление объектов могут давать неверные ответы или приводить к деградации генерации. В репозитории доступна исправленная int4-сборка fixB, возвращающая модели полный видимый диапазон изображения, однако координатное распознавание остаётся ограниченным по сравнению с 3B-версией семейства. Модель распространяется по лицензии lfm-open-license-v1.0; дополнительные условия следует проверять в файле LICENSE репозитория.

ICTNLP/llava-mini-llama-3.1-8b — мультимодальная чат-модель семейства LLaVA-Mini, разработанная Shaolei Zhang, Qingkai Fang, Zhe Yang и Yang Feng. Она принимает изображения и видеокадры вместе с текстовым запросом и генерирует текстовые ответы о визуальном содержимом; примеры включают чтение надписи на изображении и описание событий в видео. Модель использует плотную архитектуру LlavaMiniLlamaForCausalLM, содержит 7,5 млрд параметров и имеет заявленный контекст 131 072 токена. Для представления каждого изображения LLaVA-Mini использует один визуальный токен; авторы сообщают о снижении вычислительных затрат и задержки по сравнению с обычной обработкой визуальных токенов, а также о поддержке видео. В карточке приведён формат safetensors. Модель подходит для диалога по изображениям и видео, включая анализ изображений высокого разрешения. Карточка не сообщает поддерживаемые естественные языки и конкретные ограничения качества, поэтому язык ответов и точность на отдельных типах визуальных задач следует оценивать отдельно. Лицензия — GPL-3.0.

MiniCPM-V-4.6-GGUF — это GGUF-версия мультимодальной модели MiniCPM-V-4.6, разработанной командой OpenBMB. По указанному pipeline_tag модель предназначена для задач image-text-to-text, то есть для обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В предоставленных данных не указаны точная архитектура, число параметров, поддерживаемые языки, размер контекста, набор модальностей помимо обработки изображений и текста, а также конкретные сценарии применения и ограничения производительности. Известно, что модель распространяется в формате GGUF, предназначенном для совместимого локального запуска средствами, поддерживающими этот формат. Модель выпущена по лицензии Apache-2.0. Для детального описания возможностей, требований к оборудованию, доступных квантовок и рекомендаций по использованию следует обратиться к исходной модели openbmb/MiniCPM-V-4.6.

OpenMed подготовила 8-битную MLX-версию OpenAI Privacy Filter для локального обнаружения персональных данных в тексте на устройствах Apple с Apple Silicon. Это двунаправленная модель классификации токенов с архитектурой MoE и исходной BIOES-головой разметки; модель насчитывает 145,4 млн параметров и рассчитана на контекст до 131 072 токенов. Веса сохранены в safetensors и сжаты аффинной квантизацией до 8 бит с размером группы 64. Для токенизации используются ресурсы o200k_base. Модель отмечает имена, адреса, даты, электронную почту, телефоны, URL, номера счетов и секреты, чтобы затем можно было маскировать найденные фрагменты. После загрузки артефакта обработка выполняется локально через OpenMed и MLX, без отправки текста документа на сервер. README сообщает об одинаковых сгруппированных фрагментах на проверенных примерах для BF16- и Q8-версий. Для медицинских, юридических, финансовых и других высокорисковых сценариев качество следует проверить на собственных данных и в соответствии с применимыми правилами. Лицензия — Apache-2.0.

Taoufik/Qwen2.5-VL-3B-Instruct-Q4_K_M-GGUF — это конвертированная в формат GGUF версия мультимодальной модели Qwen/Qwen2.5-VL-3B-Instruct, разработанной командой Qwen. Конвертацию выполнил пользователь Taoufik с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для задач image-text-to-text: обработки изображений совместно с текстовыми запросами и генерации текстовых ответов. В карточке указана поддержка английского языка. Модель основана на архитектуре Qwen2.5-VL и содержит около 3 миллиардов параметров. Квантование Q4_K_M уменьшает требования к памяти по сравнению с полноразмерной версией и делает модель подходящей для локального запуска через llama.cpp, включая CLI и серверный режим. В README приведён пример использования с контекстом 2048 токенов, однако максимальный контекст модели отдельно не указан. Сильной стороной является сочетание визуального и текстового ввода при относительно небольшом размере, а ограничениями — зависимость от совместимого мультимодального runtime и возможная потеря качества из-за квантования. Модель распространяется по лицензии qwen-research.

TACO — мультимодальная модель действий, разработанная авторами работы «TACO: Learning Multi-modal Action Models with Synthetic Chains-of-Thought-and-Action». Это дообученная модель на 7,1 млрд параметров на основе lmms-lab/llava-onevision-qwen2-7b-mid-stage-a4, с архитектурой Qwen2 и интерфейсом чата. Она предназначена для ответов на сложные многошаговые вопросы по изображениям: модель формирует последовательность рассуждений и действий, может вызывать внешние инструменты, включая OCR, оценку глубины и калькулятор, а затем объединяет результаты в ответ. Контекст составляет 32 768 токенов; веса опубликованы в формате safetensors. В описании проекта сообщается об улучшении среднего результата на восьми бенчмарках на 3,6% относительно базовой модели с настройкой инструкций и о приросте до 15% на задачах MMVet, связанных с OCR, математикой и пространственным рассуждением. Для выполнения действий необходима соответствующая интеграция внешних инструментов. Модель распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование с соблюдением её условий.

Qwen2-VL-72B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная Qwen и квантованная компанией Second State Inc. Модель предназначена для обработки изображений и текстовых запросов, включая задачи визуального анализа, распознавания содержимого изображений и генерации ответов по ним. В карточке указана поддержка английского языка и формат image-text-to-text. Модель основана на Qwen2-VL-72B-Instruct с размером 72 млрд параметров и поставляется в формате GGUF с вариантами квантования от 2 до 8 бит. Доступны отдельные файлы визуального энкодера; для запуска с LlamaEdge используется шаблон qwen2-vision и заявлен контекст до 128 000 токенов. Вариант Q4_K_M описан как сбалансированный по качеству и размеру, а Q5_K_M — как вариант с очень малой потерей качества. Основные преимущества — мультимодальность, большой контекст и возможность выбора уровня квантования в зависимости от доступных ресурсов. Ограничения связаны с существенными требованиями к дисковому пространству и вычислительным ресурсам: размеры файлов варьируются примерно от 29,8 до 47,4 ГБ для указанных вариантов, а низкобитные версии могут заметно терять качество. Модель распространяется по лицензии tongyi-qianwen; в карточке указан тип лицензии other и ссылка на лицензию исходной модели.

Qwen3-VL-30B-A3B-Instruct-MLX-4bit — мультимодальная модель для обработки изображений и текста, разработанная Qwen. Представленная версия основана на Qwen3-VL-30B-A3B-Instruct и предназначена для сценариев image-text-to-text, включая анализ визуального содержимого и генерацию текстовых ответов по изображениям и запросам. Модель имеет 4-битное квантование в формате MLX и оптимизирована для работы на устройствах с Apple Silicon. В названии указаны конфигурация 30B-A3B и инструкционная настройка, однако README не содержит дополнительных сведений о точной архитектуре, размере контекста, поддерживаемых языках или конкретных показателях качества. К сильным сторонам относятся мультимодальность, уменьшенный объём хранения и вычислительные требования благодаря квантованию, а также адаптация к экосистеме Apple Silicon. К ограничениям относятся возможная потеря качества из-за 4-битного квантования и отсутствие в предоставленных данных подробных характеристик производительности, языковой поддержки и совместимости за пределами Apple Silicon. Версия распространяется по лицензии Apache-2.0. Квантование MLX предоставлено командой LM Studio с использованием mlx_vlm; создателем исходной модели является Qwen.

Qwen3-VL-30B-A3B-Instruct-MLX-6bit — это 6-битно квантованная мультимодальная модель для задач преобразования изображений и текста в текст. Исходную модель Qwen3-VL-30B-A3B-Instruct разработала команда Qwen, а квантование в формате MLX подготовила команда LM Studio с использованием mlx_vlm. Модель предназначена для работы с визуально-текстовыми запросами, включая анализ изображений и генерацию ответов по их содержимому. Модель оптимизирована для запуска на устройствах Apple Silicon с использованием фреймворка MLX. В её названии указаны 30B параметров и конфигурация A3B, однако README не содержит подробностей об архитектуре, поддерживаемых языках, размере контекстного окна и точном перечне мультимодальных возможностей. Квантование снижает требования к памяти по сравнению с полной версией, но может сопровождаться некоторой потерей точности. Лицензия модели — Apache-2.0.

Qwen_Qwen3-VL-2B-Instruct-GGUF — это GGUF-квантизированная версия мультимодальной модели Qwen3-VL-2B-Instruct, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Она может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты весов от BF16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели — 2B параметров; отдельные файлы занимают примерно от 0,85 до 3,45 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K и Q6_K; низкобитные варианты экономят память, но снижают качество. Контекст, поддерживаемые языки и точные архитектурные характеристики в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в карточке исходной модели Qwen/Qwen3-VL-2B-Instruct.

TinyLLaVA-Qwen2.5-3B-SigLIP — компактная визуально-языковая модель, обученная с помощью кодовой базы TinyLLaVA Factory. В ней языковая часть основана на Qwen2.5-3B, а визуальный энкодер — на siglip-so400m-patch14-384; модель принимает изображения и текстовые запросы и формирует текстовые ответы в диалоговом режиме. Модель предназначена для вопросов и ответов по изображениям и мультимодальных диалогов. В README приведены результаты оценивания на VQAv2, GQA, SQA, TextVQA, MM-VET, POPE и MME. Репозиторий использует формат safetensors, лицензия — Apache-2.0.

AndesVL-0.6B-Instruct — компактная мультимодальная модель OPPO из семейства AndesVL, построенная на языковой модели Qwen3-0.6B и визуальном энкодере SigLIP2-Base. Она предназначена для запуска на мобильных и других периферийных устройствах и принимает изображения вместе с текстовыми запросами, чтобы отвечать на вопросы и выполнять диалоговые задачи. Модель рассчитана на визуальные вопросы и ответы, работу с насыщенными текстом изображениями, рассуждения по изображению, обработку нескольких изображений и задачи с графическим интерфейсом. В README описаны архитектура «1+N» LoRA и подход QALFT для адаптации задач и сжатия; заявлены ускорение декодирования и сжатие на мобильных чипах, но отдельные показатели для этого чекпойнта не приведены. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Она может ошибаться при распознавании мелкого текста и сложных визуальных сцен; метаданные не уточняют длину контекста и поддерживаемые языки.

Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated-4bit — мультимодальная модель для преобразования изображений и текста в текст, доступная в формате MLX. Она преобразована сообществом mlx-community из модели huihui-ai/Huihui-Qwen3.5-27B-Claude-4.6-Opus-abliterated с использованием mlx-vlm версии 0.4.0; базовая модель указана как Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled. Модель предназначена для сценариев визуального анализа и генерации текста по изображениям, включая описание изображений. В README указаны размер 27B параметров, плотная архитектура и 4-битное представление, оптимизированное для запуска в экосистеме MLX. Для работы рекомендуется пакет mlx-vlm. Поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. К сильным сторонам относятся мультимодальный режим image-text-to-text, 4-битная квантизация и совместимость с MLX. Ограничения включают отсутствие в README подробностей о языках, контекстном окне, результатах оценки и точных характеристиках исходной модели; производительность также зависит от аппаратной платформы и настроек запуска. Модель распространяется по лицензии Apache 2.0.

Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated-GGUF — набор квантованных версий мультимодальной модели Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated, разработанной huihui-ai. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Модель основана на архитектуре Qwen3-VL и имеет конфигурацию 30B-A3B; точные характеристики архитектуры, поддерживаемые языки и размер контекста в README не указаны. Распространяется в формате GGUF для запуска через llama.cpp; для работы требуется актуальная версия llama.cpp и соответствующий мультимодальный проектор mmproj. Указано, что приоритет качества обычно имеют варианты mmproj в порядке F32, BF16, F16. В наборе применена imatrix от unsloth, что связано с оптимизацией квантования. Основные ограничения — зависимость доступного качества и производительности от выбранного уровня квантования и аппаратных ресурсов, а также необходимость отдельного mmproj. Лицензия в README не указана; условия использования следует уточнять на странице исходной модели и репозитории квантованных версий.

InternVL3-1B-GGUF — мультимодальная модель для понимания и генерации текста по изображениям, разработанная командой OpenGVLab и представленная в формате GGUF командой Unsloth. Она основана на OpenGVLab/InternVL3-1B и использует данные MMPR-v1.2 для дообучения или адаптации. Модель предназначена для задач image-to-text, включая анализ изображений, визуальное восприятие и рассуждение, а также потенциально для работы с инструментами, GUI-агентами, промышленными изображениями и 3D-восприятием. Архитектура построена по схеме ViT-MLP-LLM: визуальная часть InternViT-300M-448px-V2_5 соединена через MLP-проектор с языковой частью Qwen2.5-0.5B. Общий размер семейства для этой конфигурации — 1B параметров. Заявлена поддержка multilingual-сценариев, однако конкретный перечень языков и размер контекстного окна в карточке не указаны. К сильным сторонам относятся сочетание визуального и языкового понимания, компактный размер и возможность использования GGUF для локального запуска при подходящей инфраструктуре. Ограничения включают меньшую ёмкость по сравнению с крупными вариантами InternVL3, а также отсутствие в карточке подробных данных о требованиях к памяти, производительности, точности на бенчмарках и совместимости конкретных рантаймов. В карточке указана лицензия Apache-2.0; дополнительно приведена ссылка на лицензию Qwen.

LiquidAI/LFM2-VL-3B-GGUF — мультимодальная vision-language модель семейства LFM2-VL, разработанная Liquid AI для работы на периферийных устройствах и локального развертывания. Модель предназначена для задач преобразования изображений и текста в текст, включая анализ визуального содержимого и генерацию ответов по изображениям, с акцентом на сочетание качества, скорости и экономичного использования памяти. Модель распространяется в формате GGUF, совместимом с llama.cpp, и доступна в вариантах F16, Q4_0 и Q8_0, что позволяет выбирать между точностью, скоростью инференса и требованиями к ресурсам. Указан размер 3B; поддерживаются английский, японский, французский, испанский, немецкий, итальянский, португальский, арабский, китайский и корейский языки. Размер контекста и подробности архитектуры в предоставленной карточке не указаны. Сильными сторонами модели являются мультимодальность, ориентация на edge-сценарии, возможность локального запуска и наличие вариантов квантования. Ограничения включают отсутствие в карточке подробных результатов оценки, характеристик контекста и точных требований к аппаратному обеспечению. Модель выпускается по лицензии lfm1.0; дополнительные условия следует уточнять в файле LICENSE и оригинальной карточке базовой модели LiquidAI/LFM2-VL-3B.

Это GGUF-квантизированная версия мультимодальной модели Pixtral 12B, разработанной командой Mistral Community. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; в репозитории представлены варианты от BF16 до низкобитных форматов Q2–Q8. Модель предназначена для задач image-text-to-text, то есть обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Модель доступна в различных вариантах квантизации, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Размер файлов варьируется примерно от 5,45 ГБ для Q2_K_L до 24,50 ГБ для BF16. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K, Q6_K и соответствующие форматы; более компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Формат GGUF ориентирован на запуск через llama.cpp, LM Studio и другие совместимые проекты. README не содержит сведений о размере контекста, поддерживаемых языках, точной архитектуре мультимодальной части и формате промптов, поэтому эти характеристики нельзя надёжно определить по представленным данным. Указанная лицензия — Apache-2.0.