I.4Обработка документов и форм

RedHatAI/Muse-Glimmer-30B-INT4 — мультимодальная условно-генерирующая модель, разработанная RedHatAI на основе meta-models/Muse-Glimmer-30B. Она принимает текст и изображения, а генерирует текст, поэтому предназначена для задач визуально-текстового анализа, диалога и других сценариев мультимодального вывода. Архитектура указана как MuseGlimmerForConditionalGeneration; точные сведения о языках и размере контекста в карточке не приведены. Модель оптимизирована для инференса с помощью vLLM. Веса линейных операторов внутри transformer-блоков квантизированы в INT4 по схеме W4A16 GPTQ, тогда как активации сохраняют исходную точность; vision-компоненты, lm_head и embedding-слои не квантизировались. Это уменьшает число бит на параметр с 16 до 4, а размер на диске и требования к GPU-памяти — примерно на 75%, что является основным преимуществом при развертывании. К ограничениям относятся возможное снижение качества из-за квантизации и зависимость от совместимой инфраструктуры vLLM и формата compressed-tensors. Доступны средства автоматического выбора инструментов и разбора рассуждений в vLLM, однако фактические возможности и качество базовой модели отдельно не описаны. Модель выпущена 11 августа 2026 года, версия 1.0, и распространяется по лицензии Apache-2.0.

dealignai выпустил производную модель Qwen3.5-VL-122B-A10B-JANG_4K-CRACK на основе Qwen/Qwen3.5-122B-A10B. Это мультимодальная модель семейства Qwen с архитектурой MoE: 122 млрд параметров, 256 экспертов, из которых активны 8 на токен, гибридная архитектура GatedDeltaNet SSM и полного внимания. Модель принимает текст и изображения и предназначена для диалога, ответов по изображениям и других задач визуально-языкового взаимодействия. Веса квантизированы в формате JANG_4K со смешанной точностью: 8-битные веса внимания, 4-битные эмбеддинги и 3-битные эксперты; заявленный размер — 62 ГБ. Также в README указано удаление поведения отказа от ответов на уровне весов. Для запуска требуется совместимое ПО для MLX на Apple Silicon, в частности MLX Studio или пакет jang-tools; другие приложения могут не поддерживать JANG. Лицензия — Apache-2.0.

Qwen3-VL-32B-Instruct-MLX-8bit — это 8-битно квантованная версия мультимодальной модели Qwen3-VL-32B-Instruct, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Она может использоваться в сценариях, требующих совместного анализа визуальной и текстовой информации, однако README не содержит подробностей о поддерживаемых языках, размере контекстного окна и конкретных возможностях исходной модели Qwen3-VL-32B-Instruct. Ключевая характеристика этой версии — 8-битное квантование, которое снижает требования к памяти по сравнению с полноразмерной моделью и делает её более подходящей для локального запуска на Apple Silicon. При этом квантование может влиять на точность по сравнению с исходной версией. README не приводит результаты тестирования, сведения о производительности и ограничения мультимодального ввода, поэтому их нельзя оценить точнее. Модель распространяется по лицензии Apache-2.0.

Turkish PII Guard 1.5B — для турецких текстов дообученная модель Qwen2.5-1.5B-Instruct, разработанная для выявления и маскирования персональных данных. Она поддерживает 50 типов данных, включая идентификационные номера TCKN, IBAN, телефоны, имена, адреса и финансовые сведения; умеет маскировать все найденные данные или выборочно скрывать типы по инструкции. Модель построена на плотной архитектуре Qwen2 и содержит 1,5 млрд параметров. Она принимает текстовые инструкции и текст для обработки, а выдаёт преобразованный текст с масками вместо выбранных персональных данных. Контекст составляет до 32 768 токенов; основной язык — турецкий. Для репозитория указана лицензия Apache-2.0. В описанном тесте схема-нейтральное точное совпадение составило 0,857. Модель может ошибаться в выборочном маскировании, особенно когда требуется оставить определённый тип данных открытым. Для процессов с высокими рисками или нормативными требованиями результаты следует дополнительно проверять.

GLM-4.6V-Flash-GGUF — это набор GGUF-квантизаций базовой модели GLM-4.6V-Flash, разработанной zai-org и квантизированной bartowski с использованием llama.cpp. Модель предназначена для задач «текст—изображение» и рассчитана на работу через llama.cpp, LM Studio и другие совместимые проекты. Заявлены китайский и английский языки, однако сведения о точной архитектуре, количестве параметров и размере контекстного окна в представленном README отсутствуют. Набор включает варианты от BF16 до низкобитных Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций размером примерно от 4,4 до 18,8 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, тогда как компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Некоторые варианты оптимизированы для отдельных сценариев, включая работу на Apple Silicon, ARM и AVX CPU. Для корректного взаимодействия рекомендуется использовать шаблон промпта с токенами GLM, указанными в README. Распространение выполняется по лицензии MIT.

Huihui-MiniCPM-V-4_5-abliterated — мультимодальная модель от huihui.ai, созданная на основе openbmb/MiniCPM-V-4_5. Она предназначена для взаимодействия с изображениями и текстом, включая визуальные вопросы и ответы, распознавание текста на изображениях, работу с несколькими изображениями и, согласно заявленным тегам, обработку видео. Модель поддерживает многоязычные сценарии. В модели обработана только текстовая часть методом abliteration, а визуальная часть оставлена без изменений. Благодаря этому существенно снижено количество отказов при ответах, однако модель может генерировать чувствительный, спорный или неподходящий контент и не имеет стандартных гарантий безопасности. В README не указаны архитектурные детали, размер, максимальная длина контекста и точный перечень поддерживаемых языков. Для использования предлагаются Transformers с trust_remote_code и llama.cpp; конкретные параметры инференса зависят от окружения. Модель рекомендуется прежде всего для исследований, тестирования и контролируемых сред, с мониторингом и ручной проверкой результатов. Распространяется по лицензии Apache 2.0.

Tooony133/LenoPalenoQwen-3.6-27B — производная мультимодальная модель семейства Qwen3.5, дообученная на основе Tooony133/Qwen-3.6-27B-SkinnyPete, которая, согласно README, восходит к Qwen/Qwen3.6-27B. Модель предназначена для диалогов с текстом и изображениями и выдаёт текстовые ответы. В репозитории указаны веса Safetensors в формате FP8 с упаковкой compressed-tensors; метаданные также отмечают поддержку vision и chat. Модель распространяется по лицензии Apache-2.0. Размер параметров, длина контекста и поддерживаемые языки в предоставленных сведениях не указаны.

LFM2.5-VL-450M — компактная мультимодальная модель Liquid AI, преобразованная сообществом litert-community в формат LiteRT-LM для локального запуска на устройствах. Она предназначена для задач обработки текста и изображений, включая описание изображений, ответы на вопросы о цветах и формах, OCR и простой подсчёт объектов. Модель поддерживает одну фотографию на запрос и работает через LiteRT-LM на CPU, а также на GPU в macOS и Android при использовании подходящей версии runtime. Архитектура включает гибридную текстовую основу LFM2 с 16 слоями, объединяющую gated short-convolutions и grouped-query attention, словарь на 64 тысячи токенов, а также компактную vision-башню SigLIP2 из 12 слоёв со скрытым размером 768. Изображения приводятся к размеру 512×512 и преобразуются в 256 визуальных токенов. Максимальный контекст KV cache составляет 4096 токенов. Доступны варианты квантования int8 и int4; пакет int4 занимает около 0,41 ГБ и показывает лучшие результаты среди представленных конфигураций. Ключевое ограничение стандартной сборки связано с дефектом LiteRT-LM: в версиях 0.16.0 и текущей ветке runtime модели может передаваться только верхняя четверть изображения, из-за чего позиционные вопросы, перечисление и локализация объектов дают неверные ответы без явной ошибки. В репозитории также приведена исправленная сборка int4_fixB, восстанавливающая обработку всей видимой области, но не обеспечивающая полноценное координатное позиционирование. На iOS GPU не поддерживается для этого семейства, поэтому рекомендуется CPU. Распространение осуществляется по лицензии LFM Open License v1.0.

LFM2-VL-1.6B-GGUF — мультимодальная vision-language модель, разработанная компанией Liquid AI для задач генерации текста по изображениям и работы с визуально-текстовыми данными. Версия распространяется в формате GGUF и предназначена прежде всего для edge AI и запуска непосредственно на устройствах с ограниченными ресурсами. Модель содержит 1,6 млрд параметров, поддерживает обработку изображений и текста, а в метаданных заявлен английский язык. Доступны варианты квантования и полной точности, включая F16, Q4_0 и Q8_0; для запуска рекомендуется llama.cpp и утилита llama-mtmd-cli. Ключевые заявленные преимущества — сочетание качества, скорости вывода и эффективности использования памяти, что делает модель подходящей для локальных и встраиваемых сценариев. README не содержит подробностей об архитектуре, размере контекста, поддерживаемых форматах изображений, результатах оценки или конкретных ограничениях применения. Модель распространяется по лицензии lfm1.0; точные условия следует уточнять в файле лицензии. Обозначение GGUF указывает на формат распространения, а не на отдельную архитектуру модели.

LFM2-VL-450M — компактная мультимодальная модель Liquid AI для работы с текстом и изображениями. Она предназначена для низколатентного запуска на устройствах с ограниченными ресурсами и поддерживает диалоговые сценарии, следование инструкциям и лёгкие агентные потоки. Модель содержит 450 млн параметров: гибридный свёрточно-внимательный языковой блок LFM2 и визуальный энкодер SigLIP2 NaFlex base. Обрабатывает изображения с переменным разрешением, до 512×512 пикселей за раз; крупные изображения разбиваются на фрагменты. Для запуска требуется Transformers версии 4.57 или новее. Модель рассчитана на английский язык. Её можно применять для вопросов об изображениях, визуального анализа и распознавания текста на изображениях; настройки числа визуальных токенов позволяют выбирать компромисс между скоростью и качеством. Разработчик рекомендует дообучать её для узких сценариев. Модель не предназначена для решений, критичных к безопасности. В метаданных лицензия указана как other, без конкретизации условий в предоставленных данных.

mlx-community/llava-v1.6-mistral-7b-4bit — мультимодальная модель для задач image-text-to-text, то есть обработки изображений совместно с текстовыми запросами и генерации текстовых ответов. Модель разработана сообществом mlx-community и конвертирована в формат MLX из llava-hf/llava-v1.6-mistral-7b-hf с использованием mlx-vlm версии 0.0.9. Модель имеет размер 7B параметров и поставляется в 4-битном представлении, что снижает требования к памяти по сравнению с полноразмерной версией и делает её ориентированной на запуск в экосистеме MLX. Поддерживает визуально-текстовые сценарии, однако в предоставленной карточке не указаны точные параметры архитектуры, максимальная длина контекста, перечень языков, результаты оценивания, ограничения качества и системные требования. Для использования требуется библиотека mlx-vlm. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия модели Fara-7B, разработанной Microsoft и подготовленной пользователем bartowski. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Распространяется в форматах, совместимых с llama.cpp, LM Studio и другими проектами на его основе. Модель имеет размер 7B параметров; исходные веса представлены в BF16, а также доступны варианты квантизации Q8, Q6, Q5, Q4, Q3, Q2 и IQ. Размер файлов варьируется примерно от 3,1 до 15,2 ГБ. Для работы предусмотрен chat-шаблон с маркерами системного, пользовательского и ассистентского сообщений. Данные о поддерживаемых языках и размере контекстного окна в README не указаны. К сильным сторонам относятся широкий выбор уровней квантизации, возможность локального запуска и оптимизация с использованием imatrix-калибровки. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметно уступать старшим вариантам по качеству. Лицензия модели — MIT.

MiMo-V2.6-Distill-Qwen-9B-GGUF — квантованная версия модели MiMo-V2.6-Distill-Qwen-9B, разработанной XiaomiMiMo и представленной в формате GGUF проектом ggml-org. Модель предназначена для задач преобразования изображений и текста, включая мультимодальное понимание содержимого изображений и работу с текстовыми запросами. В комплект входит Q8_0 mmproj для vision encoder. Модель основана на дистиллированной 9-миллиардной версии Qwen; точная архитектура, поддерживаемые языки, размер контекста и перечень квантовок в README не указаны. Формат GGUF ориентирован на запуск через совместимые инструменты, в частности llama.app и llama.cpp-совместимую инфраструктуру. Квантование может снизить требования к памяти, но потенциально влияет на точность по сравнению с полноразмерной версией. Лицензия — MIT. В README отмечено, что текущая версия содержит временное исправление chat template, которое планируется удалить после исправления шаблона в исходной модели; это может ограничивать совместимость или требовать обновлений при последующих релизах.

Vastined/NVIDIA-Nemotron-Nano-12B-v2-VL-BF16-GGUF — это квантизированная версия мультимодальной модели NVIDIA Nemotron Nano 12B v2 VL, опубликованная пользователем или организацией Vastined на базе модели nvidia/NVIDIA-Nemotron-Nano-12B-v2-VL-BF16. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текстовых запросов с генерацией текстового ответа. Из доступных данных известно, что модель содержит около 12 миллиардов параметров, поддерживает работу с визуальными и текстовыми входными данными и распространяется в формате GGUF. Сведения о точной архитектуре, поддерживаемых языках, размере контекста, наборах данных, результатах тестирования, сильных сторонах и ограничениях отсутствуют. Модель распространяется по лицензии NVIDIA Open Model License; в карточке также указана лицензия other и приведена ссылка на официальный текст условий NVIDIA. Перед использованием необходимо ознакомиться с условиями этой лицензии.

elprofessor67/om-logistics-pod-v8-8b — дообученная elprofessor67 мультимодальная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и 8B-параметрической базой, предназначенная для задач image-text-to-text. В карточке указано, что модель дообучена на elprofessor67/om-logistics-pod-v7-8b с использованием Unsloth и библиотеки TRL. Модель принимает текст и изображения и формирует текстовые ответы; метаданные также отмечают чат и интерфейс вызова инструментов. Английский указан среди языков карточки. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает конкретные сценарии логистики или результаты оценки, поэтому её специализацию и качество в таких сценариях нельзя установить по имеющимся данным.

openfree/Qwen2.5-VL-32B-Instruct-Q4_K_M-GGUF — это GGUF-конверсия модели Qwen/Qwen2.5-VL-32B-Instruct, выполненная пользователем или организацией openfree с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для мультимодальных задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В README указана поддержка английского языка и интеграция с библиотекой transformers и llama.cpp. Модель имеет размер 32B параметров, относится к инструкционно настроенным vision-language моделям и распространяется в квантизированном формате Q4_K_M, что может снизить требования к памяти по сравнению с полной точностью, но потенциально влияет на качество. Формат GGUF ориентирован на локальный запуск через llama.cpp в режиме CLI или сервера. В примере запуска используется контекст 2048 токенов, однако максимальный размер контекста в README не указан. Модель может быть полезна для локального анализа изображений, визуального вопросно-ответного взаимодействия и других сценариев, где требуется сочетать визуальный и текстовый ввод. Ограничения, точные характеристики архитектуры, перечень поддерживаемых языков помимо английского, требования к оборудованию и результаты оценки качества в README не приведены. Указанная лицензия — Apache 2.0.

FiditeNemini публикует 3-битную версию Qwen3-VL-235B-A22B-Instruct-Abliterated — мультимодальной модели семейства Qwen3-VL MoE для диалогов с изображениями и текстом. Архитектура — Qwen3VLMoeForConditionalGeneration; контекст составляет 262 144 токена. Репозиторий содержит веса Safetensors и предназначен для работы с библиотекой MLX. Модель принимает текст и изображения и выдаёт текст; в каталоге также отмечены чат и интерфейс вызова инструментов. Карточка указывает английский и китайский языки. Лицензия — Apache-2.0. Модель подходит для вопросов об изображениях, визуального диалога и текстового разбора содержимого изображений. Это производная от Qwen/Qwen3-VL-235B-A22B-Instruct модель; автор карточки называет её Abliterated. README указывает 3-битное представление с размером группы 64, хотя поле Quantization в карточке сформулировано противоречиво («None (3-bit, group size 64)»), поэтому способ получения этой версии нельзя уточнить увереннее. Качество, ограничения и поведение Abliterated-варианта в README не описаны.

Mobilint/Qwen3-VL-2B-Instruct — квантизированная версия модели Qwen3-VL-2B-Instruct, разработанной командой Qwen и скомпилированной и оптимизированной компанией Mobilint для работы на её NPU-оборудовании. Модель относится к классу vision-language моделей и предназначена для задач преобразования изображений и текста в текст, включая сценарии, где требуется анализ визуального содержимого с формированием текстового ответа. Модель содержит около 2 миллиардов параметров и распространяется в формате, совместимом с библиотекой Transformers. Она упакована для развертывания в программно-аппаратном стеке ускорения Mobilint и рассчитана прежде всего на использование с оборудованием Mobilint. В README указана поддержка английского языка, однако сведения о других языках, размере контекстного окна, архитектурных деталях, производительности и доступных режимах работы отсутствуют. К сильным сторонам относятся оптимизация под NPU Mobilint и возможность локального ускоренного развертывания мультимодальной модели. Ограничением является зависимость от аппаратной платформы и стека Mobilint; результаты на другом оборудовании не описаны. Модель распространяется по лицензии Apache-2.0.

Tien-THM/Qwen3-VL-4B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen/Qwen3-VL-4B-Instruct, преобразованная пользователем Tien-THM в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для задач image-text-to-text, то есть для обработки изображений и текста с генерацией текстовых ответов в диалоговом или инструкционном формате. Модель имеет размер 4B параметров и использует квантизацию Q4_K_M, что делает её более подходящей для локального запуска при ограниченных ресурсах по сравнению с полноразмерной версией. Для работы предусмотрена интеграция с llama.cpp через CLI или серверный режим; в README приведён пример контекста 2048 токенов, однако максимальный размер контекста, поддерживаемые языки, точные возможности обработки изображений и результаты оценки не указаны. К сильным сторонам относятся компактный GGUF-формат, возможность локального запуска и совместимость с экосистемой llama.cpp. Ограничениями являются потеря части точности из-за квантизации, а также отсутствие в карточке подробных сведений о производительности, языковой поддержке, аппаратных требованиях и качестве работы с различными типами изображений. Указана лицензия Apache-2.0.

mobilint/Qwen3-VL-8B-Instruct-Batch16 — это квантизированная версия мультимодальной модели Qwen3-VL-8B-Instruct, скомпилированная и оптимизированная компанией Mobilint для работы на аппаратуре Mobilint NPU. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. Модель рассчитана на развертывание в программно-аппаратном стеке ускорения Mobilint. Из известных характеристик указаны размер базовой модели 8B, мультимодальность с поддержкой изображений и текста, а также язык en. Архитектура, размер контекста и точный формат квантизации в README не уточняются. Ключевое преимущество модели — оптимизация для целевой NPU-платформы Mobilint, что может упростить развертывание и ускорить инференс в соответствующей среде. Ограничение состоит в привязке к аппаратуре и стеку Mobilint; возможность запуска на других платформах из предоставленных данных не подтверждается. Модель распространяется по лицензии Apache-2.0.

XYZAILab_XYZ-Aquila-pro-GGUF — это GGUF-квантизированная версия модели XYZ-Aquila-pro, разработанной XYZAILab. Квантизацию выполнил bartowski с использованием llama.cpp b10173 и метода imatrix. По указанному pipeline_tag модель предназначена для задач image-text-to-text, то есть для обработки входов, включающих изображения и текст, с генерацией текстовых ответов. Модель распространяется в нескольких вариантах квантизации от Q8_0 до Q2_K и IQ-квантов. Размер файлов зависит от варианта и составляет примерно от 139,50 до 421,58 ГБ; многие варианты разделены на несколько частей. Более высокие уровни квантизации обычно обеспечивают лучшее качество, тогда как младшие варианты требуют меньше оперативной памяти, но характеризуются заметно более низким качеством. В README не указаны число параметров, архитектура, поддерживаемые языки и размер контекста. Модель совместима с llama.cpp и рядом приложений для локального запуска, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Для работы может потребоваться обновление программ с поддержкой этой модели. Лицензия — Apache-2.0.

GLM-4.6V-GGUF — набор GGUF-квантизаций модели GLM-4.6V, разработанной zai-org и подготовленной пользователем bartowski. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Указаны китайский и английский языки. Данные о точной архитектуре, количестве параметров, поддерживаемой длине контекста и конкретных возможностях работы с изображениями в README не приведены. Набор включает варианты квантизации от Q8_0 до Q2_K и IQ2_M, поэтому позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Наиболее качественными и рекомендуемыми названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; файлы имеют размер примерно от 43 до 113 ГБ. Квантизации подготовлены с использованием imatrix и llama.cpp, доступны для запуска в LM Studio, llama.cpp и других совместимых проектах. Для работы требуется использовать указанный формат prompt. Ограничения зависят от выбранной квантизации: варианты с меньшим размером могут заметно уступать по качеству, а для запуска большинства сборок требуется значительный объём оперативной или видеопамяти. Модель распространяется по лицензии MIT. README не содержит подробностей об исходных данных обучения, бенчмарках и аппаратных требованиях.

RoboBrain2.0-7B-GGUF — квантизированная версия мультимодальной модели RoboBrain2.0-7B, разработанной BAAI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Она рассчитана на локальный запуск через llama.cpp, LM Studio и другие совместимые проекты. В основе лежит модель размером 7B параметров; README не содержит сведений о поддерживаемых языках и размере контекстного окна. Доступны варианты от BF16 до различных квантизаций Q8, Q6, Q5, Q4, Q3, Q2 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5 и Q6; низкобитные варианты экономичнее, но обеспечивают более низкое качество. К сильным сторонам относятся мультимодальность, широкий выбор уровней квантизации и совместимость с популярными инструментами локального инференса. Ограничения связаны с потерями качества у сильнее сжатых вариантов, необходимостью самостоятельно подбирать подходящий файл и отсутствием в README подробностей об архитектуре, языках и контексте. Распространение указано по лицензии Apache-2.0.

DeepSeek-V4-Flash-Vision-Exp-GGUF — это квантизированная версия модели DeepSeek-V4-Flash-Vision-Exp, разработанной DeepSeek и опубликованной в формате GGUF организацией ggml-org. Модель предназначена для задач image-text-to-text, то есть обработки изображений и генерации текстовых ответов по ним, и может запускаться с помощью llama.app. В состав входит vision encoder с компонентом mmproj в формате Q8_0, обеспечивающим обработку визуальных входных данных. Доступны варианты квантования, включая Q2; для них, согласно README, пока не используется imatrix-калибровка. Другие характеристики, включая размер модели, архитектуру, поддерживаемые языки и размер контекста, не указаны. Модель распространяется по лицензии MIT. Она автоматически сконвертирована с использованием инструментария ggml-org/convert. Ключевые ограничения — неполнота документации и отсутствие imatrix-калибровки для вариантов Q2, что может влиять на их качество.

edusc182/Gemma_2B — дообученная модель семейства Gemma 4 E2B IT, разработанная edusc182 на базе unsloth/gemma-4-E2B-it с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалога и обработки запросов с изображениями, включая анализ визуального содержимого и документов. Метаданные также указывают на обучение на наборах данных для программирования и диалоговых рассуждений, но не подтверждают отдельные гарантированные возможности модели. Модель имеет плотную архитектуру Gemma4ForConditionalGeneration и сохраняется в формате safetensors. В карточке указаны английский и испанский языки, поддержка чата и изображений. Лицензия — Apache-2.0. Размер модели и длина контекста в предоставленных данных не указаны.

JGOS-31B-Citizen — плотная мультимодальная языковая модель примерно на 31 млрд параметров, разработанная на платформе VIDRAFT Darwin V8 для административных и государственных сервисов на корейском языке. Она предназначена для ответов на обращения граждан, понимания официальных документов и ответов на вопросы по тематике государственного управления. Модель принимает текст и изображения и поддерживает контекст до 256K токенов. По README, её построили на собственной базе gemma4-31b: FFN-блоки нескольких моделей объединяли и развивали в рамках Darwin V8, после чего модель дополнительно обучили на корейских данных для административной сферы. В карточке заявлены первое место в K-AI Leaderboard и результат 84,34% на GPQA Diamond; эти оценки приведены разработчиком. Модель предназначена для корейских сценариев государственного сектора, а не для общего мультиязычного применения. Состав исходных моделей, стратегия объединения и детали обучения не раскрыты. Репозиторий использует формат Safetensors и библиотеку Transformers; лицензия — Apache-2.0.

Это GGUF-квантизированная версия мультимодальной модели InternVL3_5-2B, разработанной OpenGVLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до различных форматов 2–8-битной квантизации. Модель предназначена для задач image-text-to-text: обработки изображений и генерации текстовых ответов, а также для локального запуска в LM Studio, llama.cpp и совместимых проектах. Варианты файлов имеют размер примерно от 0,97 до 4,07 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, а низкие позволяют работать при ограниченном объёме оперативной памяти; наиболее сбалансированным вариантом указан Q4_K_M. README не содержит сведений о точной архитектуре, максимальном контексте, поддерживаемых языках, формате промптов и лицензии исходной модели, поэтому эти характеристики нельзя достоверно определить по имеющимся данным.

WoWolf/Qwen2_5vl-7b-fm-tuned — дообученная разработчиком WoWolf мультимодальная модель семейства Qwen2.5-VL на базе Qwen/Qwen2.5-VL-7B-Instruct. Она принимает текст и изображения и формирует текстовые ответы; предназначена для диалогового взаимодействия и задач анализа визуального содержимого. В карточке указаны 7,1 млрд параметров, архитектура Qwen2_5_VLForConditionalGeneration и контекст до 128 000 токенов. Дообучение выполнено на наборах mllm_demo, the identity и alpaca_en_demo. Метаданные указывают поддержку image-text-to-text, чата и vision; конкретные специализации и результаты оценки не описаны. Модель опубликована в формате safetensors под лицензией other, поэтому условия использования следует уточнять по карточке и лицензии базовой модели.

mlx-community/Qwen2-VL-2B-Instruct-4bit — мультимодальная instruction-модель сообщества mlx-community, конвертированная в формат MLX из Qwen/Qwen2-VL-2B-Instruct с использованием mlx-vlm версии 0.0.13. Модель предназначена для задач, где требуется обработка изображений и текста, включая сценарии image-text-to-text и генерацию ответов по мультимодальным запросам. Модель имеет размер 2B параметров и использует 4-битное представление, что делает её ориентированной на запуск в экосистеме MLX. В карточке указаны поддержка английского языка и библиотека Transformers; другие языки, размер контекстного окна и подробности архитектуры не указаны. Для использования предлагается пакет mlx-vlm. К сильным сторонам относятся мультимодальные возможности, instruction-настройка и компактное 4-битное представление. Ограничения и возможные компромиссы квантования в карточке не описаны, поэтому качество на конкретных задачах следует оценивать отдельно. Модель распространяется по лицензии Apache-2.0.

Мультимодальная модель ryfkn, дообученная на базе unsloth/Qwen3.5-4B-Base для работы с текстом и изображениями. Она предназначена для диалоговых сценариев и генерации текстовых ответов по текстовым запросам и изображениям. Модель семейства Qwen3.5 имеет плотную архитектуру и распространяется в формате safetensors. Модель обучали с использованием Unsloth и библиотеки TRL. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает обучающие данные и оценки качества, поэтому результаты для конкретных задач следует проверять отдельно.