I.4Обработка документов и форм
В разделе собраны самостоятельные задачи, где AI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 180 моделейStationPC/Qwen3.5-VL-4B-RKNN3-RK1828 — аппаратно-адаптированная и квантизованная версия мультимодальной модели Qwen3.5-4B, подготовленная StationPC для платформы RKNN3 и чипа RK1828. Базовая модель разработана командой Qwen и представляет собой языковую модель с vision-энкодером, принимающую текст и изображения и генерирующую текстовые ответы. Модель предназначена для диалогов с изображениями, визуального понимания, описания изображений, ответов на вопросы по изображениям и локальных мультимодальных приложений. В репозитории присутствуют отдельные компоненты для языковой и визуальной частей модели; используется квантизация W4A16, а максимальная длина контекста в конфигурации составляет 16 384 токена. Модель ориентирована на запуск через совместимые инструменты локального вывода на устройствах с RK1828. Сильной стороной является сочетание мультимодальности Qwen3.5 с компактным размером класса 4B и адаптацией под специализированное аппаратное ускорение. Ограничения включают зависимость от совместимого RKNN3/RK1828-окружения, сокращённое по сравнению с базовой Qwen3.5 контекстное окно и возможные ошибки визуального распознавания или генерации. Лицензия производного репозитория в доступных источниках не подтверждена.
mobilint/Qwen3-VL-4B-Instruct — это квантованная версия базовой модели Qwen/Qwen3-VL-4B-Instruct, скомпилированная и оптимизированная компанией Mobilint для работы на аппаратных ускорителях Mobilint NPU. Модель распространяется в формате, предназначенном для развертывания в стеке ускорения Mobilint. По указанным данным модель относится к классу image-text-to-text и предназначена для задач, объединяющих обработку изображений и текста, однако конкретные сценарии применения, поддерживаемые языки, размер контекста и детали архитектуры не описаны. Известно, что базовая модель имеет размер 4B, но сведения о модальностях и характеристиках именно оптимизированной версии ограничены. Модель может быть полезна для инференса на оборудовании Mobilint благодаря оптимизации под NPU и интеграции с соответствующим программным стеком. Ограничением является зависимость от аппаратной платформы и среды Mobilint. Лицензия — Apache-2.0.
Qwen3-VL-8B-Contracts-OCR — дообученная авторами репозитория мультимодальная модель Qwen3-VL-8B для извлечения структурированных данных из сканов договоров об учреждении египетских компаний на арабском языке. Она анализирует изображения страниц и формирует JSON, копируя арабский текст без исправления орфографии; таблицы включает в ответ в формате Markdown. Для обработки предусмотрена подача двух соседних страниц одновременно, а PDF перед запуском нужно преобразовать в изображения. Модель построена на плотной архитектуре Qwen3-VL с 8 млрд параметров и доступна в формате Safetensors для Transformers; в README также описана версия с объединёнными LoRA-весами FP16. Она предназначена для оцифровки корпоративных юридических документов и автоматизации извлечения сведений. Обучение проводилось на частном наборе примерно из 32 исходных договоров, расширенном аугментациями, поэтому качество за пределами этого типа документов не подтверждено. Лицензия — Apache 2.0.
cyttic/trocr-small-BY5-bridgeinit-selfinit — дообученная модель cyttic на базе cyttic/trocr-hebrew-small-untrained. Это модель архитектуры VisionEncoderDecoder для преобразования изображения в текст; репозиторий содержит веса в формате Safetensors. В README приведены результаты оценки: loss 6,0410, CER 0,7729 и WER 1,1879; описание обучения и набора данных отсутствует. По названию модели можно предположить связь с письмом BY5, но README и метаданные не раскрывают целевую задачу или поддерживаемый язык достаточно надёжно для такого вывода. Условия лицензии в предоставленных данных не указаны.
T-RSI OCR — экспериментальная модель psikosen для распознавания печатных текстовых строк на изображениях. Это плотная архитектура TRSIFastReflexForOCR с 1,5 млн параметров и трёхзначными весами BitNet, упакованными по четыре значения в байт; модель принимает полосу текста высотой 32 пикселя и выдаёт последовательность символов с помощью CTC. Для декодирования можно использовать поиск по префиксному лучу с символьной языковой моделью; также описан режим объединения результатов для разных горизонтальных растяжений изображения. Модель предназначена для распознавания строк в документах и сравнивалась с Tesseract 5 на синтетических шрифтах и строках, вырезанных из цифровых PDF. README сообщает о высокой точности по отдельным символам и ускорении на Apple Silicon при использовании SIMD, но результаты получены на одном Apple M4 Max и не были независимо воспроизведены. Это распознаватель строк: он не выполняет сегментацию страниц, анализ макета или таблиц. Поддерживается ограниченный набор из 95 печатных ASCII-символов без диакритики, иероглифов, математических обозначений и типографских кавычек. Модель доступна по лицензии MIT.
MiMo-VL-7B-SFT-2508-GGUF — это GGUF-квантизованная версия мультимодальной модели MiMo-VL-7B-SFT-2508, разработанной XiaomiMiMo. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов по их содержанию. Модель имеет размер 7B параметров и поставляется в нескольких вариантах точности — от BF16 до Q2_K_L, включая рекомендуемые версии Q4, Q5 и Q6. Размер файлов составляет примерно от 3,65 до 15,25 ГБ. Формат GGUF ориентирован на запуск через llama.cpp, LM Studio и другие совместимые приложения. Более высокие варианты квантизации лучше сохраняют качество, а компактные версии снижают требования к оперативной памяти, но могут заметно уступать по точности. В README не указаны поддерживаемые языки, размер контекста, точная архитектура мультимодальной части, системные требования и лицензия. Поэтому эти характеристики следует уточнять на странице исходной модели XiaomiMiMo/MiMo-VL-7B-SFT-2508. Условия лицензирования квантизованной версии также не приведены.
zen-vl-8b-agent-i1-GGUF — это мультимодальная vision-модель для задач image-text-to-text, основанная на zenlm/zen-vl-8b-agent. Исходная модель разработана командой ZenLM, а данная версия квантизирована mradermacher и распространяется в формате GGUF. В карточке указано, что модель предназначена для работы с изображениями и текстом; заявленный язык — английский. Модель относится к классу примерно 8-миллиардных параметров, однако точные сведения об архитектуре, размере контекста и поддерживаемых модальностях помимо изображений и текста в README не приведены. Доступны многочисленные варианты квантизации, включая IQ- и Q-серии, размером примерно от 2,2 до 6,8 ГБ. В README отмечено, что варианты IQ часто предпочтительнее сопоставимых обычных вариантов, а Q4_K_M рекомендован как быстрый вариант с хорошим соотношением размера, скорости и качества. Основные преимущества — мультимодальная обработка изображений, широкий выбор размеров GGUF-файлов и возможность подбора компромисса между качеством, скоростью и требованиями к памяти. Ограничения связаны с потерями качества при низкобитной квантизации; для работы vision-модели могут потребоваться отдельные mmproj-файлы из статического репозитория. Лицензия модели указана как Apache-2.0.
Bienvenu2004/donut-base-pv-aws2 — модель архитектуры vision-encoder-decoder, обученная с нуля на наборе данных imagefolder. Она принимает изображения и предназначена для задач преобразования изображений в текст. В метаданных указан формат safetensors и задача image-text-to-text. Карточка не описывает конкретные сценарии применения, языки, размер модели, длину контекста или условия лицензии. Поэтому её специализацию и практическое качество по имеющимся сведениям определить нельзя.
Это 6-битная MLX-квантизированная версия мультимодальной модели gemma-4-26B-A4B-it, разработанной Google. Квантизацию выполнила команда LM Studio с использованием mlx-vlm; модель оптимизирована для запуска на компьютерах Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Архитектура, точный объём параметров, поддерживаемые языки и размер контекста в README не указаны. Известно, что исходная модель обозначена как gemma-4-26B-A4B-it, однако дополнительные характеристики этого варианта не раскрыты. Ключевое преимущество модели — 6-битная квантизация и оптимизация под MLX, которые ориентированы на эффективный локальный запуск на Apple Silicon. Ограничения включают возможную потерю качества из-за квантизации, зависимость производительности от оборудования и отсутствие в README подробностей о точности, языковом покрытии и контексте. Модель распространяется по лицензии Apache-2.0; при использовании необходимо также учитывать условия лицензии Gemma, указанной Google.
MLX-модель mlx-community/gemma-4-E2B-it-qat-mobile предназначена для задач преобразования изображений и текста в текст. По доступным данным, она относится к семейству Gemma и распространяется в формате, совместимом с библиотекой MLX, однако разработчик исходной модели, архитектура, точный размер, поддерживаемые модальности, языки и длина контекста в README не указаны. Модель, вероятно, ориентирована на сценарии, где требуется обработка визуального и текстового ввода с генерацией текстового ответа, включая мультимодальные приложения на устройствах, совместимых с MLX. Суффикс mobile в идентификаторе указывает на возможную оптимизацию для мобильного использования, но конкретные требования к аппаратному обеспечению и преимущества не описаны. Сильные стороны и ограничения модели, а также условия лицензирования по представленным данным определить невозможно.
Huihui-Qwen3.6-27B-abliterated-Athanorlite-ORPO-i1-GGUF — квантизированная GGUF-версия модели nbeerbower/Huihui-Qwen3.6-27B-abliterated-Athanorlite-ORPO, подготовленная mradermacher. Модель относится к vision-language моделям и предназначена для задач image-text-to-text, то есть для обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В названии указано, что модель имеет размер 27B параметров, использует вариант обучения или выравнивания ORPO и относится к семейству Qwen3.6. В метаданных заявлен английский язык. Доступны многочисленные варианты квантования GGUF с размером примерно от 7,2 до 16,6 ГБ и более, включая IQ- и Q-форматы; выбор варианта позволяет регулировать компромисс между качеством, скоростью и требованиями к памяти. Для работы с изображениями могут потребоваться дополнительные файлы mmproj из статического репозитория. Сильной стороной модели является сочетание мультимодального ввода и широкого выбора степеней квантования для локального запуска. При этом README не содержит данных о размере контекстного окна, точном устройстве архитектуры, результатах бенчмарков, поддерживаемых языках помимо английского, системных требованиях или конкретных ограничениях качества. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять в исходном репозитории базовой модели.
LiquidAI/LFM2.5-VL-1.6B-GGUF — GGUF-версия мультимодальной модели LFM2.5-VL-1.6B, разработанной Liquid AI. Модель предназначена для задач image-text-to-text: анализа изображений и генерации текстовых ответов по визуальным запросам. Её можно запускать локально с помощью llama.cpp, что делает вариант подходящим для интеграции в приложения и сценарии edge-развёртывания с ограниченными ресурсами. Известный размер базовой модели — 1,6 млрд параметров. Поддерживаются текстовые и графические входные данные; в карточке заявлены языки English, Japanese, Korean, French, Spanish, German, Italian, Portuguese, Arabic и Chinese. Модель опубликована в формате GGUF, однако конкретный уровень квантования, размер контекста и дополнительные характеристики производительности в README не указаны. К сильным сторонам относятся мультимодальность, компактный размер, возможность локального запуска и совместимость с llama.cpp. Ограничения включают отсутствие в карточке подробных результатов тестирования, информации о точности в отдельных задачах, контекстном окне и требованиях к оборудованию. Лицензия указана как lfm1.0; перед использованием необходимо ознакомиться с её условиями в файле LICENSE.
NangWeiLun/MiMo-VL-7B-RL-2508-bnb-4bit-fp4 — это 4-битная квантованная версия мультимодальной модели MiMo-VL-7B-RL-2508, разработанной XiaomiMiMo. Модель предназначена для задач преобразования изображений и текста в текст и рассчитана на использование через библиотеку Transformers. Модель имеет размер 7B параметров и использует квантование BitsAndBytes с точностью fp4. Для вычислений применяется bfloat16, двойное квантование отключено, а веса сохранены в формате safetensors. Квантирование снижает потребление памяти и позволяет запускать модель на пользовательских GPU с объёмом видеопамяти до 12 ГБ, однако может привести к небольшому снижению качества генерации по сравнению с исходной моделью. README не содержит информации о поддерживаемых языках, размере контекста и подробностях архитектуры. Указанная лицензия — MIT.
InternVL3_5-4B-GGUF — это квантизированная GGUF-версия модели InternVL3_5-4B, разработанной OpenGVLab и подготовленной пользователем bartowski. Модель относится к классу image-text-to-text и предназначена для задач, в которых требуется обрабатывать изображения вместе с текстовыми запросами и генерировать текстовые ответы. Конкретные сценарии применения, поддерживаемые языки и размер контекста в представленном README не указаны. Модель доступна в формате GGUF для запуска через llama.cpp, LM Studio и другие совместимые проекты. Представлены варианты от исходных весов BF16 размером 8,83 ГБ до сильно сжатых квантов, включая Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K и Q2_K; размеры файлов варьируются примерно от 1,98 до 4,69 ГБ для указанных квантованных вариантов. Квантизация выполнена с использованием imatrix и llama.cpp release b6258. Более высокие уровни квантования обычно обеспечивают лучшее качество, а компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. README не содержит сведений о лицензии исходной модели или квантованных файлов, поэтому условия использования необходимо уточнять на странице оригинальной модели OpenGVLab/InternVL3_5-4B и репозитории данной версии. Формат промптов также не приведён; автор рекомендует обратиться к документации оригинальной модели.
Qwen2-VL-72B-Instruct-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen2-VL-72B-Instruct, разработанной командой Qwen компании Alibaba под брендом Tongyi Qianwen и подготовленной пользователем bartowski. Модель предназначена для сценариев image-text-to-text: анализа изображений и формирования текстовых ответов по пользовательским запросам. В README явно указан английский язык; сведения о поддерживаемых языках помимо него отсутствуют. Модель содержит 72 млрд параметров и работает с изображениями совместно с текстом. Для локального запуска используется llama.cpp; помимо файла модели требуется соответствующий мультимодальный проектор mmproj, а для обработки изображений — специализированный бинарный файл llama-qwen2vl-cli. Доступны варианты квантизации от Q8_0 до Q2_K_L и IQ-серий размером примерно от 31 до 77 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, но требуют значительно больше памяти; наиболее сбалансированным вариантом README называет Q4_K_M. Сильными сторонами являются мультимодальность, крупный размер базовой модели, широкий выбор уровней квантизации и возможность локального запуска через llama.cpp. Ограничениями выступают высокие требования к дисковому пространству и памяти, а также необходимость использовать совместимые компоненты llama.cpp и мультимодальный проектор. Модель распространяется по лицензии, обозначенной как other с названием tongyi-qianwen; перед использованием следует ознакомиться с условиями исходной лицензии Qwen2-VL-72B-Instruct.
MiMo-VL-7B-RL-2508-GGUF — квантизированная версия мультимодальной модели MiMo-VL-7B-RL-2508, разработанной XiaomiMiMo и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для задач image-text-to-text: анализа изображений и генерации текстовых ответов по визуальному и текстовому контексту. Модель содержит около 7 миллиардов параметров и поддерживает обработку текста и изображений. Для квантизации использовались llama.cpp и калибровочные данные с методом imatrix. Доступны варианты от BF16 и Q8_0 до более компактных Q2 и IQ-квантизаций; варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти, а Q4_K_M рекомендуется как типичный вариант для большинства сценариев. Сведения о поддерживаемых языках, размере контекстного окна и точном формате промптов в README не указаны. Модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. Квантизация уменьшает размер файлов и требования к ресурсам, однако более низкие уровни квантизации могут заметно снижать качество ответов. Лицензия в предоставленных данных не указана.
CoPaw-Flash-9B-GGUF — это набор GGUF-квантизаций базовой модели CoPaw-Flash-9B, разработанной agentscope-ai и подготовленной bartowski для запуска через llama.cpp и совместимые инструменты. Модель относится к классу image-text-to-text и предназначена для задач, где требуется обрабатывать изображения и текст и генерировать текстовые ответы. В README указана поддержка английского и китайского языков. Размер исходной модели составляет 9 млрд параметров. Доступны варианты от BF16 до квантизаций Q2–Q8 и IQ, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти; рекомендованными названы, в частности, Q4_K_M, Q5_K_M, Q6_K и другие варианты. Модель можно использовать через llama.cpp, LM Studio, Jan AI, koboldcpp, Ramalama и Text Generation Web UI. Точный размер контекста, архитектура и перечень поддерживаемых форматов изображений в README не указаны. Сильной стороной является наличие мультимодального режима и широкого выбора квантизаций для локального запуска, включая варианты для систем с ограниченными ресурсами. Ограничения зависят от выбранного уровня квантизации: более компактные варианты могут заметно уступать по качеству, а для некоторых форматов может потребоваться обновление используемого программного обеспечения. Модель распространяется по лицензии Apache-2.0.
Это квантованная в формате GGUF версия аблитерированной DeepSeek-V4-Flash-Vision-Exp, подготовленная dicksondickson для запуска с DS4 и DwarfStar. Она принимает изображения вместе с текстовым контекстом и генерирует текст, в том числе ответы по визуальному содержимому. Модель основана на drowzeys/keys-DeepSeekV4Flash-Vision-EXP-ablit; в README также указаны вклад Keys в аблитерацию и safetensor anchors, а Antirez — в движок DS4 и шаблон GGUF. Поддерживаются английский и китайский языки. Репозиторий распространяется по лицензии MIT. Квантование снижает требования к хранению и запуску, но конкретный уровень квантования и размер модели в предоставленных данных не указаны. По предупреждению автора, фильтрация безопасности существенно ослаблена, поэтому модель может выдавать чувствительный, спорный или неподходящий контент; результаты следует проверять.
noctrex/Huihui-Qwen3-VL-2B-Instruct-abliterated-GGUF — набор квантованных версий модели Huihui-Qwen3-VL-2B-Instruct-abliterated, разработанной huihui-ai и распространяемой в формате GGUF. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В README указано, что это мультимодальная instruct-модель на базе Qwen3-VL с размером 2B параметров; поддерживаемые языки и максимальная длина контекста не указаны. Ключевая особенность — abliterated-версия, а квантования созданы с использованием imatrix, объединяющей наборы combined_all_large и harmful.txt. Это позволяет запускать модель с меньшими требованиями к ресурсам, однако конкретные варианты квантования и их характеристики в README не перечислены. Для работы рекомендуется использовать актуальную версию llama.cpp, а для мультимодального проектора mmproj — версию F32, которая, согласно README, обеспечивает лучшее качество по сравнению с BF16 и F16. Сильными сторонами модели являются поддержка визуально-текстовых сценариев, компактный размер и возможность локального запуска через llama.cpp. Ограничения включают отсутствие подробных данных о качестве, языках, контекстном окне и точных параметрах квантований. Лицензия в представленном README не указана.
Huihui-Qwen3-VL-8B-Instruct-abliterated-GGUF — это набор квантованных версий мультимодальной модели Huihui-Qwen3-VL-8B-Instruct-abliterated, опубликованный пользователем noctrex. Модель предназначена для задач image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации текстовых ответов. В качестве базовой модели указана разработка huihui-ai; исходная модель доступна на Hugging Face. В представленном README не указаны точная архитектура, размеры квантования, поддерживаемые языки, длина контекста, перечень модальностей за пределами общего image-text-to-text и результаты тестирования. Ключевая особенность этой публикации — использование формата GGUF и квантования, что потенциально упрощает локальный запуск и снижает требования к ресурсам, однако конкретные компромиссы между качеством и производительностью зависят от выбранного файла. Для использования требуется актуальная версия llama.cpp. Лицензия и условия коммерческого или иного использования в README не указаны.
Qwen3.8-27B-PrismaAQUA-5.5bit-vllm — это смешанно-точная квантованная версия Qwen/Qwen3.8-27B, опубликованная rdtand. Модель предназначена для задач преобразования изображения и текста в текст и рассчитана на запуск через vLLM. Чекпойнт использует стандартный формат compressed-tensors и обслуживается обычным vLLM без форка среды выполнения и пользовательских ядер. Размер модели составляет около 21,98 GiB на диске, эффективная разрядность — 5,5002 бита на параметр квантируемой части, содержащей 24,35 млрд параметров. В архитектуре применена индивидуальная смешанная квантализация отдельных Linear-слоёв: NVFP4 W4A4 с группировкой 16, FP8 E4M3 с поканальным масштабированием и BF16 для наиболее чувствительных компонентов. В полном разрешении сохранены lm_head, embed_tokens, визуальная башня, головы multi-token prediction, нормы и маршрутизаторы. README не указывает поддерживаемые языки и размер контекста. По измерениям на WikiText-2 квантализация увеличивает perplexity с 9,361 до 9,580, то есть примерно на 2,34%. Проверены загрузка и генерация в режимах vLLM eager и CUDA graph. Сильными сторонами являются экономия памяти, сохранение чувствительных компонентов в BF16 и совместимость со стандартным vLLM. Ограничение — заметный хвост ошибок: p99 и максимальное значение KL существенно выше среднего, поэтому средние показатели могут скрывать ухудшение на отдельных позициях. Набор downstream-задач в описании не тестировался. Модель распространяется по лицензии Apache-2.0.
Shieldstral-1.0-3B-GGUF — набор GGUF-квантизаций модели Shieldstral-1.0-3B, разработанной Mistral AI. По указанной карточке модель относится к классу image-text-to-text и предназначена для сценариев, в которых требуется обрабатывать изображения вместе с текстовыми запросами и генерировать текстовый ответ. Базовая модель имеет размер 3B параметров. Конкретные варианты квантизации, поддерживаемые языки, максимальная длина контекста и перечень модальностей в карточке не указаны. Для совместимости обновлён компонент mmproj, исправляющий проблемы загрузки в предыдущей версии; квантизации рассчитаны с использованием калибровочного набора text_eur_large. Ключевое преимущество этой версии — возможность локального запуска в формате GGUF с различными уровнями квантизации, что может снизить требования к памяти по сравнению с полноразмерной моделью. Ограничения, точные характеристики вариантов квантизации, требования к оборудованию и результаты тестирования не приведены. Лицензия в предоставленных данных не указана.
GLM-4.6V-Flash-MLX-8bit — это 8-битная квантованная версия мультимодальной модели GLM-4.6V-Flash, разработанной компанией zai-org. Квантование в формате MLX предоставлено командой LM Studio с использованием библиотеки mlx_vlm; модель оптимизирована для запуска на компьютерах с Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. В README заявлена поддержка китайского и английского языков. Она может использоваться в локальных мультимодальных приложениях, способных анализировать визуальные данные и отвечать на текстовые запросы, при условии совместимости программного окружения с MLX. Ключевой особенностью является 8-битное представление, снижающее требования к памяти по сравнению с полноразмерной версией и ориентированное на эффективное выполнение на Apple Silicon. Архитектура, точный размер модели, максимальная длина контекста и дополнительные характеристики в предоставленных данных не указаны. README также не описывает специфические ограничения качества или перечень поддерживаемых сценариев сверх мультимодальной обработки текста и изображений. Для модели указана лицензия MIT. При использовании следует учитывать, что модель может генерировать неточную, вредную или неподходящую информацию, поэтому результаты требуют проверки.
InternVL3.5-GPT-OSS-20B-A4B-Preview-GGUF — это конвертированная в формат GGUF версия модели OpenGVLab/InternVL3_5-GPT-OSS-20B-A4B-Preview. Модель разработана на базе GPT-OSS-20B и предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов. Ключевой особенностью является представление модели в формате GGUF, ориентированном на использование в совместимых локальных инструментах инференса. В названии указано 20B, однако точные сведения об архитектуре, количестве активируемых параметров A4B, поддерживаемых языках, размере контекста, модальностях в конкретной сборке и требованиях к ресурсам в README не приведены. README не содержит результатов бенчмарков, примеров качества или подробностей о сильных сторонах и ограничениях модели, поэтому оценить её производительность можно только после самостоятельного тестирования. Также не указаны варианты квантования и совместимые средства запуска. Модель распространяется по лицензии Apache 2.0.
kev-merged-0.8b — слитая мультимодальная модель на основе jaredpalmer/kev-0.8b и Qwen/Qwen3.5-0.8B-Base. Разработчик объединил адаптер kev-0.8b с базовой моделью, чтобы её можно было использовать без отдельного адаптера; скрипт слияния приложен в репозитории. Архитектура — плотная Qwen3.5ForConditionalGeneration; метаданные указывают интерфейс чата, вызов инструментов и работу с изображениями. Модель предназначена для диалоговых сценариев с текстом и изображениями. В карточке Hugging Face указана задача image-text-to-text и английский язык. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. Размер модели, длина контекста и конкретные ограничения качества в доступных данных не приведены.
LFM2-VL-450M-GGUF — квантизированная версия мультимодальной модели LFM2-VL-450M, разработанной LiquidAI и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для задач image-text-to-text, то есть обработки изображений совместно с текстовыми запросами и генерации текстовых ответов по их содержимому. Модель содержит около 450 млн параметров и распространяется в нескольких вариантах точности, включая BF16, Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы. Квантизация выполнена с использованием llama.cpp и метода imatrix, поэтому файлы можно запускать через llama.cpp, LM Studio и другие совместимые проекты. Размер файлов варьируется примерно от 0,18 до 0,71 ГБ; варианты Q4–Q6 предлагают хороший баланс качества и потребления памяти, а BF16 сохраняет исходные веса с максимальным размером. Сильные стороны модели — компактность, низкие требования к памяти и поддержка визуально-текстовых сценариев на локальных устройствах. Более агрессивные варианты квантизации экономят место, но могут заметно снижать качество ответов. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура визуального компонента, результаты оценок и лицензия, поэтому эти характеристики нельзя достоверно определить по имеющимся данным.
dealignai публикует вариант Qwen3.5-VL-4B для Apple Silicon. Это плотная мультимодальная модель с гибридной архитектурой SSM и Attention, 32 слоями и возможностью понимать изображения и вести диалог. Модель дообучена на базе Qwen/Qwen3.5-4B, затем преобразована в смешанный формат JANG_4S: 6-битные веса Attention и 4-битные веса MLP; заявленный размер — около 3 ГБ. Для запуска README указывает MLX Studio и пакет jang-tools; также рекомендует vMLX. Вариант CRACK прошёл изменение весов, направленное на удаление отказов в ответе. README приводит результаты MMLU и HarmBench, но это результаты авторских тестов, а не независимая оценка. Такая настройка может допускать небезопасные ответы. Модель предназначена для диалога и анализа изображений; метаданные также отмечают интерфейс вызова инструментов. Лицензия — Apache-2.0.
Qwen3-VL-4B-Instruct-MLX-8bit — это 8-битная квантованная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen. Квантование в формате MLX предоставлено командой LM Studio с использованием mlx_vlm; модель оптимизирована для работы на компьютерах Apple Silicon. Модель предназначена для задач image-text-to-text, то есть обработки изображений и генерации текстовых ответов на их основе. Она может применяться в сценариях визуального вопросно-ответного взаимодействия и других приложениях, где требуется совместно анализировать изображения и текст. В README не указаны точные поддерживаемые языки, размер контекстного окна и дополнительные характеристики архитектуры. Ключевые особенности модели — мультимодальность, размер базовой модели 4B параметров, 8-битное представление и оптимизация для Apple Silicon. Квантование потенциально снижает требования к памяти и может ускорить локальный запуск, однако README не содержит результатов тестирования производительности или оценки качества. Как и другие языковые и мультимодальные модели, она может генерировать неточные, вредные или вводящие в заблуждение ответы. Модель распространяется по лицензии Apache-2.0. Она основана на Qwen3-VL-4B-Instruct; LM Studio не является создателем исходной модели и не гарантирует её точность, безопасность или пригодность для конкретных задач.
RoGemma3-4B-Instruct — мультимодальная модель OpenLLM-Ro, дообученная на базе google/gemma-3-4b-it для работы с изображениями и инструкциями на румынском языке. Она использует плотную архитектуру Gemma 3 и доступна в формате safetensors через Transformers; лицензия — CC-BY-NC-4.0. Модель предназначена для исследований и дальнейшей адаптации румынских моделей с визуальным вводом. Она может описывать изображения, отвечать на вопросы о них, разбирать документы и диаграммы, распознавать текст на изображениях и связывать упомянутые объекты с их расположением. В бенчмарках README показаны улучшения относительно базовой Gemma 3 4B IT по совокупным результатам, подписям к изображениям, вопросам об изображениях, документам и визуальному заземлению. Основной язык модели — румынский; README исключает применение на других языках. Размер параметров и длина контекста в предоставленных данных не указаны. Результаты бенчмарков не гарантируют точность в конкретных сценариях; лицензия ограничивает коммерческое использование.
Step-3.7-Flash-GGUF — квантизированная GGUF-версия мультимодальной модели Step-3.7-Flash, разработанной stepfun-ai и подготовленной сообществом bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач vision-language и image-text-to-text: обработки изображений вместе с текстовыми запросами и генерации ответов. В README указана поддержка английского языка и архитектурный признак mixture-of-experts (MoE), однако точные размер, число параметров, длина контекста и перечень поддерживаемых модальностей не приведены. Модель поставляется в большом наборе вариантов квантизации от Q8_0 до Q2_K, включая Q4_K_M как вариант по умолчанию для большинства сценариев. Размер файлов варьируется примерно от 71,74 до 212 ГБ, поэтому для запуска требуются значительные ресурсы. Квантизация снижает требования к памяти по сравнению с исходной моделью, но варианты с меньшей разрядностью могут заметно уступать по качеству; наиболее качественными в README названы Q6_K_L, Q6_K и варианты Q5. Использование предусмотрено через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Лицензия — Apache-2.0.