I.15Доступность и ассистивные технологии

NuExtract3-W4A16 — это квантизированный вариант NuExtract3, разработанный компанией NuMind. Модель представляет собой унифицированную vision-language модель с примерно 4 млрд параметров для понимания документов, структурированного извлечения информации и преобразования изображений документов в Markdown. Модель принимает текст, изображения или их комбинацию. Для структурированного извлечения используются JSON-шаблон и инструкции, на выходе формируется JSON; также возможна генерация шаблонов по естественно-языковому запросу или содержимому документа. Модель предназначена для обработки счетов, чеков, форм, договоров, таблиц, сканов и других документов, включая сценарии OCR, подготовки данных для RAG и построения extraction-пайплайнов. Поддерживаются многоязычные документы, режимы вывода с рассуждением и без него, а также преобразование документов в Markdown с HTML для таблиц, LaTeX для математических выражений и описаниями изображений. Сильными сторонами являются сочетание визуального понимания, OCR, рассуждений и структурированного вывода, а также пригодность для документов со сложной компоновкой, множеством изображений и большим объемом извлекаемых данных. В опубликованном внутреннем тесте NuMind модель NuExtract3.4_4B-RL получила средний балл 0,651 и показала более высокие результаты, чем перечисленные в сравнении модели. Ограничения включают возможные ошибки JSON-сериализации, зацикливание рассуждений у небольших моделей и зависимость качества от сложности документа и объема контекста; конкретный максимальный размер контекста для данной версии не указан. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-VL-7B-Instruct-FP8-Dynamic — квантованная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы. Она предназначена для визуально-текстовых задач: визуального вопросно-ответного взаимодействия, анализа документов, диаграмм и графиков, решения математических задач по изображениям, а также для ряда общих текстовых бенчмарков. Модель имеет архитектуру Qwen2.5-VL-7B-Instruct с заявленным размером 7B параметров. Для весов и активаций используется динамическая квантование FP8; при этом визуальная башня, мультимодальный проектор и lm_head не квантовались. Модель рассчитана на эффективный инференс через vLLM версии 0.5.2 и новее, поддерживает OpenAI-совместимое предоставление сервиса. В README явно указан английский язык, а максимальная длина контекста в примере развертывания составляет 4096 токенов. К сильным сторонам относятся снижение вычислительных и memory-затрат при сохранении качества исходной модели: на приведённых тестах средний результат на vision-задачах составил 76,50 против 75,95 у базовой модели. Ограничения включают зависимость от совместимого стека vLLM, необходимость мультимодальной инфраструктуры для работы с изображениями и отсутствие подробных сведений о поддерживаемых языках, фактическом размере контекста и результатах вне указанных оценок. Модель распространяется по лицензии Apache-2.0.

Это мультимодальная модель Qwen 3.6 35B-A3B от dealignai, созданная на основе Qwen/Qwen3-VL-30B-A3B-Thinking. Она предназначена для диалога и анализа текста, изображений и видео, включая задачи визуального понимания и вызова инструментов. Модель имеет архитектуру MoE с 35 млрд параметров и примерно 3 млрд активных на токен, 256 маршрутизируемых экспертов и гибридное сочетание линейного и полнослойного внимания. Контекст составляет 262 144 токена; доступны режимы рассуждений с включением и отключением через enable_thinking. Карточка заявляет поддержку английского и китайского языков. Веса квантованы в формате JANGTQ2: маршрутизируемые эксперты используют 2-битное кодирование TurboQuant, а чувствительные к точности компоненты сохраняют 8-битное представление; визуальная башня оставлена в fp16. Репозиторий занимает около 11 ГБ и предназначен для запуска на Apple Silicon через MLX Studio или jang-tools. По заявлению автора, CRACK — это весовая абляция, удаляющая усвоенные отказы в ответах; вследствие этого модель может выдавать контент, который базовая модель отклонила бы. Квантование до 2 бит уменьшает размер, но может снижать точность для сложных рассуждений. Лицензия — Apache-2.0.

Sarashina2.2-Vision-3B — мультимодальная языковая модель с изображениями от японской компании SB Intuitions. Она основана на Sarashina2.2-3B-Instruct и использует визуальный энкодер SigLIP; размер модели — 3,8 млрд параметров. Для работы предусмотрена библиотека Transformers, веса опубликованы в формате safetensors. Модель принимает изображения и текстовые запросы и предназначена для описания изображений, ответов на вопросы по ним, а также чтения и анализа документов, с особым вниманием к японским изображениям и тексту. Карточка приводит результаты тестов на японских и англоязычных наборах задач, включая вопросы по документам и слайдам. Модель дообучена в несколько этапов, включая настройку следования инструкциям и оптимизацию предпочтений. Модель распространяется по лицензии MIT. По данным карточки, её обучение на безопасность ограничено: ответы могут быть неточными, бессмысленными, предвзятыми или нежелательными; для практического применения разработчикам рекомендуется дополнительная настройка с учётом предпочтений людей и требований безопасности.

EXAONE-4.5-33B-GGUF — квантованная версия открытой мультимодальной модели EXAONE 4.5, разработанной LG AI Research. Модель объединяет причинную языковую модель и специализированный визуальный энкодер и предназначена для работы с текстом и изображениями, включая понимание документов, визуальные вопросы и ответы, мультимодальное рассуждение и задачи на корейском языке. Модель имеет 33 млрд параметров, из которых 31,7 млрд приходятся на языковую часть и 1,29 млрд — на визуальный энкодер. Используется плотная архитектура с 64 основными слоями и одним MTP-слоем, гибридным вниманием, включающим локальное sliding window attention и глобальное внимание, а также Grouped Query Attention в визуальном энкодере. Контекст поддерживает до 262 144 токенов, размер скрытого представления составляет 5120, словарь — 153 600 токенов. Заявлены языки: английский, корейский, испанский, немецкий, японский и вьетнамский. Дата отсечения знаний — декабрь 2024 года. Сильными сторонами модели являются мультимодальность, понимание документов, корейское контекстное рассуждение и конкурентные результаты на общих и визуально-языковых бенчмарках. Версия GGUF доступна с квантованиями языковой модели Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS; веса визуального энкодера представлены в форматах F32, F16 и BF16. Ограничения включают зависимость качества от выбранного уровня квантования и значительные требования к вычислительным ресурсам из-за размера модели. Лицензия указана как exaone; конкретные условия следует уточнять в файле LICENSE.

NuMarkdown-8B-Thinking — мультимодальная модель Numind для распознавания и структурированного извлечения содержимого из документов. Она дообучена на базе Qwen/Qwen2.5-VL-7B-Instruct: сначала на синтетических примерах «документ — рассуждение — Markdown», затем с помощью GRPO с наградой, ориентированной на структуру и компоновку документа. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и рассчитана на контекст до 128 000 токенов. Модель принимает изображения документов и преобразует их в аккуратный Markdown, уделяя внимание сложной разметке и таблицам. В ходе генерации она использует промежуточные рассуждения о структуре страницы; их объём зависит от сложности задачи. Такой формат вывода подходит для подготовки документов к индексации и поиску с дополненной генерацией (RAG). Модель распространяется по лицензии MIT. Её назначение — извлечение текста и структуры из документов; README описывает сравнительные результаты, но не приводит подробностей методики оценки, поэтому заявленные преимущества на сложных документах следует проверять на собственных данных.

Camel-Doc-OCR-080125-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана на основе prithivMLmods/Camel-Doc-OCR-080125, который, в свою очередь, является дообученной версией Qwen2.5-VL-7B-Instruct. Модель ориентирована на Document Retrieval, Content Extraction, анализ документов и задачи Intelligent Document Processing. Модель использует архитектуру Qwen2.5-VL и доступна в формате GGUF для запуска с llama.cpp и совместимыми инструментами. Указан размер базовой модели 7B; поддерживаются изображения и текст, а заявленные языки — английский и китайский. Варианты файлов представлены в форматах F16 и различных квантований размером примерно от 1,9 до 15,2 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Также доступны отдельные мультимодальные проекторы mmproj. Сильная сторона модели — специализация на OCR, понимании содержимого документов, извлечении и связывании данных, а также генерации результатов в Markdown. Она дообучалась на наборе Opendoc2-Analysis-Recognition. README не содержит сведений о длине контекста, результатах бенчмарков, аппаратных требованиях, точности, поддерживаемых типах документов и ограничениях качества, поэтому эти характеристики нельзя оценить по имеющимся данным. Модель распространяется по лицензии Apache-2.0.

Gemma 4 31B it — мультимодальная инструкционная модель Google, представленная в 4-битной квантизированной версии MLX. Исходная модель — google/gemma-4-31B-it, а квантизацию с использованием mlx_vlm выполнила команда LM Studio. Версия оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач генерации текста и обработки изображений с текстом, включая сценарии, поддерживаемые классом image-text-to-text. Благодаря инструкционному варианту она рассчитана на выполнение запросов пользователя в диалоговых и прикладных задачах. Размер исходной модели составляет 31 млрд параметров, однако точные сведения о поддерживаемых языках, размере контекста и архитектурных особенностях в README не указаны. Ключевое преимущество версии — снижение требований к памяти за счёт 4-битной квантизации и оптимизация под экосистему Apple Silicon. Ограничения включают возможное снижение точности по сравнению с полной версией, зависимость производительности от оборудования Apple и отсутствие в предоставленных данных подробных результатов тестирования. Модель распространяется по лицензии Apache 2.0.

Grok 4.3 — мультимодальная модель рассуждений от SpaceXAI. Она принимает текст и изображения и генерирует текстовые ответы; предназначена для агентных сценариев, выполнения инструкций и задач, требующих высокой фактической точности. Модель подходит для приложений, в которых нужно анализировать текстовые запросы и изображения, следовать инструкциям и формировать ответы для дальнейших действий агента. Данных о размере, архитектуре, длине контекста, поддерживаемых языках и лицензии в предоставленной карточке нет.

LensVLM-9B — мультимодальная модель зрения и языка на 9 млрд параметров, разработанная Apple и дообученная на базе Qwen/Qwen3.5-9B. Она анализирует сжатые изображения с текстом и с помощью обученных инструментов выборочно раскрывает страницы в исходном разрешении, когда нужны дополнительные детали. Модель предназначена для извлечения и анализа текста из визуальных документов, особенно когда нужно находить релевантные страницы в большом наборе сжатых изображений и детально изучать только их. Архитектура — плотная Qwen3.5 для генерации текста с изображениями; репозиторий содержит веса Safetensors и рассчитан на Transformers. Метаданные относят модель к задаче image-text-to-text и указывают поддержку диалога и зрения. Модель выпущена по лицензии Apple AMLR. README не сообщает языки, длину контекста и количественные результаты оценки, поэтому их нельзя уточнить по доступным сведениям.

GabrieleConte/Qwen3.5-0.8B-LiteRT — конвертированная версия мультимодальной модели Qwen/Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для локального запуска на устройствах с использованием LiteRT и LiteRT-LM, включая задачи понимания изображений и генерации текста по текстовым и визуальным входным данным. В комплект входят языковая модель, vision encoder, vision adapter и tokenizer. Языковая часть содержит около 752 млн параметров, vision encoder — около 675 млн, vision adapter — около 10 млн. Используется гибридная архитектура из 18 слоёв GatedDeltaNet и 6 слоёв Full Attention, а также 27-слойный Vision Transformer. Модель поддерживает мультимодальный ввод изображений, динамическую INT8-квантизацию и KV-кэш длиной 2048 токенов. Для предварительной обработки доступны фиксированные длины последовательностей 64, 128, 256 и 512 токенов, для изображений — варианты от 256 до 2304 патчей. Основной формат распространения — контейнер .litertlm. Сильными сторонами являются возможность on-device-инференса, интегрированный мультимодальный конвейер и уменьшенный объём вычислений благодаря INT8-квантизации. Ограничения включают отсутствие поддержки видео, возможные небольшие отличия качества из-за дополнения промптов до фиксированной длины и расхождения результатов с оригинальной реализацией Qwen3.5 из-за особенностей вычислений GatedDeltaNet. Модель распространяется по лицензии Apache 2.0, унаследованной от исходной модели.

Qwen3.5-0.8B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen компании Alibaba и представленной пользователем prithivMLmods. Модель предназначена для локального понимания и генерации текста и изображений, включая лёгкое OCR, разбор документов, визуальные вопросы и ответы, многоязычные чат-боты и базовые задачи программирования. Поддерживаются интеграции с Ollama, vLLM и llama.cpp, что позволяет использовать модель без облачных зависимостей, в том числе на маломощных устройствах и встраиваемых системах. Модель содержит около 0,8 млрд параметров и использует плотную мультимодальную архитектуру с комбинацией Gated DeltaNet и разреженного MoE, 24 слоями, скрытым размером 1024 и словарём из 248 тысяч токенов. Заявлена поддержка 201 языка, работа с текстом и изображениями, нативное контекстное окно 262 тысячи токенов и возможность расширения свыше 1 млн токенов с помощью YaRN. Формат MTP добавляет несколько выходных головок для предсказания будущих токенов и ускорения локального вывода без отдельной draft-модели. К сильным сторонам относятся компактность, низкие требования к памяти, мультимодальность, широкий контекст и варианты квантования размером примерно от 430 МБ до 834 МБ; для BF16 заявлено около 1,6 ГБ VRAM. Ограничения включают малый размер модели, поэтому её возможности могут быть недостаточны для сложного программирования, глубокого анализа и требовательных генеративных сценариев. Модель распространяется по лицензии Apache 2.0.

Это GGUF-квантизация модели Qwen3.5-4B-Instruct от Alibaba Cloud в формате MXFP4 — четырёхбитном формате с плавающей точкой по спецификации OCP Microscaling Formats. В репозитории есть файл весов модели и отдельный проектор зрения SigLIP в F16; для обработки изображений требуется подключить проектор. По карточке исходная модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, принимает текст, изображения и видео и поддерживает 201 язык. Контекст исходной модели — 262 тысячи токенов с возможностью расширения до миллиона. Модель предназначена для генерации текста и диалогов по инструкциям; также README показывает сценарий описания изображений. По умолчанию режим рассуждений отключён, его можно включить параметром. README заявляет совместимость формата MXFP4 с CPU и GPU разных производителей, но фактическая поддержка зависит от используемого ПО. Модель распространяется по лицензии Apache 2.0.

SherlockID365/Qwen3-VL-8B-Instruct-quantized.w4a16 — квантизированная версия мультимодальной vision-language модели Qwen/Qwen3-VL-8B-Instruct. В карточке не указан отдельный разработчик производной версии; базовая модель связана с семейством Qwen. Модель предназначена для задач, требующих обработки текста и визуальных данных, включая мультимодальные инструкции и анализ изображений. Модель содержит около 8 миллиардов параметров и использует архитектуру с визуальной частью, которая не подвергалась преобразованию при квантизации. Линейные слои квантизированы методом AWQ в формате W4A16: веса представлены 4 битами, активации сохраняются в формате FP16, используется group_size=128, zero_point=true и версия gemm. Контекстное окно и точный перечень поддерживаемых языков в README не указаны. Ключевое преимущество версии — уменьшенное потребление памяти и потенциально более высокая эффективность инференса по сравнению с полноточной моделью, что удобно для запуска через совместимые инструменты, включая vLLM. Ограничения связаны с потерями точности, возможными для 4-битной квантизации, а также с зависимостью от поддержки формата AWQ и используемого программного окружения. Модель распространяется по лицензии Apache-2.0.

MinerU2.5-Pro-2604-1.2B — модель Op enDataLab для разбора документов и преобразования PDF в структурированный Markdown. Она принимает изображения страниц и текстовые запросы, а выдаёт текст с распознанной структурой документа; предназначена для подготовки данных для LLM и систем RAG. В README заявлены разбор таблиц, формул, изображений и диаграмм, объединение оборванных абзацев и распознавание изображений внутри таблиц. В карточке указана архитектура Qwen2-VL, библиотека Transformers, контекст 32 768 токенов и размер 494 млн параметров. README описывает обучение на корпусе из 65,5 млн страниц и сообщает результаты на OmniDocBench v1.6; это заявления авторов, а не независимая оценка. Лицензия — Apache-2.0. README отмечает, что объединение таблиц между страницами ещё интегрируется. Хотя название модели и README указывают на архитектуру 1,2B, метаданные каталога сообщают 494 млн параметров; эти сведения расходятся.

Nemotron Table Structure v1 — разработанная NVIDIA специализированная модель компьютерного зрения для выделения структуры таблиц на изображениях. Она обнаруживает ячейки, строки и столбцы и возвращает для каждого объекта класс, координаты ограничивающей рамки и оценку уверенности. Модель построена на YOLOX с backbone DarkNet53 и FPN decoupled head; содержит около 54 млн параметров и обрабатывает RGB-изображения, приводимые к размеру 1024 × 1024. Модель предназначена для извлечения табличных данных из сканов и документов, в том числе в конвейерах обработки документов и enterprise-поиска. В сочетании с OCR она помогает сохранить связи между элементами таблицы и преобразовать её структуру для последующего анализа или представления в Markdown. NVIDIA сообщает о предварительном обучении на COCO train2017 и дообучении на изображениях Digital Corpora с разметкой Azure AI Document Intelligence. Для инференса требуются PyTorch и код из репозитория; модель оптимизирована для систем с GPU NVIDIA. Карточка заявляет готовность к коммерческому и некоммерческому использованию по NVIDIA Open Model License Agreement; скрипты постобработки лицензированы Apache 2.0. Для распознавания текста модель следует использовать вместе с OCR: сама она выдаёт геометрию и классы элементов таблицы.

Qwen2.5-VL-7B-Instruct-heretic — модифицированная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная автором saidutta69 с использованием Heretic v1.4.0. Модель предназначена для работы с текстом и изображениями, а также поддерживает сценарии, связанные с OCR, разбором документов, привязкой объектов на изображении и анализом видео. В карточке указано, что основной язык — английский. Модель сохраняет архитектуру и основные возможности базовой Qwen2.5-VL-7B-Instruct; заявленный нативный размер составляет около 8,3 млрд параметров. Вариант создан методом directional ablation («abliteration»): из весов целенаправленно удалены направления, связанные с отказами в ответах, без дообучения. Поэтому у модели должны в значительной степени сохраняться знания в области vision-language и следование инструкциям базовой модели, но защитные ограничения и фильтрация намеренно ослаблены. Это может быть полезно разработчикам, которым требуется меньше отказов, однако одновременно повышает риск выдачи нежелательного или небезопасного содержимого. Доступны полные веса в формате Safetensors BF16 и текстовые GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0. GGUF-файлы содержат текстовую часть и не включают vision-энкодер, поэтому для полноценной мультимодальной работы следует использовать полные веса Safetensors. Модель совместима с Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Лицензия — Apache-2.0, унаследованная от базовой модели.

Мультимодальная модель dealignai на базе Qwen3.6-35B-A3B предназначена для диалогов, рассуждений и анализа изображений и видео. В README указана архитектура Mixture-of-Experts с гибридом SSM и полнослойного внимания: 40 слоёв, 256 маршрутизируемых экспертов и 10 активных. Модель дообучена с удалением отказов на уровне весов, а затем квантизирована в MXFP4 для запуска через MLX на компьютерах Apple с заявленным размером около 18 ГБ; сохранена голова MTP для спекулятивного декодирования. Заявлены режимы рассуждений и прямых ответов, а также интерфейс вызова инструментов. Модель подходит для визуальных вопросов и ответов, анализа видеокадров, диалоговых и агентных сценариев. В README приведены результаты HarmBench-320 99,4%, MMLU 74,6% и ускорение генерации в 1,51 раза при использовании совместимого MTP-рантайма; это результаты авторской оценки через vMLX. Модель распространяется по лицензии Apache-2.0. Удаление отказов означает, что она может отвечать на опасные запросы без ограничений.

Qwen3-VL-8B-Interleave-Thinking-i1-GGUF — квантованная GGUF-версия мультимодальной модели hxssgaa/Qwen3-VL-8B-Interleave-Thinking, подготовленная mradermacher. Модель предназначена для обработки текста и изображений, включая ответы на вопросы по изображениям, визуальный анализ, агентские сценарии, function calling и задачи с пошаговым рассуждением. В карточке также указана обучающая выборка xlam-interleave-thinking-40k. Модель относится к семейству Qwen3-VL и содержит 8 миллиардов параметров. Она поддерживает мультимодальный режим image-text-to-text; заявленный язык — английский. Контекстное окно, точная архитектура визуального компонента и дополнительные языковые возможности в README не указаны. Репозиторий предоставляет набор вариантов квантования с разным размером и компромиссом между скоростью, качеством и требованиями к памяти; среди рекомендуемых отмечены i1-Q4_K_M и i1-Q4_K_S. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются сочетание визуального понимания, рассуждений и поддержки агентских функций, а также возможность локального запуска через GGUF. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, и отсутствием в карточке подробных результатов тестирования, данных о контекстном окне и инструкций по конкретным рантаймам. Распространение указано по лицензии Apache-2.0.

Qwen_Qwen3-VL-8B-Instruct-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3-VL-8B-Instruct, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для задач, где требуется обработка текста и изображений, включая диалоговое взаимодействие и генерацию ответов по мультимодальным запросам. Квантизированные файлы рассчитаны на запуск через llama.cpp, LM Studio и другие совместимые проекты. Базовая модель имеет размер 8B параметров; в наборе представлены варианты от BF16 до 2-, 3-, 4-, 5-, 6- и 8-битных форматов с размерами файлов примерно от 3,8 до 16,4 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp. Доступны варианты с разным соотношением качества и требований к памяти: старшие форматы обеспечивают качество, близкое к исходной модели, а младшие подходят для устройств с ограниченным объёмом RAM, но дают более низкое качество. Формат prompt использует шаблон ChatML с ролями system, user и assistant. README не содержит сведений о поддерживаемых языках, размере контекстного окна, конкретной архитектуре визуального модуля, результатах бенчмарков или лицензии. Условия использования следует уточнять в документации исходной модели Qwen/Qwen3-VL-8B-Instruct и соответствующего репозитория.

Rune 26B-A4B v3 — разработанная Surogate модель принятия решений на основе Gemma 4 26B-A4B-it. Она принимает текст, структурированные данные или изображение вместе с вопросом и вариантами ответа и за один проход выбирает вариант, оценивая вероятности всех вариантов. Поддерживает задачи выбора одного из N вариантов, оценки истинности утверждения и выставления балла по порядковой шкале. Для обработки изображений сервер нужно запускать с поддержкой vision. Модель предназначена для классификации и ранжирования вариантов в тестах, извлечения решений из документов и скриншотов, автоматизации выбора и выставления оценок. По README, контекст составляет 262 тысячи токенов. Режим рассуждения включается отдельно, доступен только для текстовых запросов и может добавлять до 512 токенов рассуждения; по данным README, он повышает результаты на части тестов, но снижает качество вероятностных прогнозов в ForecastBench. Вероятности текстовых ответов при стандартной температуре описаны как избыточно уверенные; температура решения 2 улучшает их калибровку, не меняя выбранный вариант. Для изображений доступно сокращение числа визуальных токенов ценой точности. Это дообученная мультимодальная модель с архитектурой Gemma 4, публикуемая в формате safetensors и использующая библиотеку Transformers. Лицензия — Apache 2.0. Заявленные результаты бенчмарков являются результатами авторского запуска; часть тестовых данных и оценок основана на собственных выборках и не является закрытой оценкой лидерборда.

Gemma 3 4B IT QAT GGUF — мультимодальная модель семейства Gemma 3, разработанная Google и представленная в формате GGUF сообществом LM Studio. Квантизация выполнена с использованием Quantization Aware Training для повышения качества работы в 4-битном режиме. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммирование и задачи, требующие рассуждений. Она поддерживает текстово-изображённые сценарии, обрабатывает изображения, нормализованные до разрешения 896 × 896 пикселей, имеет контекстное окно до 128 000 токенов и максимальную длину вывода 8192 токена. Другие характеристики, включая языковой охват и точный набор архитектурных параметров, в README не указаны. К сильным сторонам относятся мультимодальность, большое контекстное окно и оптимизация 4-битной версии с помощью QAT, что делает модель подходящей для локального запуска при ограниченных ресурсах. Ограничения связаны с применением квантизации и указанным пределом разрешения изображений; конкретное влияние на качество и требования к аппаратным ресурсам не описаны. Модель распространяется по лицензии Gemma, для доступа к ней на Hugging Face требуется принять условия лицензии Google.

jina-embeddings-v5-omni-small-retrieval — мультимодальная модель эмбеддингов от Jina AI, дообученная для поиска. Она принимает текст, изображения, видео и аудио и кодирует их в общее векторное пространство, совместимое с jinaai/jina-embeddings-v5-text-small-retrieval: можно индексировать текст и искать по нему с помощью другой модальности без перестроения индекса. Модель построена на архитектуре Qwen3VLAudioModel, содержит около 1,56 млрд параметров и выдаёт эмбеддинги размерностью 1024. Модель предназначена для межмодального поиска и семантического сопоставления. При кодировании нужно явно указывать роль входа — запрос или документ — через соответствующий префикс либо функции encode_query() и encode_document(); это относится ко всем модальностям. Для видео используются кадры, звуковая дорожка автоматически не обрабатывается: аудио следует передавать отдельно. Доступны веса в формате safetensors и поддержка Transformers; лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Lapa-12B-pt — мультимодальная модель семейства Gemma 3, дообученная украинскими исследователями из Украинского католического университета, AGH University of Krakow, КПИ имени Игоря Сикорского и Львовской политехники. Она предназначена прежде всего для работы с украинским языком и принимает текст и изображения, выдавая текстовые ответы. Модель содержит 12 млрд параметров и использует архитектуру Gemma3ForConditionalGeneration. По описанию авторов, токенизатор адаптирован для украинского языка: 80 тысяч из 250 тысяч токенов заменены на украиноязычные, что сокращает число токенов для украинского текста примерно в 1,5 раза относительно Gemma 3. Модель подходит для диалога, генерации и суммаризации текста, а также ответов и извлечения сведений по изображениям. Качество ответов зависит от обучающих данных и формулировки запроса; модель может ошибаться в фактах, упускать языковые нюансы и испытывать трудности со сложными задачами. README не сообщает подробностей о тренировочном наборе данных. Лицензия указана как Gemma; следует соблюдать условия лицензии Google Gemma.

th_PP-OCRv5_mobile_rec — компактная модель распознавания строк текста из семейства PP-OCRv5_rec, разработанная командой PaddleOCR. Она предназначена для извлечения тайского текста из изображений и может использоваться как модуль распознавания в конвейере OCR, включающем обнаружение текста и, при необходимости, коррекцию ориентации и геометрических искажений. Для модели указана точность распознавания строк 82,68%; строка считается распознанной неверно, если ошибочен хотя бы один символ или знак пунктуации. Модель принимает изображения текстовых строк и выдаёт распознанный текст. Репозиторий предназначен для использования с библиотекой PaddleOCR; лицензия — Apache-2.0. В README не приведены дополнительные ограничения по качеству или условия использования.

VoRA-7B-Instruct — инструктивная модель семейства VoRA, разработанная Hon-Wong и дообученная на базе Hon-Wong/VoRA-7B-Base. Это плотная авторегрессионная модель с архитектурой VoRAForCausalLM на 7,1 млрд параметров; она рассчитана на диалоговую генерацию текста и работу с изображениями и текстом. Контекстное окно составляет 32 768 токенов. Модель опубликована в формате safetensors и поддерживает интерфейс вызова инструментов. Модель подходит для диалоговых помощников, генерации ответов и сценариев, где нужно обрабатывать изображения вместе с текстовыми запросами. Карточка указывает датасет дообучения VoRA-Recap-29M, но не описывает его состав, поэтому нельзя уточнить специализацию обучения или гарантировать качество на конкретных задачах. Лицензия в предоставленных данных не указана.

ZDTaichu5.0-9B-GGUF — набор community-квантизаций мультимодальной foundation-модели ZDTaichu5.0-9B, разработанной TaichuAI и адаптированной в формате GGUF пользователем ngquocvinh для работы с llama.cpp. Модель предназначена для визуального понимания, пространственного рассуждения, агентского использования инструментов и задач embodied AI. Она принимает текст, одно или несколько изображений и видео; заявлены входные изображения произвольного разрешения и контекст до 128K токенов, однако фактический доступный контекст зависит от используемого runtime и объёма памяти. Поддерживаются английский и китайский языки. Архитектура включает языковую основу Qwen3.5-9B и vision encoder C-RADIOv4-H. Языковая часть поставляется в виде нескольких квантизированных GGUF-файлов разных уровней, а vision encoder и projector — отдельно в BF16-файле mmproj-ZDTaichu5.0-9B-BF16.gguf. Квантизации позволяют запускать модель на оборудовании с ограниченной памятью, но сопровождаются компромиссом между размером и сохранением качества: варианты Q8_0 и Q6_K ближе всего к BF16, а низкоразрядные варианты, особенно IQ1_M и Q1_0, имеют существенно худшую точность и не рекомендуются при необходимости сохранить возможности модели. Приведённые измерения оценивают только текстовое next-token поведение и не заменяют тестирование мультимодальных задач. Для обработки изображений и видео требуется сборка llama.cpp с поддержкой mtmd и совместный vision projector; текстовый режим может работать без него. Лицензия указана как nvidia-open-model-license, при этом данная публикация является community-конвертацией и квантизацией базовой модели.

RedHatAI/gemma-3-12b-it-FP8-dynamic — это квантизированная версия мультимодальной модели google/gemma-3-12b-it, разработанная Neural Magic. Модель принимает изображения и текст, а генерирует текст; заявленный язык — английский. Она предназначена для визуально-текстового диалога, анализа изображений и решения текстовых задач, а также для эффективного инференса через vLLM версии 0.5.2 и новее с OpenAI-совместимым режимом сервинга. Модель основана на архитектуре gemma-3-12b-it с 12 миллиардами параметров. Веса и активации квантизированы в формат FP8 с динамической схемой квантизации FP8_DYNAMIC. По приведённым оценкам, квантизация практически сохранила качество исходной модели: средний результат на текстовом бенчмарке OpenLLM v1 составил 75,21% против 74,99% у базовой модели, а на Vision Evals — 58,94% против 58,43%. Это делает модель подходящей для ресурсоэффективного развёртывания, однако README не указывает размер контекстного окна и не приводит подробных ограничений по качеству, безопасности или поддерживаемым языкам помимо английского. Модель распространяется по лицензии Apache 2.0. Для использования рекомендуется backend vLLM; поддержка конкретных сценариев зависит от совместимости оборудования и программного окружения с FP8.

Это смешанно-квантованная версия Gemma 4 12B IT, подготовленная автором репозитория на основе google/gemma-4-12b-it для локального инференса. Модель использует плотную унифицированную мультимодальную архитектуру Gemma4Unified: 48 слоёв с гибридным скользящим и полным вниманием. Матрицы проекций MLP квантованы до 8 бит с размером группы 64, а внимание, башни зрения и аудио, эмбеддинги и другие компоненты оставлены в BF16. По данным README, контекст составляет 262 144 токена. Модель предназначена для диалогов и работы с текстом и изображениями; в README также заявлена поддержка аудио и видео через общий процессор. Сохранение мультимодальных компонентов в BF16 призвано поддержать качество обработки соответствующих входов, а частичная квантовка уменьшает требования к памяти при локальном запуске. Модель доступна под лицензией Apache-2.0. Ограничения: квантование может немного снизить качество на отдельных примерах; README отмечает возможные ограничения понимания сложного аудио из-за простой линейной аудиопроекции. Для ускоренного спекулятивного декодирования MTP нужна дополнительная модель-помощник; совместимость некоторых полей конфигурации со стабильными версиями Transformers может быть ограничена.

mlx-community/GOT-OCR2_0-bf16 — конверсия модели GOT-OCR 2.0 в формат MLX с точностью bfloat16 для инференса на компьютерах Apple Silicon. Она предназначена для распознавания текста на изображениях документов: простой транскрипции по инструкции «OCR: » и структурированного вывода таблиц, формул и нот по инструкции «OCR with format: ». Это плотная мультимодальная модель семейства GOT; метаданные указывают 463,8 млн параметров и контекст 32 768 токенов, а README описывает исходную модель как 560-миллионную. Русский язык и качество за пределами английских синтетических примеров в карточке не проверялись. На шести синтетических англоязычных документах обычный режим OCR показал точное извлечение 86,84% полей и 96,05% содержимого; одна и та же часть полей транспортной накладной терялась во всех вариантах точности. Режим структурированного вывода запускался, но его точность не оценивалась. Карточка также не проверяет фотографии, рукописный текст, многостраничный и многокроповый режимы. Указана лицензия Apache-2.0; для загрузки требуется версия mlx-vlm с поддержкой GOT-OCR 2.0, которая, согласно README, ещё не вошла в релиз на момент публикации карточки.