I.15Доступность и ассистивные технологии

Qwen3.8-27B-abliterated-GGUF — GGUF-квантизированная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, опубликованная пользователем prithivMLmods. Это вариант Qwen3.8-27B, созданный с применением abliteration — редактирования активаций, направленного на удаление поведения, связанного с отказами. Модель представляет собой плотную causal language model на 27 млрд параметров с нативным vision encoder и поддержкой обработки текста и изображений. Модель предназначена для локального запуска через llama.cpp и совместимые среды, а также для генерации и анализа текста, понимания изображений и видео, визуальных вопросов и ответов, OCR, описания изображений и видео, документного анализа и визуального рассуждения. Заявлены поддержка английского и китайского языков, контекст до 262 144 токенов с возможностью расширения до 1 млн через YaRN, а также управление глубиной рассуждений параметром reasoning_effort. Архитектура включает 64 слоя с чередованием блоков линейного внимания Gated DeltaNet и периодических слоёв Gated Attention. Доступны варианты от BF16 и F16 до Q2_K–Q8_0, что позволяет выбирать между качеством и требованиями к памяти; размеры файлов составляют примерно от 10,7 до 53,8 ГБ, отдельно поставляются мультимодальные проекторы. К ограничениям относятся отсутствие MTP-голов в формате GGUF, поэтому преимущества Multi-Token Prediction и связанной спекулятивной декодировки исходной модели недоступны. Abliteration является экспериментальным подходом и может влиять на поведение и надёжность модели. В README указана лицензия Apache 2.0.

unsloth/GLM-4.6V-GGUF — GGUF-версия мультимодальной модели GLM-4.6V из семейства GLM-V. Исходную модель разработала команда Z.ai, а данный вариант подготовлен Unsloth с использованием формата GGUF и методов квантования Unsloth Dynamic 2.0. Модель предназначена для облачных и высокопроизводительных кластерных сценариев, а также для задач мультимодальных агентов. GLM-4.6V поддерживает обработку изображений и текста, включая документы, скриншоты, страницы с таблицами, графиками и сложной разметкой. Она рассчитана на контекст до 128 тысяч токенов, поддерживает китайский и английский языки и имеет заявленный размер 106 млрд параметров. Ключевые возможности включают визуальное понимание, мультимодальный Function Calling, интерливинг изображений и текста, анализ длинных и многодокументных материалов, а также восстановление интерфейсов по скриншотам с генерацией и редактированием HTML/CSS. Сильными сторонами являются сочетание визуального восприятия с выполнением действий через инструменты, работа с насыщенными документами и заявленная конкурентоспособность на мультимодальных бенчмарках. Ограничения связаны с очень крупным размером модели и высокими требованиями к вычислительным ресурсам; конкретные требования к памяти и характеристики квантования в предоставленных данных не указаны. Модель распространяется по лицензии MIT.

Infinity-Parser2-Flash-GGUF — мультимодальная модель понимания документов, разработанная infly-ai на базе infly/Infinity-Parser2-Flash. Это быстродействующая версия семейства Infinity-Parser2, предназначенная для анализа изображений документов, PDF и другого визуально-текстового содержимого. Модель поддерживает распознавание и структурирование макета, выделение элементов документа с ограничивающими рамками и категориями, извлечение текста, распознавание таблиц, графиков, математических и химических формул, а также document VQA и общее мультимодальное понимание. Результаты могут представляться в Markdown, HTML и LaTeX в зависимости от типа элемента. Модель обучалась на почти 5 млн разнообразных образцов документов с применением многоцелевого обучения с подкреплением и проверяемыми наградами. Заявлена скорость до 1 624 токенов в секунду, что в 3,68 раза выше предыдущей Infinity-Parser-7B; показатели составляют 86,0% на olmOCR-Bench, 72,2% на ParseBench и 91,98% на OmniDocBench-v1.6. Доступны файлы GGUF в форматах от Q2_K до F32, а также мультимодальные проекторы; поддерживаются llama.cpp, Transformers, vLLM и vLLM-server через пакет infinity_parser2. Основные ограничения — поддержка преимущественно английского и китайского языков, снижение точности на сложных графиках и повернутых элементах таблиц, а также отсутствие детального сохранения текстового форматирования вроде полужирного и курсивного начертания. Модель распространяется по лицензии Apache-2.0.

MiMo-V2.5 — мультимодальная модель Xiaomi для диалогов, понимания изображений, видео и аудио, а также агентных сценариев. Она построена на разреженной MoE-архитектуре MiMo-V2-Flash с гибридным вниманием и отдельными визуальным и аудиокодировщиками. Метаданные репозитория указывают 12 млрд параметров и формат safetensors FP8; README описывает семейство MiMo-V2.5 как модель на 310 млрд параметров, из которых активируются 15 млрд. Эти сведения расходятся, поэтому размер конкретного чекпойнта неоднозначен. Модель рассчитана на генерацию текста, мультимодальное понимание и работу с длинным контекстом до 1 048 576 токенов. README заявляет поддержку текста, изображений, видео и аудио, а также обучение для агентных задач; метаданные отмечают чат и интерфейс вызова инструментов. В карточке указаны английский и китайский языки. Репозиторий распространяется по лицензии MIT. Для корректного поведения следует использовать обновлённые config.json и tokenizer_config.json, поскольку устаревшие версии, по сообщению разработчика, могут ухудшить качество.

visionOCR-3B-061125 — дообученная PrithivMLmods мультимодальная модель на архитектуре Qwen2.5-VL-3B для распознавания текста и анализа документов по изображениям. Она извлекает текст и структурированные данные из счетов, чеков, форм, научных статей и сканов, отвечает на вопросы по изображениям и преобразует математические выражения в LaTeX. Модель содержит 3,1 млрд параметров, принимает изображения с текстовыми инструкциями и выдаёт текст; заявлена поддержка контекста до 128 000 токенов. В карточке также заявлены анализ видео, визуально управляемая автоматизация устройств и работа с несколькими языками. Модель ориентирована на OCR документов, извлечение данных и визуальные вопросы-ответы, включая плотные макеты, таблицы и диаграммы. Карточка сообщает о конкурентных результатах на DocVQA, MathVista, RealWorldQA и MTVQA, но не приводит численных оценок. Лицензия — Apache-2.0. Качество может снижаться на изображениях низкого качества или с перекрытиями, а для редких языков и письменностей точность непостоянна. Длительная обработка видео требует значительных ресурсов; возможны галлюцинации и ошибки при неудачных настройках визуальных токенов.

Карточка модели muhamad-geosurge/invert-polarity-6f435ef6-ae86-4cda-8529-4ab6f5393b5b на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

p-e-w/gemma-3-12b-it-heretic-v2 — мультимодальная модель семейства Gemma 3 на 12 млрд параметров, основанная на google/gemma-3-12b-pt и представленная как conversational, uncensored/decensored и abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы об изображениях, суммаризации и других задач генерации и понимания текста. В README базовой модели указаны контекст до 128K токенов и поддержка более 140 языков. Модель может применяться для извлечения сведений из изображений, составления текстов и исследовательских экспериментов; размер позволяет запускать её на локальных компьютерах и собственной инфраструктуре при достаточных ресурсах. README предупреждает о возможных фактических ошибках, смещениях и трудностях с неоднозначными или сложными запросами. Лицензия — Gemma; применяются условия лицензии и правила допустимого использования Gemma.

GLM-OCR — мультимодальная модель оптического распознавания символов от Z.ai, скопированная в репозиторий AIArchive без изменения весов из zai-org/GLM-OCR. Она предназначена для извлечения текста и структурированных сведений из изображений документов, включая сложные макеты, таблицы, формулы, печати и документы с большим количеством кода. Архитектура сочетает визуальный энкодер CogViT, межмодальный соединитель и языковой декодер GLM-0.5B; модель содержит 0,9 млрд параметров и использует архитектуру GLM-V encoder–decoder. Для разбора документов рекомендован SDK с анализом макета на основе PP-DocLayout-V3; для извлечения сведений README описывает прямой запуск модели с запросом по заданной JSON-схеме. Модель поддерживает китайский, английский, французский, испанский, русский, немецкий, японский и корейский языки. По данным README, она показывает высокие результаты на тестах распознавания документов и рассчитана на эффективный инференс, включая высоконагруженные и периферийные сценарии. README отмечает, что при извлечении данных необходимо строго задавать JSON-схему. Репозиторий содержит неизменённую копию весов в формате safetensors; лицензия — MIT.

Ex0bit/Qwen3.5-122B-A10B-PRISM-PRO-GGUF — мультимодальная чат-модель Ex0bit в формате GGUF, созданная на основе Qwen/Qwen3.5-122B-A10B и предназначенная для запуска через llama.cpp. По описанию автора, PRISM-PRO изменяет механизмы отказа и предвзятости; доступная Dynamic-квантизация размером 57,7 ГБ использует разные уровни точности для блоков модели, а веса внимания сохранены в Q8_0. В репозитории также указан файл mmproj для обработки изображений и видео. Модель имеет гибридную MoE-архитектуру с 122 млрд параметров, из которых активны около 10 млрд на токен, и сочетает GatedDeltaNet с полным вниманием. Заявленное окно контекста — 262 144 токена; доступны режимы рассуждения и прямого ответа. Подходит для диалога, анализа изображений и видео, работы с длинным контекстом и рассуждений. В метаданных указана поддержка множества языков, включая русский, английский и китайский. Лицензия — Apache-2.0.

m8than/gemma-3-27b-lenientchatfix — дообученная версия Gemma 3 от сообщества на базе Google Gemma 3 27B IT. Это плотная мультимодальная модель класса vision-language с 27 млрд параметров: принимает текст и изображения, генерирует текст и поддерживает диалоговый режим. Карточка описывает Gemma 3 как модель с контекстом до 128 тыс. токенов и поддержкой более 140 языков; метаданные этой версии указывают английский язык. Модель подходит для диалоговых помощников, ответов на вопросы по изображениям и текстам, извлечения сведений из изображений, суммаризации и генерации текста. В README также перечислены создание черновиков, кода и маркетинговых материалов, а также исследовательские и образовательные сценарии. Качество ответов зависит от обучающих данных и формулировки запроса; модель может ошибаться в фактах, упускать нюансы и отражать предвзятости данных. Использование регулируется лицензией Gemma; README не описывает отдельные изменения, внесённые при дообучении этой версии.

EXAONE-4.5-33B-FP8 — плотная vision-language-модель с 33 млрд параметров, разработанная LG AI Research и подготовленная FuriosaAI для запуска на аппаратуре FuriosaAI RNGD через Furiosa-LLM. Модель объединяет выделенный vision encoder с языковой архитектурой EXAONE 4.5 и принимает изображения вместе с текстом, возвращая текстовые ответы. Модель предназначена для мультимодального диалога, анализа изображений и текстовых запросов, гибридного рассуждения и вызова инструментов через функции. Рассуждение включено по умолчанию, но может отключаться для отдельных запросов. Поддерживаются английский, корейский, испанский, немецкий, японский и вьетнамский языки. Архитектура обозначается как Exaone4_5_ForConditionalGeneration; максимальная длина контекста в README не указана. Вариант использует статическую per-channel FP8-квантизацию выбранных весов линейных слоёв и динамическую token-wise-квантизацию активаций без офлайн-калибровки. Vision encoder, attention projections, LM head и MTP attention projections исключены из FP8-квантизации, а KV-кэш сохраняется в 16-битной точности. Сильными сторонами являются мультимодальность, гибридное reasoning и нативная поддержка tool calling. Ограничения включают зависимость описанной сборки от Furiosa-LLM и RNGD; для работы требуется tensor parallelism на 32 PE, то есть четыре карты RNGD. Модель распространяется по лицензии EXAONE AI Model License.

Gemma 3 12B IT QAT GGUF — мультимодальная instruction-tuned модель, разработанная Google и представленная сообществом LM Studio в формате GGUF. Это квантизированная версия базовой модели google/gemma-3-12b-it, подготовленная с применением Quantization Aware Training для повышения качества 4-битного вывода. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммаризацию, рассуждения и другие сценарии обработки текста и изображений. Она поддерживает контекст до 128 000 токенов и максимальную длину вывода 8 192 токена. Изображения обрабатываются после нормализации до разрешения 896 × 896. Сведения о поддерживаемых языках и точном числе параметров, помимо обозначения 12B, в README не указаны. Ключевое преимущество — сочетание мультимодальности, длинного контекста и оптимизированного 4-битного квантования, что может снизить требования к ресурсам по сравнению с полноточной моделью. Ограничения включают возможные неточности, вредные или неподходящие ответы, характерные для генеративных моделей. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется принять условия этой лицензии.

axolotl-mirrors/gemma-3-4b-pt — это предварительно обученная модель семейства Gemma 3, разработанного Google на основе технологий и исследований, использованных для Gemini. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration: она принимает текст и изображения и генерирует текст. Вариант 4B предназначен для понимания изображений, ответов на вопросы, суммаризации и других задач работы с языком и визуальными данными. Модель подходит для извлечения сведений из изображений, диалоговых интерфейсов, создания и редактирования текстов, а также экспериментов с vision-language-моделями. В README семейство Gemma 3 описано как многоязычное, с поддержкой более 140 языков и контекстом до 128 тысяч токенов; конкретные параметры этого варианта в метаданных не приведены. Для репозитория указан формат safetensors и лицензия Gemma. Качество ответов зависит от обучающих данных и формулировки запроса; возможны предвзятые, неточные или устаревшие ответы. Модель может затрудняться с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами.

cyankiwi/GLM-4.6V-Flash-AWQ-4bit — 4-битная AWQ-квантизированная версия GLM-4.6V-Flash, разработанная Ton Cao на основе модели GLM-4.6V-Flash от Z.ai. Модель относится к семейству GLM-V и предназначена для локального развертывания и приложений с низкой задержкой. Это мультимодальная модель для задач image-text-to-text: она обрабатывает изображения и текст, поддерживает китайский и английский языки, а также сценарии визуального понимания документов, таблиц, графиков, интерфейсов и скриншотов. Семейство GLM-4.6V заявляет поддержку контекста до 128K токенов, мультимодального function calling, анализа многостраничных документов, генерации смешанного текстово-графического контента и восстановления HTML/CSS по скриншотам; README не уточняет, одинаково ли все эти возможности реализованы именно в данной AWQ-версии. Размер базовой GLM-4.6V-Flash составляет 9B параметров. Квантизация выполнена методом AWQ с точностью 4 бита и group size 32, с использованием llm-compressor и набора 5CD-AI/LLaVA-CoT-o1-Instruct. Заявленный объём памяти снижен примерно с 19,2 до 8,3 ГБ, что делает модель более подходящей для локального запуска. Для инференса рекомендуется vLLM; README не приводит подробных результатов бенчмарков или анализа возможной потери качества после квантизации. Модель распространяется по лицензии MIT. Для запуска указаны vLLM и актуальная версия Transformers.

Ornstein3.6-35B-A3B — мультимодальная дообученная модель DJLougen на базе unsloth/Qwen3.6-35B-A3B для диалогов, рассуждений и агентных сценариев. Она принимает текст и изображения и формирует текстовые ответы; также поддерживает интерфейс вызова инструментов. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration с чередованием линейного и полного внимания. Всего в ней 34,66 млрд параметров, из которых около 3 млрд активны на каждом токене; указаны 256 экспертов и 8 активных экспертов на токен. Длина контекста — 262 144 токена. Репозиторий содержит веса Safetensors и восстановленные компоненты обработки изображений и видео. Модель подходит для диалоговых задач, анализа изображений и агентной работы с инструментами. Это авторский экспериментальный fine-tune из серии Ornstein, обученный на самостоятельно отобранных данных; подробности датасета и результаты сравнительных оценок в карточке не приведены. Лицензия — Apache 2.0.

Gliese-OCR-7B-Post1.0-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана prithivMLmods как GGUF-версия модели Gliese-OCR-7B-Post1.0, дообученной на основе Camel-Doc-OCR-062825 и построенной на архитектуре Qwen2.5-VL. Обучение было сфокусировано на наборе данных Opendoc2-Analysis-Recognition. Модель предназначена для Document Retrieval, OCR, Content Extraction, анализа и распознавания содержимого документов, связывания извлечённых элементов, а также задач Intelligent Document Processing. Поддерживаются текстовые и визуальные входные данные; заявлены английский и китайский языки. Доступен набор GGUF-квантизаций от F16 размером 15,2 ГБ до вариантов объёмом около 1,9 ГБ, а также отдельные файлы мультимодального проектора. Это позволяет выбирать компромисс между качеством и требованиями к памяти, однако README не содержит сравнительных оценок качества, сведений о контекстном окне или подробностей об ограничениях модели. Модель распространяется по лицензии Apache-2.0 и ориентирована на использование с совместимыми инструментами, включая llama.cpp и Transformers.

mT5-large — многоязычная модель Google на архитектуре T5 для преобразования текста в текст. Она содержит около 608,4 млн параметров и предварительно обучена на корпусе mC4, охватывающем 101 язык. Для выполнения прикладных задач модель необходимо дообучить на соответствующих данных. Модель предназначена как основа для последующей настройки под задачи генерации и преобразования текста, например перевода, суммаризации и ответов на вопросы. Она поддерживает многоязычные сценарии; среди языков корпуса есть русский и английский. В репозитории доступны веса PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

Aria-Base-8K — базовая плотная мультимодальная модель семейства Aria от rhymes.ai, представленная как чекпойнт после этапа мультимодального предобучения. На этом этапе модель обучалась на 1,4 трлн токенов: 1 трлн языковых и 400 млрд мультимодальных; длина последовательностей составляла 8192 токена. Модель предназначена прежде всего для продолжения предобучения, например на специализированных данных для OCR, агентных сценариев или многоязычия, а также для языковых и визуально-языковых задач.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная DeepSeek AI. Она построена на архитектуре DeepSeek-V4-Flash, дополненной визуальными модулями и дообученной для понимания изображений. Модель предназначена для мультимодальных агентских сценариев, анализа визуальной информации, работы с диаграммами и задач, где требуется сочетать текстовые и графические входные данные. Для текстовых агентских задач она сохраняет сопоставимую с DeepSeek-V4-Flash-0731 производительность. В репозитории заявлена поддержка OpenAI-style сообщений с блоками изображений и компактного TXT-формата с тегами <image>. Доступны tokenizer, средства кодирования запросов и минимальная реализация инференса на PyTorch, включающая vision encoder и aligner, DFlash attention, Mixture-of-Experts, Hyper-Connections и DSpark forward path. Точные размер модели, длина контекста, перечень поддерживаемых языков и характеристики визуального входа в представленном README не указаны. Сильная сторона модели — улучшенные мультимодальные агентские возможности по сравнению с DeepSeek-V4-Flash-0731; в README приведены результаты на ApexBench, Agents' Last Exam, Chartography и ZeroBench, а также набор текстовых агентских бенчмарков. Ограничения включают экспериментальный статус и отсутствие подробных сведений о масштабах, языках и требованиях к аппаратному обеспечению. Репозиторий распространяется по лицензии MIT.

mPLUG-DocOwl2 — мультимодальная языковая модель семейства mPLUG-DocOwl, разработанная командой mPLUG для понимания многостраничных документов без предварительного OCR. Модель принимает изображения страниц и текстовые запросы, а затем формирует текстовые ответы о содержимом документа. Модуль High-resolution DocCompressor кодирует каждую страницу всего 324 токенами, что позволяет работать с многостраничными документами. Модель предназначена для извлечения и анализа информации из документов, в том числе для ответов на вопросы по их содержимому. В метаданных указаны 6,6 млрд параметров, контекстное окно 2048 токенов и поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Карточка описывает её назначение для OCR-free понимания документов, но не приводит количественных оценок качества или подробностей о поддержке языков, кроме английского.

DealignAI выпустила Gemma-4-12B-it-MXFP4-CRACK — дообученную и квантизированную 4-битную версию Gemma 4 12B-it от Google. Модель рассчитана на запуск через MLX на компьютерах Apple Silicon; файлы занимают около 7,5 ГБ. Архитектура объединяет текст, изображения, аудио и видео, использует 48 слоёв и гибридное внимание со скользящим окном и полным вниманием. Заявленная длина контекста — 128 тысяч токенов. Модель предназначена для диалогов, мультимодального анализа и генерации текста. По описанию автора, CRACK удаляет поведение отказа на уровне весов, сохраняя рассуждения, знания и мультимодальные возможности. В README приведены результаты HarmBench и MMLU, полученные на конкретной конфигурации; они не гарантируют такое же качество на других запросах и средах. Для запуска автор рекомендует Osaurus, поддерживающий архитектуру Gemma 4 Unified. Лицензия — Gemma. Модель не рассчитана на естественный язык отказа при потенциально вредоносных запросах, поэтому ответы требуют самостоятельной проверки.

InternVL3-38B-GGUF — мультимодальная большая языковая модель семейства InternVL3, разработанная OpenGVLab и представленная в формате GGUF командой Unsloth. Модель предназначена для работы с текстом и изображениями, включая мультимодальное восприятие и рассуждение, анализ промышленных изображений, 3D-восприятие, использование инструментов и сценарии GUI-агентов. Заявлена поддержка multilingual-задач. Архитектура построена по схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-32B, соединённые MLP-проектором. Обозначение 38B относится к размеру модели; точные параметры GGUF-квантизации и размер контекста в представленных данных не указаны. Модель основана на OpenGVLab/InternVL3-38B и обучалась с использованием набора данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание визуального и языкового анализа, расширенные мультимодальные возможности и применение в специализированных агентных сценариях. Ограничения, такие как фактическая точность на конкретных задачах, требования к памяти и производительности, зависят от варианта GGUF и в README не уточняются. Указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen, поэтому условия использования следует сверять с лицензиями исходных компонентов.

Ferox AI подготовила конверсию Microsoft Phi-4-multimodal-instruct для локального мультимодального инференса на устройствах Apple Silicon. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы; она предназначена для визуальных вопросов и ответов, извлечения сведений из документов, распознавания текста на изображениях и анализа графиков и диаграмм. В основе — плотная архитектура семейства Phi-4 с языковой частью Phi-4-Mini на 3,8 млрд параметров и визуальным энкодером SigLIP-SO400M. Весовая часть модели квантизирована до 4 бит с группами по 64, тогда как энкодер SigLIP остаётся в FP16. Метаданные указывают контекст 4096 токенов. В этой сборке аудио не поддерживается; для запуска нужны Apple Silicon и MLX. По внутренним оценкам на небольших выборках модель показывает полезные результаты для документов, диаграмм и OCR, но точность ответов не гарантируется и требует проверки человеком. Распространяется по лицензии MIT. Визуальные LoRA-адаптеры заранее слиты с весами, поэтому переключать их во время работы нельзя.

JANGQ-AI представляет JANGTQ4 — квантованную версию мультимодальной модели Qwen3.6-35B-A3B, подготовленную для MLX и Apple Silicon. Модель предназначена для диалогов, анализа изображений и агентных сценариев; поддерживает интерфейс вызова инструментов. В исходной модели 35 млрд параметров, около 3 млрд активируются на токен. Архитектура MoE сочетает 30 слоёв Gated DeltaNet с линейным вниманием и 10 слоёв полного внимания, а также 256 маршрутизируемых экспертов и одного общего эксперта. В JANGTQ4 веса маршрутизируемых экспертов сжаты до 4 бит методом TurboQuant с кодовыми книгами Lloyd–Max и преобразованием Адамара; ряд остальных компонентов хранится в 8-битном формате, а башня зрения сохранена. Репозиторий использует safetensors и библиотеку MLX. Для загрузки квантованных тензоров требуется специальный загрузчик JANG Tools; стандартный mlx_lm.load() их не поддерживает. README указывает, что для видео в MLX-пути нужна собственная обёртка, а для основного mlx-vlm рекомендуется ограничиться изображениями. Лицензия — Apache-2.0.

MinerU2.5-2509-1.2B-GGUF — мультимодальная модель для анализа и разбора документов, разработанная OpenDataLab. Она предназначена для преобразования изображений документов и текстовых запросов в текстовые ответы, в частности для эффективного высокоразрешающего парсинга документов. Модель основана на архитектуре с разделёнными компонентами обработки зрения и языка (decoupled vision-language model), имеет размер 1,2 млрд параметров и распространяется в формате GGUF для запуска с llama.cpp. В карточке указаны поддерживаемые языки китайский и английский, а тип конвейера — image-text-to-text. Длина контекста, точный набор поддерживаемых форматов документов и сведения о конкретном уровне квантования не указаны. К сильным сторонам относятся ориентация на обработку документов высокого разрешения, мультимодальный ввод и возможность использования компактной 1,2-миллиардной версии в экосистеме GGUF. Ограничениями являются неизвестные из карточки показатели качества, подробности архитектуры, контекстное окно и требования к ресурсам; качество также может зависеть от выбранной квантованной версии. Модель распространяется по лицензии AGPL-3.0, поэтому условия её использования и интеграции следует проверять с учётом требований этой лицензии.

GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.

BLOOMZ-7b1 — мультиязычная авторегрессионная языковая модель, разработанная BigScience. Это дообученная версия BLOOM-7b1: её обучали следовать инструкциям на смеси кросс-языковых задач xP3, чтобы выполнять задания, сформулированные на естественном языке, в том числе переносить навыки на новые задачи и языки без примеров. Модель содержит 7,1 млрд параметров, использует архитектуру BLOOM и работает с текстом; максимальная длина контекста — 2048 токенов. Модель подходит для генерации и преобразования текста по инструкциям: перевода, ответов на вопросы, классификации тональности, объяснений и написания историй. Она обучалась на нескольких десятках языков и поддерживает также код. Результат зависит от формулировки запроса: рекомендуется чётко обозначать границы инструкции и нужный язык ответа, а также предоставлять достаточный контекст. Модель выпущена по лицензии BigScience-BLOOM-RAIL-1.0; перед использованием следует учитывать её условия и ограничения.

Granite Vision 3.3 2B — компактная мультимодальная модель IBM для понимания изображений, особенно документов. Она предназначена для извлечения и структурирования сведений из таблиц, графиков, инфографики, диаграмм и других визуальных материалов, а также для ответов на вопросы по изображениям. Модель построена на архитектуре LLaVA: использует визуальный энкодер SigLIP2, двухслойный MLP-коннектор и языковую модель Granite 3.1 2B Instruct с контекстом 128 тыс. токенов. В карточке описаны экспериментальные возможности сегментации изображений, генерации doctags и анализа последовательностей до восьми страниц документа. Для многостраничной обработки рекомендуется уменьшать длинную сторону изображения до 768 пикселей. Модель подходит для извлечения данных из документов и визуального поиска с использованием MM-RAG. Возможны неточные, предвзятые или нежелательные ответы; авторы рекомендуют применять её прежде всего для понимания документов, поскольку более общие задачи по изображениям могут давать нежелательные результаты. Лицензия — Apache-2.0.

NLP Cloud разработала instruct-версию GPT-J, дообучив модель на наборе инструкций, подготовленном командой Stanford Alpaca и переработанном под формат GPT-J. Это плотная авторегрессионная языковая модель для генерации текста; версия fp16 предназначена для запуска на GPU уровня NVIDIA Tesla T4 с 16 ГБ видеопамяти. Максимальный контекст — 2048 токенов. Модель принимает инструкции на естественном языке и подходит для ответов на запросы, редактирования текста и других задач генерации; для сложных сценариев можно использовать few-shot примеры. При формировании запроса инструкция должна завершаться переводом строки. В README указано, что качество fp16 не отличается заметно от fp32. Модель распространяется по лицензии GPL-3.0.

Mungert/Jan-v2-VL-high-GGUF — это GGUF-квантизированная версия мультимодальной модели Jan-v2-VL-high, разработанной командой Jan на базе Qwen/Qwen3-VL-8B-Thinking. Модель содержит около 8 млрд параметров, обрабатывает текст и изображения и предназначена прежде всего для многошаговых задач в реальных программных средах, включая управление браузерами и настольными приложениями. Она может использовать скриншоты, вызовы инструментов и промежуточное состояние для выполнения длинных последовательностей действий с минимальным накоплением ошибок. Вариант high ориентирован на более глубокое рассуждение и допускает большее время обработки по сравнению с вариантами low и med. GGUF-файлы подготовлены с использованием llama.cpp; автор применяет избирательное повышение точности отдельных важных слоёв сверх стандартной конфигурации IMatrix, что должно улучшать точность при заданном уровне квантования, но увеличивает размер файла. Модель поддерживает сценарии локального запуска через Jan App и llama.cpp; для исходной модели также указана интеграция с vLLM. В качестве сильных сторон заявлены стабильное выполнение длинных цепочек действий, визуальное заземление и сохранение качества на стандартных текстовых и визуальных задачах относительно базовой Qwen3-VL-8B-Thinking. Ограничениями являются повышенные требования к задержке и размеру файла у варианта high, а также отсутствие в карточке точных сведений о размере контекста, конкретных поддерживаемых языках помимо заявленного английского и системных требованиях. Указана лицензия Apache 2.0.