II.1Анализ требований и архитектура ПО

gemma-4-E4B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на ноутбуках и производительных мобильных устройствах, а также для исследовательских и прикладных сценариев с использованием llama.cpp. Модель поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, OCR, анализ изображений и видеокадров, function calling и настраиваемый режим рассуждений. Модель имеет около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, использует Quantization-Aware Training, Per-Layer Embeddings и гибридное внимание с 512-токенным скользящим окном в 42 слоях. В состав входят vision encoder примерно на 150 млн параметров и audio encoder примерно на 300 млн параметров. Заявлены контекст до 128 тысяч токенов, словарь на 262 тысячи токенов и поддержка более 140 языков, включая английский. Доступны версии GGUF с точностью от Q2_K до Q8_0, а также BF16, F16 и F32; размер файлов зависит от варианта и составляет примерно от 4,38 до 29,9 ГБ, не считая multimodal-проектора. Сильными сторонами являются сочетание мультимодальности, большого контекста, локального исполнения и сниженных требований к памяти благодаря QAT при сохранении качества, близкого к bfloat16. Ограничения включают значительные аппаратные требования для высокоточных вариантов и зависимость мультимодальных возможностей от совместимого программного обеспечения и projector-файла. Модель распространяется по лицензии Apache-2.0.

Granite-3.0-1B-A400M-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов, в том числе для бизнес-сценариев. Это дообученная версия Granite-3.0-1B-A400M-Base: обучение включало supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Модель использует декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE); в метаданных указан размер 163,6 млн параметров и контекст до 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, вызова функций и многоязычного диалога. Карточка заявляет поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Лицензия — Apache 2.0. Качество на языках кроме английского может быть ниже; few-shot-примеры могут улучшить ответы в многоязычных сценариях. Модель способна выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать для конкретного применения.

cyankiwi/granite-4.0-h-micro-AWQ-4bit — 4-битная AWQ-квантизованная версия Granite-4.0-H-Micro, разработанной командой Granite и IBM. Базовая модель содержит около 3 млрд параметров, относится к длинноконтекстным инструкционным языковым моделям и дообучена на открытых инструкционных и синтетических данных с применением supervised fine-tuning, reinforcement learning и объединения моделей. Модель предназначена для выполнения общих инструкций и создания AI-ассистентов, в том числе для бизнес-приложений. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи, связанные с кодом, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. Заявлены улучшенные следование инструкциям и вызов инструментов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевое ограничение — README не указывает точный размер контекстного окна, архитектурные детали и результаты бенчмарков. Квантизация AWQ-4bit рассчитана на более экономичное развертывание, однако конкретные требования к оборудованию и потери качества для этой версии не приведены. Модель распространяется по лицензии Apache 2.0.

AxionML/Qwen3.5-0.8B-NVFP4 — квантованная версия мультимодальной модели Qwen3.5-0.8B, разработанная AxionML для открытого и готового к развёртыванию использования. Модель представляет собой каузальную языковую модель с vision-энкодером и поддерживает обработку текста и изображений. Она предназначена для генерации и понимания текста, визуального анализа, рассуждений, программирования и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя и имеет нативный контекст длиной до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Версия NVFP4 создана с помощью NVIDIA TensorRT Model Optimizer: веса и активации линейных слоёв представлены в 4-битном формате FP4, что уменьшает размер на диске и потребление GPU-памяти примерно в четыре раза по сравнению с BF16. К сильным сторонам относятся небольшой размер, экономичное хранение и инференс, длинный контекст и мультимодальность. К ограничениям относятся возможная потеря качества из-за агрессивной 4-битной квантизации и зависимость производительности от совместимого оборудования и программного стека; модель ориентирована прежде всего на GPU с поддержкой NVFP4, включая архитектуру NVIDIA Blackwell. Доступна для коммерческого и некоммерческого использования по лицензии Apache 2.0.

Qwen3.8-27B-Uncensored-FP8-MTP — мультимодальная модель на базе JonathanColetti/Qwen3.8-27B-Uncensored, опубликованная пользователем pramoths. Репозиторий содержит FP8-квантизацию и сохраняет vision tower и рабочую MTP-голову для speculative decoding. Модель относится к семейству Qwen3.8 и поддерживает текстовые и визуальные задачи; заявленные языки — английский, китайский и тайский. Модель предназначена для генерации текста и кода, извлечения информации, анализа изображений и таблиц, а также ускоренного инференса через vLLM и MTP. Размер исходной модели — 27B параметров, веса занимают около 30 ГБ. Контекст поддерживается до 262 144 токенов. Основные матричные операции квантизированы в FP8 с блоками 128×128 и форматом E4M3, тогда как нормализации, рекуррентные компоненты, vision tower, lm_head, embed_tokens и некоторые части MTP сохранены в BF16. По приведённым измерениям, модель близка к официальной Qwen3.8-27B-FP8 по точности на задачах извлечения, программирования и анализа изображений; скорость достигает 132 токенов в секунду при одном запросе и 1 373 токенов в секунду при конкуренции 16. Уровень принятия спекулятивных токенов MTP составляет около 52%. Модель изменена в сторону отсутствия стандартных отказов, поэтому её поведение отличается от официальной версии. Для эффективной работы необходимы GPU с поддержкой FP8 tensor cores, например Ada Lovelace, Hopper или Blackwell; на Ampere совместимость FP8-пути не проверена, а видеокарты с 24 ГБ памяти недостаточны для запуска на одной карте. Для длинного контекста на 47–48 ГБ VRAM требуется FP8 KV-кэш. Указана лицензия Apache-2.0.

QuantTrio/Qwen3-VL-30B-A3B-Instruct-AWQ — квантизированная в формате AWQ версия мультимодальной instruct-модели Qwen3-VL-30B-A3B-Instruct из семейства Qwen. Модель предназначена для генерации текста по текстовым, графическим и видеовходам, визуального анализа и рассуждений, OCR, понимания пространственных отношений и временной структуры видео, а также взаимодействия с графическими интерфейсами и инструментами. Она может применяться для анализа документов и изображений, визуального программирования, STEM-задач и создания ответов на основе мультимодального контекста. Архитектура относится к MoE: заявлен размер 30B, а обозначение A3B указывает на активацию примерно 3B параметров на запрос. Модель поддерживает изображения, видео и текст, использует механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Базовая версия заявляет нативный контекст 256K токенов с возможностью расширения до 1M; в приведённой конфигурации vLLM длина контекста ограничена 32768 токенами. Для OCR указана поддержка 32 языков, но полный список языков не приведён. Сильные стороны модели — сочетание языкового и визуального понимания, работа с длинными документами и видео, распознавание текста в сложных условиях, пространственное и временное рассуждение, а также сравнительно низкие требования к памяти благодаря AWQ-квантизации. Ограничения включают возможную потерю качества из-за квантизации, необходимость совместимого окружения с vLLM и рекомендуемого tensor parallelism на двух GPU; конкретные показатели качества и аппаратные требования в README не указаны. Модель распространяется по лицензии Apache 2.0.

Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.

Gemma-4-E4B-it-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google и представленная в формате GGUF пользователем prithivMLmods. Модель предназначена для локального запуска на ноутбуках, производительных смартфонах и потребительских GPU, включая сценарии с повышенными требованиями к конфиденциальности и задержке ответа. Модель поддерживает работу с текстом, изображениями и аудио; заявлены анализ документов и PDF, распознавание текста и рукописного ввода, анализ интерфейсов и экранов, интерпретация диаграмм, обнаружение объектов с указанием их положения, программирование, агентские сценарии и понимание речи. Указана поддержка английского языка. Архитектура описана как плотная мультимодальная модель с 42 слоями, эффективным числом параметров около 4,5 млрд и общим объёмом 8 млрд параметров с Per-Layer Embeddings. Заявлены контекст до 128K токенов, словарь размером 262K и скользящее окно на 512 токенов, а также настраиваемые режимы рассуждения. Сильными сторонами являются мультимодальность, большой контекст, возможность локального инференса и наличие вариантов квантизации размером примерно от 4,4 до 8,01 ГБ, а также BF16 и F16. Ограничения включают отсутствие в карточке результатов независимого тестирования, подробностей о поддерживаемых языках помимо английского и конкретных требований к производительности; для мультимодального режима может потребоваться отдельный файл mmproj и совместимый runtime, например llama.cpp. Модель распространяется по лицензии Apache-2.0.

NVIDIA-Nemotron-Labs-Teacher-STEM — большая языковая модель NVIDIA из семейства Nemotron 3 Ultra, предназначенная для сложных рассуждений и использования как самостоятельная модель и учитель для генерации синтетических данных и дистилляции. Она дообучена на основе постобученной Nemotron 3 Ultra Student с дополнительной настройкой на рассуждения и обучением с подкреплением; в рецепте также применяется дистилляция с участием нескольких учителей. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями внимания и Multi-Token Prediction. Она содержит 550 млрд параметров, из которых 55 млрд активны, и поддерживает генерацию текста с контекстом до 262 144 токенов по метаданным Hugging Face. Предназначена для математики, программирования, естественных наук, гуманитарных и общественных дисциплин, ответов на сложные вопросы и работы с инструментами, включая поиск и выполнение кода. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, арабский, китайский, иврит и бразильский вариант португальского. Карточка сообщает о возможности коммерческого и некоммерческого использования; лицензия в метаданных указана как other, поэтому конкретные лицензионные условия следует сверить с репозиторием. Для запуска требуются значительные вычислительные ресурсы и совместимое оборудование.

Qwen3-1.7B-unsloth-bnb-4bit — компактная каузальная языковая модель семейства Qwen3, представленная Unsloth и основанная на базовой модели Qwen/Qwen3-1.7B, разработанной командой Qwen. Данная версия предназначена для запуска и дообучения в формате 4-bit с использованием Transformers, что снижает требования к памяти по сравнению с полноразмерными вариантами. Модель подходит для генерации текста, диалогов, следования инструкциям, математических и логических задач, программирования, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Qwen3 поддерживает переключение между thinking mode для сложного рассуждения и non-thinking mode для более быстрой генерации. Заявлена поддержка более 100 языков и диалектов, однако в карточке явно указан язык English. Архитектура — causal language model с 1,7 млрд параметров, из которых 1,4 млрд не являются embedding-параметрами; модель содержит 28 слоёв, использует GQA с 16 головами для Q и 8 для KV, а максимальная длина контекста составляет 32 768 токенов. К сильным сторонам относятся небольшой размер, сниженное потребление памяти благодаря 4-bit-квантизации, мультиязычность, режимы рассуждения и эффективная работа в задачах диалога, инструкций, кода и агентского взаимодействия. Ограничения включают меньшую ёмкость по сравнению с крупными моделями, возможное снижение точности из-за квантизации и отсутствие в README подробных результатов бенчмарков, требований к оборудованию и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

ulkaa/Qwen3.8-27B-AWQ-INT4 — это квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем ulkaa. Модель предназначена для генерации и понимания текста, работы с изображениями и задач с большим контекстом. Она использует архитектуру Qwen3_5ForConditionalGeneration, поддерживает сохранённую vision tower в формате BF16 и рассчитана на применение через Transformers и SGLang, в частности на GPU Intel Arc Pro. Модель сжимает веса методом AWQ в формате compressed-tensors pack-quantized по схеме W4A16 с асимметричной квантизацией и размером группы 128. Размер артефакта составляет 18,2 GiB против 55,6 GiB у исходной BF16-версии. Большая часть параметров хранится в четырёхбитном виде, а vision tower, MTP head, embeddings, lm_head, нормализации и отдельные малые компоненты сохраняются в BF16. Основная конфигурация поддерживает контекст до 262 144 токенов; ревизия 1m с YaRN расширяет его до 1 048 576 токенов. К сильным сторонам относятся существенно сниженные требования к памяти, поддержка мультимодальных сценариев, длинного контекста и спекулятивного декодирования через встроенный MTP head либо внешнюю модель Qwen3.8-27B-DFlash2. К ограничениям относятся ожидаемое расхождение результатов с BF16-версией, необходимость проверки качества на собственных данных и зависимость оптимизированного сценария обслуживания от SGLang, Intel XPU и соответствующей конфигурации. Для DFlash2 не поддерживаются запросы с возвратом logprob. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-235B-A22B-Thinking-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса модели Qwen3-VL-235B-A22B-Thinking в формате GGUF и предназначен для локального запуска на совместимых устройствах через llama.cpp, Ollama и другие инструменты GGUF. Модель предназначена для анализа и генерации текста по изображениям и видео, визуального распознавания, OCR, пространственного и временного рассуждения, решения STEM- и математических задач, генерации Draw.io/HTML/CSS/JS по визуальным примерам, а также взаимодействия с графическими интерфейсами и инструментами. Заявлены улучшенные возможности понимания документов, объектов, сцен, событий в видео и GUI. Поддерживается нативный контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона; OCR заявлен для 32 языков. Архитектура включает языковую модель и отдельный vision encoder mmproj. Для компонентов доступны варианты FP16 и квантованные варианты Q8_0 и Q4_K_M для языковой модели, а также FP16 и Q8_0 для vision encoder. Поддерживаются CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Основные ограничения — очень высокий размер модели и соответствующие требования к памяти и вычислительным ресурсам; производительность и доступное качество зависят от выбранной точности и оборудования. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Thinking-GGUF — это мультимодальная vision-language модель из серии Qwen, разработанная командой Qwen. Репозиторий содержит веса базовой модели Qwen3-VL-4B-Thinking в формате GGUF, разделённые на языковую модель и vision encoder. Модель предназначена для понимания и генерации текста по текстовым и визуальным данным, включая изображения и видео, а также для локального запуска на пользовательских устройствах. Модель поддерживает сценарии визуального анализа, OCR, пространственного рассуждения, STEM- и математические задачи, понимание документов и видео, генерацию кода и разметки по изображениям, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены улучшенные визуальное восприятие и рассуждение, распознавание текста на 32 языках, работа с объектами, позициями, перекрытиями и временными событиями в видео. Для семейства Qwen3-VL указано нативное контекстное окно 256K токенов с возможностью расширения до 1M. Веса доступны для языковой модели в вариантах FP16, Q8_0 и Q4_K_M, а для vision encoder — в FP16 и Q8_0, что позволяет выбирать баланс качества, скорости и требований к памяти. Формат совместим с llama.cpp, Ollama и другими инструментами GGUF; заявлена поддержка CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Для работы требуются совместимые инструменты и отдельный файл vision encoder, а выбор квантования может влиять на качество и производительность. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Thinking-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит GGUF-веса модели Qwen3-VL-8B-Thinking, разделённые на языковую модель и vision encoder в формате mmproj. Модель предназначена для анализа изображений и видео, генерации и понимания текста, визуального рассуждения, OCR, пространственного анализа, STEM- и математических задач, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Модель относится к thinking-редакции и имеет размер 8B параметров. Поддерживаются варианты языковой части FP16, Q8_0 и Q4_K_M, а vision encoder доступен в FP16 и Q8_0. Заявлены нативный контекст 256K с возможностью расширения до 1M, работа с длительными видео и распознавание текста на 32 языках. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Модель поддерживает мультимодальный ввод изображений и видео, однако конкретный список языков помимо OCR в README не указан. GGUF-файлы совместимы с llama.cpp, Ollama и другими инструментами экосистемы GGUF и могут запускаться на CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Доступны разные уровни точности для компромисса между качеством, скоростью и требованиями к памяти; при этом производительность зависит от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

llmfan46/gemma-4-12B-it-uncensored-heretic — производная от Google Gemma 4 12B IT модель, опубликованная независимым автором. По README это мультимодальная модель для диалога, рассуждений, программирования и понимания текста, изображений, видео и аудио. Вариант 12B построен на плотной архитектуре Gemma 4 Unified с чередованием локального скользящего и глобального внимания; заявленный контекст базовой модели — до 256K токенов. Модель поддерживает многоязычные сценарии и вызов инструментов. В названии и тегах автор характеризует эту версию как uncensored, decensored и abliterated; README сообщает о целевом компоненте attn.o_proj, но не раскрывает конкретную методику изменения модели. Заявлены распознавание речи и перевод речи в текст, а также анализ изображений и последовательностей видеокадров. Возможные применения включают диалоговых помощников, извлечение сведений из документов и изображений, суммаризацию и генерацию кода. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и быть ненадёжными при неоднозначных или сложных запросах. Указанная в метаданных лицензия — Apache-2.0.

Saxo (Джи Юнсон), специалист по данным и руководитель Linkbricks Horizon-AI, дообучил эту плотную языковую модель на основе Qwen2.5-32B-Instruct. Модель содержит 32 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; для работы с ней используется библиотека Transformers. В обучении применялись этапы CPT, SFT, DPO и ORPO, а также данные из многоязычных новостных и wiki-корпусов и наборы для отдельных задач. Модель предназначена для диалога и генерации текста, в том числе для анализа отзывов и публикаций в социальных сетях, написания текстов и кода, математических и логических задач, а также вызова функций и инструментов. В README заявлена работа с корейским, английским, японским и китайским языками; датасеты также включают перевод и суммаризацию. Репозиторий содержит веса в формате safetensors. Лицензия Apache 2.0.

Qwen3.5-27B — мультимодальная модель семейства Qwen, опубликованная Unsloth в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-27B для диалогов и задач, где нужно совместно анализировать текст и изображения. Модель имеет 27 млрд параметров, причинную языковую архитектуру с визуальным энкодером и сочетает Gated Delta Networks с разреженной архитектурой Mixture-of-Experts. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель подходит для ответов на вопросы по изображениям, визуального анализа, рассуждений, программирования и агентных сценариев с вызовом инструментов. В README заявлена поддержка 201 языка и диалекта. Для запуска доступны веса в формате safetensors, совместимые с Transformers и рядом движков инференса; лицензия — Apache-2.0. Большой размер требует значительных вычислительных ресурсов; при длинном контексте возможен дефицит видеопамяти. Режим рассуждений включён по умолчанию, а скорость и пропускная способность зависят от движка и его версии.

Qwen3.6-35B-A3B-W4A16-AWQ — это 4-битная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen и дополнительно квантованной пользователем hyperhuzaifa. Квантизация выполнена методом AWQ в формате compressed-tensors pack-quantized с симметричной схемой int4, размером группы 128 и разрядностью W4A16. Модель использует MoE-архитектуру с 35 млрд параметров и рассчитана на запуск с длинным контекстом на одной потребительской видеокарте с 24 ГБ памяти. На диске она занимает около 20,5 ГБ, а в памяти GPU — около 19,06 GiB. Модель предназначена для генерации текста и обработки изображений, поскольку сохраняет vision tower. В архитектуре используются 40 слоёв, включая 30 слоёв gated DeltaNet с линейным вниманием и 10 блоков полного внимания, а маршрутизация MoE выбирает 8 экспертов из 256. Также сохранена MTP-голова для спекулятивного декодирования. Квантированы языковые Linear-слои, включая routed и shared experts, но эмбеддинги, lm_head, vision tower, маршрутизаторы, нормализации и MTP-голова оставлены в bf16 для сохранения качества и совместимости. Основные преимущества — заметно сниженные требования к памяти, поддержка длинного контекста, мультимодальность и совместимость с vLLM версии 0.26.0 и новее. На одной 24-ГБ видеокарте заявлена работа с контекстом до 32K при использовании CUDA graphs; на двух GPU через tensor parallelism поддерживается до 262K токенов. Ограничения включают невысокую допустимую конкурентность на одной карте из-за recurrent cache для DeltaNet, резкое снижение скорости при использовании enforce-eager и необходимость корректно выбирать мультимодальный класс загрузки. MTP не рекомендуется включать на одной 24-ГБ карте из-за резкого уменьшения доступного KV-кэша; на двух PCIe-GPU он также может снижать итоговую производительность. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3-VL-30B-A3B-Instruct-AWQ-4bit — это квантизированная 4-битная версия мультимодальной instruction-модели Qwen3-VL-30B-A3B-Instruct, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, а также для понимания видео, генерации ответов по визуальному содержимому, анализа документов, OCR, STEM- и математических задач, пространственного рассуждения и взаимодействия с графическими интерфейсами и инструментами. Модель использует архитектуру Mixture-of-Experts (MoE) и относится к семейству с заявленным масштабом 30B параметров и 3B активных параметров. В архитектуре применяются Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный список языков в README не приведён. Сильные стороны модели — объединённое текстово-визуальное понимание, распознавание объектов и документов, анализ пространственных отношений и длительных видео, генерация HTML/CSS/JS и Draw.io по изображениям или видео, а также выполнение задач визуального агента. Ограничения и требования к ресурсам для данной AWQ-квантизации, равно как и подробные результаты тестирования, в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-30B-A3B-Thinking-GGUF — мультимодальная vision-language модель из серии Qwen3-VL, разработанная командой Qwen и представленная в формате GGUF проектом Unsloth. Модель предназначена для генерации текста на основе текстовых и визуальных входных данных, включая анализ изображений и видео, визуальное рассуждение, OCR, понимание пространственных отношений, решение задач STEM и математики, а также взаимодействие с графическими интерфейсами и инструментами. Модель использует MoE-архитектуру и относится к reasoning-ориентированной версии Thinking; заявленный размер — 30B параметров при 3B активных параметрах. Поддерживаются текст, изображения и видео. Контекст составляет 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временного и пространственного позиционирования, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный список языков в README не приведён. Сильные стороны модели — мультимодальное понимание, визуальное и пространственное рассуждение, обработка длинного контекста и видео, распознавание текста в сложных условиях, а также генерация Draw.io, HTML, CSS и JavaScript по изображениям или видео. Ограничения, требования к ресурсам, точные показатели производительности и конкретные параметры GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0; в репозитории Unsloth также отмечены исправления chat template.

unsloth/Qwen3-VL-4B-Instruct-1M-GGUF — GGUF-версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Это инструкционная vision-language модель с архитектурой Dense, предназначенная для понимания и генерации текста на основе текстовых и визуальных данных, включая изображения и видео. Модель подходит для описания и анализа изображений, OCR, обработки длинных документов, визуального и математического рассуждения, пространственного анализа, понимания видеосцен, генерации HTML/CSS/JS и Draw.io по изображениям или видео, а также взаимодействия с графическими интерфейсами и инструментами. Заявлены контекст Native 256K с расширением до 1M токенов, поддержка OCR на 32 языках и улучшения для временной привязки событий в видео. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и Text-Timestamp Alignment. К сильным сторонам относятся сочетание текстового и визуального понимания, работа с длинным контекстом, расширенные возможности OCR, пространственного и видеоанализа, а также относительно компактный размер 4B параметров. README не содержит точных результатов бенчмарков, сведений о конкретном формате или уровне GGUF-квантизации, требованиях к оборудованию и полном перечне поддерживаемых языков, поэтому производительность и ресурсоёмкость в конкретной конфигурации требуют проверки. Для llama.cpp рекомендуется использовать параметр --jinja. Модель распространяется по лицензии Apache-2.0.

InternScience/Agents-A1-4B-Q4_K_M-GGUF — квантизированная версия плотной языковой модели Agents-A1-4B, разработанная командой InternScience. Модель предназначена для агентных сценариев с длинной последовательностью действий: поиска, инженерных и научных задач, следования сложным инструкциям, профессионального вопросно-ответного взаимодействия и вызова внешних инструментов. Она поддерживает планирование, разбиение сложных задач на шаги, адаптацию по промежуточным результатам, function calling и интеграцию с API, интерпретаторами кода и поисковыми системами. Модель содержит около 4 миллиардов параметров и распространяется в формате GGUF с квантизацией Q4_K_M, что снижает требования к памяти и делает её подходящей для локального запуска. В карточке указаны теги vision и vlm, однако подробные сведения о поддерживаемых визуальных модальностях, языках и размере контекстного окна отсутствуют. По заявленным результатам Agents-A1-4B показывает высокую эффективность на BrowseComp, XBench-DS-2510, GAIA, FrontierScience-Research и IFEval, конкурируя с более крупными моделями при меньшем числе параметров. Ограничения модели включают неизвестные из README языковые и мультимодальные возможности, а также отсутствие подробностей о требованиях к оборудованию и точных условиях применения квантизированной сборки. Модель и её базовые компоненты распространяются по лицензии Apache-2.0; формат совместим с экосистемой GGUF и предназначен для использования с соответствующими локальными средствами инференса.

GritLM-7B — языковая модель ContextualAI, дообученная на основе Mistral-7B-v0.1 с помощью метода GRIT. Она объединяет генерацию текста и получение текстовых представлений: подходит для диалогов и задач, где нужны эмбеддинги или оценки релевантности. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекстное окно 32 768 токенов. Модель предназначена для использования как в генеративных сценариях, так и в задачах представления текста, включая поиск и ранжирование. В репозитории доступны веса PyTorch и Safetensors. Лицензия — Apache-2.0.

Карточка модели genevaquant/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

Ministral-3-Instruct-2512-AIO-GGUF — набор квантованных моделей в формате GGUF, опубликованный prithivMLmods на основе семейства Ministral 3 Instruct от Mistral AI. В набор входят варианты на 3B, 8B и 14B параметров, совместимые с llama.cpp и интеграциями через Transformers. Модели предназначены для локального и эффективного запуска на устройствах с ограниченными ресурсами. Это мультимодальные vision-language модели для работы с текстом и изображениями. Они поддерживают анализ изображений, генерацию описаний, понимание документов, извлечение данных, перевод, краткую генерацию контента и агентские сценарии с function calling и JSON-выводом. Заявлено контекстное окно до 256K токенов и поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Архитектура включает языковую модель и vision encoder примерно на 0,4B параметров. Сильные стороны набора — разнообразие размеров и уровней квантования, поддержка мультимодальных задач, многоязычность, следование системным инструкциям и возможность локального развертывания. Компромиссом квантованных вариантов могут быть снижение точности и качества по сравнению с полноразмерными версиями; требования к памяти зависят от размера модели и выбранного формата. Доступ предоставляется по лицензии Apache 2.0.

IsValorum/Nex-N2.5-mini-APEX-I-MiniPlus-GGUF — это квантизированная GGUF-версия модели Nex-N2.5-mini, разработанной Nex-AGI и дополнительно оптимизированной IsValorum. Модель основана на архитектуре qwen35moe с 35,1 млрд параметров и использует многомодельную экспертную архитектуру MoE. В комплект входят основная модель размером около 14,56 ГБ с квантизацией 3,36 BPW и отдельный vision-проектор mmproj в формате Q8_0 размером около 610 МБ. Модель предназначена для рассуждений, вызова функций и инструментов, автономного взаимодействия с компьютером, обработки изображений и анализа графического интерфейса. Заявлены мультимодальные возможности, высокоточное визуальное сопоставление и поддержка высокоразрешённых изображений. В README перечислена поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Также заявлена работа с контекстом до 256K токенов, однако подробные параметры этой поддержки в представленном фрагменте не приведены. Главные особенности квантизации — сохранение выходного слоя в Q6_K, маршрутизаторов экспертов в F32 и использование разных уровней точности для внимания и экспертных блоков. Это должно повышать стабильность синтаксиса, маршрутизации экспертов и рассуждений по сравнению с более агрессивными низкобитными вариантами, сохраняя умеренные требования к памяти и производительность на CPU. Ограничения связаны с потерями, неизбежными для квантизированной модели, потребностью примерно в 14 ГБ памяти для основной модели и тем, что это предыдущая, или legacy, версия MiniPlus. Для использования требуется совместимый рантайм GGUF, например llama.cpp. Лицензия — Apache-2.0.

unsloth/Qwen2.5-1.5B-Instruct-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Qwen2.5-1.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и опубликованной сообществом Unsloth. Модель предназначена для диалоговых ассистентов, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Модель относится к causal language models и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Исходная модель содержит около 1,54 млрд параметров, 28 слоёв и Grouped Query Attention с 12 головами Q и 2 головами KV. Указанный контекст исходной модели составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта bnb-4bit — сниженное потребление памяти и возможность запуска на более доступном оборудовании; при этом квантование может уменьшать точность по сравнению с полноформатной моделью. Размер 1,5 млрд параметров делает модель подходящей для локального инференса и ресурсоограниченных приложений, однако её возможности и качество уступают более крупным моделям. Для работы рекомендуется актуальная версия библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

devan-carlin/Qwen3.8-Flash-Next-W4A16 — сообщественная W4A16-квантизированная версия Qwen3.8-Flash-Next, базовую модель и лицензию которой разработала команда Qwen. Репозиторий предоставляет квантизацию и рецепт запуска на Intel XPU с использованием patched vLLM. Модель предназначена для генерации текста, рассуждений, вызова инструментов и мультимодальных сценариев с обработкой изображений; доступны текстовые и графические входы через процессор Qwen3-VL. Модель использует MoE-архитектуру с 125B параметров и примерно 6B активных параметров. Экспертные веса квантизированы в int4 по схеме group-128 с активациями A16, а отдельные компоненты, включая визуальный модуль, эмбеддинги и ряд служебных слоёв, сохранены в BF16. Поддерживается контекст до 256K токенов и FP8 KV-кэш. В составе присутствует 27-блочный vision tower, совместимый с Qwen3-VL. Для корректной работы требуется PLE n-gram table объёмом около 96 ГБ в оперативной памяти. К сильным сторонам относятся большой контекст, MoE-эффективность, поддержка изображений и возможность производительного запуска на Intel Arc Pro B70: заявлено около 53,4 токена в секунду на конфигурации из четырёх ускорителей. Ограничения существенны: необходимы четыре Intel Arc Pro B70 с суммарно 128 ГБ VRAM, не менее 128 ГБ оперативной памяти, специальная версия vLLM и закреплённые версии XPU-зависимостей. Для этого чекпойнта рекомендуется температура не выше примерно 0,7, поскольку при более высоких значениях наблюдаются повторения и деградация вывода. Модель распространяется по Qwen Community License 1.0; лицензия указана как other.

Qwen3-VL-2B-Thinking-GGUF — мультимодальная vision-language модель серии Qwen, разработанная командой Qwen. Это GGUF-версия базовой модели Qwen3-VL-2B-Thinking, предназначенная для локального запуска через llama.cpp, Ollama и другие инструменты, совместимые с GGUF. Модель сочетает языковую модель примерно на 2 млрд параметров с vision encoder и работает с текстом и изображениями, а также поддерживает анализ видео. Релиз включает языковые веса в форматах FP16, Q8_0 и Q4_K_M и отдельный vision encoder в FP16 или Q8_0. Заявлены расширенный контекст до 256K токенов с возможностью масштабирования до 1M, визуальное и пространственное рассуждение, OCR для 32 языков, понимание документов, STEM-задач, видео и пользовательских интерфейсов. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Модель подходит для визуального вопросно-ответного взаимодействия, распознавания и структурирования текста на изображениях, анализа документов и видео, визуального рассуждения, генерации кода и задач визуального агента. Наличие нескольких уровней точности позволяет выбирать баланс между качеством, скоростью и требованиями к памяти, а поддержка CPU, NVIDIA GPU, Apple Silicon и Intel GPU упрощает локальное развертывание. Ограничения включают возможное снижение качества при квантовании, зависимость производительности от оборудования и отсутствие в README подробных числовых результатов тестирования и полного списка поддерживаемых языков. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Thinking — мультимодальная vision-language модель из серии Qwen, разработанная командой Qwen и представленная в GGUF-репозитории Unsloth. Это Thinking-версия с усиленным рассуждением, предназначенная для анализа изображений и видео вместе с текстом, генерации ответов, STEM- и математического анализа, распознавания документов и OCR, пространственного рассуждения, а также взаимодействия с графическими интерфейсами и инструментами. Модель также может генерировать Draw.io, HTML, CSS и JavaScript по изображениям или видео. Модель имеет плотную архитектуру и размер 8B параметров; конкретные характеристики GGUF-квантизации в README не указаны. Поддерживаются текст, изображения и видео, а заявленный нативный контекст составляет 256K токенов с возможностью расширения до 1M. Для видео предусмотрено понимание временной динамики и событий с привязкой к временным меткам. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильные стороны модели — объединённое текстово-визуальное понимание, визуальное и пространственное рассуждение, обработка длинных документов и продолжительных видео, распознавание текста в сложных условиях, включая низкую освещённость, размытие и наклон. Ограничения связаны с вычислительными и мультимодальными ресурсами, необходимыми для работы с длинным контекстом, изображениями и видео; точные требования к памяти и производительности не указаны. Модель распространяется по лицензии Apache-2.0.