II.10Разработка и эксплуатация AI/ML-систем

moonstruxx/MinerU2.5-2509-1.2B-mlx-fp16 — преобразованная в формат MLX модель на основе MinerU2.5-2509-1.2B от OpenDataLab. Это компактная зрительно-языковая модель семейства Qwen2-VL для извлечения текста и структуры из изображений документов, включая таблицы и формулы. Она принимает изображения с текстовыми запросами и формирует текстовый ответ; контекст составляет 16 384 токена, число параметров в метаданных указано как 494 млн. В README указано преобразование с помощью mlx-lm 0.26.4, а веса представлены в fp16. Модель подходит для распознавания и структурированного разбора документов. В карточке заявлены китайский и английский языки. Репозиторий распространяется по лицензии AGPL-3.0. Поскольку это конверсия базовой модели, её возможности и ограничения зависят от исходной MinerU2.5; README не приводит отдельных результатов оценки качества.

JANGQ-AI MiniMax-M2.7-JANG_6M — квантованная версия MiniMax M2.7 от Jinho Jang (JANGQ), подготовленная для запуска через vMLX и MLX на компьютерах Apple Silicon. Это языковая модель для диалога и генерации текста с архитектурой MoE: исходная модель содержит 228,7 млрд параметров и 256 экспертов, а в метаданных репозитория указано 2,9 млрд параметров. Контекстное окно составляет 196 608 токенов. Вариант JANG_6M использует смешанную точность со средним размером около 6,03 бита: внимание и выходной слой хранятся в 8 битах, эмбеддинги и экспертные MLP — в 6 битах, а маршрутизатор экспертов — в float16. Модель предназначена для диалогов, рассуждений и сценариев с вызовом инструментов; для запуска автор рекомендует MLX Studio. Это модель с постоянным режимом рассуждений: README предупреждает, что температура 0 может приводить к бесконечным циклам рассуждений, и рекомендует температуру 1,0. Количественные результаты оценки MiniMax M2.7 для этой версии ещё не опубликованы; приведённые в карточке результаты MMLU относятся к другой модели семейства. Для запуска требуется Apple Silicon Mac с 192 ГБ объединённой памяти и MLX. Лицензия указана как other; README описывает условия как исследовательское и личное использование и требует соблюдать лицензию MiniMax.

PaddleOCR-VL-1.6-MLX-8bit — 8-битная MLX-квантизация мультимодальной модели PaddleOCR-VL-1.6, разработанной командой PaddlePaddle. Модель предназначена для локального разбора документов на устройствах Apple Silicon, включая OCR полноформатных страниц, анализ структуры и компоновки, распознавание таблиц, формул, графиков, печатей, а также обнаружение и распознавание текста. Она принимает изображения и генерирует результаты в форматах Markdown и JSON; текстовые входы без изображения не поддерживаются. Модель содержит около 0,9 млрд параметров и использует архитектуру PaddleOCRVLForConditionalGeneration на базе ERNIE-4.5 с пользовательским типом модели paddleocr_vl. Контекст составляет до 131 072 токенов, поддерживаются английский, китайский и другие языки; заявлена мультиязычность. Версия адаптирована для MLX и занимает около 1,09 ГБ на диске. Повышенный предел разрешения до 4 064 256 пикселей оптимизирован для распознавания мелкого текста на полноразмерных страницах, но увеличивает время обработки примерно в пять раз по сравнению с исходным ограничением. Работает через mlx-vlm и требует Apple Silicon, а также trust_remote_code=True. Сильные стороны модели — локальная обработка данных без отправки документов во внешние сервисы, поддержка сложных элементов документов и высокая заявленная точность базовой модели: 96,3% на OmniDocBench v1.6. 8-битная квантизация может немного снизить точность по сравнению с версиями bf16/fp16. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

tensorblock/Qwen2.5-7B-Instruct-Uncensored-GGUF — это квантизированная версия языковой модели Qwen2.5-7B-Instruct-Uncensored от Orion-zhen, подготовленная в формате GGUF командой TensorBlock. Модель предназначена для запуска локально с помощью llama.cpp и совместима с этой библиотекой начиная с указанного в README коммита. Модель относится к классу инструкционных text-generation-моделей с примерно 7 млрд параметров и поддерживает китайский и английский языки. Она ориентирована на генерацию текста, диалоговые сценарии и выполнение инструкций. Версия помечена как uncensored и обучалась с использованием наборов данных, направленных в том числе на снижение отказов и работу с токсичными запросами, поэтому её поведение может быть менее ограниченным с точки зрения встроенных механизмов безопасности. К сильным сторонам относятся возможность локального запуска, поддержка GGUF и совместимость с llama.cpp, что упрощает использование на различном оборудовании в зависимости от выбранного уровня квантизации. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются по задачам; данные о размере контекста, конкретных вариантах квантизации и требованиях к памяти не указаны. Лицензия модели — GPL-3.0.

nvidia/Qwen2.5-VL-7B-Instruct-NVFP4 — мультимодальная инструкционная модель, разработанная NVIDIA на основе Qwen/Qwen2.5-VL-7B-Instruct. Она предназначена для генерации текста и обработки задач, связанных с визуально-языковым взаимодействием, включая сценарии, где требуется анализ визуального и текстового контекста. В карточке модели указано, что это квантованная версия в формате FP4, подготовленная с использованием NVIDIA Model Optimizer. Модель относится к семейству Qwen2.5-VL и имеет размер 7B параметров в базовой версии. Поддерживаемые языки, максимальная длина контекста, точные характеристики архитектуры, перечень входных модальностей и показатели качества в README не указаны. Квантование FP4 потенциально снижает требования к памяти и может повысить эффективность инференса, однако README не содержит результатов бенчмарков или сведений о совместимом оборудовании. Модель распространяется по NVIDIA Open Model License. Лицензия допускает коммерческое использование, создание и распространение производных моделей, но требует соблюдения условий соглашения, включая указание лицензии NVIDIA и атрибуции «Built on Qwen2.5-VL-7B-Instruct-FP4» при распространении модели, продуктов или сервисов на её основе. Использование также должно соответствовать условиям NVIDIA Trustworthy AI; ответственность за результаты и их последующее применение несёт пользователь.

Qwen2-VL-OCR-2B-Instruct-GGUF — мультимодальная модель для преобразования изображений в текст, разработанная как дообученная версия Qwen/Qwen2-VL-2B-Instruct и опубликованная пользователем или организацией prithivMLmods. Она сочетает визуальное и текстовое понимание с диалоговым взаимодействием и предназначена прежде всего для OCR, распознавания небрежного рукописного текста, анализа изображений, решения математических задач и вывода формул в формате LaTeX. Модель поддерживает сценарии image-to-text и VQA, а также задачи, связанные с кодом. В метаданных указан английский язык. Модель имеет размер 2B параметров согласно названию базовой модели и распространяется в формате GGUF с вариантами от FP16 до низкоразрядных квантований Q2–Q8 и i1/IQ. Это позволяет выбирать между качеством, скоростью и требованиями к памяти, однако README не содержит количественных оценок качества, сведений о длине контекста, точном наборе поддерживаемых языков и ограничениях распознавания. Лицензия — Apache-2.0; условия конкретного запуска зависят от совместимого программного обеспечения для GGUF.

Qwen3-14B-DAG-Reasoning — экспериментальная специализированная языковая модель от Sequelbox для причинно-следственного анализа и построения ориентированных ациклических графов (DAG). Она дообучена на Qwen/Qwen3-14B на наборе данных Sequelbox, сформированном с помощью DeepSeek R1 0528, и использует архитектуру Qwen3 с 14 млрд параметров. Модель принимает текст и обычно выдаёт структурированный JSON с узлами и связями графа, который можно использовать для визуализации или дальнейшего анализа. Модель рассчитана на многошаговые рассуждения в областях программирования, науки, бизнеса, экономики, финансов, права, логистики и управления. Для запроса графа или анализа следует явно попросить его в сообщении; при неясном запросе модель может ответить в обычном стиле Qwen3. Контекст составляет до 40 960 токенов. Для применения в продуктивных системах автор рекомендует проверять структуру выходных данных. Лицензия — Apache-2.0.

DavidAU выпустил эту диалоговую модель на основе Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated, дообучив её с помощью Unsloth на наборе TeichAI/claude-4.5-opus-high-reasoning-250x. Это генеративная языковая модель семейства Qwen3 MoE: всего около 30 млрд параметров, из которых активны примерно 3 млрд; метаданные каталога указывают 2,6 млрд параметров. Архитектура использует 128 экспертов, обычно активируя 8 за раз. Модель предназначена для диалогов, следования инструкциям и генерации ответов с рассуждениями. Автор отмечает, что блоки рассуждений обычно короче, чем у исходной Qwen, и что модель стремится реже отказывать, в том числе при запросах на взрослый или откровенный контент. Для таких ответов может потребоваться явно задать желаемый стиль и лексику. Заявленные автором результаты на бенчмарках не сопровождаются полными данными в карточке, поэтому их нельзя считать независимой оценкой качества. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык и поддерживает контекст до 262 144 токенов. Файлы репозитория представлены в формате safetensors; указана лицензия Apache-2.0.

Qwen3.6-27B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.6-27B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для локального применения в сценариях генерации текста и обработки изображений с текстом, что следует из указанного типа конвейера image-text-to-text. Она сохраняет основу оригинальной Qwen3.6-27B, однако README не содержит сведений о точной архитектуре, числе параметров исходной модели, поддерживаемых языках и размере контекстного окна. Ключевые преимущества — сниженное потребление памяти по сравнению с полноразмерной версией и оптимизация под экосистему Apple Silicon, что делает модель подходящей для локального использования через совместимое программное обеспечение. Ограничениями являются потери качества, возможные при 6-битном квантовании, зависимость производительности от устройств Apple Silicon и отсутствие в предоставленных данных подробных характеристик качества и языковой поддержки. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS-MLX-mixed-6bit — это квантизированная версия модели KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS, преобразованная в формат MLX с использованием mlx-vlm 0.6.13. Модель предназначена для запуска в экосистеме MLX и заявлена как решение для задач image-text-to-text, то есть обработки текстовых и визуально-текстовых запросов. README не указывает точную архитектуру, размер контекстного окна и дополнительные сведения о мультимодальных компонентах. Модель использует смешанную аффинную квантизацию: большинство тензоров представлены в 4-, 6- или 8-битном формате с размером группы 32; итоговая точность составляет 6,096 бит на вес. По заявлению README, конфигурация reasoning_effort по умолчанию установлена в low, чтобы снизить избыточное рассуждение. Поддерживаются английский, китайский, русский, испанский, французский, итальянский, японский, корейский и ряд других языков, перечисленных в карточке модели. К сильным сторонам относятся уменьшенный объём хранения и потенциально более низкие требования к памяти по сравнению с полноразмерной моделью, а также многоязычность и поддержка режимов reasoning и instruct. К ограничениям относятся возможные потери качества из-за квантизации, отсутствие в README подробных бенчмарков и точных требований к оборудованию, а также предупреждение, что увеличение presence_penalty может привести к смешению языков и небольшому снижению производительности. Для thinking mode рекомендованы temperature 1.0, top_p 0.95 и top_k 20, а для instruct-режима — temperature 0.7, top_p 0.80, top_k 20 и presence_penalty 1.5. Модель распространяется по лицензии Apache-2.0. Указанная лицензия относится к исходной модели Qwen3.8-27B; для практического использования следует также учитывать условия базовой модели и происхождение производной версии.

Unhinged-Author-70B — объединённая языковая модель, созданная FiditeNemini с помощью mergekit и метода TIES на основе Steelskull/L3.3-MS-Nevoria-70b с включением huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста; заявленный контекст составляет до 131 072 токенов. Модель можно применять для диалогов, развёрнутых ответов, рассуждений и творческого письма. Репозиторий предоставляет веса в формате safetensors; метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. README не приводит оценок качества или подробных рекомендаций по использованию. Лицензия в предоставленных данных не указана.

UwU-1 — объединённая языковая модель на 32 млрд параметров, опубликованная пользователем estrogen. Она создана методом TIES с помощью mergekit на основе Qwen/Qwen2.5-32B и включает веса EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 и Qwen/QwQ-32B-Preview. Модель использует архитектуру Qwen2 для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и доступна в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Карточка указывает на интерфейс вызова инструментов, однако не описывает его настройку или качество. Лицензия в предоставленных данных не указана.

Карточка модели SirZQ/VeraRetouch_llava_Qwen2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

GPT-5.6 Terra — языковая модель OpenAI общего назначения, предназначенная для рабочих сценариев, где важен баланс возможностей и стоимости. Она поддерживает рассуждение с настраиваемым уровнем усилий, вызов функций, структурированный вывод и работу с инструментами через Responses API. Модель принимает текст и изображения, а выдаёт текст; заявленное окно контекста — 1 050 000 токенов, максимальный объём ответа — 128 000 токенов. Terra подходит для программирования, анализа и создания документов, поиска по информации и выполнения многошаговых задач с инструментами. В API доступны веб-поиск, поиск по файлам, интерпретатор кода и управление компьютером. OpenAI указывает, что аудио- и видеовходы не поддерживаются. Модель предоставляется через API и сервисы OpenAI; открытая лицензия на веса не указана.

DiffusionGemma 26B A4B IT NVFP4 — мультимодальная генеративная модель с открытыми весами, разработанная Google DeepMind и квантованная NVIDIA с помощью Model Optimizer в формате NVFP4. Она построена на архитектуре Gemma 4 26B A4B Mixture-of-Experts: содержит 25,2 млрд параметров, из которых активно используется 3,8 млрд. Модель применяет encoder-decoder Transformer с двунаправленным вниманием и дискретной диффузией, генерируя текст параллельными блоками по 256 токенов. Заявлена скорость свыше 1100 токенов в секунду на NVIDIA Hopper H100 при низком размере батча в режиме FP8. Модель принимает текст, изображения и видео, а генерирует текст. Она предназначена для диалоговых систем и чат-ботов, суммаризации, генерации кода, пошагового рассуждения, анализа изображений и документов, OCR, понимания графиков, разбора PDF, анализа экранов и пользовательских интерфейсов, обработки видео, агентских сценариев с вызовом функций и мультиязычных задач. Поддерживаются более 35 языков, контекст до 256 тысяч токенов, настраиваемый режим рассуждения, нативный function calling и структурированный вывод в формате JSON. Изображения могут иметь различные разрешения и соотношения сторон, а видео обрабатывается как последовательность кадров длительностью до 60 секунд с частотой один кадр в секунду. Сильными сторонами модели являются мультимодальность, большой контекст, параллельная генерация и относительно небольшое число активных параметров для MoE-архитектуры. Ограничения включают необходимость проверки качества и безопасности на данных конкретного сценария, а также преимущественную ориентацию на NVIDIA GPU с поддержкой Blackwell и Hopper H100; заявленная интеграция выполняется через vLLM в Linux. Модель доступна для коммерческого и некоммерческого использования по Apache 2.0 с дополнительными Gemma Terms of Use и Gemma Prohibited Use Policy. NVIDIA указывает, что не является владельцем или разработчиком исходной модели.

DeepSeek-V3-0324 — языковая модель, разработанная компанией DeepSeek (深度求索). Это улучшенная версия DeepSeek-V3, ориентированная на задачи рассуждения, программирования и веб-разработки, написания и редактирования текстов на китайском языке, перевода, анализа отчётов, веб-поиска и Function Calling. По данным карточки, модель демонстрирует улучшения по сравнению с предыдущей версией в бенчмарках MMLU-Pro, GPQA, AIME и LiveCodeBench. Также заявлены более исполнимый код, более качественные веб-страницы и игровые интерфейсы, улучшенное многошаговое редактирование, написание писем и средних и длинных текстов на китайском языке, а также более точный вызов функций. Поддержка мультимодальности, архитектура, размер модели, максимальная длина контекста и полный перечень языков в README не указаны. Для использования рекомендуется учитывать настройки официальных веб- и мобильных приложений: базовая температура модели составляет 0,3, а системный промпт идентифицирует ассистента как DeepSeek Chat, созданного DeepSeek, и содержит текущую дату. Условия лицензии указаны явно: MIT, что допускает использование, модификацию и распространение модели в рамках условий этой лицензии.

Карточка модели belltechsoft/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.

Карточка модели CHERRYKC/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B, поэтому описание составлено по ней. Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.

Карточка модели Openintelligent123/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Карточка модели Roughneck72/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Карточка модели ArchiveStudio/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели Naga718/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Granite-3.2-2B-Instruct-GGUF — модель IBM Granite, разработанная командой Granite Team компании IBM. Это GGUF-конверсия базовой модели Granite-3.2-2B-Instruct с различными вариантами квантования. Модель предназначена для выполнения общих инструкций и интеграции в AI-ассистентов, включая бизнес-приложения. Модель содержит около 2 миллиардов параметров и ориентирована на задачи рассуждения с управляемым включением режима thinking только при необходимости. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), работу с кодом, function calling, многоязычный диалог и задачи с длинным контекстом, включая обработку больших документов и протоколов встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К сильным сторонам относятся компактный размер, поддержка reasoning-сценариев, длинного контекста и широкого набора прикладных задач. Точный размер контекстного окна и характеристики отдельных вариантов квантования в предоставленных данных не указаны; формат GGUF может требовать совместимого программного обеспечения для запуска. Модель распространяется по лицензии Apache 2.0.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Карточка модели geodavic/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели Openintelligent123/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-2056dc95-c8a4-41df-9f73-0c7ce798fe20 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Это зеркальная копия инструкционной мультимодальной модели Gemma 4 12B от Google DeepMind, подготовленная пользователем chibifire. В репозитории находятся веса в формате safetensors с половинной точностью из конвейера обучения с учетом квантования Q4_0 (QAT); сами веса здесь не квантованы до Q4_0. Также включены токенизатор, шаблон чата и конфигурации процессора и генерации. Модель предназначена для локального инференса и дальнейшего преобразования; её можно загружать через Transformers. Базовая Gemma 4 12B IT поддерживает диалог и работу с текстом, изображениями, видео и аудио, а также генерацию кода. Карточка этой копии не приводит отдельные характеристики по языкам или длине контекста. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Gemma 4 26B A4B IT QAT GGUF — это мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она основана на разреженной Mixture-of-Experts архитектуре: содержит около 25,2 млрд параметров, из которых при генерации активны примерно 3,8 млрд. Модель поддерживает текст и изображения, но не аудио, и предназначена для диалогов, анализа изображений, OCR, анализа кадров видео, генерации текста и кода, вызова функций и задач, требующих рассуждений. Доступен настраиваемый режим reasoning. Модель использует около 550 млн параметров в vision encoder, контекстное окно до 256K токенов, скользящее окно 1024 токена и словарь примерно из 262 тысяч токенов для более чем 140 языков. Quantization-Aware Training помогает сохранить качество, близкое к bfloat16, при меньших требованиях к памяти. Репозиторий предоставляет варианты GGUF с квантованием от Q2_K до Q8_0, а также BF16, F16 и F32; размеры файлов составляют примерно от 10,6 до 101 ГБ, поэтому практическое использование зависит от доступной памяти и аппаратных ресурсов. К ограничениям относятся отсутствие аудиомодальности, высокие требования к ресурсам для полноразмерных вариантов и зависимость качества от выбранного уровня квантования. Лицензия — Apache 2.0.