/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
gemma4 · dense
Базовая модель
gemma-4-E4B-it
Библиотека
transformers
Опубликована
5 июн 2026

gemma-4-E4B-it-GGUF

Изображение и текст → текст15 профессий

Gemma-4-E4B-it-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google и представленная в формате GGUF пользователем prithivMLmods.

2 064скачиваний за 30 дней1лайквеса обновлены7 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для локального запуска на ноутбуках, производительных смартфонах и потребительских GPU, включая сценарии с повышенными требованиями к конфиденциальности и задержке ответа.

Модель поддерживает работу с текстом, изображениями и аудио; заявлены анализ документов и PDF, распознавание текста и рукописного ввода, анализ интерфейсов и экранов, интерпретация диаграмм, обнаружение объектов с указанием их положения, программирование, агентские сценарии и понимание речи. Указана поддержка английского языка. Архитектура описана как плотная мультимодальная модель с 42 слоями, эффективным числом параметров около 4,5 млрд и общим объёмом 8 млрд параметров с Per-Layer Embeddings. Заявлены контекст до 128K токенов, словарь размером 262K и скользящее окно на 512 токенов, а также настраиваемые режимы рассуждения.

Сильными сторонами являются мультимодальность, большой контекст, возможность локального инференса и наличие вариантов квантизации размером примерно от 4,4 до 8,01 ГБ, а также BF16 и F16. Ограничения включают отсутствие в карточке результатов независимого тестирования, подробностей о поддерживаемых языках помимо английского и конкретных требований к производительности; для мультимодального режима может потребоваться отдельный файл mmproj и совместимый runtime, например llama.cpp. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E4B-it-GGUF

Gemma-4-E4B-it from Google is a 4.5B effective parameter (8B total with Per-Layer Embeddings) multimodal dense model in the Gemma 4 family, optimized for edge deployment on laptops, high-end smartphones, and consumer GPUs with native support for text, images (variable aspect ratio/resolution), audio processing, and configurable thinking modes for step-by-step reasoning. Featuring 42 layers, 512-token sliding window, 128K context length, and 262K vocabulary, it delivers frontier-level performance in agentic workflows, multilingual OCR/handwriting recognition, document/PDF parsing, UI/screen analysis, chart interpretation, object detection with pointing, coding assistance, and low-latency speech-to-text understanding—rivaling models 10-20x larger while maintaining Google's production-grade safety alignments. The instruction-tuned variant excels at on-device autonomous agents via Android AICore/Qualcomm optimizations, with open weights enabling local-first inference (MediaTek/ARM CPUs, NVIDIA RTX) for privacy-focused applications like mobile IDEs, real-time document processing, and structured data extraction in resource-constrained environments.

Model Files

File NameQuant TypeFile SizeFile Link
gemma-4-E4B-it.BF16.ggufBF1615.1 GBDownload
gemma-4-E4B-it.F16.ggufF1615.1 GBDownload
gemma-4-E4B-it.Q2_K.ggufQ2_K4.4 GBDownload
gemma-4-E4B-it.Q3_K_L.ggufQ3_K_L5.02 GBDownload
gemma-4-E4B-it.Q3_K_M.ggufQ3_K_M4.85 GBDownload
gemma-4-E4B-it.Q3_K_S.ggufQ3_K_S4.65 GBDownload
gemma-4-E4B-it.Q4_0.ggufQ4_05.19 GBDownload
gemma-4-E4B-it.Q4_K_M.ggufQ4_K_M5.34 GBDownload
gemma-4-E4B-it.Q4_K_S.ggufQ4_K_S5.2 GBDownload
gemma-4-E4B-it.Q5_0.ggufQ5_05.69 GBDownload
gemma-4-E4B-it.Q5_K_M.ggufQ5_K_M5.76 GBDownload
gemma-4-E4B-it.Q5_K_S.ggufQ5_K_S5.69 GBDownload
gemma-4-E4B-it.Q6_K.ggufQ6_K6.22 GBDownload
gemma-4-E4B-it.Q8_0.ggufQ8_08.01 GBDownload
gemma-4-E4B-it.mmproj-bf16.ggufmmproj-bf16992 MBDownload
gemma-4-E4B-it.mmproj-f16.ggufmmproj-f16992 MBDownload
gemma-4-E4B-it.mmproj-q8_0.ggufmmproj-q8_0560 MBDownload

llama.cpp

LLM inference in C/C++ — https://github.com/ggml-org/llama.cpp

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
be72f50

0 моделей