/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Архитектура
gemma4 · dense
Базовая модель
gemma-4-E2B-it
Библиотека
transformers
Опубликована
5 июн 2026

Ссылки

Hugging Face

gemma-4-E2B-it-GGUF

prithivMLmods
Изображение и текст → текст15 профессий

gemma-4-E2B-it-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google и представленная в формате GGUF пользователем prithivMLmods.

1 003скачиваний за 30 дней2лайкавеса обновлены7 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для локального запуска на смартфонах, ноутбуках, Raspberry Pi, IoT-устройствах и потребительских GPU, включая сценарии с llama.cpp. Модель подходит для агентных рабочих процессов, OCR, включая многоязычный и рукописный текст, анализа документов и PDF, понимания интерфейсов и экранов, диаграмм и объектов, помощи в программировании, извлечения структурированных данных и задач, требующих рассуждений.

Заявлены 2,3 млрд эффективных параметров и 5,1 млрд параметров всего, 35 слоёв, 512-токенное скользящее окно, контекст до 128K токенов и словарь из 262K элементов. Модель поддерживает текст, изображения с переменным соотношением сторон и разрешением, а также аудио; предусмотрены настраиваемые режимы рассуждений. Указан английский язык. Доступны варианты BF16, F16 и квантизации от Q2_K до Q8_0, а также отдельные multimodal projector-файлы, что позволяет выбирать между качеством, размером и требованиями к памяти.

Сильные стороны модели — мультимодальность, большой контекст, локальное выполнение и низкие требования к ресурсам; заявлена оптимизация для чипов Qualcomm и MediaTek через Android AICore. Ограничения включают зависимость мультимодальных возможностей от совместимого projector-файла и программного обеспечения, а также отсутствие в README подробных результатов бенчмарков, сведений о поддерживаемых языках кроме английского и точных требований к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельI.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E2B-it-GGUF

Gemma-4-E2B-it from Google is an ultra-efficient 2.3B effective parameter (5.1B total with Per-Layer Embeddings) multimodal dense model in the Gemma 4 family, purpose-built for on-device deployment across smartphones, laptops, Raspberry Pi, and IoT edge hardware with native support for text, images (variable aspect ratio/resolution), audio, and configurable thinking modes for advanced reasoning. Featuring 35 layers, 512-token sliding window, 128K context length, and 262K vocabulary, it excels at agentic workflows, OCR (multilingual/handwriting), document/PDF parsing, UI/screen understanding, chart comprehension, object detection, coding assistance, and low-latency inference optimized for Qualcomm/MediaTek chips via Android AICore—delivering frontier-level intelligence rivaling models 20x larger while consuming minimal RAM/battery. The instruction-tuned variant prioritizes seamless integration for mobile developers prototyping autonomous agents, with safety protocols matching Google's proprietary standards and open weights enabling local-first AI servers on consumer GPUs for reasoning-heavy tasks like IDE assistance and structured data extraction.

Model Files

File NameQuant TypeFile SizeFile Link
gemma-4-E2B-it.BF16.ggufBF169.31 GBDownload
gemma-4-E2B-it.F16.ggufF169.31 GBDownload
gemma-4-E2B-it.Q2_K.ggufQ2_K2.99 GBDownload
gemma-4-E2B-it.Q3_K_L.ggufQ3_K_L3.28 GBDownload
gemma-4-E2B-it.Q3_K_M.ggufQ3_K_M3.2 GBDownload
gemma-4-E2B-it.Q3_K_S.ggufQ3_K_S3.11 GBDownload
gemma-4-E2B-it.Q4_0.ggufQ4_03.36 GBDownload
gemma-4-E2B-it.Q4_K_M.ggufQ4_K_M3.43 GBDownload
gemma-4-E2B-it.Q4_K_S.ggufQ4_K_S3.37 GBDownload
gemma-4-E2B-it.Q5_0.ggufQ5_03.6 GBDownload
gemma-4-E2B-it.Q5_K_M.ggufQ5_K_M3.63 GBDownload
gemma-4-E2B-it.Q5_K_S.ggufQ5_K_S3.6 GBDownload
gemma-4-E2B-it.Q6_K.ggufQ6_K3.85 GBDownload
gemma-4-E2B-it.Q8_0.ggufQ8_04.95 GBDownload
gemma-4-E2B-it.mmproj-bf16.ggufmmproj-bf16987 MBDownload
gemma-4-E2B-it.mmproj-f16.ggufmmproj-f16987 MBDownload
gemma-4-E2B-it.mmproj-q8_0.ggufmmproj-q8_0557 MBDownload

llama.cpp

LLM inference in C/C++ — https://github.com/ggml-org/llama.cpp

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
a30db4f

0 моделей

    Создать бенчмарк