/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Базовая модель
gemma-4-E2B-it
Библиотека
gguf
Опубликована
16 июн 2026

Ссылки

Hugging Face

Google_Gemma4-E2B-GGUF

NobodyWho
Изображение и текст → текст15 профессий

NobodyWho/Google_Gemma4-E2B-GGUF — это GGUF-квантизация инструкционно настроенной мультимодальной модели Gemma 4 E2B от Google DeepMind, переопубликованная для библиотеки NobodyWho.

1 605скачиваний за 30 дней0лайковвеса обновлены2 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Квантизации BF16, Q8_0 и Q4_K_M предоставлены unsloth; базовая модель — google/gemma-4-E2B-it.

Модель предназначена для диалоговой генерации текста, следования инструкциям, рассуждений и нативного tool calling с грамматически ограниченным выводом. Она поддерживает анализ изображений через дополнительную проекционную модель mmproj-BF16.gguf, работает с текстом и изображениями, поддерживает более 140 языков и рассчитана на контекст до 131 072 токенов. Эффективный размер составляет примерно 2,3 млрд параметров, что делает модель ориентированной на локальное и on-device использование.

Для всех перечисленных вариантов квантизации заявлена успешная проверка tool calling: 14 из 14 тестов. К сильным сторонам относятся мультимодальность, длинный контекст, многоязычность, поддержка вызова инструментов и доступность компактной Q4_K_M-версии. Для работы с изображениями требуется отдельная проекционная модель, а характеристики качества могут зависеть от выбранной квантизации; конкретные результаты бенчмарков в README не приведены. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022моделиII.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

NobodyWho/Google_Gemma4-E2B-GGUF

Overview

GGUF quantization of Google's Gemma 4 E2B instruction-tuned model, re-hosted for NobodyWho. The unsloth build already ships a tool-calling setup and recommended sampling metadata (general.sampling: temp 1.0, top_k 64, top_p 0.95), so nothing needs patching — the model is verified with NobodyWho's test suite. E2B is the smallest, most on-device-friendly Gemma 4 variant — multimodal (text + image), multilingual, and Apache 2.0 licensed.

Model Capabilities

  • Text generation — instruction-following chat
  • Tool calling — native function calling with grammar-constrained output
  • Vision — image understanding via the companion mmproj-BF16.gguf projection model
  • Long context — 128k tokens
  • Multilingual — 140+ languages
  • thinking — capable of reasoning

Available Quantizations

FileApproachTool-calling tests
gemma-4-E2B-it-BF16.ggufSampling embedded upstream14/14
gemma-4-E2B-it-Q8_0.ggufSampling embedded upstream14/14
gemma-4-E2B-it-Q4_K_M.ggufSampling embedded upstream14/14
mmproj-BF16.ggufVision projection (use with any of the above)—

Verified with NobodyWho's tool-calling suite across BF16 / Q8_0 / Q4_K_M (14/14 each, June 2026); vision and multilingual verified per-model. Quant names follow the unsloth gemma-4-E2B-it-GGUF repo.

Quick Start

Using the NobodyWho library:

from nobodywho import Chat

chat = Chat("huggingface:NobodyWho/Google_Gemma4-E2B-GGUF/gemma-4-E2B-it-Q4_K_M.gguf")
response = chat.ask("What is the capital of Denmark?").completed()
print(response)  # The capital of Denmark is Copenhagen.

Vision

from nobodywho import Model, Chat, Prompt, Image, Text

model = Model(
    "huggingface:NobodyWho/Google_Gemma4-E2B-GGUF/gemma-4-E2B-it-Q4_K_M.gguf",
    projection_model_path="huggingface:NobodyWho/Google_Gemma4-E2B-GGUF/mmproj-BF16.gguf",
)
chat = Chat(model=model, system_prompt="You are a helpful assistant.")
response = chat.ask(Prompt([
    Text("What is in this image?"),
    Image("./photo.png"),
])).completed()
print(response)

llama-cpp-python

from llama_cpp import Llama

llm = Llama.from_pretrained(
    repo_id="NobodyWho/Google_Gemma4-E2B-GGUF",
    filename="gemma-4-E2B-it-Q4_K_M.gguf",
)

Model Specifications

  • Parameters: ≈2.3B effective (E2B)
  • Context length: 131,072 tokens
  • License: Apache 2.0
  • Base model: google/gemma-4-E2B-it
  • Architecture: gemma4 (vision-capable)

Licensing / Credits

Licensed under Apache 2.0 (unchanged from upstream). All model credit belongs to Google DeepMind. GGUF quantizations provided by unsloth.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
238b34c

0 моделей

    Создать бенчмарк