/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
gemma-4-E2B-it
Библиотека
llama.cpp
Опубликована
3 мая 2026

gemma-4-E2B-it-GGUF

Генерация текстаТекст → текст4 профессии

Это набор квантованных моделей в формате GGUF для базовой модели google/gemma-4-E2B-it. Репозиторий Jessylg27 предоставляет варианты, совместимые с llama.cpp; исходная модель разработана Google.

454скачиваний за 30 дней0лайковвеса обновлены3 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через llama.cpp или Ollama.

Доступны версии с разными уровнями квантования: от Q2_K до Q8_0, а также вариант F16 как неквантованный эталон в формате GGUF. Выбор варианта позволяет находить компромисс между размером файла, требованиями к памяти и сохранением качества, однако конкретные характеристики производительности и качества в README не приведены. Сведения об архитектуре, точном размере, поддерживаемых языках, модальностях и длине контекста отсутствуют.

Модель распространяется по лицензии Apache-2.0. Для использования необходим совместимый рантайм, например llama.cpp или Ollama. Ограничения связаны с возможной потерей качества при сильном квантовании и отсутствием подробных данных о результатах тестирования и особенностях применения.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E2B-it GGUF

Quantized GGUF versions of google/gemma-4-E2B-it.

Files

  • F16: gemma-4-E2B-it-f16.gguf (unquantized GGUF reference)
  • Q2_K: gemma-4-E2B-it-Q2_K.gguf
  • Q3_K_S: gemma-4-E2B-it-Q3_K_S.gguf
  • Q3_K_M: gemma-4-E2B-it-Q3_K_M.gguf
  • Q3_K_L: gemma-4-E2B-it-Q3_K_L.gguf
  • Q4_0: gemma-4-E2B-it-Q4_0.gguf
  • Q4_1: gemma-4-E2B-it-Q4_1.gguf
  • Q4_K_S: gemma-4-E2B-it-Q4_K_S.gguf
  • Q4_K_M: gemma-4-E2B-it-Q4_K_M.gguf
  • Q5_0: gemma-4-E2B-it-Q5_0.gguf
  • Q5_1: gemma-4-E2B-it-Q5_1.gguf
  • Q5_K_S: gemma-4-E2B-it-Q5_K_S.gguf
  • Q5_K_M: gemma-4-E2B-it-Q5_K_M.gguf
  • Q6_K: gemma-4-E2B-it-Q6_K.gguf
  • Q8_0: gemma-4-E2B-it-Q8_0.gguf

Usage with llama.cpp

bash llama-cli -hf Jessylg27/gemma-4-E2B-it-GGUF -m gemma-4-E2B-it-Q4_K_M.gguf -p "Bonjour, explique-moi ton role."

Usage with Ollama

Create a Modelfile:

txt FROM ./gemma-4-E2B-it-Q4_K_M.gguf

Then:

bash ollama create gemma-4-e2b-it-gguf -f Modelfile ollama run gemma-4-e2b-it-gguf

Original model

Base model: google/gemma-4-E2B-it

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
855770c

0 моделей