/ Модель

Характеристики

Контекст
32 768 токенов
Размер весов
9,9 ГБ
Лицензия
Gemma
Архитектура
gemma3n · dense
Базовая модель
gemma-3n-E4B-it
Библиотека
transformers
Опубликована
26 июн 2025

gemma-3n-E4B-it-unsloth-bnb-4bit

Изображение и текст → текст11 профессий

unsloth/gemma-3n-E4B-it-unsloth-bnb-4bit — это 4-битная версия Gemma 3n E4B-it, разработанная Unsloth на базе модели Google gemma-3n-E4B-it.

1 032скачиваний за 30 дней9лайковвеса обновлены11 июл 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для диалоговых и текстовых задач, включая генерацию ответов и использование в приложениях на базе Transformers. В карточке указана поддержка английского языка и формат image-text-to-text, однако текущие рекомендации README подтверждают поддержку только текста.

Модель относится к семейству Gemma 3n и имеет размер 4B; используется 4-битное квантование bnb, рассчитанное на снижение требований к памяти. Максимальная длина контекста составляет 32K токенов. Для запуска рекомендуется Transformers или совместимые инструменты, а для Gemma 3n указаны параметры temperature 1.0, top_k 64 и top_p 0.95. Unsloth заявляет ускорение до 2 раз и снижение использования памяти до 80% для сценариев тонкой настройки, но конкретные результаты зависят от оборудования и конфигурации.

Основные ограничения — отсутствие заявленной поддержки изображений в текущей версии, ограниченная информация о точной архитектуре и отсутствие подробных результатов оценки качества в README. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать условия этой лицензии.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face
  • Currently only text is supported.
  • Ollama: ollama run hf.co/unsloth/gemma-3n-E4B-it-GGUF:Q4_K_XL - auto-sets correct chat template and settings
  • Set temperature = 1.0, top_k = 64, top_p = 0.95, min_p = 0.0
  • Gemma 3n max tokens (context length): 32K. Gemma 3n chat template:
<bos><start_of_turn>user\nHello!<end_of_turn>\n<start_of_turn>model\nHey there!<end_of_turn>\n<start_of_turn>user\nWhat is 1+1?<end_of_turn>\n<start_of_turn>model\n

🦥 Fine-tune Gemma 3n with Unsloth

Unsloth supportsFree NotebooksPerformanceMemory use
Gemma-3n-E4B▶️ Start on Colab2x faster80% less
GRPO with Gemma 3 (1B)▶️ Start on Colab2x faster80% less
Gemma 3 (4B)▶️ Start on Colab2x faster60% less
Qwen3 (14B)▶️ Start on Colab2x faster60% less
DeepSeek-R1-0528-Qwen3-8B (14B)▶️ Start on Colab2x faster80% less
Llama-3.2 (3B)▶️ Start on Colab2.4x faster58% less

Gemma-3n-E4B model card

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Готовая квантизация поддерживается только для текстовых LLM (vLLM).

Класс архитектуры
Gemma3nForConditionalGeneration
Ревизия весов
81576a8

0 моделей