/ Модель

Характеристики

Контекст
131 072 токена
Лицензия
Gemma
Архитектура
gemma4 · dense
Базовая модель
gemma-4-E4B-it
Библиотека
transformers
Опубликована
11 июн 2026

gemma-4-E4B-20260610190427-v4

Изображение и текст → текст

Мультимодальная Gemma 4 E4B, дообученная peerbench для общения и генерации текста на немецком языке с поддержкой входных изображений.

8скачиваний за 30 дней0лайковвеса обновлены11 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Мультимодальная модель Gemma 4 E4B Instruct, дообученная командой peerbench на немецкоязычном корпусе диалогов. Модель предназначена для общего общения и генерации текста на немецком языке; благодаря базовой архитектуре с поддержкой зрения она также принимает изображения и формирует текстовые ответы о них.

Это дообучение с учителем (SFT) через LoRA на базе unsloth/gemma-4-E4B-it. При обучении использовались веса bf16, адаптеры LoRA применялись к языковым слоям и attention/MLP, а vision-часть оставалась замороженной. Корпус включал около 28 тысяч примеров с упором на естественный немецкий язык. Модель распространяется под лицензией Gemma. Контекст обучения ограничивался 2048 токенами; это значение не подтверждает максимальную длину контекста при использовании.

Сценарии применения

  • ответы на вопросы на немецком языке
  • немецкоязычный чат-помощник
  • составление и редактирование немецких текстов
  • описание изображений на немецком языке

Ограничения

Дообучение ориентировано на немецкий язык, поэтому качество на других языках может быть ниже. Vision-часть при обучении оставалась замороженной; максимальная длина контекста при использовании не установлена по имеющимся данным.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E4B — German SFT — gemma4-de-v4 (20260610190427 UTC)

Fine-tuned unsloth/gemma-4-E4B-it on a curated, native-heavy German SFT corpus to improve general German skill (not a single benchmark). SFT · LoRA · bf16 · reasoning OFF.

Variant: v4

Compute

  • machine: 1x NVIDIA H100 80GB (a3-highgpu-1g, GCP us-central1-b)
  • training wall-time: 110.2 min (1.0 epoch(s))
  • final train_loss: 1.7823

Training parameters

  • base: unsloth/gemma-4-E4B-it · quant bf16 (load_in_4bit=False, no QLoRA)
  • lora_r 128 · alpha 256 · dropout 0.0 · target language+attn+mlp (vision frozen)
  • lr 5e-05 · adamw_8bit · linear · warmup_steps 100
  • per_device_batch 16 · grad_accum 1 · eff_batch 16 · max_seq 2048 · seed 3407
  • chat_template gemma-4 (non-thinking) · train_on_responses_only

Data

  • corpus: peerbench/gemma4-german-sft-corpus (split gemma4-de-v4) — 27996 rows
  • native-heavy German + high-quality MT + balanced m_arc MCQ; per-source 20% cap; lang-ID + dedup; slimorca / ultra_chat excluded (noise / verbosity).

Logging

  • W&B gaa-mdk (entity forest-wb), run gemma-4-E4B-v4__sftmix-r128__20260610190427 · date_utc 20260610190427

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma4ForConditionalGeneration
Ревизия весов
384ba05

0 моделей