/ Модель

Характеристики

Размер весов
51,6 ГБ
Архитектура
gemma4 · dense
Базовая модель
gemma-4-26B-A4B
Библиотека
transformers
Опубликована
17 июл 2026

gemma-4-26B-A4B-intellect3-sft-step-768

Изображение и текст → текст

Промежуточный чекпойнт SFT на базе Gemma 4 26B-A4B для экспериментов с текстовыми диалогами и рассуждениями в формате GLM-4.5.

13скачиваний за 30 дней0лайковвеса обновлены17 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Промежуточный чекпойнт дообучения Gemma 4 26B-A4B, созданный в рамках одного прохода SFT по стратифицированной выборке датасета INTELLECT-3 SFT. Разработчик — kalomaze; опубликован шаг 768 из 1024. Модель основана на google/gemma-4-26B-A4B и сохраняет мультимодальные веса и метаданные процессора, однако данные самого дообучения были только текстовыми.

Чекпойнт предназначен для экспериментов с диалогами и рассуждениями в формате GLM-4.5: для текстовых сообщений требуется соответствующий renderer/template, а шаблон чата Gemma не используется. Контекст обучения составлял 32 768 токенов. Это незавершённый промежуточный шаг обучения, поэтому качество может отличаться от итоговой модели. В README лицензия не указана.

Сценарии применения

  • эксперименты с текстовыми диалогами в формате GLM-4.5
  • оценка промежуточного этапа дообучения Gemma 4
  • исследование поведения модели на примерах INTELLECT-3 SFT

Ограничения

Это промежуточный чекпойнт на шаге 768 из 1024, поэтому его качество и поведение могут отличаться от итоговой модели. Для текстовых диалогов требуется шаблон GLM-4.5; данные дообучения были только текстовыми.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma 4 26B-A4B INTELLECT-3 SFT — step 768

Intermediate BF16 checkpoint from a one-epoch SFT run over a roughly 1 GB stratified sample of INTELLECT-3 SFT. This is training step 768 of 1024.

  • Sequence length: 32,768
  • Global batch size: 8 packed sequences
  • Optimizer: AdamW, learning rate 1e-5, max gradient norm 0.2
  • Schedule: linear decay over the final 250 steps
  • Attention: FlashAttention 4 with packed-example boundary masking
  • Chat format: GLM-4.5 Air renderer over a Gemma 4 tokenizer whose unused filler tokens were reassigned to the GLM role/tool/thinking tokens

The complete Gemma 4 multimodal tensors and processor metadata are retained, but the SFT data itself was text-only. Use the GLM-4.5 renderer/template for text turns; this checkpoint does not use Google's Gemma chat template.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma4ForConditionalGeneration
Ревизия весов
1dc87ba

0 моделей