/ Модель

Характеристики

Размер весов
51,6 ГБ
Архитектура
gemma4 · dense
Базовая модель
gemma-4-26B-A4B
Библиотека
transformers
Опубликована
17 июл 2026

gemma-4-26B-A4B-intellect3-sft-step-512

Изображение и текст → текст

Промежуточный чекпойнт Gemma 4, дообученный Prime Intellect на текстовых инструкциях для диалоговой генерации ответов.

9скачиваний за 30 дней0лайковвеса обновлены17 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это промежуточный чекпойнт BF16 модели Gemma 4 26B-A4B, дообучаемый Prime Intellect на выборке датасета INTELLECT-3 SFT. Он соответствует шагу 512 из 1024 в запуске SFT длиной в одну эпоху; исходная модель разработана Google DeepMind. Архитектура Gemma4ForConditionalGeneration сохраняет мультимодальные тензоры и метаданные процессора, включая поддержку изображений, однако данные дообучения были только текстовыми.

Модель предназначена для генерации ответов в диалоговом формате с шаблоном GLM-4.5 Air, адаптированным к токенизатору Gemma 4. Контекст обучения составлял 32 768 токенов. Это незавершённый обучающий чекпойнт, поэтому его качество и пригодность для прикладного использования могут отличаться от финальной версии; для текстовых диалогов следует применять указанный шаблон, а не стандартный шаблон Gemma. В метаданных формат файлов указан как safetensors; README описывает веса как BF16. Лицензия в предоставленных данных не указана.

Сценарии применения

  • эксперименты с промежуточным чекпойнтом SFT
  • генерация ответов в диалоговом формате GLM-4.5
  • оценка поведения Gemma 4 после дообучения на INTELLECT-3 SFT

Ограничения

Это промежуточный чекпойнт на шаге 512 из 1024, поэтому обучение не завершено. Данные SFT были только текстовыми; для диалогов нужен шаблон GLM-4.5 Air, а не стандартный шаблон Gemma.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma 4 26B-A4B INTELLECT-3 SFT — step 512

Intermediate BF16 checkpoint from a one-epoch SFT run over a roughly 1 GB stratified sample of INTELLECT-3 SFT. This is training step 512 of 1024.

  • Sequence length: 32,768
  • Global batch size: 8 packed sequences
  • Optimizer: AdamW, learning rate 1e-5, max gradient norm 0.2
  • Schedule: linear decay over the final 250 steps
  • Attention: FlashAttention 4 with packed-example boundary masking
  • Chat format: GLM-4.5 Air renderer over a Gemma 4 tokenizer whose unused filler tokens were reassigned to the GLM role/tool/thinking tokens

The complete Gemma 4 multimodal tensors and processor metadata are retained, but the SFT data itself was text-only. Use the GLM-4.5 renderer/template for text turns; this checkpoint does not use Google's Gemma chat template.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma4ForConditionalGeneration
Ревизия весов
40e7047

0 моделей