/ Модель

Характеристики

Контекст
262 144 токена
Параметры
2 млрд
Размер весов
27,6 ГБ
Лицензия
Apache 2.0
Архитектура
gemma4_text · MoE
Базовая модель
gemma-4-26B-A4B
Опубликована
23 сен 2026

less-is-moe-gemma-4-26b-a4b-s1-128-seq8192-intdim-e-50

Генерация текстаТекст → текст4 профессии

Прореженный на 50% текстовый чекпойнт Gemma 4 MoE для генерации текста с контекстом до 262144 токенов.

326скачиваний за 30 дней0лайковвеса обновлены23 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это текстовый чекпойнт jayzou3773, полученный структурным прореживанием Gemma 4 26B A4B методом Less-is-MoE на основе среднего абсолютного градиента. В модели удалено 50% нейронов FFN маршрутизируемых экспертов; калибровка выполнена на 128 примерах с длиной последовательности 8192 токена, без шага оптимизатора. Чекпойнт содержит причинную языковую модель Gemma 4 в BF16, а модуль обработки изображений исключён.

Модель предназначена для генерации текста и может использоваться в сценариях, где нужен текстовый вариант Gemma 4 с прореженными экспертами. Архитектура — Gemma4ForCausalLM с MoE; метаданные указывают 2 млрд параметров и контекст до 262144 токенов. Поддерживаемый язык из доступных сведений определить нельзя. Репозиторий распространяется по лицензии Apache-2.0.

Сценарии применения

  • генерация продолжений текста
  • создание текстовых ответов в диалоговом приложении
  • локальный запуск текстовой модели Gemma 4
  • эксперименты с влиянием прореживания экспертов на генерацию

Ограничения

Это текстовый чекпойнт: модуль обработки изображений исключён. В README описан этап калибровки без шага оптимизатора, поэтому качество после прореживания отдельно не подтверждено.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

IntDim-E 50% pruned google/gemma-4-26B-A4B

This checkpoint was structurally pruned with the released Less-is-MoE mean-absolute-gradient method. It removes exactly 50% of routed-expert FFN neurons using 128 calibration samples from yentinglin/s1K-1.1-trl-format revision 58a01564d278477da20ead1bcf1cde8e31f36251. The released loader settings are preserved: train, messages, shuffle_seed=1234, seq_length=8192, prefix truncation, no padding, and BF16, with no optimizer step. The exact model-specific token tensors are published at jayzou3773/less-is-moe-s1-calibration-128-seq8192 revision 2a49c84894fe97b29e84c6beb075e9249866ef01. The complete pretrained Gemma 4 causal language-model tower was loaded and pruned in BF16; the vision tower is intentionally excluded from this text-generation checkpoint.

The source-row selection hash is f261e952d4e6d5dec6d37db4ab22636761b215281d33896060fe4467bb352784 and the model-specific token-file hash is 6d1d9ebef111505060d508584dcfaf3f25498b7fc37834a22d3e7ecfa7f791df. Full export and zero-mask equivalence metadata are in experiment-export.json.

Inference requires stock vLLM from the unified Less-is-MoE GPU image. IntDim-E has one uniform expert width. IntDim-L/G retain the routed MoE topology and store compact per-expert widths in config.json.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma4ForCausalLM
Ревизия весов
abecbd3

0 моделей