Характеристики

Контекст: 7 999 токенов
Параметры: 68,1 млн
Лицензия: CC BY-NC-SA 4.0
Архитектура: modernbert · dense
Базовая модель: ettin-encoder-68m
Библиотека: transformers
Опубликована: 19 авг 2026

Ссылки

Hugging Face

grug-ettin-68m-meetingbank

akshayballal

Разметка токеновТекст → label6 профессий

Англоязычный классификатор токенов ModernBERT, который сжимает промпты, сохраняя важные токены и отбрасывая остальные.

11скачиваний за 30 дней0лайковвеса обновлены19 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

grug-ettin-68m-meetingbank — модель-классификатор токенов для сжатия текстовых промптов: она предсказывает, какие токены сохранить, а какие отбросить. Модель разработана Akshay Ballal и обучена с помощью grug на данных microsoft/MeetingBank-LLMCompressed; её архитектура — ModernBERT, размер — 68,1 млн параметров, максимальный контекст — 7 999 токенов.

Модель предназначена для сокращения промптов перед передачей языковой модели, например, чтобы уменьшить объём текста при сохранении важных сведений. В примере README сжатие выполняется с заданным коэффициентом сохранения 0,4. Это англоязычная модель на базе jhu-clsp/ettin-encoder-68m. Для обучения использован корпус с лицензией CC-BY-NC-SA-4.0; модель наследует ограничение на некоммерческое использование.

Сценарии применения

сокращение промптов перед отправкой в LLM
уменьшение объёма текста при сохранении ключевой информации
сжатие расшифровок встреч для контекстного окна модели

Ограничения

Обучена на корпусе MeetingBank-LLMCompressed, поэтому пригодность для других типов текста может различаться. Лицензия CC-BY-NC-SA-4.0 ограничивает коммерческое использование.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

grug prompt compressor

Binary preserve/discard token classifier for prompt compression, trained with grug train on microsoft/MeetingBank-LLMCompressed.

import grug
from grug.backends.modern import ModernBackend

comp = grug.Compressor(ModernBackend(model_name='akshayballal/grug-ettin-68m-meetingbank-v2'))
result = comp.compress(text, rate=0.4)

Training

{
  "model_name": "jhu-clsp/ettin-encoder-68m",
  "epochs": 6,
  "learning_rate": 1e-05,
  "batch_size": 32,
  "max_length": 512,
  "weight_decay": 0.01,
  "warmup_ratio": 0.06,
  "device": "cuda",
  "seed": 0,
  "push_to": "akshayballal/grug-ettin-68m-meetingbank-v2",
  "select_on": "val_f1",
  "patience": 2,
  "cs_weight": 0.0
}

Final epoch

{
  "epoch": 6,
  "train_loss": 0.32849070216068116,
  "val_loss": 0.3391664388044825,
  "val_accuracy": 0.848027204080612,
  "val_precision": 0.8069981607731251,
  "val_recall": 0.7997938874754437,
  "val_f1": 0.8033798734488425,
  "val_perplexity": 1.4037769687306128
}

The training corpus is CC-BY-NC-SA-4.0, so this model inherits a non-commercial constraint.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: ModernBertForTokenClassification
Ревизия весов: 0deb97c