/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
3,7 млрд
Размер весов
8 ГБ
Архитектура
qwen3 · dense
Библиотека
transformers
Опубликована
9 сен 2026

gmp-kd3e-1-s70pct-lr1e-4_20260828_073925

Генерация текстаТекст → текст4 профессии

Экспериментальная разреженная версия Qwen3 для генерации текста и диалогов с 70% неструктурированной разреженности.

349скачиваний за 30 дней0лайковвеса обновлены9 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

gmp-kd3e-1-s70pct-lr1e-4_20260828_073925 — экспериментальная разреженная версия Qwen3-4B, созданная с помощью capped PGD и цели reverse-KL OPD. В README указано, что модель имеет 70% неструктурированной разреженности; метаданные описывают её как причинную языковую модель Qwen3 примерно на 3,7 млрд параметров с контекстом до 40 960 токенов.

Модель предназначена для генерации текста и диалоговых сценариев. В карточке упомянуты пять успешно пройденных бенчмарков, однако названия тестов и их результаты не приведены. Репозиторий использует Transformers и формат safetensors; лицензия в доступных данных не указана.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • создание связного текста по запросу
  • экспериментальная оценка влияния разреженности на языковую модель

Ограничения

README не приводит названия и результаты упомянутых бенчмарков. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gmp-kd3e-1-s70pct-lr1e-4_20260828_073925

Qwen3-4B, 70% unstructured, capped PGD with reverse-KL OPD objective. 5/5 benchmarks.

Archived from /NHNHOME/log-postech/doyoonkim/models/gmp_s70pct_lr0.0001_onpol_lmda0.33_20260828_073925 on this machine; uploaded after the fact, so the original run log is the source of truth for its metrics.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
cb43e26

0 моделей