/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
7,6 млрд
Размер весов
16,4 ГБ
Архитектура
qwen3 · dense
Библиотека
transformers
Опубликована
20 авг 2026

gmp-kd3e-1-s60pct-lr5e-5_20260820_033814

Генерация текстаТекст → текст3 профессии

Экспериментальная разреженная версия Qwen3-8B для генерации текста и изучения методов восстановления качества после прореживания.

342скачиваний за 30 дней0лайковвеса обновлены9 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

gmp-kd3e-1-s60pct-lr5e-5_20260820_033814 — экспериментальная разреженная версия Qwen3-8B, опубликованная аккаунтом cosmos1030. В модели применено неструктурированное прореживание с разреженностью 60%; README описывает её как базовый вариант ALPS с восстановлением через NTP, KD и OPD. Это причинная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM, примерно 7,6 млрд параметров и контекстом до 40 960 токенов; формат весов — safetensors, для запуска используется Transformers.

Модель предназначена для генерации текста и диалогового применения, в том числе для изучения влияния прореживания и методов восстановления на качество Qwen3-8B. README предупреждает, что исходный экспериментальный журнал является основным источником метрик: репозиторий архивирован и загружен после завершения запуска, поэтому приведённые в нём сведения не заменяют результаты исходного журнала. Лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация текста с разреженной языковой моделью
  • создание диалогового ассистента на базе Qwen3
  • исследование неструктурированного прореживания нейросетей
  • сравнение методов восстановления модели после прореживания

Ограничения

README указывает, что репозиторий загружен после завершения эксперимента, а исходный журнал запуска является основным источником метрик; в предоставленной карточке метрики не приведены. Лицензия в доступных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gmp-kd3e-1-s60pct-lr5e-5_20260820_033814

Qwen3-8B, 60% unstructured, ALPS support + NTP/KD/OPD recovery (the ALPS+recovery baseline, wandb 1v1lgjqt).

Archived from /NHNHOME/log-postech/doyoonkim/models/gmp_s60pct_lr5e-05_onpol_lmda0.33_20260820_033814 on this machine; uploaded after the fact, so the original run log is the source of truth for its metrics.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
8070b85

0 моделей