Экспериментальная разреженная версия Qwen3 для диалоговой генерации текста и оценки метода reverse-KL OPD.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Экспериментальная чат-модель генерации текста на базе Qwen3, опубликованная аккаунтом cosmos1030. В README указано, что это Qwen3-4B с 50% неструктурированной разреженностью, обученная методом uncapped PGD с целевой функцией reverse-KL OPD; обучение завершено на шаге 2048 из 2048. Метаданные описывают архитектуру как плотную Qwen3ForCausalLM с 3,7 млрд параметров и контекстом до 40 960 токенов.
Модель предназначена для диалоговой генерации текста и экспериментальной оценки влияния разреживания и обучения с reverse-KL OPD. Исходный запуск архивирован и загружен позднее; README указывает, что исходный журнал запуска является основным источником метрик. Оценка завершилась с ошибкой после одного бенчмарка, поэтому качество по бенчмаркам подтвердить нельзя. Репозиторий содержит веса safetensors; сведения о лицензии не приведены.
Оценка модели завершилась сбоем после одного бенчмарка, поэтому подтверждённых результатов качества нет. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Qwen3-4B, 50% unstructured, uncapped PGD with reverse-KL OPD objective. Training finished (2048/2048); eval crashed after 1 benchmark.
Archived from /NHNHOME/log-postech/doyoonkim/models/gmp_s50pct_lr5e-05_onpol_lmda0.33_20260828_125050 on this machine; uploaded after the fact, so the original run log is the source of truth for its metrics.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Репозиторий недоступен на Hugging Face.