qwen3-0.6b-rope-recal-1b
vhallac·Генерация текста
Контрольная версия Qwen3-0.6B, перекалиброванная на FineWeb-Edu с сохранённым RoPE для экспериментального сравнения позиционного кодирования.
Подходит для: сравнение качества моделей с RoPE и без него при одинаковом дообучении · оценка perplexity на англоязычных образовательных веб-текстах · воспроизведение экспериментов по роли позиционного кодирования в языковых моделях
Загрузки на Hugging Face · 28Лайки · 0Контекст · 40 960 токеновВыход на Hugging Face · 29 июл 2026