Англоязычная модель Mamba2 с тремя блоками внимания, маршрутизируемыми по энтропии, для генерации текста и исследований гибридных архитектур.
Подходит для: генерация продолжения англоязычного текста · эксперименты с гибридами рекуррентных сетей и внимания · изучение маршрутизации внимания по неопределённости