Предварительно обученная модель Gated DeltaNet на 1,5 млрд параметров с энтропийно управляемыми блоками внимания для генерации текста и исследований гибридных архитектур.
Подходит для: генерация продолжений текста · исследование гибридов рекуррентных сетей и внимания · эксперименты с маршрутизацией внимания по неопределённости