Компактная языковая модель GatedDeltaNet, обученная с нуля на SlimPajama для генерации текста и исследовательских экспериментов.

Подходит для: генерация продолжений текста · эксперименты с линейным вниманием и архитектурой GatedDeltaNet · сравнение компактных языковых моделей на языковых бенчмарках