Экспериментальная байтовая языковая модель с GRU, MoE и 1-битным BitNet для причинной генерации текста.

Подходит для: продолжение текста по английскому промпту · эксперименты с байтовой генерацией текста · исследование сочетания GRU и MoE