Небольшая англоязычная авторегрессионная модель Stream Mixer для генерации текста и экспериментов BabyLM на ограниченном корпусе обучения.

Подходит для: продолжение английского текста · сравнение языковых способностей компактных языковых моделей · оценка грамматических предпочтений на заданиях BLiMP