Экспериментальная MoE-модель для генерации текста, которая пока воспроизводит Qwen3-1.7B и служит каркасом для обучения экспертов и маршрутизаторов.

Подходит для: генерация текста и диалоговые ответы · эксперименты с обучением экспертов MoE · обучение маршрутизаторов между экспертами