Предобученная языковая MoE-модель AETHORIA-AI с детерминированной хеш-маршрутизацией для исследований архитектуры и продолжения обучения.
Подходит для: изучение детерминированной маршрутизации экспертов в языковых моделях · воспроизведение экспериментов по предобучению MoE · продолжение обучения на технических и агентно-ориентированных текстовых данных