Aether-492B — заявленная универсальная диалоговая MoE-языковая модель для генерации текста, рассуждений, программирования и мультиязычных задач.

Подходит для: ответы на вопросы и диалог с пользователем · суммаризация документов и извлечение сведений · генерация, объяснение и отладка кода

Компактная модель appvoid для генерации текста с контекстом до 1024 токенов.

Подходит для: генерация коротких текстовых продолжений · эксперименты с компактной авторегрессионной моделью · тестирование генерации текста в Transformers

AETHER-10M — компактная экспериментальная языковая модель посттрансформерной архитектуры для генерации текста и проверки алгоритмических рассуждений.

Подходит для: генерация продолжений английского текста · эксперименты с альтернативами архитектуре Transformer · проверка арифметических рассуждений на коротких последовательностях

Базовая MoE-языковая модель Aether с семью механизмами внимания для продолжения текста и исследований архитектуры.

Подходит для: продолжение текста на английском и корейском языках · бенчмаркинг базовой языковой модели · сравнение запусков архитектуры с разными механизмами внимания

Предобученная языковая MoE-модель AETHORIA-AI с детерминированной хеш-маршрутизацией для исследований архитектуры и продолжения обучения.

Подходит для: изучение детерминированной маршрутизации экспертов в языковых моделях · воспроизведение экспериментов по предобучению MoE · продолжение обучения на технических и агентно-ориентированных текстовых данных