Экспериментальная базовая MoE-модель на 1 млрд параметров для продолжения текста и исследований языкового моделирования.

Подходит для: продолжение короткого текстового фрагмента · эксперименты с базовыми языковыми моделями MoE · оценка архитектуры с чередованием Gated DeltaNet и плотного внимания

Диалоговая языковая модель на 122,2 млрд параметров, полученная слиянием двух моделей Mistral для генерации текста и прозы.

Подходит для: диалог с языковой моделью · создание художественной прозы · продолжение заданного текста

Слитая модель Mistral на 169,3 млрд параметров для диалогов и генерации текста с контекстом до 131 072 токенов.

Подходит для: ведение диалогов с пользователем · генерация связного текста по запросу · создание длинных текстов с использованием большого контекста