Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Moist_Theia_21B — объединённая языковая модель, созданная сообществом mergekit из BeaverAI/NeMoist-21B-v1a и TheDrummer/Theia-21B-v2 методом SLERP. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и примерно 20,7 млрд параметров; репозиторий содержит веса в формате safetensors. Конфигурация с V-образным распределением коэффициента слияния сочетает вклад моделей в разных слоях.
Модель предназначена для генерации текста и чат-диалогов. Её можно использовать для ролевых бесед, написания историй и творческих текстов, опираясь на назначение базовой Theia-21B-v2. В метаданных указан контекст до 1 024 000 токенов, однако фактическое качество на такой длине по имеющимся сведениям не подтверждено.
Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточками исходных моделей и репозитория. Характеристики модели унаследованы от объединённых чекпойнтов, а специальных гарантий качества или независимой оценки в README нет.
Сценарии применения
ролевые диалоги с персонажами
написание художественных историй
создание творческих текстов
чат-общение с языковой моделью
Ограничения
Языки модели и лицензия в предоставленных данных не указаны; условия использования нужно сверить с карточками исходных моделей. Заявленный контекст в 1 024 000 токенов не подтверждён результатами оценки в README.
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель