Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
FusionNet_7Bx2_MoE_14B — экспериментальная дообученная языковая модель семейства Mixtral с архитектурой MoE, представленная автором TomGrc. Она предназначена для генерации текста на английском языке и экспериментов с методом Mixture of Experts. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов; README приводит другую оценку размера — 12,9 млрд параметров. Модель распространена в формате Safetensors.
В README приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии MIT. Карточка описывает её как экспериментальную, поэтому результаты бенчмарков не гарантируют качество для конкретных прикладных задач.
Сценарии применения
генерация текста на английском языке
эксперименты с архитектурой Mixture of Experts
оценка языковых моделей на задачах рассуждения
сравнение результатов на бенчмарках AI2 Reasoning Challenge и HellaSwag
Ограничения
README приводит размер 12,9 млрд параметров, тогда как метаданные указывают 7,1 млрд. Модель описана как эксперимент для изучения MoE; результаты бенчмарков не подтверждают пригодность для конкретных прикладных сценариев.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Fine-tuned model on English language using MoE method.
Model description
The FusionNet is a model to experiment with the MoE method, which could significantly increase the performance of the original model. The FusionNet has 12.9B parameters, and this model is fine-tuned. Enjoy!