Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Llama-3.2-1B-Instruct-SMAT-C-STANCE — экспертная модель, обученная методом SMAT (Simple and Efficient Merge-Aware Training) на базе Llama 3.2 1B Instruct. Она создана в рамках исследования с целью сохранить качество на целевой задаче и облегчить последующее объединение модели с другими экспертами. В карточке указано, что это эксперт из таблицы 1 статьи SMAT, обученный с seed 42.
Модель использует плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст для генерации текста; метаданные указывают контекст до 131 072 токенов и возможность диалога. Название C-STANCE указывает на целевой сценарий, однако README не раскрывает его подробнее. Применяются лицензия Llama 3.2 и соответствующая политика допустимого использования Meta.
Сценарии применения
диалоговая генерация текста на базе Llama
эксперименты со слиянием языковых моделей
оценка экспертных моделей, обученных методом SMAT
Ограничения
README не уточняет целевую задачу C-STANCE и не приводит результатов оценки; применяются лицензия Llama 3.2 и её политика допустимого использования.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
A SMAT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.