Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это дообученная диалоговая модель на 1,2 млрд параметров, созданная на базе Meta Llama 3.2 1B Instruct. В README она обозначена как эксперт FOMC из таблицы 1 работы SMAT: Simple and Efficient Merge-Aware Training, обученный с seed 42. SMAT предназначен для обучения экспертов, сохраняющих качество на своей задаче и пригодных для последующего слияния моделей.
Модель использует плотную архитектуру LlamaForCausalLM, принимает текст и генерирует текст в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и библиотеку Transformers. Специализированные сценарии и поддерживаемые языки для этого эксперта в карточке не описаны; назначение FOMC в README не расшифровано. Применяются лицензия Llama 3.2 и соответствующая политика допустимого использования.
Сценарии применения
эксперименты с обучением экспертов, пригодных для слияния
исследование методов merge-aware training
генерация текста в диалоговом формате на базе Llama 3.2
Ограничения
Карточка не раскрывает, что означает FOMC, и не приводит результаты оценки или конкретные сценарии применения этого эксперта. Использование регулируется лицензией Llama 3.2 и её политикой допустимого использования.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
A FT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.