Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
yanggangu/Llama-3.2-1B-Instruct-FT-ScienceQA — дообученная диалоговая языковая модель на базе meta-llama/Llama-3.2-1B-Instruct. Это экспертная модель для ScienceQA из таблицы 1 работы SMAT: Simple and Efficient Merge-Aware Training; обучение выполнено с seed 42. SMAT нацелен на сохранение качества экспертов при последующем слиянии моделей. Модель содержит 1,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 131 072 токенов.
Она принимает текст и генерирует текст; основной сценарий — ответы на вопросы в формате ScienceQA. Лицензия и политика допустимого использования Llama 3.2 распространяются на модель.
Сценарии применения
ответы на вопросы ScienceQA по естественным наукам
генерация объяснений к научным вопросам
эксперименты с экспертными моделями для слияния
исследование обучения с учётом последующего слияния моделей
Ограничения
Модель обучена как эксперт для ScienceQA; качество ответов на другие задачи не заявлено. Для её использования действуют лицензия и политика допустимого использования Llama 3.2.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
A FT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.