Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
yanggangu/Llama-3.1-8B-Instruct-SMAT-MeetingBank — экспертная модель, обученная методом SMAT (Simple and Efficient Merge-Aware Training) на базе инструкционной Meta Llama 3.1 8B Instruct. Она предназначена для генерации текста в диалоговом формате; карточка указывает, что модель взята из таблицы 1 работы SMAT и обучена с seed 42. SMAT обучает экспертов сохранять качество на своей задаче и облегчать последующее слияние моделей.
Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Доступна в формате safetensors и использует библиотеку Transformers. Применяются лицензия Llama 3.1 и соответствующая политика допустимого использования. README не уточняет отдельную задачу MeetingBank, языки или измеренные результаты этого эксперта.
Сценарии применения
генерация ответов в диалоговом формате
экспериментальная оценка обучения экспертов методом SMAT
использование эксперта как компонента при слиянии моделей
Ограничения
README не приводит результаты оценки качества, целевую задачу MeetingBank или поддерживаемые языки этого эксперта. Для использования действуют лицензия Llama 3.1 и её политика допустимого использования.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
A SMAT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.