Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это дообученная инструкционная языковая модель yanggangu на основе meta-llama/Llama-3.1-8B-Instruct, подготовленная как эксперт для эксперимента SMAT (Simple and Efficient Merge-Aware Training), seed 42. Модель предназначена для генерации текста и диалогов; обучение нацелено на сохранение качества задач при последующем слиянии моделей.
Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст. Заявленная длина контекста — 131 072 токена. В репозитории представлены веса Safetensors. Для использования применяются лицензия Llama 3.1 и соответствующая политика допустимого использования.
Сценарии применения
генерация текста по инструкции
ведение диалогов с языковой моделью
эксперименты по слиянию LLM
оценка сохранения качества модели после merge
Ограничения
Карточка не приводит результатов оценки качества или подробностей обучающих данных. Применяются ограничения лицензии Llama 3.1 и её политики допустимого использования.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
A FT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.