Эксперт SMAT на базе Llama 3.1 8B Instruct для генерации текста и диалогов, обученный с целью сохранить качество задачи и облегчить слияние моделей.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это экспертная модель SMAT на основе инструкционно настроенной плотной языковой модели Meta Llama 3.1 8B Instruct. В README указано, что она соответствует эксперту из таблицы 1 работы «SMAT: Simple and Efficient Merge-Aware Training» и обучена с seed 42. SMAT обучает экспертные модели, сохраняющие качество на целевой задаче и облегчающие последующее слияние моделей.
Модель предназначена для генерации текста и диалогового использования; название репозитория указывает на ScienceQA, однако README не уточняет конкретные результаты или сценарии применения в этой задаче. Она содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Базовая модель поддерживает контекст до 131 072 токенов и многоязычные диалоги.
Модель основана на Meta Llama 3.1 8B Instruct и распространяется на условиях лицензии Llama 3.1 с применимыми правилами допустимого использования. README не приводит измерений качества этого чекпойнта, поэтому его пригодность для конкретных задач ScienceQA следует оценивать отдельно.
README не сообщает метрики качества или оценки на ScienceQA. Соблюдайте лицензию Llama 3.1 и её правила допустимого использования.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
A SMAT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.
Built with Llama. The included Llama 3.1 license and acceptable-use policy apply.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…