Экспертная версия Llama 3.1 8B Instruct, обученная методом SMAT для генерации текста с учётом последующего слияния моделей.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Llama-3.1-8B-Instruct-SMAT-C-STANCE — экспертная модель, созданная методом SMAT (Simple and Efficient Merge-Aware Training) на основе Meta Llama 3.1 8B Instruct. В README указано, что это эксперт из таблицы 1 статьи SMAT, обученный с seed 42; метод предназначен для сохранения качества на целевой задаче при улучшении совместимости модели со слиянием с другими моделями.
Модель использует архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия, принимает текст и выдаёт текст. Заявленное контекстное окно — 131 072 токена. Языки и конкретная целевая задача эксперта C-STANCE в карточке не раскрыты.
Для использования применяются лицензия Llama 3.1 и соответствующая политика допустимого использования Meta. Карточка описывает исследовательскую модель, связанную с методом обучения и слияния моделей; результаты на конкретных задачах зависят от сценария применения и не приведены.
README не уточняет целевую задачу эксперта C-STANCE и не приводит оценок качества; поддерживаемые языки не перечислены. При использовании необходимо соблюдать лицензию Llama 3.1 и политику допустимого использования Meta.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
A SMAT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.
Built with Llama. The included Llama 3.1 license and acceptable-use policy apply.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…