Дообученный эксперт Llama 3.2 1B Instruct из работы SMAT для генерации текста и экспериментов по слиянию моделей.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это экспертная модель на базе Llama 3.2 1B Instruct, созданная авторами SMAT (Simple and Efficient Merge-Aware Training) для экспериментов с объединением моделей. Чекпойнт соответствует эксперту из таблицы 1 статьи SMAT и обучен с seed 42; заявленная цель подхода — сохранять качество на целевой задаче и улучшать совместимость при слиянии моделей.
Модель использует плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст для генерации текста в диалоговом формате. Она дообучена на MeetingBank, однако карточка не уточняет конкретные сценарии или метрики качества этого эксперта. Контекст — до 131 072 токенов. Для использования действуют лицензия Llama 3.2 и соответствующая политика допустимого использования Meta.
Карточка не приводит оценок качества или подробного описания задач, на которых обучен эксперт; результаты для суммаризации заседаний не подтверждены отдельными метриками. Использование регулируется лицензией Llama 3.2 и её политикой допустимого использования.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
A FT expert from Table 1 of SMAT: Simple and Efficient Merge-Aware Training (training seed 42). SMAT trains experts that retain task performance while improving model merging.
Built with Llama. The included Llama 3.2 license and acceptable-use policy apply.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…