Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это черновая модель EAGLE3, обученная разработчиком репозитория на базе meta-llama/Llama-3.2-3B-Instruct с помощью онлайн-обучения SpecForge на данных ShareGPT. Она предназначена для спекулятивного декодирования в паре с целевой моделью Llama-3.2-3B-Instruct и совместимым кодом SpecForge/EAGLE3; самостоятельно как обычная языковая модель не предназначена для использования. Архитектура — плотная LlamaForCausalLMEagle3, размер чекпойнта по метаданным — 494,7 млн параметров, формат весов — safetensors, тип данных в конфигурации — bfloat16.
Указанное контекстное окно — 131 072 токена; языки карточки — английский и китайский. Карточка не приводит результатов бенчмарков. Лицензия обозначена как other, поэтому перед использованием следует проверить условия репозитория и базовой модели.
Сценарии применения
ускорение генерации текста с Llama-3.2-3B-Instruct через спекулятивное декодирование
интеграция draft-модели в совместимый пайплайн SpecForge/EAGLE3
эксперименты с онлайн-обучением EAGLE3 на данных ShareGPT
Ограничения
Модель не предназначена для самостоятельной генерации и требует целевой Llama-3.2-3B-Instruct и совместимого кода SpecForge/EAGLE3. В карточке не заявлены результаты бенчмарков; лицензия указана как other.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This repository contains a SpecForge EAGLE3 draft-model checkpoint for use with meta-llama/Llama-3.2-3B-Instruct.
It is a draft model for speculative decoding, not a standalone target language model.