Модель на архитектуре Llama для генерации текста, связанная с Meta-Llama-3-8B-Instruct и слиянием моделей EAGLE.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
thunlp/LLaMA3-Instruct-8B-FR-Spec — модель на архитектуре Llama, опубликованная THUNLP. Репозиторий содержит статистику частот токенов на основе SlimPajama-627B для FR-Spec и веса PyTorch, которые, согласно README, совпадают с весами другой модели и доступны в её репозитории. Метаданные связывают модель с Meta-Llama-3-8B-Instruct и yuhuili/EAGLE-LLaMA3-Instruct-8B как компонентами слияния; класс модели — LlamaForCausalLMEagle.
Модель предназначена для генерации текста. В качестве базовой диалоговой модели указана Meta-Llama-3-8B-Instruct, рассчитанная на ассистентские ответы и генерацию текста на английском языке. Метаданные указывают контекст 2048 токенов, библиотеку Transformers и формат PyTorch; лицензия — MIT.
README не описывает отдельные улучшения качества, специальные сценарии применения или оценку модели. Указанный в метаданных размер — 743,4 млн параметров; это значение заметно расходится с названием базовой модели на 8 млрд параметров.
Описание не приводит результатов оценки качества или подтверждённых преимуществ метода FR-Spec. Размер из метаданных (743,4 млн параметров) расходится с обозначением базовой модели на 8 млрд параметров.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Token frequency statistics based on SlimPajama-627B, used for FR-Spec (https://arxiv.org/abs/2502.14856), see more at https://github.com/thunlp/FR-Spec.
freq_32768.pt can be loaded by torch.load(), and it is a list of high-frequency tokens.
config.json and pytorch_model.bin are the same as https://huggingface.co/yuhuili/EAGLE-LLaMA3-Instruct-8B, and can be downloaded from their repo.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…