/ Модель

Характеристики

Контекст
65 536 токенов
Параметры
743 млн
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
EAGLE3-LLaMA3.1-Instruct-8B
Опубликована
25 ноя 2025

EAGLE3-LLaMA3.1-Instruct-8B-YARN-64K

Генерация текстаТекст → текст3 профессии

Черновая модель семейства LLaMA с контекстом до 64K токенов для self-speculative decoding при длинной генерации текста.

77скачиваний за 30 дней0лайковвеса обновлены8 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TanBaby/EAGLE3-LLaMA3.1-Instruct-8B-YARN-64K — плотная модель семейства LLaMA, разработанная на основе yuhuili/EAGLE3-LLaMA3.1-Instruct-8B. Веса дообучены, а позиционные представления расширены методом YARN для контекста до 65 536 токенов. Модель предназначена для работы как черновая модель в self-speculative decoding при генерации длинных текстов.

Она поддерживает генерацию текста на английском языке; в метаданных указано 743,4 млн параметров, а файлы представлены в формате safetensors. Это специализированный компонент для ускорения генерации в схеме SpecPV, а не самостоятельная универсальная чат-модель. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • ускорение генерации длинных текстов через self-speculative decoding
  • использование в качестве черновой модели в схеме SpecPV
  • генерация текста с контекстом до 64K токенов

Ограничения

Модель предназначена для роли черновой модели в self-speculative decoding и не описана как самостоятельная универсальная чат-модель.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

EAGLE3-LLaMA3.1-Instruct-8B-YARN-64K

Model Description

This model extends yuhuili/EAGLE3-LLaMA3.1-Instruct-8B with YARN-based positional interpolation to support context lengths of up to 64K tokens.

It is designed to serve as the draft model in self-speculative decoding for long-context generation, as described in the SpecPV paper.

Citation

To cite the model, please use:

@article{tan2025specpv,
  title={SpecPV: Improving Self-Speculative Decoding for Long-Context Generation via Partial Verification},
  author={Tan, Zhendong and Zhang, Xingjun and Hu, Chaoyi and Peng, Junjie and Xia, Kun},
  journal={arXiv preprint arXiv:2512.02337},
  year={2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLMEagle3
Ревизия весов
9c19655

0 моделей