/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3 млрд
Размер весов
5,9 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
5 окт 2026

epe-1p-3b-llama3arch-smollm2tok-500B-40n-2048sl-960gbsz-no_bce-util-refl_midtrain_from_epe

Генерация текстаТекст → текст

Чекпойнт предобучения EPE на 3 млрд параметров с архитектурой Llama предназначен для генерации текста и диалогов.

100скачиваний за 30 дней0лайковвеса обновлены5 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

EPE — контрольная точка предобучения размером 3 млрд параметров, преобразованная из базового чекпойнта Hugging Face в рамках запуска предобучения Model Raising. Модель использует плотную архитектуру LlamaForCausalLM и сохранена в формате bfloat16; в конфигурации указан словарь из 49 280 токенов. Для работы следует использовать токенизатор из репозитория: это расширенный токенизатор SmolLM2.

Модель предназначена для генерации текста и диалогового использования через один из двух встроенных шаблонов чата. Контекст ограничен 2 048 токенами. Карточка не уточняет языковую специализацию, качество на прикладных задачах или условия лицензии, поэтому оценивать её как готовую к конкретной области нельзя.

Сценарии применения

  • генерация продолжения текста
  • диалоговые ответы по шаблону чата
  • эксперименты с чекпойнтом предобучения EPE

Ограничения

Контекст ограничен 2 048 токенами; карточка не сообщает о качестве на конкретных задачах и не приводит лицензию.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

epe-1p-3b-llama3arch-smollm2tok-500B-40n-2048sl-960gbsz-no_bce-util-refl_midtrain_from_epe

Converted Hugging Face base checkpoint from the Model Raising pretraining run.

Details

  • Architecture: LlamaForCausalLM
  • Base model size: 3B
  • Precision on disk: bfloat16
  • Source Megatron checkpoint iteration: 72895
  • Model kind: epe
  • Config vocab size: 49280

Tokenizer

Use the bundled tokenizer from this repository.

This EPE checkpoint uses the extended SmolLM2 tokenizer with <assistant> and 35 <charter_X.Y> tokens. Two named chat templates are available:

NameAssistant turn start
default`<
epe`<

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
283f6c2

0 моделей