/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3 млрд
Размер весов
5,9 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
11 июн 2026

epe-1p-3b-llama3arch-smollm2tok-500B-40n-2048sl-960gbsz-no_bce

Генерация текстаТекст → текст

Плотная 3-миллиардная авторегрессионная модель семейства Llama для генерации текста и диалогов с контекстом 2048 токенов.

15скачиваний за 30 дней0лайковвеса обновлены11 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это преобразованный чекпойнт предварительного обучения Model Raising: плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 3 млрд параметров. Модель рассчитана на генерацию текста и поддерживает чат; для работы следует использовать токенизатор, включённый в репозиторий. Контекст составляет 2048 токенов, точность хранения весов — bfloat16.

В репозитории доступны два шаблона чата: default и epe. Чекпойнт использует расширенный токенизатор SmolLM2 с размером словаря 49 280. Сведений о лицензии и прикладных ограничениях в предоставленных данных нет.

Сценарии применения

  • генерация продолжения текста
  • ответы в диалоговом интерфейсе
  • создание черновиков и формулировок
  • эксперименты с шаблонами чата
  • оценка чекпойнта предварительного обучения

Ограничения

Контекст ограничен 2048 токенами; результаты зависят от использования комплектного токенизатора и подходящего шаблона чата. В предоставленных данных лицензия и оценки качества не приведены.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

epe-1p-3b-llama3arch-smollm2tok-500B-40n-2048sl-960gbsz-no_bce

Converted Hugging Face base checkpoint from the Model Raising pretraining run.

Details

  • Architecture: LlamaForCausalLM
  • Base model size: 3B
  • Precision on disk: bfloat16
  • Source Megatron checkpoint iteration: 254313
  • Model kind: epe
  • Config vocab size: 49280

Tokenizer

Use the bundled tokenizer from this repository.

This EPE checkpoint uses the extended SmolLM2 tokenizer with <assistant> and 35 <charter_X.Y> tokens. Two named chat templates are available:

NameAssistant turn start
default`<
epe`<

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6e5b83c

0 моделей