Характеристики

Контекст: 131 072 токена
Параметры: 1,2 млрд
Лицензия: Llama 3.2
Архитектура: llama · dense
Базовая модель: Llama-3.2-1B
Библиотека: transformers
Опубликована: 7 авг 2025

Ссылки

Hugging Face

TinyStoriesV2_Llama-3.2-1B-7whtiyy8

donoway

Генерация текстаТекст → текст

Дообученная модель Llama 3.2 с 1,2 млрд параметров для генерации текста.

112скачиваний за 30 дней0лайковвеса обновлены7 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TinyStoriesV2_Llama-3.2-1B-7whtiyy8 — дообученная модель генерации текста на архитектуре Llama, основанная на meta-llama/Llama-3.2-1B. В карточке указано, что она обучалась на неизвестном наборе данных; подробностей о разработчике и назначении нет.

Модель содержит 1,2 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Основная задача по метаданным — генерация текста. Базовая Llama 3.2-1B описана как многоязычная, но конкретные языки этой дообученной версии не подтверждены.

В карточке приведены результаты оценки: loss 2,3259, точность токенов 0,5029 и доля ошибок токенов 0,4971; значение perplexity указано как бесконечное. Эти показатели ограничивают возможность судить о практическом качестве модели. Лицензия — Llama 3.2; перед использованием следует учитывать её условия.

Сценарии применения

генерация продолжений текста
создание коротких историй
черновое написание текстов

Ограничения

Датасет дообучения и подробное назначение модели не описаны. В оценке perplexity указана как бесконечная, поэтому качество генерации по приведённым метрикам установить нельзя.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TinyStoriesV2_Llama-3.2-1B-7whtiyy8

This model is a fine-tuned version of meta-llama/Llama-3.2-1B on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 2.3259
Model Preparation Time: 0.006
Token Accuracy: 0.5029
Token Error Rate: 0.4971
Perplexity: inf

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.0001
train_batch_size: 16
eval_batch_size: 64
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: constant_with_warmup
lr_scheduler_warmup_ratio: 0.001
num_epochs: 100

Training results

Training Loss	Epoch	Step	Validation Loss	Model Preparation Time	Token Accuracy	Token Error Rate	Perplexity
No log	0	0	12.1341	0.006	0.0000	1.0000	inf
3.8331	0.16	100	4.1262	0.006	0.2894	0.7106	inf
3.4808	0.32	200	3.5019	0.006	0.3497	0.6503	inf
3.0294	0.48	300	3.1814	0.006	0.3898	0.6102	inf
2.9986	0.64	400	2.9675	0.006	0.4171	0.5829	inf
2.898	0.8	500	2.8123	0.006	0.4359	0.5641	inf
2.6878	0.96	600	2.6999	0.006	0.4483	0.5517	inf
2.2593	1.12	700	2.6065	0.006	0.4630	0.5370	inf
2.362	1.28	800	2.5501	0.006	0.4697	0.5303	inf
2.2866	1.44	900	2.4962	0.006	0.4781	0.5219	inf
2.4233	1.6	1000	2.4508	0.006	0.4830	0.5170	inf
2.1492	1.76	1100	2.3965	0.006	0.4908	0.5092	inf
2.3272	1.92	1200	2.3582	0.006	0.4940	0.5060	inf
1.5257	2.08	1300	2.3568	0.006	0.5007	0.4993	inf
1.5882	2.24	1400	2.3598	0.006	0.4999	0.5001	inf
1.5947	2.4	1500	2.3523	0.006	0.5006	0.4994	inf
1.6552	2.56	1600	2.3391	0.006	0.5016	0.4984	inf
1.3803	2.7200	1700	2.3301	0.006	0.5025	0.4975	inf
1.6149	2.88	1800	2.3259	0.006	0.5029	0.4971	inf
0.9457	3.04	1900	2.3909	0.006	0.5030	0.4970	inf
0.9481	3.2	2000	2.4530	0.006	0.4993	0.5007	inf
0.7384	3.36	2100	2.4962	0.006	0.4976	0.5024	inf
0.8767	3.52	2200	2.5152	0.006	0.4955	0.5045	inf
0.7595	3.68	2300	2.5172	0.006	0.4961	0.5039	inf
0.8285	3.84	2400	2.5394	0.006	0.4944	0.5056	inf

Framework versions

Transformers 4.51.3
Pytorch 2.6.0+cu124
Datasets 3.5.0
Tokenizers 0.21.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 4ac7854

Характеристики

Ссылки

TinyStoriesV2_Llama-3.2-1B-7whtiyy8

Бенчмарки

Тесты пользователейпока нет

Добавьте модель в бенчмарк

Опишите свои задачи

Запустите и опубликуйте

Публичные оценки

Что умеет модель

Сценарии применения

Ограничения

Карточка модели

TinyStoriesV2_Llama-3.2-1B-7whtiyy8

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

Как запустить