Характеристики

Контекст: 256 токенов
Параметры: 2,1 млн
Лицензия: Llama 3.3
Архитектура: llama · dense
Базовая модель: Llama-3.3-70B-Instruct
Библиотека: transformers
Опубликована: 26 фев 2026

Ссылки

Llama-3.3-70B-Instruct-3d-1M-100K-0.1-reverse-padzero-plus-mul-sub-99-256D-2L-2H-1024I

Генерация текстаТекст → текст3 профессии

Экспериментальная текстогенеративная модель, дообученная на базе Llama 3.3 70B Instruct, с неописанным набором данных и назначением.

91скачиваний за 30 дней0лайковвеса обновлены26 фев 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальная дообученная модель на базе meta-llama/Llama-3.3-70B-Instruct, опубликованная под лицензией llama3.3. В метаданных указаны архитектура LlamaForCausalLM, библиотека Transformers, формат safetensors и 2,1 млн параметров; длина контекста — 256 токенов. README сообщает о дообучении на неизвестном наборе данных и приводит значение loss 1,0953 на оценочном наборе, но не описывает назначение модели или процедуру обучения.

По доступным сведениям модель предназначена для генерации текста. Её практические сценарии и качество не определены: карточка не описывает обучение, оценку, ограничения или конкретную специализацию. Многоязычность базовой модели не подтверждает языковую поддержку этого чекпойнта.

Для использования указана лицензия llama3.3. Размер в 2,1 млн параметров существенно отличается от 70-миллиардной базовой модели, поэтому метаданные и README не позволяют понять, как именно соотносятся эти значения и представляет ли репозиторий полный чекпойнт.

Сценарии применения

эксперименты с генерацией текста
тестирование дообученного чекпойнта Llama
оценка языковой модели на собственном наборе

Ограничения

README не раскрывает обучающие данные, назначение и ограничения модели; приведено только значение loss 1,0953 без описания набора оценки. Расхождение между размером базовой модели в 70 млрд параметров и указанными в метаданных 2,1 млн параметров не объяснено.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-3.3-70B-Instruct-3d-1M-100K-0.1-reverse-padzero-plus-mul-sub-99-256D-2L-2H-1024I

This model is a fine-tuned version of meta-llama/Llama-3.3-70B-Instruct on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 1.0953

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.001
train_batch_size: 128
eval_batch_size: 128
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: cosine
lr_scheduler_warmup_ratio: 0.05
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss
No log	0	0	3.0649
1.7395	0.0640	500	1.7239
1.5455	0.1280	1000	1.4744
1.3804	0.1920	1500	1.3814
1.248	0.2560	2000	1.2343
1.2169	0.3200	2500	1.2215
1.2022	0.3840	3000	1.1980
1.1849	0.4480	3500	1.1824
1.1691	0.5120	4000	1.1681
1.1633	0.5760	4500	1.1627
1.1608	0.6400	5000	1.1603
1.1539	0.7040	5500	1.1553
1.1531	0.7680	6000	1.1523
1.149	0.8319	6500	1.1505
1.1489	0.8959	7000	1.1478
1.1471	0.9599	7500	1.1479
1.145	1.0239	8000	1.1467
1.145	1.0879	8500	1.1436
1.1418	1.1519	9000	1.1413
1.1423	1.2159	9500	1.1417
1.1415	1.2799	10000	1.1406
1.1407	1.3439	10500	1.1402
1.138	1.4079	11000	1.1377
1.1367	1.4719	11500	1.1368
1.1375	1.5359	12000	1.1365
1.135	1.5999	12500	1.1358
1.1335	1.6639	13000	1.1354
1.1339	1.7279	13500	1.1332
1.1316	1.7919	14000	1.1330
1.1323	1.8559	14500	1.1353
1.1322	1.9199	15000	1.1306
1.1294	1.9839	15500	1.1285
1.1283	2.0479	16000	1.1275
1.127	2.1119	16500	1.1272
1.1267	2.1759	17000	1.1270
1.1246	2.2399	17500	1.1265
1.1252	2.3039	18000	1.1250
1.1245	2.3678	18500	1.1242
1.1222	2.4318	19000	1.1225
1.1217	2.4958	19500	1.1249
1.1222	2.5598	20000	1.1218
1.1211	2.6238	20500	1.1197
1.1175	2.6878	21000	1.1187
1.119	2.7518	21500	1.1181
1.1155	2.8158	22000	1.1164
1.1164	2.8798	22500	1.1155
1.114	2.9438	23000	1.1144
1.1138	3.0078	23500	1.1137
1.1125	3.0718	24000	1.1129
1.1112	3.1358	24500	1.1131
1.1099	3.1998	25000	1.1107
1.1089	3.2638	25500	1.1095
1.1079	3.3278	26000	1.1083
1.1068	3.3918	26500	1.1073
1.105	3.4558	27000	1.1059
1.1051	3.5198	27500	1.1050
1.1035	3.5838	28000	1.1037
1.1032	3.6478	28500	1.1027
1.1017	3.7118	29000	1.1014
1.1	3.7758	29500	1.1003
1.0993	3.8398	30000	1.0991
1.0981	3.9038	30500	1.0984
1.0972	3.9677	31000	1.0975
1.0974	4.0317	31500	1.0971
1.0966	4.0957	32000	1.0966
1.0965	4.1597	32500	1.0962
1.0962	4.2237	33000	1.0958
1.0947	4.2877	33500	1.0957
1.0945	4.3517	34000	1.0955
1.0944	4.4157	34500	1.0954
1.0939	4.4797	35000	1.0953
1.0956	4.5437	35500	1.0953
1.0938	4.6077	36000	1.0953
1.0943	4.6717	36500	1.0953
1.0949	4.7357	37000	1.0953
1.0951	4.7997	37500	1.0953
1.0942	4.8637	38000	1.0953
1.0945	4.9277	38500	1.0953
1.094	4.9917	39000	1.0953

Framework versions

Transformers 4.57.1
Pytorch 2.9.0+cu128
Datasets 4.5.0
Tokenizers 0.22.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: cee99b9

Характеристики

Ссылки

Llama-3.3-70B-Instruct-3d-1M-100K-0.1-reverse-padzero-plus-mul-sub-99-256D-2L-2H-1024I

Бенчмарки

Тесты пользователейпока нет

Добавьте модель в бенчмарк

Опишите свои задачи

Запустите и опубликуйте

Публичные оценки

Что умеет модель

Сценарии применения

Ограничения

Для каких профессий подходит3

Карточка модели

Llama-3.3-70B-Instruct-3d-1M-100K-0.1-reverse-padzero-plus-mul-sub-99-256D-2L-2H-1024I

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

Как запустить