Характеристики

Контекст: 131 072 токена
Параметры: 7,5 млрд
Размер весов: 32,1 ГБ
Лицензия: Llama 3.1
Архитектура: llama · dense
Базовая модель: Llama-3.1-8B-Instruct
Опубликована: 16 окт 2024

Ссылки

Llama-3.1-8B-Instruct-EI1-2ep-sft

Генерация текстаТекст → текст13 профессий

Дообученная SFT-версия Llama 3.1 на 7,5 млрд параметров для генерации текста и диалогов с контекстом до 131 072 токенов.

17скачиваний за 30 дней0лайковвеса обновлены16 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-3.1-8B-Instruct-EI1-2ep-sft — дообученная методом supervised fine-tuning (SFT) модель на архитектуре Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. В репозитории указано значение loss 0,3970 на наборе оценки, но сведения о датасете и подробные результаты отсутствуют.

Модель предназначена для генерации текста и диалогов. Она содержит 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Метаданные также указывают интерфейс вызова инструментов; языки и специальные области применения для этой версии не описаны.

Лицензия — Llama 3.1 Community License (идентификатор llama3.1); использование регулируется её условиями.

Сценарии применения

генерация ответов в диалоговом помощнике
составление и продолжение текстов
ответы на инструкции и вопросы
подготовка длинных текстовых ответов
вызов инструментов через поддерживаемый интерфейс

Ограничения

Датасет дообучения и подробные результаты оценки не описаны. Языковая поддержка этой версии отдельно не указана.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-3.1-8B-Instruct-EI1-2ep-sft

This model is a fine-tuned version of meta-llama/Llama-3.1-8B-Instruct on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.3970

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 6e-06
train_batch_size: 1
eval_batch_size: 8
seed: 42
distributed_type: multi-GPU
num_devices: 32
gradient_accumulation_steps: 2
total_train_batch_size: 64
total_eval_batch_size: 256
optimizer: Adam with betas=(0.9,0.95) and epsilon=1e-08
lr_scheduler_type: cosine
num_epochs: 2.0

Training results

Training Loss	Epoch	Step	Validation Loss
No log	0.0562	100	0.5980
No log	0.1124	200	0.5609
No log	0.1685	300	0.5369
No log	0.2247	400	0.5156
0.5582	0.2809	500	0.4955
0.5582	0.3371	600	0.4795
0.5582	0.3933	700	0.4655
0.5582	0.4494	800	0.4522
0.5582	0.5056	900	0.4433
0.448	0.5618	1000	0.4355
0.448	0.6180	1100	0.4295
0.448	0.6742	1200	0.4252
0.448	0.7303	1300	0.4200
0.448	0.7865	1400	0.4159
0.4123	0.8427	1500	0.4124
0.4123	0.8989	1600	0.4098
0.4123	0.9551	1700	0.4075
0.4123	1.0112	1800	0.4086
0.4123	1.0674	1900	0.4075
0.3815	1.1236	2000	0.4069
0.3815	1.1798	2100	0.4054
0.3815	1.2360	2200	0.4043
0.3815	1.2921	2300	0.4029
0.3815	1.3483	2400	0.4022
0.3532	1.4045	2500	0.4012
0.3532	1.4607	2600	0.4002
0.3532	1.5169	2700	0.3996
0.3532	1.5730	2800	0.3986
0.3532	1.6292	2900	0.3982
0.35	1.6854	3000	0.3978
0.35	1.7416	3100	0.3975
0.35	1.7978	3200	0.3971
0.35	1.8539	3300	0.3971
0.35	1.9101	3400	0.3970
0.3468	1.9663	3500	0.3970

Framework versions

Transformers 4.43.4
Pytorch 2.4.0+cu121
Datasets 3.0.1
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 541807f

Характеристики

Ссылки

Llama-3.1-8B-Instruct-EI1-2ep-sft

Бенчмарки

Тесты пользователейпока нет

Добавьте модель в бенчмарк

Опишите свои задачи

Запустите и опубликуйте

Публичные оценки

Что умеет модель

Сценарии применения

Ограничения

Для каких профессий подходит13

Также подходит для

Карточка модели

Llama-3.1-8B-Instruct-EI1-2ep-sft

Model description

Intended uses & limitations

Training and evaluation data

Training procedure

Training hyperparameters

Training results

Framework versions

Как запустить