Характеристики

Контекст: 4 096 токенов
Параметры: 10,6 млрд
Размер весов: 21,6 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Библиотека: transformers
Опубликована: 18 апр 2024

Ссылки

Hugging Face

EEVE_ver_4.1_sft

spow12

Генерация текстаТекст → текст5 профессий

Дообученная 10,6-миллиардная модель семейства Llama для генерации текста и диалогов на английском и корейском языках.

22скачиваний за 30 дней0лайковвеса обновлены18 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

spow12/EEVE_ver_4.1_sft — дообученная модель spow12 на базе yanolja/EEVE-Korean-10.8B-v1.0. Это плотная причинная языковая модель семейства Llama с архитектурой LlamaForCausalLM и 10,6 млрд параметров, представленная в формате Safetensors и рассчитанная на генерацию текста и диалоговое общение. В README указано дообучение на пользовательском датасете, но его состав и специализация не раскрыты.

Модель поддерживает английский и корейский языки, использует контекст длиной до 4096 токенов и распространяется по лицензии Apache-2.0. Её можно рассматривать для генерации текста и диалоговых сценариев на поддерживаемых языках. Поскольку сведения о датасете и результаты оценки качества отсутствуют, пригодность для конкретной предметной области и уровень качества ответов по карточке определить нельзя.

Сценарии применения

генерация текстовых ответов на английском языке
генерация текстовых ответов на корейском языке
создание диалогового помощника на базе языковой модели

Ограничения

Состав и назначение пользовательского датасета, на котором проводилось дообучение, не описаны. В карточке нет результатов оценки качества, поэтому специализацию и надёжность модели для конкретных задач установить нельзя.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Также подходит для

I.7Речь, диалоги и встречи

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ver_4.1_sft

This model is a fine-tuned version of yanolja/EEVE-Korean-10.8B-v1.0 on the Custom dataset.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 1
eval_batch_size: 1
seed: 42
distributed_type: multi-GPU
num_devices: 8
total_train_batch_size: 8
total_eval_batch_size: 8
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: cosine
lr_scheduler_warmup_ratio: 0.1
training_steps: 0

Training results

Training Loss	Epoch	Step
0.7739	0.2	1124
0.7214	0.4	2248
0.6832	0.6	3372
0.6935	0.8	4496

Framework versions

PEFT 0.10.0
Transformers 4.39.3
Pytorch 2.0.1
Datasets 2.18.0
Tokenizers 0.15.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 82bc086