Характеристики

Контекст: 512 токенов
Параметры: 38,5 млн
Лицензия: Apache 2.0
Архитектура: t5 · dense
Базовая модель: Chitti-Base-model-for-GPT-v3
Опубликована: 17 июн 2024

Ссылки

Hugging Face

Chitti-Base-model-for-GPT-v4

Dhahlan2000

Языковая модель3 профессии

Дообученная модель T5 для генерации текста по текстовому запросу, чья конкретная целевая задача не описана.

11скачиваний за 30 дней0лайковвеса обновлены17 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Chitti-Base-model-for-GPT-v4 — дообученная модель на базе Dhahlan2000/Chitti-Base-model-for-GPT-v3, разработанная Dhahlan2000. Это текстовая модель архитектуры T5 с 38,5 млн параметров и контекстом 512 токенов; веса опубликованы в формате Safetensors. Метаданные классифицируют её как модель генерации текста по тексту.

Карточка сообщает, что модель дообучена на неизвестном наборе данных, но не описывает её целевую задачу, сценарии применения или языки. В оценке указаны Loss 3,1847, BLEU 2,2129 и средняя длина генерации 13,0373; без сведений о наборе данных и методике оценки эти результаты трудно интерпретировать. Лицензия — Apache 2.0.

Сценарии применения

генерация текста по текстовому запросу

Ограничения

Набор данных, целевое назначение и поддерживаемые языки не описаны. Приведённые метрики нельзя уверенно оценить без сведений о данных и методике тестирования.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Chitti-Base-model-for-GPT-v4

This model is a fine-tuned version of Dhahlan2000/Chitti-Base-model-for-GPT-v3 on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 3.1847
Bleu: 2.2129
Gen Len: 13.0373

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 2
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Bleu	Gen Len
3.414	1.0	9282	3.1997	2.1556	13.0713
3.4101	2.0	18564	3.1847	2.2129	13.0373

Framework versions

Transformers 4.41.2
Pytorch 2.3.0+cu121
Datasets 2.20.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: 8d34c71