/ Модель

Характеристики

Параметры
389 млн
Лицензия
MIT
Архитектура
t5 · dense
Базовая модель
vit5-large
Опубликована
23 дек 2023

KLTN_COQE_viT5_total_PASOL_v2

Языковая модель3 профессии

Дообученная на базе VietAI/vit5-large модель T5 для генерации текста, назначение которой в README подробно не раскрыто.

8скачиваний за 30 дней0лайковвеса обновлены23 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ThuyNT03/KLTN_COQE_viT5_total_PASOL_v2 — дообученная ThuyNT03 модель на архитектуре T5, основанная на VietAI/vit5-large. Она содержит 389,3 млн параметров и предназначена для генерации текста; название репозитория указывает на связь с COQE и PASOL, но README не описывает конкретные задачи, данные или результаты обучения. Базовая модель ориентирована на текстовые задачи на вьетнамском языке, включая ответы на вопросы, суммаризацию и перевод, однако применимость этих задач к данной версии не подтверждена.

Модель принимает текст и генерирует текст. Опубликована в формате Safetensors под лицензией MIT. README не приводит оценок качества, ограничений или подробностей обучения.

Сценарии применения

  • генерация текста на вьетнамском языке
  • эксперименты с дообучением T5 для задач COQE и PASOL

Ограничения

README не описывает конкретное назначение версии, обучающие данные, результаты оценки или известные ограничения; качество для отдельных задач не подтверждено.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

KLTN_COQE_viT5_total_PASOL_v2

This model is a fine-tuned version of VietAI/vit5-large on the None dataset.

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 8
  • eval_batch_size: 8
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 20
  • mixed_precision_training: Native AMP

Training results

Framework versions

  • Transformers 4.36.0
  • Pytorch 2.0.0
  • Datasets 2.1.0
  • Tokenizers 0.15.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
T5ForConditionalGeneration
Ревизия весов
28398b1

0 моделей