Характеристики

Параметры: 71,4 млн
Лицензия: Apache 2.0
Архитектура: mt5 · dense
Базовая модель: mt5-small
Библиотека: transformers
Опубликована: 17 июн 2026

Ссылки

Hugging Face

mt5-small-tagged-1e4-126-1.5m-a100-distilled-mt5-small-8

jinx2321

Языковая модель

Дообученная компактная многоязычная модель mT5-small для задач преобразования текста в текст.

4скачиваний за 30 дней0лайковвеса обновлены18 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mt5-small-tagged-1e4-126-1.5m-a100-distilled-mt5-small-8 — дообученная компактная многоязычная модель Google mT5-small, опубликованная пользователем jinx2321. Модель содержит 71,4 млн параметров, использует архитектуру MT5ForConditionalGeneration и предназначена для преобразования текста в текст. Веса представлены в формате safetensors; лицензия — Apache-2.0.

Карточка не описывает датасет, конкретную задачу дообучения, языки обучения или результаты оценки, поэтому назначение модели за пределами общих задач text-to-text установить нельзя. Она может служить основой для экспериментов с генерацией и преобразованием текста; качество для конкретной задачи не подтверждено.

Сценарии применения

эксперименты с генерацией текста
настройка преобразования текста под пользовательскую задачу
создание прототипов text-to-text приложений

Ограничения

Карточка не раскрывает целевую задачу, обучающие данные и результаты оценки, поэтому качество и пригодность для конкретного применения не установлены.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mt5-small-tagged-1e4-126-1.5m-a100-distilled-mt5-small-8

This model is a fine-tuned version of google/mt5-small on the None dataset.

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.0001
train_batch_size: 16
eval_batch_size: 8
seed: 42
gradient_accumulation_steps: 8
total_train_batch_size: 128
optimizer: Use adamw_torch_fused with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 3

Training results

Framework versions

Transformers 4.57.3
Pytorch 2.9.1+cu128
Datasets 4.4.1
Tokenizers 0.22.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

У модели не указана задача.

Класс архитектуры: MT5ForConditionalGeneration
Ревизия весов: 01decbb