Pretrain BASE 512 masking context length T5 on Malaysian text
README at https://github.com/mesolitica/malaya/tree/5.1/pretrained-model/nanoT5
Базовая модель T5, предварительно обученная Mesolitica на малайзийских текстах для задач преобразования текста в текст и дальнейшего дообучения.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mesolitica/nanot5-base-malaysian-cased — базовая модель семейства T5, разработанная Mesolitica и предварительно обученная на малайзийских текстах. Это плотная encoder-decoder модель с 123,8 млн параметров, предназначенная для задач преобразования текста в текст; в названии карточки указаны контекст и маскирование длиной 512 токенов.
Модель может служить основой для генерации и преобразования малайского текста, а также для последующего дообучения под конкретные задачи. В метаданных указана поддержка малайского языка. Репозиторий содержит веса в формате Safetensors. Условия лицензии в доступных данных не приведены.
В доступных данных не указаны лицензия и результаты оценки качества; модель описана как базовая, поэтому для конкретной задачи может потребоваться дообучение.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
README at https://github.com/mesolitica/malaya/tree/5.1/pretrained-model/nanoT5
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.