/ Модель

Характеристики

Параметры
122 млн
Архитектура
mt5 · dense
Опубликована
3 мая 2022

uk-mt5-base

Языковая модель3 профессии

Компактная версия mT5 для генерации и преобразования текста преимущественно на украинском языке с базовой поддержкой английского.

35скачиваний за 30 дней5лайковвеса обновлены12 июн 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

kravchenko/uk-mt5-base — компактная языковая модель семейства mT5, созданная для работы преимущественно с украинским языком и частично с базовым английским. Автор описывает её как результат сжатия mT5-base с сокращением словаря и числа параметров.

Модель построена на архитектуре MT5ForConditionalGeneration и содержит 122,1 млн параметров по метаданным. Карточка сообщает о сокращении словаря с 250 тыс. до 30 тыс. токенов и размера модели с 2,2 до 0,95 ГБ; эти результаты приведены для описанного автором процесса сжатия и могут не совпадать с текущим опубликованным чекпойнтом. Формат весов — PyTorch. Сценарии применения и условия лицензии в доступных данных не описаны.

Сценарии применения

  • генерация текста на украинском языке
  • преобразование текста в текст на украинском
  • эксперименты с компактной мультиязычной архитектурой mT5
  • базовая генерация текста на английском

Ограничения

Английский язык описан только как базовый; карточка не приводит оценок качества или подробностей обучающих данных. Лицензия и условия коммерческого использования в доступных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

The aim is to compress the mT5-base model to leave only the Ukrainian language and some basic English.

Reproduced the similar result (but with another language) from this medium article.

Results:

  • 582M params -> 244M params (58%)
  • 250K tokens -> 30K tokens
  • 2.2GB size model -> 0.95GB size model

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
MT5ForConditionalGeneration
Ревизия весов
9331e4e

0 моделей