/ Модель

Характеристики

Параметры
157 млн
Лицензия
MIT
Архитектура
mt5 · dense
Библиотека
transformers
Опубликована
3 июл 2024

mt5-small-translation-ja_zh

ПереводТекст → текст3 профессии

Компактная дообученная модель mT5-small для перевода между японским и китайским языками.

225скачиваний за 30 дней1лайквеса обновлены4 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

iryneko571 выпустил компактную модель машинного перевода на основе mT5-small, дообученную для перевода между японским и китайским языками. Модель содержит 157,4 млн параметров и использует архитектуру MT5ForConditionalGeneration; для работы применяется библиотека Transformers, веса опубликованы в формате safetensors.

Модель предназначена для перевода текстов с японского на китайский и обратно. Она дообучалась на наборе CCMatrix-v1-Ja_Zh в течение семи эпох; автор сообщает о валидационной потере около 1,7 и отмечает, что обучение застопорилось, а качество перевода пока слабое. Лицензия — MIT.

Сценарии применения

  • перевод текста с японского на китайский
  • перевод текста с китайского на японский
  • экспериментальная оценка качества японско-китайского машинного перевода

Ограничения

Автор отмечает слабое качество перевода и остановку обучения на валидационной потере около 1,7; модель небольшого размера и может уступать более крупным системам.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

测试用colab笔记,test notebook

不需要自己装环境即可使用!!No environment needed, use colab to test https://colab.research.google.com/drive/1PA30HPgRooCTV-H9Wr_DZXHqC42PrgTO?usp=sharing 现在翻译能力就是人工吗喽,不是词汇不够,是学不会了 this model has problem learning more due to the 300M size and my poor techniques

模型公开声明

  • 这个模型由 mt5-translation-ja_zh 启发(其实就是在它上面改的),使用mt5-small,整体较小
  • 使用了CCMatrix-v1-Ja_Zh, 1e-4学习率, 7 个epoch, 大概1.7的 val loss,下不去了

Release Notes

  • this model is finetuned from mt5-small, training methods and datasets refers to larryvrh/mt5-translation-ja_zh
  • used a trimmed and fused dataset CCMatrix-v1-Ja_Zh 1e-4 for 7 epoch no weight decay,arraived at about 1.7 val loss, it somehow stalls there

A more precise example using it

使用指南

from transformers import pipeline
model_name="iryneko571/mt5-small-translation-ja_zh"
#pipe = pipeline("translation",model=model_name,tokenizer=model_name,repetition_penalty=1.4,batch_size=1,max_length=256)
pipe = pipeline("translation",
  model=model_name,
  repetition_penalty=1.4,
  batch_size=1,
  max_length=256
  )

def translate_batch(batch, language='<-ja2zh->'): # batch is an array of string
    i=0 # quickly format the list
    while i<len(batch):
        batch[i]=f'{language} {batch[i]}'
        i+=1
    translated=pipe(batch)
    result=[]
    i=0
    while i<len(translated):
        result.append(translated[i]['translation_text'])
        i+=1
    return result

inputs=[]

print(translate_batch(inputs))

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MT5ForConditionalGeneration
Ревизия весов
1f1a1ec

0 моделей