/ Модель

Характеристики

Контекст
512 токенов
Параметры
41,6 млн
Архитектура
marian · dense

marianmt-th-zh_cn

ПереводТекст → текст3 профессии

Модель MarianMT переводит текст с тайского на упрощённый китайский.

172скачиваний за 30 дней1лайквеса обновлены29 июн 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LalitaDeelert разработал MarianMT-модель для перевода с тайского языка на китайский упрощённый. Это трансформерная модель архитектуры MarianMT с 41,6 млн параметров, обученная с нормализацией текста и токенизацией SentencePiece. В README указана оценка 15,53 на тестовом наборе, но метрика не названа.

Модель принимает текст на тайском и генерирует перевод на упрощённом китайском. Она предназначена для автоматического перевода коротких текстовых фрагментов; максимальная длина контекста составляет 512 токенов. Модель опубликована в формате PyTorch и использует библиотеку Transformers.

Карточка описывает собственное дообучение команды LalitaDeelert на данных проекта NLP-ZH_TH-Project; базовая модель не указана. Лицензия в предоставленных данных не указана.

Сценарии применения

  • перевод тайских сообщений на упрощённый китайский
  • перевод коротких текстов с тайского на китайский
  • локализация тайского пользовательского текста для китайской аудитории

Ограничения

Контекст ограничен 512 токенами; указанная оценка 15,53 не сопровождается названием метрики. Лицензия и базовая модель в предоставленных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

marianmt-th-zh_cn

  • source languages: th
  • target languages: zh_cn
  • dataset:
  • model: transformer-align
  • pre-processing: normalization + SentencePiece
  • test set scores: 15.53

Training

Training scripts from LalitaDeelert/NLP-ZH_TH-Project. Experiments tracked at cstorm125/marianmt-th-zh_cn.

export WANDB_PROJECT=marianmt-th-zh_cn
python train_model.py --input_fname ../data/v1/Train.csv \\\\\\\\
\\\\t--output_dir ../models/marianmt-th-zh_cn \\\\\\\\
\\\\t--source_lang th --target_lang zh \\\\\\\\
\\\\t--metric_tokenize zh --fp16

Usage

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
 
tokenizer = AutoTokenizer.from_pretrained("Lalita/marianmt-zh_cn-th")
model = AutoModelForSeq2SeqLM.from_pretrained("Lalita/marianmt-zh_cn-th").cpu()

src_text = [
    'ฉันรักคุณ',
    'ฉันอยากกินข้าว',
]
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))
print([tokenizer.decode(t, skip_special_tokens=True) for t in translated])

> ['我爱你', '我想吃饭。']

Requirements

transformers==4.6.0
torch==1.8.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
bab48ce

0 моделей