/ Модель

Характеристики

Контекст
512 токенов
Параметры
57 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-en-iir

ПереводТекст → текст3 профессии

Модель OPUS-MT переводит тексты с английского на множество индо-иранских языков, выбранных специальным токеном.

766скачиваний за 30 дней4лайкавеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-en-iir — модель машинного перевода семейства OPUS-MT, разработанная Helsinki-NLP на архитектуре Transformer и реализованная как MarianMT. Она переводит с английского на набор индо-иранских языков; целевой язык нужно задавать специальным токеном в начале предложения. Модель содержит 57 млн параметров, использует нормализацию и SentencePiece с словарями размером 32 тыс. токенов и имеет контекстное окно 512 токенов.

Модель подходит для перевода отдельных текстов и многоязычных сценариев, где английский является исходным языком. В карточке приведены тестовые результаты на нескольких языковых парах, включая BLEU 10,4 для английского—хинди и 6,0 для английского—гуджарати; качество зависит от целевого языка. Поддерживаются PyTorch и TensorFlow. Лицензия — Apache-2.0.

Сценарии применения

  • перевод английских текстов на хинди
  • перевод с английского на урду
  • перевод английского текста на бенгальский
  • перевод с английского на пушту
  • перевод английских материалов на гуджарати или маратхи

Ограничения

Направление перевода только с английского на поддерживаемые целевые языки; целевой язык требуется указывать специальным токеном в начале предложения. Приведённые в карточке оценки BLEU на отдельных тестовых наборах невысоки и не гарантируют одинакового качества для всех языков.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

eng-iir

  • source group: English

  • target group: Indo-Iranian languages

  • OPUS readme: eng-iir

  • model: transformer

  • source language(s): eng

  • target language(s): asm awa ben bho gom guj hif_Latn hin jdt_Cyrl kur_Arab kur_Latn mai mar npi ori oss pan_Guru pes pes_Latn pes_Thaa pnb pus rom san_Deva sin snd_Arab tgk_Cyrl tly_Latn urd zza

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2014-enghin.eng.hin6.70.326
newsdev2019-engu-engguj.eng.guj6.00.283
newstest2014-hien-enghin.eng.hin10.40.353
newstest2019-engu-engguj.eng.guj6.60.282
Tatoeba-test.eng-asm.eng.asm2.70.249
Tatoeba-test.eng-awa.eng.awa0.40.122
Tatoeba-test.eng-ben.eng.ben15.30.459
Tatoeba-test.eng-bho.eng.bho3.70.161
Tatoeba-test.eng-fas.eng.fas3.40.227
Tatoeba-test.eng-guj.eng.guj18.50.365
Tatoeba-test.eng-hif.eng.hif1.00.064
Tatoeba-test.eng-hin.eng.hin17.00.461
Tatoeba-test.eng-jdt.eng.jdt3.90.122
Tatoeba-test.eng-kok.eng.kok5.50.059
Tatoeba-test.eng-kur.eng.kur4.00.125
Tatoeba-test.eng-lah.eng.lah0.30.008
Tatoeba-test.eng-mai.eng.mai9.30.445
Tatoeba-test.eng-mar.eng.mar20.70.473
Tatoeba-test.eng.multi13.70.392
Tatoeba-test.eng-nep.eng.nep0.60.060
Tatoeba-test.eng-ori.eng.ori2.40.193
Tatoeba-test.eng-oss.eng.oss2.10.174
Tatoeba-test.eng-pan.eng.pan9.70.355
Tatoeba-test.eng-pus.eng.pus1.00.126
Tatoeba-test.eng-rom.eng.rom1.30.230
Tatoeba-test.eng-san.eng.san1.30.101
Tatoeba-test.eng-sin.eng.sin11.70.384
Tatoeba-test.eng-snd.eng.snd2.80.180
Tatoeba-test.eng-tgk.eng.tgk8.10.353
Tatoeba-test.eng-tly.eng.tly0.50.015
Tatoeba-test.eng-urd.eng.urd12.30.409
Tatoeba-test.eng-zza.eng.zza0.50.025

System Info:

  • hf_name: eng-iir

  • source_languages: eng

  • target_languages: iir

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/eng-iir/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['en', 'bn', 'or', 'gu', 'mr', 'ur', 'hi', 'ps', 'os', 'as', 'si', 'iir']

  • src_constituents: {'eng'}

  • tgt_constituents: {'pnb', 'gom', 'ben', 'hif_Latn', 'ori', 'guj', 'pan_Guru', 'snd_Arab', 'npi', 'mar', 'urd', 'pes', 'bho', 'kur_Arab', 'tgk_Cyrl', 'hin', 'kur_Latn', 'pes_Thaa', 'pus', 'san_Deva', 'oss', 'tly_Latn', 'jdt_Cyrl', 'asm', 'zza', 'rom', 'mai', 'pes_Latn', 'awa', 'sin'}

  • src_multilingual: False

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-iir/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-iir/opus2m-2020-08-01.test.txt

  • src_alpha3: eng

  • tgt_alpha3: iir

  • short_pair: en-iir

  • chrF2_score: 0.392

  • bleu: 13.7

  • brevity_penalty: 1.0

  • ref_len: 63351.0

  • src_name: English

  • tgt_name: Indo-Iranian languages

  • train_date: 2020-08-01

  • src_alpha2: en

  • tgt_alpha2: iir

  • prefer_old: False

  • long_pair: eng-iir

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
5206988

0 моделей