/ Модель

Характеристики

Контекст
512 токенов
Параметры
57 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-iir-en

ПереводТекст → текст3 профессии

Модель OPUS-MT переводит тексты с индо-иранских языков на английский.

192скачиваний за 30 дней1лайквеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-iir-en — модель машинного перевода проекта OPUS-MT на базе архитектуры Transformer, опубликованная под лицензией Apache-2.0. Она переводит тексты с группы индо-иранских языков на английский. К этой группе относятся, среди прочих, хинди, урду, бенгали, гуджарати, маратхи, непали, пушту, сингальский и пенджаби.

Модель содержит 57 млн параметров, использует нормализацию и SentencePiece с словарями по 32 тыс. токенов и имеет контекст до 512 токенов. Для запуска доступны веса PyTorch и TensorFlow. В README приведены результаты тестирования на нескольких наборах данных; качество зависит от исходного языка и тематики текста.

Сценарии применения

  • перевод текста с хинди на английский
  • перевод текста с урду на английский
  • перевод с бенгали, гуджарати или маратхи на английский
  • перевод коротких текстов с непали, пушту или пенджаби на английский

Ограничения

Контекст ограничен 512 токенами. В приведённых тестах качество различается между языковыми парами; например, для хинди и гуджарати указаны BLEU около 8 на отдельных наборах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

iir-eng

  • source group: Indo-Iranian languages

  • target group: English

  • OPUS readme: iir-eng

  • model: transformer

  • source language(s): asm awa ben bho gom guj hif_Latn hin jdt_Cyrl kur_Arab kur_Latn mai mar npi ori oss pan_Guru pes pes_Latn pes_Thaa pnb pus rom san_Deva sin snd_Arab tgk_Cyrl tly_Latn urd zza

  • target language(s): eng

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2014-hineng.hin.eng8.10.324
newsdev2019-engu-gujeng.guj.eng8.10.309
newstest2014-hien-hineng.hin.eng12.10.380
newstest2019-guen-gujeng.guj.eng6.00.280
Tatoeba-test.asm-eng.asm.eng13.90.327
Tatoeba-test.awa-eng.awa.eng7.00.219
Tatoeba-test.ben-eng.ben.eng42.50.576
Tatoeba-test.bho-eng.bho.eng27.30.452
Tatoeba-test.fas-eng.fas.eng5.60.262
Tatoeba-test.guj-eng.guj.eng15.90.350
Tatoeba-test.hif-eng.hif.eng10.10.247
Tatoeba-test.hin-eng.hin.eng36.50.544
Tatoeba-test.jdt-eng.jdt.eng11.40.094
Tatoeba-test.kok-eng.kok.eng6.60.256
Tatoeba-test.kur-eng.kur.eng3.40.149
Tatoeba-test.lah-eng.lah.eng17.40.301
Tatoeba-test.mai-eng.mai.eng65.40.703
Tatoeba-test.mar-eng.mar.eng22.50.468
Tatoeba-test.multi.eng21.30.424
Tatoeba-test.nep-eng.nep.eng3.40.185
Tatoeba-test.ori-eng.ori.eng4.80.244
Tatoeba-test.oss-eng.oss.eng1.60.173
Tatoeba-test.pan-eng.pan.eng14.80.348
Tatoeba-test.pus-eng.pus.eng1.10.182
Tatoeba-test.rom-eng.rom.eng2.80.185
Tatoeba-test.san-eng.san.eng2.80.185
Tatoeba-test.sin-eng.sin.eng22.80.474
Tatoeba-test.snd-eng.snd.eng8.20.287
Tatoeba-test.tgk-eng.tgk.eng11.90.321
Tatoeba-test.tly-eng.tly.eng0.90.076
Tatoeba-test.urd-eng.urd.eng23.90.438
Tatoeba-test.zza-eng.zza.eng0.60.098

System Info:

  • hf_name: iir-eng

  • source_languages: iir

  • target_languages: eng

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/iir-eng/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['bn', 'or', 'gu', 'mr', 'ur', 'hi', 'ps', 'os', 'as', 'si', 'iir', 'en']

  • src_constituents: {'pnb', 'gom', 'ben', 'hif_Latn', 'ori', 'guj', 'pan_Guru', 'snd_Arab', 'npi', 'mar', 'urd', 'pes', 'bho', 'kur_Arab', 'tgk_Cyrl', 'hin', 'kur_Latn', 'pes_Thaa', 'pus', 'san_Deva', 'oss', 'tly_Latn', 'jdt_Cyrl', 'asm', 'zza', 'rom', 'mai', 'pes_Latn', 'awa', 'sin'}

  • tgt_constituents: {'eng'}

  • src_multilingual: True

  • tgt_multilingual: False

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/iir-eng/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/iir-eng/opus2m-2020-08-01.test.txt

  • src_alpha3: iir

  • tgt_alpha3: eng

  • short_pair: iir-en

  • chrF2_score: 0.424

  • bleu: 21.3

  • brevity_penalty: 1.0

  • ref_len: 67026.0

  • src_name: Indo-Iranian languages

  • tgt_name: English

  • train_date: 2020-08-01

  • src_alpha2: iir

  • tgt_alpha2: en

  • prefer_old: False

  • long_pair: iir-eng

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
b9788d4

0 моделей