/ Модель

Характеристики

Контекст
512 токенов
Параметры
56,5 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-en-ine

ПереводТекст → текст4 профессии

Трансформер MarianMT для перевода с английского на широкий набор индоевропейских языков.

314скачиваний за 30 дней0лайковвеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-en-ine — модель машинного перевода проекта OPUS-MT, опубликованная Helsinki-NLP. Это трансформер MarianMT с 56,5 млн параметров, обученный переводить с английского на набор индоевропейских языков; для выбора целевого языка перед текстом требуется токен вида >>id<<. Модель использует нормализацию и SentencePiece с словарями размером 32 тыс. токенов, а длина контекста составляет 512 токенов.

Поддерживаются десятки целевых языков, в том числе французский, немецкий, испанский, русский, хинди, польский и украинский. В README приведены тестовые результаты на отдельных языковых парах: например, BLEU 22,1 для английского—румынского и 6,2 для английского—хинди; качество заметно зависит от языка. Модель подходит для перевода текстов с английского на поддерживаемые языки, но карточка не подтверждает перевод в обратном направлении. Лицензия — Apache-2.0.

Сценарии применения

  • перевод английских новостных текстов на европейские языки
  • перевод предложений с английского на русский
  • перевод английских текстов на хинди и бенгальский
  • автоматический перевод коротких фраз на поддерживаемые языки

Ограничения

Направление перевода — только с английского на перечисленные целевые языки; целевой язык нужно задавать специальным токеном. Приведённые в карточке оценки различаются между языковыми парами, поэтому качество нельзя считать одинаковым для всех поддерживаемых языков.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

eng-ine

  • source group: English

  • target group: Indo-European languages

  • OPUS readme: eng-ine

  • model: transformer

  • source language(s): eng

  • target language(s): afr aln ang_Latn arg asm ast awa bel bel_Latn ben bho bos_Latn bre bul bul_Latn cat ces cor cos csb_Latn cym dan deu dsb egl ell enm_Latn ext fao fra frm_Latn frr fry gcf_Latn gla gle glg glv gom gos got_Goth grc_Grek gsw guj hat hif_Latn hin hrv hsb hye ind isl ita jdt_Cyrl ksh kur_Arab kur_Latn lad lad_Latn lat_Latn lav lij lit lld_Latn lmo ltg ltz mai mar max_Latn mfe min mkd mwl nds nld nno nob nob_Hebr non_Latn npi oci ori orv_Cyrl oss pan_Guru pap pdc pes pes_Latn pes_Thaa pms pnb pol por prg_Latn pus roh rom ron rue rus san_Deva scn sco sgs sin slv snd_Arab spa sqi srp_Cyrl srp_Latn stq swe swg tgk_Cyrl tly_Latn tmw_Latn ukr urd vec wln yid zlm_Latn zsm_Latn zza

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2014-enghin.eng.hin6.20.317
newsdev2016-enro-engron.eng.ron22.10.525
newsdev2017-enlv-englav.eng.lav17.40.486
newsdev2019-engu-engguj.eng.guj6.50.303
newsdev2019-enlt-englit.eng.lit14.90.476
newsdiscussdev2015-enfr-engfra.eng.fra26.40.547
newsdiscusstest2015-enfr-engfra.eng.fra30.00.575
newssyscomb2009-engces.eng.ces14.70.442
newssyscomb2009-engdeu.eng.deu16.70.487
newssyscomb2009-engfra.eng.fra24.80.547
newssyscomb2009-engita.eng.ita25.20.562
newssyscomb2009-engspa.eng.spa27.00.554
news-test2008-engces.eng.ces13.00.417
news-test2008-engdeu.eng.deu17.40.480
news-test2008-engfra.eng.fra22.30.519
news-test2008-engspa.eng.spa24.90.532
newstest2009-engces.eng.ces13.60.432
newstest2009-engdeu.eng.deu16.60.482
newstest2009-engfra.eng.fra23.50.535
newstest2009-engita.eng.ita25.50.561
newstest2009-engspa.eng.spa26.30.551
newstest2010-engces.eng.ces14.20.436
newstest2010-engdeu.eng.deu18.30.492
newstest2010-engfra.eng.fra25.70.550
newstest2010-engspa.eng.spa30.50.578
newstest2011-engces.eng.ces15.10.439
newstest2011-engdeu.eng.deu17.10.478
newstest2011-engfra.eng.fra28.00.569
newstest2011-engspa.eng.spa31.90.580
newstest2012-engces.eng.ces13.60.418
newstest2012-engdeu.eng.deu17.00.475
newstest2012-engfra.eng.fra26.10.553
newstest2012-engrus.eng.rus21.40.506
newstest2012-engspa.eng.spa31.40.577
newstest2013-engces.eng.ces15.30.438
newstest2013-engdeu.eng.deu20.30.501
newstest2013-engfra.eng.fra26.00.540
newstest2013-engrus.eng.rus16.10.449
newstest2013-engspa.eng.spa28.60.555
newstest2014-hien-enghin.eng.hin9.50.344
newstest2015-encs-engces.eng.ces14.80.440
newstest2015-ende-engdeu.eng.deu22.60.523
newstest2015-enru-engrus.eng.rus18.80.483
newstest2016-encs-engces.eng.ces16.80.457
newstest2016-ende-engdeu.eng.deu26.20.555
newstest2016-enro-engron.eng.ron21.20.510
newstest2016-enru-engrus.eng.rus17.60.471
newstest2017-encs-engces.eng.ces13.60.421
newstest2017-ende-engdeu.eng.deu21.50.516
newstest2017-enlv-englav.eng.lav13.00.452
newstest2017-enru-engrus.eng.rus18.70.486
newstest2018-encs-engces.eng.ces13.50.425
newstest2018-ende-engdeu.eng.deu29.80.581
newstest2018-enru-engrus.eng.rus16.10.472
newstest2019-encs-engces.eng.ces14.80.435
newstest2019-ende-engdeu.eng.deu26.60.554
newstest2019-engu-engguj.eng.guj6.90.313
newstest2019-enlt-englit.eng.lit10.60.429
newstest2019-enru-engrus.eng.rus17.50.452
Tatoeba-test.eng-afr.eng.afr52.10.708
Tatoeba-test.eng-ang.eng.ang5.10.131
Tatoeba-test.eng-arg.eng.arg1.20.099
Tatoeba-test.eng-asm.eng.asm2.90.259
Tatoeba-test.eng-ast.eng.ast14.10.408
Tatoeba-test.eng-awa.eng.awa0.30.002
Tatoeba-test.eng-bel.eng.bel18.10.450
Tatoeba-test.eng-ben.eng.ben13.50.432
Tatoeba-test.eng-bho.eng.bho0.30.003
Tatoeba-test.eng-bre.eng.bre10.40.318
Tatoeba-test.eng-bul.eng.bul38.70.592
Tatoeba-test.eng-cat.eng.cat42.00.633
Tatoeba-test.eng-ces.eng.ces32.30.546
Tatoeba-test.eng-cor.eng.cor0.50.079
Tatoeba-test.eng-cos.eng.cos3.10.148
Tatoeba-test.eng-csb.eng.csb1.40.216
Tatoeba-test.eng-cym.eng.cym22.40.470
Tatoeba-test.eng-dan.eng.dan49.70.671
Tatoeba-test.eng-deu.eng.deu31.70.554
Tatoeba-test.eng-dsb.eng.dsb1.10.139
Tatoeba-test.eng-egl.eng.egl0.90.089
Tatoeba-test.eng-ell.eng.ell42.70.640
Tatoeba-test.eng-enm.eng.enm3.50.259
Tatoeba-test.eng-ext.eng.ext6.40.235
Tatoeba-test.eng-fao.eng.fao6.60.285
Tatoeba-test.eng-fas.eng.fas5.70.257
Tatoeba-test.eng-fra.eng.fra38.40.595
Tatoeba-test.eng-frm.eng.frm0.90.149
Tatoeba-test.eng-frr.eng.frr8.40.145
Tatoeba-test.eng-fry.eng.fry16.50.411
Tatoeba-test.eng-gcf.eng.gcf0.60.098
Tatoeba-test.eng-gla.eng.gla11.60.361
Tatoeba-test.eng-gle.eng.gle32.50.546
Tatoeba-test.eng-glg.eng.glg38.40.602
Tatoeba-test.eng-glv.eng.glv23.10.418
Tatoeba-test.eng-gos.eng.gos0.70.137
Tatoeba-test.eng-got.eng.got0.20.010
Tatoeba-test.eng-grc.eng.grc0.00.005
Tatoeba-test.eng-gsw.eng.gsw0.90.108
Tatoeba-test.eng-guj.eng.guj20.80.391
Tatoeba-test.eng-hat.eng.hat34.00.537
Tatoeba-test.eng-hbs.eng.hbs33.70.567
Tatoeba-test.eng-hif.eng.hif2.80.269
Tatoeba-test.eng-hin.eng.hin15.60.437
Tatoeba-test.eng-hsb.eng.hsb5.40.320
Tatoeba-test.eng-hye.eng.hye17.40.426
Tatoeba-test.eng-isl.eng.isl17.40.436
Tatoeba-test.eng-ita.eng.ita40.40.636
Tatoeba-test.eng-jdt.eng.jdt6.40.008
Tatoeba-test.eng-kok.eng.kok6.60.005
Tatoeba-test.eng-ksh.eng.ksh0.80.123
Tatoeba-test.eng-kur.eng.kur10.20.209
Tatoeba-test.eng-lad.eng.lad0.80.163
Tatoeba-test.eng-lah.eng.lah0.20.001
Tatoeba-test.eng-lat.eng.lat9.40.372
Tatoeba-test.eng-lav.eng.lav30.30.559
Tatoeba-test.eng-lij.eng.lij1.00.130
Tatoeba-test.eng-lit.eng.lit25.30.560
Tatoeba-test.eng-lld.eng.lld0.40.139
Tatoeba-test.eng-lmo.eng.lmo0.60.108
Tatoeba-test.eng-ltz.eng.ltz18.10.388
Tatoeba-test.eng-mai.eng.mai17.20.464
Tatoeba-test.eng-mar.eng.mar18.00.451
Tatoeba-test.eng-mfe.eng.mfe81.00.899
Tatoeba-test.eng-mkd.eng.mkd37.60.587
Tatoeba-test.eng-msa.eng.msa27.70.519
Tatoeba-test.eng.multi32.60.539
Tatoeba-test.eng-mwl.eng.mwl3.80.134
Tatoeba-test.eng-nds.eng.nds14.30.401
Tatoeba-test.eng-nep.eng.nep0.50.002
Tatoeba-test.eng-nld.eng.nld44.00.642
Tatoeba-test.eng-non.eng.non0.70.118
Tatoeba-test.eng-nor.eng.nor42.70.623
Tatoeba-test.eng-oci.eng.oci7.20.295
Tatoeba-test.eng-ori.eng.ori2.70.257
Tatoeba-test.eng-orv.eng.orv0.20.008
Tatoeba-test.eng-oss.eng.oss2.90.264
Tatoeba-test.eng-pan.eng.pan7.40.337
Tatoeba-test.eng-pap.eng.pap48.50.656
Tatoeba-test.eng-pdc.eng.pdc1.80.145
Tatoeba-test.eng-pms.eng.pms0.70.136
Tatoeba-test.eng-pol.eng.pol31.10.563
Tatoeba-test.eng-por.eng.por37.00.605
Tatoeba-test.eng-prg.eng.prg0.20.100
Tatoeba-test.eng-pus.eng.pus1.00.134
Tatoeba-test.eng-roh.eng.roh2.30.236
Tatoeba-test.eng-rom.eng.rom7.80.340
Tatoeba-test.eng-ron.eng.ron34.30.585
Tatoeba-test.eng-rue.eng.rue0.20.010
Tatoeba-test.eng-rus.eng.rus29.60.526
Tatoeba-test.eng-san.eng.san2.40.125
Tatoeba-test.eng-scn.eng.scn1.60.079
Tatoeba-test.eng-sco.eng.sco33.60.562
Tatoeba-test.eng-sgs.eng.sgs3.40.114
Tatoeba-test.eng-sin.eng.sin9.20.349
Tatoeba-test.eng-slv.eng.slv15.60.334
Tatoeba-test.eng-snd.eng.snd9.10.324
Tatoeba-test.eng-spa.eng.spa43.40.645
Tatoeba-test.eng-sqi.eng.sqi39.00.621
Tatoeba-test.eng-stq.eng.stq10.80.373
Tatoeba-test.eng-swe.eng.swe49.90.663
Tatoeba-test.eng-swg.eng.swg0.70.137
Tatoeba-test.eng-tgk.eng.tgk6.40.346
Tatoeba-test.eng-tly.eng.tly0.50.055
Tatoeba-test.eng-ukr.eng.ukr31.40.536
Tatoeba-test.eng-urd.eng.urd11.10.389
Tatoeba-test.eng-vec.eng.vec1.30.110
Tatoeba-test.eng-wln.eng.wln6.80.233
Tatoeba-test.eng-yid.eng.yid5.80.295
Tatoeba-test.eng-zza.eng.zza0.80.086

System Info:

  • hf_name: eng-ine

  • source_languages: eng

  • target_languages: ine

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/eng-ine/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['en', 'ca', 'es', 'os', 'ro', 'fy', 'cy', 'sc', 'is', 'yi', 'lb', 'an', 'sq', 'fr', 'ht', 'rm', 'ps', 'af', 'uk', 'sl', 'lt', 'bg', 'be', 'gd', 'si', 'br', 'mk', 'or', 'mr', 'ru', 'fo', 'co', 'oc', 'pl', 'gl', 'nb', 'bn', 'id', 'hy', 'da', 'gv', 'nl', 'pt', 'hi', 'as', 'kw', 'ga', 'sv', 'gu', 'wa', 'lv', 'el', 'it', 'hr', 'ur', 'nn', 'de', 'cs', 'ine']

  • src_constituents: {'eng'}

  • tgt_constituents: {'cat', 'spa', 'pap', 'mwl', 'lij', 'bos_Latn', 'lad_Latn', 'lat_Latn', 'pcd', 'oss', 'ron', 'fry', 'cym', 'awa', 'swg', 'zsm_Latn', 'srd', 'gcf_Latn', 'isl', 'yid', 'bho', 'ltz', 'kur_Latn', 'arg', 'pes_Thaa', 'sqi', 'csb_Latn', 'fra', 'hat', 'non_Latn', 'sco', 'pnb', 'roh', 'bul_Latn', 'pus', 'afr', 'ukr', 'slv', 'lit', 'tmw_Latn', 'hsb', 'tly_Latn', 'bul', 'bel', 'got_Goth', 'lat_Grek', 'ext', 'gla', 'mai', 'sin', 'hif_Latn', 'eng', 'bre', 'nob_Hebr', 'prg_Latn', 'ang_Latn', 'aln', 'mkd', 'ori', 'mar', 'afr_Arab', 'san_Deva', 'gos', 'rus', 'fao', 'orv_Cyrl', 'bel_Latn', 'cos', 'zza', 'grc_Grek', 'oci', 'mfe', 'gom', 'bjn', 'sgs', 'tgk_Cyrl', 'hye_Latn', 'pdc', 'srp_Cyrl', 'pol', 'ast', 'glg', 'pms', 'nob', 'ben', 'min', 'srp_Latn', 'zlm_Latn', 'ind', 'rom', 'hye', 'scn', 'enm_Latn', 'lmo', 'npi', 'pes', 'dan', 'rus_Latn', 'jdt_Cyrl', 'gsw', 'glv', 'nld', 'snd_Arab', 'kur_Arab', 'por', 'hin', 'dsb', 'asm', 'lad', 'frm_Latn', 'ksh', 'pan_Guru', 'cor', 'gle', 'swe', 'guj', 'wln', 'lav', 'ell', 'frr', 'rue', 'ita', 'hrv', 'urd', 'stq', 'nno', 'deu', 'lld_Latn', 'ces', 'egl', 'vec', 'max_Latn', 'pes_Latn', 'ltg', 'nds'}

  • src_multilingual: False

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-ine/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-ine/opus2m-2020-08-01.test.txt

  • src_alpha3: eng

  • tgt_alpha3: ine

  • short_pair: en-ine

  • chrF2_score: 0.539

  • bleu: 32.6

  • brevity_penalty: 0.973

  • ref_len: 68664.0

  • src_name: English

  • tgt_name: Indo-European languages

  • train_date: 2020-08-01

  • src_alpha2: en

  • tgt_alpha2: ine

  • prefer_old: False

  • long_pair: eng-ine

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
3b10842

0 моделей