/ Модель

Характеристики

Контекст
512 токенов
Параметры
54,2 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-en-roa

ПереводТекст → текст4 профессии

Модель OPUS-MT переводит текст с английского на широкий набор романских языков и их разновидностей.

2 934скачиваний за 30 дней2лайкавеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-en-roa — модель машинного перевода из серии OPUS-MT, разработанной Helsinki-NLP. Она переводит текст с английского на один из поддерживаемых целевых языков и разновидностей, включая французский, испанский, португальский, румынский, каталонский и другие романские языки. Для выбора языка перевода перед текстом требуется указать токен вида >>id<< с допустимым идентификатором языка.

Модель построена на архитектуре Transformer и реализована как MarianMTModel; содержит 54,2 млн параметров и рассчитана на контекст до 512 токенов. Для обработки используются нормализация и SentencePiece. В метаданных указаны форматы PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0.

Модель предназначена для перевода предложений и текстов с английского на поддерживаемые языки. README приводит результаты оценки на тестовых наборах, но они не гарантируют качество для любых тематик и разновидностей языка. Модель не заявлена как универсальная для перевода в обратном направлении или между любыми парами языков.

Сценарии применения

  • перевод английских предложений на испанский
  • перевод английского текста на французский
  • перевод английских материалов на португальский
  • перевод с английского на румынский
  • перевод английских текстов на каталонский и другие поддерживаемые языки

Ограничения

Направление перевода задано с английского на поддерживаемый целевой язык; перед текстом требуется токен языка назначения вида >>id<<. Контекст ограничен 512 токенами, а приведённые в карточке тестовые оценки не гарантируют качество на иных данных и тематиках.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

eng-roa

  • source group: English

  • target group: Romance languages

  • OPUS readme: eng-roa

  • model: transformer

  • source language(s): eng

  • target language(s): arg ast cat cos egl ext fra frm_Latn gcf_Latn glg hat ind ita lad lad_Latn lij lld_Latn lmo max_Latn mfe min mwl oci pap pms por roh ron scn spa tmw_Latn vec wln zlm_Latn zsm_Latn

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2016-enro-engron.eng.ron27.60.567
newsdiscussdev2015-enfr-engfra.eng.fra30.20.575
newsdiscusstest2015-enfr-engfra.eng.fra35.50.612
newssyscomb2009-engfra.eng.fra27.90.570
newssyscomb2009-engita.eng.ita29.30.590
newssyscomb2009-engspa.eng.spa29.60.570
news-test2008-engfra.eng.fra25.20.538
news-test2008-engspa.eng.spa27.30.548
newstest2009-engfra.eng.fra26.90.560
newstest2009-engita.eng.ita28.70.583
newstest2009-engspa.eng.spa29.00.568
newstest2010-engfra.eng.fra29.30.574
newstest2010-engspa.eng.spa34.20.601
newstest2011-engfra.eng.fra31.40.592
newstest2011-engspa.eng.spa35.00.599
newstest2012-engfra.eng.fra29.50.576
newstest2012-engspa.eng.spa35.50.603
newstest2013-engfra.eng.fra29.90.567
newstest2013-engspa.eng.spa32.10.578
newstest2016-enro-engron.eng.ron26.10.551
Tatoeba-test.eng-arg.eng.arg1.40.125
Tatoeba-test.eng-ast.eng.ast17.80.406
Tatoeba-test.eng-cat.eng.cat48.30.676
Tatoeba-test.eng-cos.eng.cos3.20.275
Tatoeba-test.eng-egl.eng.egl0.20.084
Tatoeba-test.eng-ext.eng.ext11.20.344
Tatoeba-test.eng-fra.eng.fra45.30.637
Tatoeba-test.eng-frm.eng.frm1.10.221
Tatoeba-test.eng-gcf.eng.gcf0.60.118
Tatoeba-test.eng-glg.eng.glg44.20.645
Tatoeba-test.eng-hat.eng.hat28.00.502
Tatoeba-test.eng-ita.eng.ita45.60.674
Tatoeba-test.eng-lad.eng.lad8.20.322
Tatoeba-test.eng-lij.eng.lij1.40.182
Tatoeba-test.eng-lld.eng.lld0.80.217
Tatoeba-test.eng-lmo.eng.lmo0.70.190
Tatoeba-test.eng-mfe.eng.mfe91.90.956
Tatoeba-test.eng-msa.eng.msa31.10.548
Tatoeba-test.eng.multi42.90.636
Tatoeba-test.eng-mwl.eng.mwl2.10.234
Tatoeba-test.eng-oci.eng.oci7.90.297
Tatoeba-test.eng-pap.eng.pap44.10.648
Tatoeba-test.eng-pms.eng.pms2.10.190
Tatoeba-test.eng-por.eng.por41.80.639
Tatoeba-test.eng-roh.eng.roh3.50.261
Tatoeba-test.eng-ron.eng.ron41.00.635
Tatoeba-test.eng-scn.eng.scn1.70.184
Tatoeba-test.eng-spa.eng.spa50.10.689
Tatoeba-test.eng-vec.eng.vec3.20.248
Tatoeba-test.eng-wln.eng.wln7.20.220

System Info:

  • hf_name: eng-roa

  • source_languages: eng

  • target_languages: roa

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/eng-roa/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['en', 'it', 'ca', 'rm', 'es', 'ro', 'gl', 'co', 'wa', 'pt', 'oc', 'an', 'id', 'fr', 'ht', 'roa']

  • src_constituents: {'eng'}

  • tgt_constituents: {'ita', 'cat', 'roh', 'spa', 'pap', 'lmo', 'mwl', 'lij', 'lad_Latn', 'ext', 'ron', 'ast', 'glg', 'pms', 'zsm_Latn', 'gcf_Latn', 'lld_Latn', 'min', 'tmw_Latn', 'cos', 'wln', 'zlm_Latn', 'por', 'egl', 'oci', 'vec', 'arg', 'ind', 'fra', 'hat', 'lad', 'max_Latn', 'frm_Latn', 'scn', 'mfe'}

  • src_multilingual: False

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-roa/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-roa/opus2m-2020-08-01.test.txt

  • src_alpha3: eng

  • tgt_alpha3: roa

  • short_pair: en-roa

  • chrF2_score: 0.636

  • bleu: 42.9

  • brevity_penalty: 0.978

  • ref_len: 72751.0

  • src_name: English

  • tgt_name: Romance languages

  • train_date: 2020-08-01

  • src_alpha2: en

  • tgt_alpha2: roa

  • prefer_old: False

  • long_pair: eng-roa

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
8dc4cb2

0 моделей