/ Модель

Характеристики

Контекст
512 токенов
Параметры
54,4 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-en-itc

ПереводТекст → текст4 профессии

Модель OPUS-MT переводит английский текст на италийские и родственные языки с выбором языка назначения через специальный токен.

86скачиваний за 30 дней1лайквеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-en-itc — модель машинного перевода из проекта OPUS-MT на архитектуре Transformer Marian, разработанная Helsinki-NLP. Она переводит текст с английского на набор италийских и родственных языков, включая итальянский, испанский, французский, португальский, каталонский и румынский. Для выбора языка перевода перед текстом требуется специальный токен вида >>id<< с допустимым кодом целевого языка.

Модель содержит 54,4 млн параметров, использует SentencePiece с обработкой нормализацией и рассчитана на контекст до 512 токенов. В метаданных указана поддержка английского и ряда языков назначения; README описывает также региональные языки и варианты. Доступны веса PyTorch и TensorFlow. Для контрольных наборов README приводит BLEU 38,0 и chrF2 0,588 в целом, однако качество зависит от языковой пары и домена текста. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • перевод английского текста на итальянский
  • перевод с английского на испанский или французский
  • перевод английских текстов на португальский, румынский и каталонский
  • перевод с английского на региональные италийские языки
  • пакетный машинный перевод коротких текстов

Ограничения

Перевод выполняется только с английского на поддерживаемые языки назначения, а выбор целевого языка требует корректного языкового токена. Контекст ограничен 512 токенами; приведённые в README оценки относятся к тестовым наборам и не гарантируют качество для любых текстов.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

eng-itc

  • source group: English

  • target group: Italic languages

  • OPUS readme: eng-itc

  • model: transformer

  • source language(s): eng

  • target language(s): arg ast cat cos egl ext fra frm_Latn gcf_Latn glg hat ind ita lad lad_Latn lat_Latn lij lld_Latn lmo max_Latn mfe min mwl oci pap pms por roh ron scn spa tmw_Latn vec wln zlm_Latn zsm_Latn

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2016-enro-engron.eng.ron27.10.565
newsdiscussdev2015-enfr-engfra.eng.fra29.90.574
newsdiscusstest2015-enfr-engfra.eng.fra35.30.609
newssyscomb2009-engfra.eng.fra27.70.567
newssyscomb2009-engita.eng.ita28.60.586
newssyscomb2009-engspa.eng.spa29.80.569
news-test2008-engfra.eng.fra25.00.536
news-test2008-engspa.eng.spa27.10.548
newstest2009-engfra.eng.fra26.70.557
newstest2009-engita.eng.ita28.90.583
newstest2009-engspa.eng.spa28.90.567
newstest2010-engfra.eng.fra29.60.574
newstest2010-engspa.eng.spa33.80.598
newstest2011-engfra.eng.fra30.90.590
newstest2011-engspa.eng.spa34.80.598
newstest2012-engfra.eng.fra29.10.574
newstest2012-engspa.eng.spa34.90.600
newstest2013-engfra.eng.fra30.10.567
newstest2013-engspa.eng.spa31.80.576
newstest2016-enro-engron.eng.ron25.90.548
Tatoeba-test.eng-arg.eng.arg1.60.120
Tatoeba-test.eng-ast.eng.ast17.20.389
Tatoeba-test.eng-cat.eng.cat47.60.668
Tatoeba-test.eng-cos.eng.cos4.30.287
Tatoeba-test.eng-egl.eng.egl0.90.101
Tatoeba-test.eng-ext.eng.ext8.70.287
Tatoeba-test.eng-fra.eng.fra44.90.635
Tatoeba-test.eng-frm.eng.frm1.00.225
Tatoeba-test.eng-gcf.eng.gcf0.70.115
Tatoeba-test.eng-glg.eng.glg44.90.648
Tatoeba-test.eng-hat.eng.hat30.90.533
Tatoeba-test.eng-ita.eng.ita45.40.673
Tatoeba-test.eng-lad.eng.lad5.60.279
Tatoeba-test.eng-lat.eng.lat12.10.380
Tatoeba-test.eng-lij.eng.lij1.40.183
Tatoeba-test.eng-lld.eng.lld0.50.199
Tatoeba-test.eng-lmo.eng.lmo0.70.187
Tatoeba-test.eng-mfe.eng.mfe83.60.909
Tatoeba-test.eng-msa.eng.msa31.30.549
Tatoeba-test.eng.multi38.00.588
Tatoeba-test.eng-mwl.eng.mwl2.70.322
Tatoeba-test.eng-oci.eng.oci8.20.293
Tatoeba-test.eng-pap.eng.pap46.70.663
Tatoeba-test.eng-pms.eng.pms2.10.194
Tatoeba-test.eng-por.eng.por41.20.635
Tatoeba-test.eng-roh.eng.roh2.60.237
Tatoeba-test.eng-ron.eng.ron40.60.632
Tatoeba-test.eng-scn.eng.scn1.60.181
Tatoeba-test.eng-spa.eng.spa49.50.685
Tatoeba-test.eng-vec.eng.vec1.60.223
Tatoeba-test.eng-wln.eng.wln7.10.250

System Info:

  • hf_name: eng-itc

  • source_languages: eng

  • target_languages: itc

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/eng-itc/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['en', 'it', 'ca', 'rm', 'es', 'ro', 'gl', 'sc', 'co', 'wa', 'pt', 'oc', 'an', 'id', 'fr', 'ht', 'itc']

  • src_constituents: {'eng'}

  • tgt_constituents: {'ita', 'cat', 'roh', 'spa', 'pap', 'bjn', 'lmo', 'mwl', 'lij', 'lat_Latn', 'lad_Latn', 'pcd', 'lat_Grek', 'ext', 'ron', 'ast', 'glg', 'pms', 'zsm_Latn', 'srd', 'gcf_Latn', 'lld_Latn', 'min', 'tmw_Latn', 'cos', 'wln', 'zlm_Latn', 'por', 'egl', 'oci', 'vec', 'arg', 'ind', 'fra', 'hat', 'lad', 'max_Latn', 'frm_Latn', 'scn', 'mfe'}

  • src_multilingual: False

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-itc/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-itc/opus2m-2020-08-01.test.txt

  • src_alpha3: eng

  • tgt_alpha3: itc

  • short_pair: en-itc

  • chrF2_score: 0.588

  • bleu: 38.0

  • brevity_penalty: 0.9670000000000001

  • ref_len: 73951.0

  • src_name: English

  • tgt_name: Italic languages

  • train_date: 2020-08-01

  • src_alpha2: en

  • tgt_alpha2: itc

  • prefer_old: False

  • long_pair: eng-itc

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
478fe05

0 моделей