/ Модель

Характеристики

Контекст
512 токенов
Параметры
54,2 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-gem-en

ПереводТекст → текст3 профессии

Модель OPUS-MT переводит тексты с языков германской группы на английский.

217скачиваний за 30 дней2лайкавеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-gem-en — это модель машинного перевода семейства OPUS-MT, разработанная Helsinki-NLP и обученная для перевода с германских языков на английский. Она использует архитектуру Transformer в реализации MarianMT; размер модели составляет 54,2 млн параметров, а длина контекста — 512 токенов. Перед обработкой применяются нормализация и токенизация SentencePiece с моделью на 32 тысячи единиц.

Модель поддерживает широкий набор исходных языков и разновидностей: африкаанс, немецкий, нидерландский, датский, шведский, норвежские формы, исландский, идиш, фризские и исторические германские языки, а также другие языки германской группы. Целевой язык — английский. Модель подходит для перевода отдельных фраз и текстов; в карточке приведены оценки на нескольких тестовых наборах, включая BLEU 27,2 для одного из наборов немецко-английского направления.

Модель доступна в форматах PyTorch и TensorFlow по лицензии Apache-2.0. Результаты для редких, исторических и региональных языков могут быть менее надёжными, чем для распространённых языков; качество также зависит от жанра и соответствия текста обучающим данным.

Сценарии применения

  • перевод немецких текстов на английский
  • перевод нидерландских и африкаанс-текстов на английский
  • перевод датских, шведских и норвежских текстов на английский
  • перевод текстов на исландском, фризском и идише на английский
  • перевод исторических и региональных германских текстов на английский

Ограничения

Поддержка редких, исторических и региональных языков может сопровождаться более низким качеством, чем для распространённых языков; качество зависит также от жанра и обучающих данных. Контекст модели ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gem-eng

  • source group: Germanic languages

  • target group: English

  • OPUS readme: gem-eng

  • model: transformer

  • source language(s): afr ang_Latn dan deu enm_Latn fao frr fry gos got_Goth gsw isl ksh ltz nds nld nno nob nob_Hebr non_Latn pdc sco stq swe swg yid

  • target language(s): eng

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newssyscomb2009-deueng.deu.eng27.20.542
news-test2008-deueng.deu.eng26.30.536
newstest2009-deueng.deu.eng25.10.531
newstest2010-deueng.deu.eng28.30.569
newstest2011-deueng.deu.eng26.00.543
newstest2012-deueng.deu.eng26.80.550
newstest2013-deueng.deu.eng30.20.570
newstest2014-deen-deueng.deu.eng30.70.574
newstest2015-ende-deueng.deu.eng32.10.581
newstest2016-ende-deueng.deu.eng36.90.624
newstest2017-ende-deueng.deu.eng32.80.588
newstest2018-ende-deueng.deu.eng40.20.640
newstest2019-deen-deueng.deu.eng36.80.614
Tatoeba-test.afr-eng.afr.eng62.80.758
Tatoeba-test.ang-eng.ang.eng10.50.262
Tatoeba-test.dan-eng.dan.eng61.60.754
Tatoeba-test.deu-eng.deu.eng49.70.665
Tatoeba-test.enm-eng.enm.eng23.90.491
Tatoeba-test.fao-eng.fao.eng23.40.446
Tatoeba-test.frr-eng.frr.eng10.20.184
Tatoeba-test.fry-eng.fry.eng29.60.486
Tatoeba-test.gos-eng.gos.eng17.80.352
Tatoeba-test.got-eng.got.eng0.10.058
Tatoeba-test.gsw-eng.gsw.eng15.30.333
Tatoeba-test.isl-eng.isl.eng51.00.669
Tatoeba-test.ksh-eng.ksh.eng6.70.266
Tatoeba-test.ltz-eng.ltz.eng33.00.505
Tatoeba-test.multi.eng54.00.687
Tatoeba-test.nds-eng.nds.eng33.60.529
Tatoeba-test.nld-eng.nld.eng58.90.733
Tatoeba-test.non-eng.non.eng37.30.546
Tatoeba-test.nor-eng.nor.eng54.90.696
Tatoeba-test.pdc-eng.pdc.eng29.60.446
Tatoeba-test.sco-eng.sco.eng40.50.581
Tatoeba-test.stq-eng.stq.eng14.50.361
Tatoeba-test.swe-eng.swe.eng62.00.745
Tatoeba-test.swg-eng.swg.eng17.10.334
Tatoeba-test.yid-eng.yid.eng19.40.400

System Info:

  • hf_name: gem-eng

  • source_languages: gem

  • target_languages: eng

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/gem-eng/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['da', 'sv', 'af', 'nn', 'fy', 'fo', 'de', 'nb', 'nl', 'is', 'en', 'lb', 'yi', 'gem']

  • src_constituents: {'ksh', 'enm_Latn', 'got_Goth', 'stq', 'dan', 'swe', 'afr', 'pdc', 'gos', 'nno', 'fry', 'gsw', 'fao', 'deu', 'swg', 'sco', 'nob', 'nld', 'isl', 'eng', 'ltz', 'nob_Hebr', 'ang_Latn', 'frr', 'non_Latn', 'yid', 'nds'}

  • tgt_constituents: {'eng'}

  • src_multilingual: True

  • tgt_multilingual: False

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/gem-eng/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/gem-eng/opus2m-2020-08-01.test.txt

  • src_alpha3: gem

  • tgt_alpha3: eng

  • short_pair: gem-en

  • chrF2_score: 0.687

  • bleu: 54.0

  • brevity_penalty: 0.993

  • ref_len: 72120.0

  • src_name: Germanic languages

  • tgt_name: English

  • train_date: 2020-08-01

  • src_alpha2: gem

  • tgt_alpha2: en

  • prefer_old: False

  • long_pair: gem-eng

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
b716e9f

0 моделей