/ Модель

Характеристики

Контекст
512 токенов
Параметры
44,7 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-sla-sla

ПереводТекст → текст3 профессии

Мультиязычная модель MarianMT для перевода между славянскими языками с указанием целевого языка специальным токеном.

279скачиваний за 30 дней1лайквеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-sla-sla — мультиязычная модель машинного перевода из проекта OPUS-MT, опубликованная под лицензией Apache-2.0. Она предназначена для перевода между славянскими языками и вариантами письма: в карточке перечислены белорусский, боснийский, болгарский, чешский, кашубский, нижне- и верхнелужицкий, хорватский, македонский, польский, русский, русинский, сербский, словенский и украинский. Поддерживаются варианты кириллицы и латиницы там, где они указаны в списке языков.

Модель использует архитектуру Transformer семейства MarianMT, содержит 44,7 млн параметров и рассчитана на контекст до 512 токенов. Для выбора целевого языка требуется добавить в начало предложения специальный токен вида `>>id<<`. Текст нормализуется и токенизируется SentencePiece с моделью словаря 32k. В README приведены оценки BLEU и chr-F на тестовых наборах, однако качество зависит от языковой пары и текста; документация не подтверждает одинаковую точность для всех перечисленных направлений.

Сценарии применения

  • перевод с русского на другие славянские языки
  • перевод между чешским, польским и словацкими языками
  • перевод между кириллической и латинской записью поддерживаемых языков
  • машинный перевод коротких текстов и предложений между славянскими языками

Ограничения

Длина контекста ограничена 512 токенами; для корректного выбора языка перевода необходим целевой языковой токен в начале предложения. Качество может различаться между языковыми парами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

sla-sla

  • source group: Slavic languages

  • target group: Slavic languages

  • OPUS readme: sla-sla

  • model: transformer

  • source language(s): bel bel_Latn bos_Latn bul bul_Latn ces dsb hrv hsb mkd orv_Cyrl pol rus slv srp_Cyrl srp_Latn ukr

  • target language(s): bel bel_Latn bos_Latn bul bul_Latn ces dsb hrv hsb mkd orv_Cyrl pol rus slv srp_Cyrl srp_Latn ukr

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus-2020-07-27.zip

  • test set translations: opus-2020-07-27.test.txt

  • test set scores: opus-2020-07-27.eval.txt

Benchmarks

testsetBLEUchr-F
newstest2012-cesrus.ces.rus15.90.437
newstest2012-rusces.rus.ces13.60.403
newstest2013-cesrus.ces.rus19.80.473
newstest2013-rusces.rus.ces17.90.449
Tatoeba-test.bel-bul.bel.bul100.01.000
Tatoeba-test.bel-ces.bel.ces33.50.630
Tatoeba-test.bel-hbs.bel.hbs45.40.644
Tatoeba-test.bel-mkd.bel.mkd19.30.531
Tatoeba-test.bel-pol.bel.pol46.90.681
Tatoeba-test.bel-rus.bel.rus58.50.767
Tatoeba-test.bel-ukr.bel.ukr55.10.743
Tatoeba-test.bul-bel.bul.bel10.70.423
Tatoeba-test.bul-ces.bul.ces36.90.585
Tatoeba-test.bul-hbs.bul.hbs53.70.807
Tatoeba-test.bul-mkd.bul.mkd31.90.715
Tatoeba-test.bul-pol.bul.pol38.60.607
Tatoeba-test.bul-rus.bul.rus44.80.655
Tatoeba-test.bul-ukr.bul.ukr49.90.691
Tatoeba-test.ces-bel.ces.bel30.90.585
Tatoeba-test.ces-bul.ces.bul75.80.859
Tatoeba-test.ces-hbs.ces.hbs50.00.661
Tatoeba-test.ces-hsb.ces.hsb7.90.246
Tatoeba-test.ces-mkd.ces.mkd24.60.569
Tatoeba-test.ces-pol.ces.pol44.30.652
Tatoeba-test.ces-rus.ces.rus50.80.690
Tatoeba-test.ces-slv.ces.slv4.90.240
Tatoeba-test.ces-ukr.ces.ukr52.90.687
Tatoeba-test.dsb-pol.dsb.pol16.30.367
Tatoeba-test.dsb-rus.dsb.rus12.70.245
Tatoeba-test.hbs-bel.hbs.bel32.90.531
Tatoeba-test.hbs-bul.hbs.bul100.01.000
Tatoeba-test.hbs-ces.hbs.ces40.30.626
Tatoeba-test.hbs-mkd.hbs.mkd19.30.535
Tatoeba-test.hbs-pol.hbs.pol45.00.650
Tatoeba-test.hbs-rus.hbs.rus53.50.709
Tatoeba-test.hbs-ukr.hbs.ukr50.70.684
Tatoeba-test.hsb-ces.hsb.ces17.90.366
Tatoeba-test.mkd-bel.mkd.bel23.60.548
Tatoeba-test.mkd-bul.mkd.bul54.20.833
Tatoeba-test.mkd-ces.mkd.ces12.10.371
Tatoeba-test.mkd-hbs.mkd.hbs19.30.577
Tatoeba-test.mkd-pol.mkd.pol53.70.833
Tatoeba-test.mkd-rus.mkd.rus34.20.745
Tatoeba-test.mkd-ukr.mkd.ukr42.70.708
Tatoeba-test.multi.multi48.50.672
Tatoeba-test.orv-pol.orv.pol10.10.355
Tatoeba-test.orv-rus.orv.rus10.60.275
Tatoeba-test.orv-ukr.orv.ukr7.50.230
Tatoeba-test.pol-bel.pol.bel29.80.533
Tatoeba-test.pol-bul.pol.bul36.80.578
Tatoeba-test.pol-ces.pol.ces43.60.626
Tatoeba-test.pol-dsb.pol.dsb0.90.097
Tatoeba-test.pol-hbs.pol.hbs42.40.644
Tatoeba-test.pol-mkd.pol.mkd19.30.535
Tatoeba-test.pol-orv.pol.orv0.70.109
Tatoeba-test.pol-rus.pol.rus49.60.680
Tatoeba-test.pol-slv.pol.slv7.30.262
Tatoeba-test.pol-ukr.pol.ukr46.80.664
Tatoeba-test.rus-bel.rus.bel34.40.577
Tatoeba-test.rus-bul.rus.bul45.50.657
Tatoeba-test.rus-ces.rus.ces48.00.659
Tatoeba-test.rus-dsb.rus.dsb10.70.029
Tatoeba-test.rus-hbs.rus.hbs44.60.655
Tatoeba-test.rus-mkd.rus.mkd34.90.617
Tatoeba-test.rus-orv.rus.orv0.10.073
Tatoeba-test.rus-pol.rus.pol45.20.659
Tatoeba-test.rus-slv.rus.slv30.40.476
Tatoeba-test.rus-ukr.rus.ukr57.60.751
Tatoeba-test.slv-ces.slv.ces42.50.604
Tatoeba-test.slv-pol.slv.pol39.60.601
Tatoeba-test.slv-rus.slv.rus47.20.638
Tatoeba-test.slv-ukr.slv.ukr36.40.549
Tatoeba-test.ukr-bel.ukr.bel36.90.597
Tatoeba-test.ukr-bul.ukr.bul56.40.733
Tatoeba-test.ukr-ces.ukr.ces52.10.686
Tatoeba-test.ukr-hbs.ukr.hbs47.10.670
Tatoeba-test.ukr-mkd.ukr.mkd20.80.548
Tatoeba-test.ukr-orv.ukr.orv0.20.058
Tatoeba-test.ukr-pol.ukr.pol50.10.695
Tatoeba-test.ukr-rus.ukr.rus63.90.790
Tatoeba-test.ukr-slv.ukr.slv14.50.288

System Info:

  • hf_name: sla-sla

  • source_languages: sla

  • target_languages: sla

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/sla-sla/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['be', 'hr', 'mk', 'cs', 'ru', 'pl', 'bg', 'uk', 'sl', 'sla']

  • src_constituents: {'bel', 'hrv', 'orv_Cyrl', 'mkd', 'bel_Latn', 'srp_Latn', 'bul_Latn', 'ces', 'bos_Latn', 'csb_Latn', 'dsb', 'hsb', 'rus', 'srp_Cyrl', 'pol', 'rue', 'bul', 'ukr', 'slv'}

  • tgt_constituents: {'bel', 'hrv', 'orv_Cyrl', 'mkd', 'bel_Latn', 'srp_Latn', 'bul_Latn', 'ces', 'bos_Latn', 'csb_Latn', 'dsb', 'hsb', 'rus', 'srp_Cyrl', 'pol', 'rue', 'bul', 'ukr', 'slv'}

  • src_multilingual: True

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/sla-sla/opus-2020-07-27.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/sla-sla/opus-2020-07-27.test.txt

  • src_alpha3: sla

  • tgt_alpha3: sla

  • short_pair: sla-sla

  • chrF2_score: 0.672

  • bleu: 48.5

  • brevity_penalty: 1.0

  • ref_len: 59320.0

  • src_name: Slavic languages

  • tgt_name: Slavic languages

  • train_date: 2020-07-27

  • src_alpha2: sla

  • tgt_alpha2: sla

  • prefer_old: False

  • long_pair: sla-sla

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
0b975be

0 моделей