/ Модель

Характеристики

Контекст
512 токенов
Параметры
56,8 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-en-inc

ПереводТекст → текст4 профессии

Компактная модель OPUS-MT переводит текст с английского на широкий набор индийских языков с указанием целевого языка специальным токеном.

918скачиваний за 30 дней1лайквеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-en-inc — модель машинного перевода из семейства OPUS-MT, разработанная Helsinki-NLP на архитектуре Transformer и реализованная как MarianMT. Она переводит текст с английского на набор индийских языков: ассамский, бенгальский, бходжпури, гуджарати, хинди, маратхи, непальский, ория, пенджаби, санскрит, синдхи, сингальский, урду и другие перечисленные в карточке разновидности.

Для выбора целевого языка в начале входного текста требуется токен вида >>id<< с допустимым кодом языка. Модель содержит 56,8 млн параметров, использует SentencePiece с словарями размером 32 тыс. токенов и имеет контекст до 512 токенов. Карточка приводит результаты тестов на переводе новостных текстов, однако качество может различаться в зависимости от языка и тематики. Лицензия — Apache-2.0.

Сценарии применения

  • перевод английских текстов на хинди
  • перевод английских материалов на бенгальский и ассамский
  • перевод новостных текстов на гуджарати или маратхи
  • перевод английского текста на урду, сингальский или непальский
  • массовый перевод коротких текстов на языки Индии

Ограничения

В начале входа нужен корректный токен целевого языка формата >>id<<. Контекст ограничен 512 токенами, а качество перевода зависит от целевого языка и может быть невысоким для отдельных языковых пар.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

eng-inc

  • source group: English

  • target group: Indic languages

  • OPUS readme: eng-inc

  • model: transformer

  • source language(s): eng

  • target language(s): asm awa ben bho gom guj hif_Latn hin mai mar npi ori pan_Guru pnb rom san_Deva sin snd_Arab urd

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2014-enghin.eng.hin8.20.342
newsdev2019-engu-engguj.eng.guj6.50.293
newstest2014-hien-enghin.eng.hin11.40.364
newstest2019-engu-engguj.eng.guj7.20.296
Tatoeba-test.eng-asm.eng.asm2.70.277
Tatoeba-test.eng-awa.eng.awa0.50.132
Tatoeba-test.eng-ben.eng.ben16.70.470
Tatoeba-test.eng-bho.eng.bho4.30.227
Tatoeba-test.eng-guj.eng.guj17.50.373
Tatoeba-test.eng-hif.eng.hif0.60.028
Tatoeba-test.eng-hin.eng.hin17.70.469
Tatoeba-test.eng-kok.eng.kok1.70.000
Tatoeba-test.eng-lah.eng.lah0.30.028
Tatoeba-test.eng-mai.eng.mai15.60.429
Tatoeba-test.eng-mar.eng.mar21.30.477
Tatoeba-test.eng.multi17.30.448
Tatoeba-test.eng-nep.eng.nep0.80.081
Tatoeba-test.eng-ori.eng.ori2.20.208
Tatoeba-test.eng-pan.eng.pan8.00.347
Tatoeba-test.eng-rom.eng.rom0.40.197
Tatoeba-test.eng-san.eng.san0.50.108
Tatoeba-test.eng-sin.eng.sin9.10.364
Tatoeba-test.eng-snd.eng.snd4.40.284
Tatoeba-test.eng-urd.eng.urd13.30.423

System Info:

  • hf_name: eng-inc

  • source_languages: eng

  • target_languages: inc

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/eng-inc/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['en', 'bn', 'or', 'gu', 'mr', 'ur', 'hi', 'as', 'si', 'inc']

  • src_constituents: {'eng'}

  • tgt_constituents: {'pnb', 'gom', 'ben', 'hif_Latn', 'ori', 'guj', 'pan_Guru', 'snd_Arab', 'npi', 'mar', 'urd', 'bho', 'hin', 'san_Deva', 'asm', 'rom', 'mai', 'awa', 'sin'}

  • src_multilingual: False

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-inc/opus2m-2020-08-01.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/eng-inc/opus2m-2020-08-01.test.txt

  • src_alpha3: eng

  • tgt_alpha3: inc

  • short_pair: en-inc

  • chrF2_score: 0.44799999999999995

  • bleu: 17.3

  • brevity_penalty: 1.0

  • ref_len: 59917.0

  • src_name: English

  • tgt_name: Indic languages

  • train_date: 2020-08-01

  • src_alpha2: en

  • tgt_alpha2: inc

  • prefer_old: False

  • long_pair: eng-inc

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
27e9217

0 моделей