/ Модель

Характеристики

Контекст
512 токенов
Параметры
56,8 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-inc-en

ПереводТекст → текст5 профессий

Модель OPUS-MT переводит текст с ряда индийских языков на английский.

276скачиваний за 30 дней0лайковвеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-inc-en — модель машинного перевода из проекта OPUS-MT, основанная на архитектуре Transformer и реализованная как MarianMT. Она переводит текст с группы индийских языков на английский. Среди исходных языков: ассамский, бенгальский, бходжпури, гуджарати, хинди, непальский, маратхи, ория, пенджаби, синдхи, сингальский и урду; README также перечисляет ряд других языковых разновидностей и письменностей. Для токенизации используется SentencePiece с моделями по 32 тысячи токенов. Модель содержит 56,8 млн параметров, её родной контекст — до 512 токенов.

Модель подходит для перевода отдельных текстов и документов с поддерживаемых индийских языков на английский. В README приведены результаты BLEU на нескольких тестовых наборах, которые показывают заметно различающееся качество в зависимости от языка и набора. Репозиторий содержит веса PyTorch и TensorFlow. Лицензия — Apache-2.0.

Сценарии применения

  • перевод текстов с хинди на английский
  • перевод бенгальских текстов на английский
  • перевод новостей с гуджарати на английский
  • перевод документов с урду на английский
  • перевод текстов с ассамского, маратхи или сингальского на английский

Ограничения

Перевод выполняется только с перечисленных исходных языков на английский, а контекст ограничен 512 токенами. Приведённые в README результаты BLEU различаются по языкам и тестовым наборам, поэтому качество перевода зависит от языковой пары и типа текста.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

inc-eng

  • source group: Indic languages

  • target group: English

  • OPUS readme: inc-eng

  • model: transformer

  • source language(s): asm awa ben bho gom guj hif_Latn hin mai mar npi ori pan_Guru pnb rom san_Deva sin snd_Arab urd

  • target language(s): eng

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
newsdev2014-hineng.hin.eng8.90.341
newsdev2019-engu-gujeng.guj.eng8.70.321
newstest2014-hien-hineng.hin.eng13.10.396
newstest2019-guen-gujeng.guj.eng6.50.290
Tatoeba-test.asm-eng.asm.eng18.10.363
Tatoeba-test.awa-eng.awa.eng6.20.222
Tatoeba-test.ben-eng.ben.eng44.70.595
Tatoeba-test.bho-eng.bho.eng29.40.458
Tatoeba-test.guj-eng.guj.eng19.30.383
Tatoeba-test.hif-eng.hif.eng3.70.220
Tatoeba-test.hin-eng.hin.eng38.60.564
Tatoeba-test.kok-eng.kok.eng6.60.287
Tatoeba-test.lah-eng.lah.eng16.00.272
Tatoeba-test.mai-eng.mai.eng75.60.796
Tatoeba-test.mar-eng.mar.eng25.90.497
Tatoeba-test.multi.eng29.00.502
Tatoeba-test.nep-eng.nep.eng4.50.198
Tatoeba-test.ori-eng.ori.eng5.00.226
Tatoeba-test.pan-eng.pan.eng17.40.375
Tatoeba-test.rom-eng.rom.eng1.70.174
Tatoeba-test.san-eng.san.eng5.00.173
Tatoeba-test.sin-eng.sin.eng31.20.511
Tatoeba-test.snd-eng.snd.eng45.70.670
Tatoeba-test.urd-eng.urd.eng25.60.456

System Info:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
b237db6

0 моделей