/ Модель

Характеристики

Контекст
512 токенов
Параметры
56,5 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-en-sem

ПереводТекст → текст4 профессии

Модель OPUS-MT переводит текст с английского на арабский и другие семитские языки, включая иврит, амхарский и тигринья.

261скачиваний за 30 дней0лайковвеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-en-sem — модель машинного перевода из проекта OPUS-MT на архитектуре Transformer, реализованная через Marian. Она переводит текст с английского на несколько семитских языков и разновидностей: арабский (включая диалектные варианты), иврит, амхарский и тигринья; также заявлены мальтийский и другие арабские разновидности. Для выбора языка назначения в начале предложения требуется токен вида >>id<< с допустимым кодом языка.

Модель содержит 56,5 млн параметров, использует нормализацию и SentencePiece с словарями по 32 тыс. токенов и имеет контекст длиной до 512 токенов. В репозитории доступны веса PyTorch и TensorFlow. Метаданные указывают лицензию Apache-2.0. Качество зависит от языка и тематики: приведённые оценки BLEU составляют 11,2 для амхарского, 12,7 для арабского и 33,8 для иврита; поэтому переводы для отдельных языков могут требовать проверки.

Сценарии применения

  • перевод английских текстов на арабский
  • перевод с английского на иврит
  • перевод английских фраз на амхарский
  • перевод с английского на тигринья
  • перевод английских текстов на диалекты арабского

Ограничения

Контекст ограничен 512 токенами, а выбор целевого языка требует начального языкового токена. Приведённые оценки BLEU заметно различаются между языками, поэтому качество перевода следует проверять, особенно для амхарского и арабского.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

eng-sem

  • source group: English

  • target group: Semitic languages

  • OPUS readme: eng-sem

  • model: transformer

  • source language(s): eng

  • target language(s): acm afb amh apc ara arq ary arz heb mlt tir

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus2m-2020-08-01.zip

  • test set translations: opus2m-2020-08-01.test.txt

  • test set scores: opus2m-2020-08-01.eval.txt

Benchmarks

testsetBLEUchr-F
Tatoeba-test.eng-amh.eng.amh11.20.480
Tatoeba-test.eng-ara.eng.ara12.70.417
Tatoeba-test.eng-heb.eng.heb33.80.564
Tatoeba-test.eng-mlt.eng.mlt18.70.554
Tatoeba-test.eng.multi23.50.486
Tatoeba-test.eng-tir.eng.tir2.70.248

System Info:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
c181eab

0 моделей