/ Модель

Характеристики

Контекст
512 токенов
Параметры
42,4 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-sem-sem

ПереводТекст → текст3 профессии

Компактная модель OPUS-MT переводит текст между перечисленными разновидностями арабского, ивритом и мальтийским языком.

66скачиваний за 30 дней0лайковвеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-sem-sem — модель машинного перевода семейства OPUS-MT, разработанная в рамках проекта Helsinki-NLP и Tatoeba Challenge. Это компактная трансформерная модель MarianMT с 42,4 млн параметров для перевода между семитскими языками и разновидностями арабского: в README перечислены apc, ara, arq, arz, heb и mlt как исходные и целевые языки.

Модель принимает текст и выдаёт перевод. Перед текстом требуется указать целевой язык специальным токеном вида `>>id<<`; обработка включает нормализацию и SentencePiece с моделью словаря 32k. Максимальная длина контекста — 512 токенов. Доступны веса PyTorch и TensorFlow. Модель лицензирована по Apache-2.0.

В README приведены результаты на тестовых наборах: например, BLEU 34,0 для перевода с арабского на иврит и 16,6 для перевода с арабского на мальтийский; для арабского на арабский BLEU составляет 4,2. Качество зависит от направления и языковой разновидности, поэтому результаты на одном направлении не следует переносить на другие. Для мало представленных языковых разновидностей перевод может быть ненадёжным.

Сценарии применения

  • перевод с арабского на иврит
  • перевод с иврита на арабский
  • перевод между разновидностями арабского
  • перевод между арабским и мальтийским

Ограничения

Качество заметно различается между направлениями: в README BLEU составляет 4,2 для арабского на арабский и 16,6 для арабского на мальтийский. Перед входным текстом необходимо указать целевой язык токеном вида `>>id<<`.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

sem-sem

  • source group: Semitic languages

  • target group: Semitic languages

  • OPUS readme: sem-sem

  • model: transformer

  • source language(s): apc ara arq arz heb mlt

  • target language(s): apc ara arq arz heb mlt

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus-2020-07-27.zip

  • test set translations: opus-2020-07-27.test.txt

  • test set scores: opus-2020-07-27.eval.txt

Benchmarks

testsetBLEUchr-F
Tatoeba-test.ara-ara.ara.ara4.20.200
Tatoeba-test.ara-heb.ara.heb34.00.542
Tatoeba-test.ara-mlt.ara.mlt16.60.513
Tatoeba-test.heb-ara.heb.ara18.80.477
Tatoeba-test.mlt-ara.mlt.ara20.70.388
Tatoeba-test.multi.multi27.10.507

System Info:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
3d90883

0 моделей