/ Модель

Характеристики

Контекст
512 токенов
Параметры
42,4 млн
Лицензия
Apache 2.0
Архитектура
marian · dense
Опубликована
2 мар 2022

opus-mt-afa-afa

ПереводТекст → текст3 профессии

Многоязычный трансформер Marian для перевода между языками афразийской группы с выбором целевого языка специальным токеном.

131скачиваний за 30 дней0лайковвеса обновлены16 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Helsinki-NLP/opus-mt-afa-afa — модель машинного перевода из проекта OPUS-MT, разработанная Helsinki-NLP. Это трансформер Marian с 42,4 млн параметров, предназначенный для перевода между языками афразийской языковой группы. Модель обучена для многоязычного направления: среди указанных языков — арабский и его варианты, иврит, кабильский, мальтийский, шихи на латинице и таварекский; для выбора целевого языка в начале предложения требуется токен вида >>id<<.

Модель принимает и выдаёт текст. В репозитории доступны веса PyTorch и TensorFlow; заявлен контекст до 512 токенов. Предобработка включает нормализацию и SentencePiece. Apache-2.0 разрешает коммерческое и иное использование при соблюдении условий лицензии. Качество зависит от языковой пары: опубликованные тесты показывают заметно разные результаты, в том числе низкие BLEU для некоторых направлений, поэтому качество для конкретной пары следует проверять отдельно.

Сценарии применения

  • перевод арабского текста на иврит
  • перевод между арабскими диалектами
  • перевод на кабильский язык
  • перевод на мальтийский язык
  • перевод коротких фраз между поддерживаемыми афразийскими языками

Ограничения

Качество заметно различается между языковыми парами; отдельные опубликованные тесты показывают низкие оценки. Перед переводом необходимо добавить токен целевого языка вида >>id<<.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

afa-afa

  • source group: Afro-Asiatic languages

  • target group: Afro-Asiatic languages

  • OPUS readme: afa-afa

  • model: transformer

  • source language(s): apc ara arq arz heb kab mlt shy_Latn thv

  • target language(s): apc ara arq arz heb kab mlt shy_Latn thv

  • model: transformer

  • pre-processing: normalization + SentencePiece (spm32k,spm32k)

  • a sentence initial language token is required in the form of >>id<< (id = valid target language ID)

  • download original weights: opus-2020-07-26.zip

  • test set translations: opus-2020-07-26.test.txt

  • test set scores: opus-2020-07-26.eval.txt

Benchmarks

testsetBLEUchr-F
Tatoeba-test.ara-ara.ara.ara4.30.148
Tatoeba-test.ara-heb.ara.heb31.90.525
Tatoeba-test.ara-kab.ara.kab0.30.120
Tatoeba-test.ara-mlt.ara.mlt14.00.428
Tatoeba-test.ara-shy.ara.shy1.30.050
Tatoeba-test.heb-ara.heb.ara17.00.464
Tatoeba-test.heb-kab.heb.kab1.90.104
Tatoeba-test.kab-ara.kab.ara0.30.044
Tatoeba-test.kab-heb.kab.heb5.10.099
Tatoeba-test.kab-shy.kab.shy2.20.009
Tatoeba-test.kab-tmh.kab.tmh10.70.007
Tatoeba-test.mlt-ara.mlt.ara29.10.498
Tatoeba-test.multi.multi20.80.434
Tatoeba-test.shy-ara.shy.ara1.20.053
Tatoeba-test.shy-kab.shy.kab2.00.134
Tatoeba-test.tmh-kab.tmh.kab0.00.047

System Info:

  • hf_name: afa-afa

  • source_languages: afa

  • target_languages: afa

  • opus_readme_url: https://github.com/Helsinki-NLP/Tatoeba-Challenge/tree/master/models/afa-afa/README.md

  • original_repo: Tatoeba-Challenge

  • tags: ['translation']

  • languages: ['so', 'ti', 'am', 'he', 'mt', 'ar', 'afa']

  • src_constituents: {'som', 'rif_Latn', 'tir', 'kab', 'arq', 'afb', 'amh', 'arz', 'heb', 'shy_Latn', 'apc', 'mlt', 'thv', 'ara', 'hau_Latn', 'acm', 'ary'}

  • tgt_constituents: {'som', 'rif_Latn', 'tir', 'kab', 'arq', 'afb', 'amh', 'arz', 'heb', 'shy_Latn', 'apc', 'mlt', 'thv', 'ara', 'hau_Latn', 'acm', 'ary'}

  • src_multilingual: True

  • tgt_multilingual: True

  • prepro: normalization + SentencePiece (spm32k,spm32k)

  • url_model: https://object.pouta.csc.fi/Tatoeba-MT-models/afa-afa/opus-2020-07-26.zip

  • url_test_set: https://object.pouta.csc.fi/Tatoeba-MT-models/afa-afa/opus-2020-07-26.test.txt

  • src_alpha3: afa

  • tgt_alpha3: afa

  • short_pair: afa-afa

  • chrF2_score: 0.434

  • bleu: 20.8

  • brevity_penalty: 1.0

  • ref_len: 15215.0

  • src_name: Afro-Asiatic languages

  • tgt_name: Afro-Asiatic languages

  • train_date: 2020-07-26

  • src_alpha2: afa

  • tgt_alpha2: afa

  • prefer_old: False

  • long_pair: afa-afa

  • helsinki_git_sha: 480fcbe0ee1bf4774bcbe6226ad9f58e63f6c535

  • transformers_git_sha: 2207e5d8cb224e954a7cba69fa4ac2309e9ff30b

  • port_machine: brutasse

  • port_time: 2020-08-21-14:41

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MarianMTModel
Ревизия весов
44c198b

0 моделей