/ Модель

Характеристики

Контекст
512 токенов
Параметры
205 млн
Лицензия
CC BY-NC-SA 4.0
Архитектура
bert · dense
Опубликована
3 авг 2023

WSPAlign-mbert-base

Ответы на вопросыТекст → текст3 профессии

Мультиязычная модель на базе BERT для выравнивания слов в параллельных текстах и задач, связанных с переводом.

110скачиваний за 30 дней1лайквеса обновлены18 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

WSPAlign-mbert-base — мультиязычная модель на базе BERT, представленная в репозитории qiyuw. Она предназначена для выравнивания слов в параллельных текстах и связана с задачами перевода и ответов на вопросы. Модель содержит 205,1 млн параметров, принимает текст с контекстом до 512 токенов и опубликована в формате PyTorch.

В метаданных указана поддержка английского, немецкого, французского, китайского, японского и румынского языков. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях с ограничением некоммерческого использования. Карточка README содержит только краткое указание на инструкции по запуску; подробные сведения о качестве и ограничениях модели отсутствуют.

Сценарии применения

  • выравнивание слов в парах предложений на разных языках
  • подготовка параллельных корпусов для машинного перевода
  • поиск соответствий между словами оригинала и перевода

Ограничения

Поддерживаемые языки ограничены английским, немецким, французским, китайским, японским и румынским. В README не приведены показатели качества или оценка точности выравнивания.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Description

Refer to https://github.com/qiyuw/WSPAlign and https://github.com/qiyuw/WSPAlign.InferEval for details.

Qucik Usage

First clone inference repository:

git clone https://github.com/qiyuw/WSPAlign.InferEval.git

Then install the requirements following https://github.com/qiyuw/WSPAlign.InferEval. For inference only transformers, SpaCy and torch are required.

Finally, run the following example:

python inference.py --model_name_or_path qiyuw/WSPAlign-ft-kftt --src_lang ja --src_text="私は猫が好きです。" --tgt_lang en --tgt_text="I like cats."

Check inference.py for details usage.

Citation

Cite our paper if WSPAlign helps your work:

@inproceedings{wu-etal-2023-wspalign,
    title = "{WSPA}lign: Word Alignment Pre-training via Large-Scale Weakly Supervised Span Prediction",
    author = "Wu, Qiyu  and Nagata, Masaaki  and Tsuruoka, Yoshimasa",
    booktitle = "Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
    month = jul,
    year = "2023",
    address = "Toronto, Canada",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2023.acl-long.621",
    pages = "11084--11099",
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForQuestionAnswering
Ревизия весов
008b5c0

0 моделей