/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
CC BY 4.0
Архитектура
xlm-roberta · dense
Опубликована
7 мая 2022

grc-alignment

Заполнение пропусковТекст → текст3 профессии

XLM-RoBERTa-модель для автоматического выравнивания слов в переводах древнегреческих текстов.

96скачиваний за 30 дней2лайкавеса обновлены1 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

UGARIT/grc-alignment — модель на архитектуре XLM-RoBERTa, разработанная для автоматического выравнивания слов в параллельных текстах на древнегреческом и других языках. Модель обучали на 12 млн токенов древнегреческого текста с задачей masked language modeling, затем дообучили на 45 тыс. параллельных предложений, преимущественно на древнегреческом и английском, латинском и грузинском языках.

Модель предназначена для сопоставления слов между переводом и оригиналом в корпусах древних текстов. В описанных оценках показатель Alignment Error Rate составил 19,73% для пары древнегреческий—английский, 23,91% для древнегреческий—португальский и 10,60% для древнегреческий—латинский. Архитектура содержит около 305 млн параметров и поддерживает контекст до 514 токенов. Репозиторий предоставляет веса PyTorch и Safetensors; лицензия — CC BY 4.0.

Сценарии применения

  • выравнивание слов древнегреческого оригинала и английского перевода
  • сопоставление слов в древнегреческих и латинских текстах
  • выравнивание древнегреческого и грузинского параллельных корпусов
  • подготовка данных для изучения переводов и текстовых корпусов

Ограничения

README приводит оценки только для отдельных языковых пар, и качество может различаться на других корпусах и жанрах. Архитектура и основная задача в метаданных указаны как fill-mask, поэтому для выравнивания слов может потребоваться соответствующий внешний алгоритм обработки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Automatic Translation Alignment of Ancient Greek Texts

GRC-ALIGNMENT model is an XLM-RoBERTa-based model, fine-tuned for automatic multilingual text alignment at the word level. The model is trained on 12 million monolingual ancient Greek tokens with Masked Language Model (MLM) training objective. Further, the model is fine-tuned on 45k parallel sentences, mainly in ancient Greek-English, Greek-Latin, and Greek-Georgian.

Multilingual Training Dataset

LanguagesSentencesSource
GRC-ENG32.500Perseus Digital Library (Iliad, Odyssey, Xenophon, New Testament)
GRC-LAT8.200Digital Fragmenta Historicorum Graecorum project
GRC-KAT GRC-ENG GRC-LATGRC-ITAGRC-POR4.000UGARIT Translation Alignment Editor

Model Performance

LanguagesAlignment Error Rate
GRC-ENG19.73% (IterMax)
GRC-POR23.91% (IterMax)
GRC-LAT10.60% (ArgMax)

The gold standard datasets are available on Github.

If you use this model, please cite our papers:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForMaskedLM
Ревизия весов
d1a6280

0 моделей