Характеристики

Контекст: 1 024 токена
Параметры: 101 млн
Лицензия: Apache 2.0
Архитектура: fsmt · dense
Базовая модель: wmt19-finetuned-it-de-to-en
Опубликована: 19 мар 2024

Ссылки

Hugging Face

wmt19-finetuned-it-de-to-en-2

dokyoungkim

Языковая модель

Дообученная модель FSMT для перевода текстов с немецкого на английский.

11скачиваний за 30 дней0лайковвеса обновлены19 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dokyoungkim разработал эту модель как дообученную версию dokyoungkim/wmt19-finetuned-it-de-to-en на неизвестном датасете. Это плотная модель FSMT с архитектурой FSMTForConditionalGeneration и примерно 100,7 млн параметров; она предназначена для перевода текста с немецкого на английский. Максимальная длина контекста — 1024 токена.

На оценочном наборе модель показала BLEU 46,8781 и loss 0,1271. Доступна в формате safetensors; лицензия — Apache-2.0. Данные о наборе обучения и дополнительные ограничения в карточке не раскрыты.

Сценарии применения

перевод немецких текстов на английский
перевод документов с немецкого на английский
машинный перевод немецких фраз и предложений на английский

Ограничения

Датасет дообучения неизвестен, а подробности об intended uses и ограничениях в карточке отсутствуют.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

wmt19-finetuned-it-de-to-en-2

This model is a fine-tuned version of dokyoungkim/wmt19-finetuned-it-de-to-en on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.1271
Bleu: 46.8781

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 40
eval_batch_size: 160
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 6
mixed_precision_training: Native AMP

Training results

Framework versions

Transformers 4.37.2
Pytorch 2.0.1+cu117
Datasets 2.17.0
Tokenizers 0.15.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: FSMTForConditionalGeneration
Ревизия весов: 5fc63c9