Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это уменьшенная версия NLLB-200-600M, опубликованная пользователем slone: модель M2M-100 для перевода текста между языками. В ней 6 слоёв вместо 12 и размер скрытого представления 512 вместо 1024; в README указано 175 млн параметров, а в метаданных Hugging Face — 156,3 млн. Она дообучена на подмножестве slone/nllb-200-10M-sample с примерами для 175 языков, отобранными по BLASER score выше 3,5. Контекст — 1024 токена.
Модель предназначена прежде всего как компактная основа для дальнейшего дообучения на небольшом наборе языков. README предупреждает, что качество перевода низкое, поэтому для готовых пользовательских переводов она не рекомендуется. Для специализированного дообучения рекомендуется предварительно сократить словарь до токенов целевых языков. Доступна в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Сценарии применения
дообучение модели для перевода между выбранными языками
эксперименты с компактной многоязычной моделью перевода
создание исследовательского прототипа машинного перевода
Ограничения
По README качество перевода низкое; модель рекомендуется как основа для дальнейшего дообучения, а не для готовых переводов. Лицензия CC BY-NC 4.0 не допускает коммерческое использование.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
It is a truncated version of NLLB-200-600M model
(6 layers instead of 12, 512 hidden dimensions instead of 1024) with 175M parameters (131M of which are token embeddings).
This model was fine-tuned on the slone/nllb-200-10M-sample subset of
the NLLB dataset with 175 languages, using only the samples with BLASER score above 3.5.
Because of its small size, it is really bad at translation, but can serve as a base model for further fine-tuning for a small number of languages.
It is recommended to prune the vocabulary of this model
before fine-tuning, to preserve only the tokens used with the intended languages.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров