Характеристики

Контекст: 8 192 токена
Параметры: 377 млн
Лицензия: Apache 2.0
Архитектура: modernbert · dense
Библиотека: transformers
Опубликована: 28 мар 2026

Ссылки

Hugging Face

lv-mbert-large

AiLab-IMCS-UL

Заполнение пропусковТекст → текст3 профессии

Крупный латышский энкодер ModernBERT для предсказания замаскированных слов и языковых экспериментов.

259скачиваний за 30 дней0лайковвеса обновлены25 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AiLab-IMCS-UL/lv-mbert-large — крупная модель ModernBERT от AiLab-IMCS-UL, выпущенная вместе со статьёй «Pretraining and Benchmarking Modern Encoders for Latvian». Это текстовый энкодер с архитектурой ModernBERT и 376,7 млн параметров; карточка указывает контекст до 8192 токенов. Модель предназначена для латышского языка и задачи заполнения пропусков в тексте: она предсказывает замаскированные токены по окружающему контексту.

Модель подходит для языковых экспериментов и задач, основанных на латышском контексте, включая восстановление пропущенных слов и оценку языковых представлений. Доступна в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0. README ссылается на статью и оценочные материалы, но не приводит подробных результатов бенчмарков или ограничений качества.

Сценарии применения

восстановление пропущенных слов в латышском тексте
предсказание замаскированных токенов по контексту
оценка латышских языковых представлений в экспериментах

Ограничения

Карточка не приводит результатов бенчмарков или подробной оценки качества; назначение модели ограничено латышским текстом и задачами энкодера с маскированными токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Latvian ModernBERT large model

Latvian ModernBERT text encoder model, released with the paper "Pretraining and Benchmarking Modern Encoders for Latvian".

For evaluation code and benchmark results, see: https://github.com/LUMII-AILab/latvian-encoders

Citation

@inproceedings{znotins-2026-modern_lv_encoders,
    title = "Pretraining and Benchmarking Modern Encoders for {L}atvian",
    author = "Znotins, Arturs",
    booktitle = "Proceedings of the Second Workshop on Language Models for Low-Resource Languages ({LoResLM})",
    year = "2026",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2026.loreslm-1.40/",
    pages = "461--470"
}

Acknowledgements

This work was supported by the EU Recovery and Resilience Facility project Language Technology Initiative (2.3.1.1.i.0/1/22/I/CFLA/002).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: ModernBertForMaskedLM
Ревизия весов: 03470eb