Характеристики

Контекст: 8 192 токена
Параметры: 135 млн
Лицензия: Apache 2.0
Архитектура: modernbert · dense
Библиотека: transformers
Опубликована: 28 мар 2026

Ссылки

Hugging Face

lv-mbert-base

AiLab-IMCS-UL

Заполнение пропусковТекст → текст3 профессии

Латышскоязычный энкодер ModernBERT для предсказания пропущенных слов и токенов в тексте.

113скачиваний за 30 дней0лайковвеса обновлены25 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AiLab-IMCS-UL представила lv-mbert-base — латышскоязычный текстовый энкодер ModernBERT, выпущенный вместе со статьёй «Pretraining and Benchmarking Modern Encoders for Latvian». Модель содержит 135,5 млн параметров, использует архитектуру ModernBERT и принимает контекст длиной до 8192 токенов. Она предназначена для задачи fill-mask: предсказания пропущенных токенов в латышском тексте.

Это базовая маскированная языковая модель, а не генеративный чат-бот. Весы опубликованы в формате Safetensors; лицензия — Apache-2.0. Карточка ссылается на оценочный код и результаты бенчмарков, но не приводит здесь подробностей об обучающих данных или показателях качества.

Сценарии применения

предсказание пропущенного слова в латышском предложении
оценка языковой приемлемости латышских фраз
исследование и бенчмаркинг латышских текстовых энкодеров

Ограничения

Карточка не приводит подробностей об обучающих данных и численных результатах бенчмарков. Модель предназначена для предсказания маскированных токенов и сама по себе не является чат-моделью для свободной генерации ответов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Latvian ModernBERT base model

Latvian ModernBERT text encoder model, released with the paper "Pretraining and Benchmarking Modern Encoders for Latvian".

For evaluation code and benchmark results, see: https://github.com/LUMII-AILab/latvian-encoders

Citation

@inproceedings{znotins-2026-modern_lv_encoders,
    title = "Pretraining and Benchmarking Modern Encoders for {L}atvian",
    author = "Znotins, Arturs",
    booktitle = "Proceedings of the Second Workshop on Language Models for Low-Resource Languages ({LoResLM})",
    year = "2026",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2026.loreslm-1.40/",
    pages = "461--470"
}

Acknowledgements

This work was supported by the EU Recovery and Resilience Facility project Language Technology Initiative (2.3.1.1.i.0/1/22/I/CFLA/002).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: ModernBertForMaskedLM
Ревизия весов: cb15b94