Характеристики

Контекст: 1 024 токена
Параметры: 138 млн
Лицензия: Apache 2.0
Архитектура: roberta · dense
Библиотека: transformers
Опубликована: 28 мар 2026

Ссылки

Hugging Face

lv-roberta-base

AiLab-IMCS-UL

Заполнение пропусковТекст → текст3 профессии

Базовый латышский энкодер RoBERTa для предсказания пропущенных токенов и оценки языковых моделей.

625скачиваний за 30 дней0лайковвеса обновлены25 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AiLab-IMCS-UL/lv-roberta-base — базовая латышская модель RoBERTa, выпущенная AiLab-IMCS-UL вместе с исследованием «Pretraining and Benchmarking Modern Encoders for Latvian». Это текстовый энкодер с архитектурой RoBERTa и примерно 138,4 млн параметров, предназначенный для языковых задач на латышском языке.

Модель поддерживает задачу заполнения маски: по контексту она предсказывает скрытые в тексте токены. Её можно использовать для оценки и сравнения латышских языковых энкодеров, а также как основу для прикладных систем обработки латышского текста. Размер контекста составляет 1024 токена.

Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка связывает её с исследовательской работой и оценкой энкодеров; конкретные результаты бенчмарков и сведения о дообучении в предоставленном README не приведены.

Сценарии применения

предсказание пропущенного слова в латышском тексте
оценка и сравнение латышских языковых энкодеров
создание систем обработки латышского текста на основе энкодера

Ограничения

Карточка не приводит численных результатов бенчмарков или подробностей о прикладной настройке модели; она предназначена для латышского языка и не заявлена как универсальная генеративная чат-модель.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Latvian RoBERTa base model

Latvian RoBERTa text encoder model, released with the paper "Pretraining and Benchmarking Modern Encoders for Latvian".

For evaluation code and benchmark results, see: https://github.com/LUMII-AILab/latvian-encoders

Citation

@inproceedings{znotins-2026-modern_lv_encoders,
    title = "Pretraining and Benchmarking Modern Encoders for {L}atvian",
    author = "Znotins, Arturs",
    booktitle = "Proceedings of the Second Workshop on Language Models for Low-Resource Languages ({LoResLM})",
    year = "2026",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2026.loreslm-1.40/",
    pages = "461--470"
}

Acknowledgements

This work was supported by the EU Recovery and Resilience Facility project Language Technology Initiative (2.3.1.1.i.0/1/22/I/CFLA/002).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForMaskedLM
Ревизия весов: 9b588f1