Характеристики

Контекст: 8 192 токена
Параметры: 112 млн
Лицензия: Apache 2.0
Архитектура: modernbert · dense
Опубликована: 25 янв 2025

Ссылки

modernbert-base-thai-wikipedia

Заполнение пропусковТекст → текст3 профессии

Предварительно обученная на тайской Википедии ModernBERT-модель для восстановления замаскированных слов и адаптации к задачам обработки тайского языка.

46скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал ModernBERT-base, предварительно обученную на текстах тайской Википедии. Модель содержит 112,4 млн параметров, использует архитектуру ModernBERT для masked language modeling и принимает последовательности длиной до 8192 токенов. Опубликована в формате PyTorch; лицензия Apache-2.0.

Модель подходит для заполнения маскированных токенов в тайском тексте и как основа для дообучения под разметку частей речи, синтаксический анализ зависимостей и другие задачи обработки тайского языка. Для загрузки в README приведён пример с Transformers и AutoModelForMaskedLM.

Качество на конкретных прикладных задачах и ограничения модели в карточке не описаны; для специализированного применения потребуется дообучение и оценка на целевых данных.

Сценарии применения

восстановление пропущенного токена в тайском тексте
дообучение для разметки частей речи на тайском языке
дообучение для синтаксического анализа зависимостей тайского текста

Ограничения

Для задач разметки частей речи и синтаксического анализа модель нужно дообучить. Качество на целевых задачах в карточке не приведено.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

modernbert-base-thai-wikipedia

Model Description

This is a ModernBERT model pre-trained on Thai Wikipedia texts. NVIDIA A100-SXM4-40GB×8 took 3 hours 9 minutes for training. You can fine-tune modernbert-base-thai-wikipedia for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/modernbert-base-thai-wikipedia")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/modernbert-base-thai-wikipedia",trust_remote_code=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: ModernBertForMaskedLM
Ревизия весов: f462c60