Характеристики

Контекст: 514 токенов
Параметры: 126 млн
Лицензия: Apache 2.0
Архитектура: roberta · dense
Опубликована: 2 мар 2022

Ссылки

Hugging Face

roberta-base-thai-syllable

KoichiYasuoka

Заполнение пропусковТекст → текст3 профессии

Тайская RoBERTa-модель для восстановления замаскированных токенов и дообучения под задачи анализа текста.

90скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал RoBERTa-модель, предварительно обученную на текстах тайской Википедии и основанную на wangchanberta-base-wiki-syllable. Это плотная модель архитектуры RoBERTa с 126 млн параметров, реализованная как RobertaForMaskedLM; для токенизации используется BertTokenizerFast с изменёнными символьными эмбеддингами. Контекст составляет до 514 токенов.

Модель предназначена для восстановления замаскированных токенов в тайском тексте и как основа для дообучения под задачи разметки частей речи и синтаксического анализа зависимостей. Она принимает текст и предсказывает пропущенные фрагменты. Распространяется по лицензии Apache-2.0.

Сценарии применения

восстановление пропущенных слов в тайском тексте
предобучение модели для разметки частей речи на тайском
дообучение для синтаксического анализа зависимостей на тайском

Ограничения

Контекст ограничен 514 токенами. Для разметки частей речи и синтаксического анализа модель нужно дообучить.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-base-thai-syllable

Model Description

This is a RoBERTa model pre-trained on Thai Wikipedia texts, derived from wangchanberta-base-wiki-syllable. Character-embeddings are modified to use BertTokenizerFast. You can fine-tune roberta-base-thai-syllable for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-base-thai-syllable")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/roberta-base-thai-syllable")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForMaskedLM
Ревизия весов: ecd1227