/ Модель

Характеристики

Контекст
512 токенов
Параметры
119 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
2 мар 2022

kobert

ЭмбеддингиТекст → embedding4 профессии

KoBERT — корейская модель BERT для извлечения текстовых признаков и построения решений для задач обработки корейского языка.

23 792скачиваний за 30 дней20лайковвеса обновлены21 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KoBERT — корейская модель семейства BERT, опубликованная monologg. Она предназначена для извлечения признаков из текста и может служить основой для задач обработки корейского языка. Архитектура — плотная BertModel размером 119,4 млн параметров; максимальная длина контекста составляет 512 токенов. Репозиторий содержит веса PyTorch, Flax и safetensors.

Для загрузки токенизатора через AutoTokenizer в Transformers требуется параметр trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Карточка содержит краткий пример импорта, но не приводит результаты оценки качества или подробностей обучения.

Сценарии применения

  • получение векторных представлений корейского текста
  • извлечение признаков из корейских документов
  • подготовка признаков для классификации корейских текстов

Ограничения

Контекст ограничен 512 токенами. Для загрузки токенизатора через AutoTokenizer требуется trust_remote_code=True.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

KoBERT

How to use

If you want to import KoBERT tokenizer with AutoTokenizer, you should give trust_remote_code=True.

from transformers import AutoModel, AutoTokenizer

model = AutoModel.from_pretrained("monologg/kobert")
tokenizer = AutoTokenizer.from_pretrained("monologg/kobert", trust_remote_code=True)

Reference

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
BertModel
Ревизия весов
3827918

0 моделей