/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
CC BY 4.0
Архитектура
bert · dense
Опубликована
2 мар 2022

danish-bert-botxo

Разметка токеновТекст → label3 профессии

Датская uncased-модель BERT для предсказания пропущенных токенов и задач разметки текста.

1 117скачиваний за 30 дней14лайковвеса обновлены7 фев 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Danish BERT версии 2, uncased — модель семейства BERT, разработанная Certainly, ранее известной как BotXO. Репозиторий содержит 137,8 млн параметров; доступны варианты весов для PyTorch, TensorFlow и Flax. Модель обучена на датских текстах из Common Crawl, Wikipedia, dindebat.dk, hestenettet.dk и Danish Open Subtitles.

Модель подходит для заполнения пропусков в тексте и может использоваться как основа для задач классификации токенов, включая разметку последовательностей на датском языке. Контекст составляет до 512 токенов. Лицензия — CC BY 4.0.

Сценарии применения

  • подстановка пропущенных слов в датские предложения
  • получение контекстных представлений датского текста
  • разметка токенов в датских последовательностях
  • дообучение для классификации токенов на датском языке

Ограничения

Контекст ограничен 512 токенами; модель ориентирована на датский язык и не предназначена для генерации длинных текстов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Danish BERT (version 2, uncased) by Certainly (previously known as BotXO).

All credit goes to Certainly (previously known as BotXO), who developed Danish BERT. For data and training details see their GitHub repository or this article. You can also visit their organization page on Hugging Face.

It is both available in TensorFlow and Pytorch format.

The original TensorFlow version can be downloaded using this link.

Here is an example on how to load Danish BERT in PyTorch using the 🤗Transformers library:

from transformers import AutoTokenizer, AutoModelForPreTraining

tokenizer = AutoTokenizer.from_pretrained("Maltehb/danish-bert-botxo")
model = AutoModelForPreTraining.from_pretrained("Maltehb/danish-bert-botxo")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
aeffe01

0 моделей