BERT-модель для предсказания пропущенных слов в исторических немецких текстах от 750 года и позднее.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
GHisBERT — модель на архитектуре BERT, разработанная для работы с историческими текстами на немецком языке. Она обучена с нуля на корпусе, охватывающем засвидетельствованные этапы немецкого языка от древневерхненемецкого и средневерхненемецкого до ранненововерхненемецкого и нововерхненемецкого; данные в обучении датируются периодом начиная с 750 года. Модель предназначена для предсказания замаскированных токенов в исторических немецких текстах.
Модель содержит 137,8 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Лицензия — MIT. Карточка не приводит ссылку на опубликованную статью и не описывает результаты оценки; качество на отдельных периодах, жанрах и вариантах орфографии может различаться.
Контекст ограничен 512 токенами. В карточке не приведены результаты оценки и подробности качества по отдельным эпохам или жанрам.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
GHisBERT (German Historical BERT) is a BERT-based model trained from scratch on historical German data, covering all attested stages of the language, i.e., Old High German, Middle High German, Early New High German and New High German, with data going back to 750 CE.
For more details, please see the following paper: [will be added soon...]
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…