/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
GPL 3.0
Архитектура
bert · dense
Опубликована
28 янв 2025

PureMechBERT-cased

Заполнение пропусковТекст → текст

Англоязычная BERT-модель для восстановления замаскированных токенов в научных текстах о механических свойствах материалов.

14скачиваний за 30 дней0лайковвеса обновлены28 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PureMechBERT-cased — англоязычная BERT-модель, разработанная группой Cambridge Molecular Engineering и обученная с нуля на статьях о механических свойствах материалов из литературы по напряжению и деформации. Это базовая модель для предсказания замаскированных токенов: она подходит для восстановления пропусков и изучения терминологии в текстах по механике материалов. Модель содержит 136,7 млн параметров, использует архитектуру BertForMaskedLM и обрабатывает последовательности длиной до 512 токенов. Доступна в формате PyTorch под лицензией GPL-3.0.

Сценарии применения

  • восстановление пропущенных терминов в статьях по механике материалов
  • подстановка замаскированных слов в описаниях испытаний на растяжение
  • изучение терминологии механических свойств материалов
  • адаптация языковых моделей для анализа литературы по напряжению и деформации

Ограничения

Обучена на узком корпусе статей о механических свойствах материалов, поэтому её применимость к другим темам может быть ограничена. Контекст ограничен 512 токенами.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MechBERT-uncased

Description

This base model is pre-trained on a collection of articles containing mechanical property information sourced from the stress-strain literature.

PureMechBERT-cased model is initialised from scratch.

See the associated paper for more details.

Citation:

If you use this model, please cite:

@article{mechbert-kumar2025,
  title={MechBERT: Language Models for Extracting Chemical and Property Relationships about Mechanical Stress and Strain},
  author={Pankaj Kumar, Saurabh Kabra, Jacqueline M. Cole},
  journal={Journal of Chemical Information and Modelling},
  doi={10.1021/acs.jcim.4c00857},
  year={2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
764dbd5

0 моделей