/ Модель

Характеристики

Контекст
512 токенов
Параметры
136 млн
Лицензия
GPL 3.0
Архитектура
bert · dense
Опубликована
28 янв 2025

MechBERT-cased

Заполнение пропусковТекст → текст3 профессии

Предварительно обученная на литературе по механическим свойствам материалов модель BERT для предсказания пропущенных слов в научных текстах.

10скачиваний за 30 дней0лайковвеса обновлены28 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MechBERT-cased — модель семейства BERT, разработанная Cambridge Molecular Engineering и предварительно обученная на статьях с данными о механических свойствах материалов из литературы по кривым напряжение–деформация. Она предназначена для работы с научными текстами по механике материалов; архитектура модели — BertForMaskedLM, размер — 135,5 млн параметров, максимальная длина контекста — 512 токенов.

Модель инициализирована весами BERT-base-cased и обучена на корпусе CambridgeMolecularEngineering/StressEngineeringLiterature. Поддерживает задачу заполнения пропусков в тексте. Лицензия — GPL-3.0.

Сценарии применения

  • предсказание пропущенных слов в статьях по механике материалов
  • подсказка терминов в текстах о напряжении и деформации
  • адаптация языковых моделей для анализа научной литературы о свойствах материалов

Ограничения

Контекст ограничен 512 токенами. Карточка не сообщает результатов оценки качества модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MechBERT-cased

Description

This base model is pre-trained on a collection of articles containing mechanical property information sourced from the stress-strain literature.

MechBERT-cased model is initialised from the weights of BERT-base-cased.

See the associated paper for more details.

Citation:

If you use this model, please cite:

@article{mechbert-kumar2025,
  title={MechBERT: Language Models for Extracting Chemical and Property Relationships about Mechanical Stress and Strain},
  author={Pankaj Kumar, Saurabh Kabra, Jacqueline M. Cole},
  journal={Journal of Chemical Information and Modelling},
  doi={10.1021/acs.jcim.4c00857},
  year={2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
114e1e1

0 моделей