CheMatE-v0-MLM — модель ModernBERT для восстановления замаскированных фрагментов в химических текстах.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
CheMatE-v0-MLM — базовая модель для предсказания замаскированных фрагментов текста, разработанная группой SchwallerGroup. Это 149-миллионная модель ModernBERT, предварительно обученная на химических текстах с расширением SMILES-представлениями молекул. Она предназначена для восстановления пропущенных слов и фрагментов в химических текстах; для получения эмбеддингов авторы рекомендуют использовать CheMatE-v0.
Модель принимает текст, поддерживает контекст до 8192 токенов и доступна в формате Safetensors. Карточка демонстрирует заполнение пропуска в предложении об аспирине. Лицензия — MIT.
Модель предназначена для заполнения пропусков; для построения эмбеддингов авторы рекомендуют CheMatE-v0. Карточка не приводит оценок качества или результатов бенчмарков.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The masked-language-modeling base for
SchwallerGroup/CheMatE-v0: a ModernBERT
model pretrained on SMILES-augmented chemistry text. For embeddings, use CheMatE-v0.
from transformers import pipeline
fill = pipeline("fill-mask", model="SchwallerGroup/CheMatE-v0-MLM")
fill("Aspirin is a common [MASK].")
MIT.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · fill-mask
Подбираем GPU…