Характеристики
- Контекст
- 512 токенов
- Параметры
- 96,6 млн
- Архитектура
- roberta · dense
Ссылки
PubChem10M_SMILES_BPE_450k
Модель ChemBERTa на базе RoBERTa, обученная на SMILES, предсказывает замаскированные части молекулярных строк и формирует представления для химического анализа.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
seyonec/PubChem10M_SMILES_BPE_450k — модель семейства ChemBERTa на архитектуре RoBERTa, опубликованная Seyone Chithrananda и соавторами. Это языковая модель для химических строк SMILES: она обучена на корпусе из 10 миллионов записей PubChem с токенизацией Byte Pair Encoding и предсказывает замаскированные фрагменты последовательности.
Модель предназначена для заполнения пропусков в SMILES и получения представлений молекул, которые можно использовать в задачах анализа химических соединений и прогнозирования их свойств. Архитектура — RobertaForMaskedLM, размер — 96,6 млн параметров, длина контекста — 512 токенов. Вход — текстовые последовательности SMILES; естественный язык для модели не заявлен.
Репозиторий предоставляет веса PyTorch и Flax. Карточка Hugging Face не содержит сведений о лицензии и отдельных ограничениях качества, поэтому условия использования и специфические ограничения по ней подтвердить нельзя.
Сценарии применения
- заполнение замаскированных токенов в SMILES
- получение представлений молекулярных строк
- подготовка признаков молекул для прогнозирования свойств
- анализ химических соединений по SMILES
Ограничения
Модель принимает химические строки SMILES и не предназначена для обычного диалога на естественном языке. В карточке Hugging Face лицензия и дополнительные ограничения качества не указаны.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- RobertaForMaskedLM
- Ревизия весов
- c18fccd