Характеристики
- Контекст
- 514 токенов
- Параметры
- 96,6 млн
- Архитектура
- roberta · dense
Ссылки
SMILES_tokenized_PubChem_shard00_160k
RoBERTa-модель, обученная на строках SMILES из PubChem для восстановления замаскированных токенов и построения представлений молекул.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
SMILES_tokenized_PubChem_shard00_160k — модель семейства RoBERTa, опубликованная Seyone Chithrananda под именем seyonec. Она обучена работать с токенизированными строками SMILES, представляющими химические структуры, и доступна через Transformers для задачи fill-mask с поддержкой PyTorch и JAX.
Модель содержит около 96,6 млн параметров и поддерживает контекст до 514 токенов. Она предназначена для восстановления замаскированных фрагментов SMILES и получения химических представлений, которые можно использовать как основу для дообучения на задачах анализа молекул. Модель не является готовой системой генерации, синтеза или прогнозирования свойств без дополнительного дообучения. Лицензия в доступных данных не установлена.
Сценарии применения
- восстановление замаскированных фрагментов SMILES
- предобучение моделей для анализа молекулярных структур
- получение признаков молекул для downstream-задач
- дообучение для прогнозирования свойств соединений
Ограничения
Для практических задач прогнозирования свойств, токсичности или генерации молекул требуется дополнительное дообучение; доступные данные не подтверждают готовую поддержку конкретных downstream-задач. Лицензия модели не установлена.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- RobertaForMaskedLM
- Ревизия весов
- f0854db