Характеристики
- Контекст
- 514 токенов
- Параметры
- 96,6 млн
- Архитектура
- roberta · dense
Ссылки
SMILES_tokenized_PubChem_shard00_50k
Модель RoBERTa для восстановления замаскированных токенов в токенизированных строках SMILES из PubChem.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
seyonec/SMILES_tokenized_PubChem_shard00_50k — модель, опубликованная Seyone Chithrananda на Hugging Face. Она предназначена для заполнения маскированных токенов в строках SMILES, то есть для восстановления пропущенных фрагментов представлений химических структур.
Модель основана на архитектуре RoBERTa, содержит около 96,6 млн параметров и поддерживает контекст длиной до 514 токенов. В карточке Hugging Face указаны библиотеки Transformers, PyTorch и JAX, а задача модели обозначена как fill-mask. Модель работает с токенизированными SMILES из набора PubChem и ориентирована на химико-информационные сценарии.
Модель может применяться для предсказания пропущенных токенов в молекулярных строках и предварительного обучения или извлечения представлений химических структур. Карточка модели не содержит подробного описания качества, ограничений, лицензии, набора поддерживаемых естественных языков или специализированных downstream-задач, поэтому эти характеристики нельзя надёжно установить.
Сценарии применения
- восстановление пропущенных токенов в SMILES
- маскирование и предсказание фрагментов молекулярных строк
- предобучение химических NLP-моделей
- получение представлений молекулярных структур
Ограничения
В карточке модели отсутствуют подробные сведения о качестве, бенчмарках, лицензии и ограничениях применения; модель не следует считать готовым инструментом для надёжного вывода свойств или валидности молекул без дополнительной проверки.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- RobertaForMaskedLM
- Ревизия весов
- cc844b1