Характеристики
- Контекст
- 1 026 токенов
- Параметры
- 865 млн
- Архитектура
- esm · dense
- Опубликована
- 17 окт 2022
Ссылки
esm1v_t33_650M_UR90S_1
ESM-1v — предобученная белковая языковая модель Meta AI для оценки функционального эффекта вариантов белковых последовательностей.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
ESM-1v t33 650M UR90S_1 — белковая языковая модель, разработанная Meta AI (Facebook Research). Она предназначена прежде всего для предсказания функциональных эффектов вариантов белковых последовательностей, в том числе без дополнительного обучения, по оценке различий правдоподобия последовательностей. Модель использует 33-слойный трансформер ESM-1b и обучена на последовательностях UniRef90; это первая из пяти моделей ансамбля ESM-1v. Метаданные Hugging Face указывают около 865 млн параметров и контекст до 1026 токенов; репозиторий содержит веса PyTorch и TensorFlow.
Модель принимает аминокислотные последовательности с замаскированными токенами и предсказывает вероятности аминокислот для заполнения маски. Её можно применять для ранжирования мутаций по ожидаемому влиянию на функцию белка и для вычисления представлений белковых последовательностей. Она не генерирует структуру белка напрямую: для этого нужны другие модели или отдельные методы. Модель выпущена как предобученная исследовательская модель; доступность лицензии следует проверять в карточке репозитория перед использованием.
Сценарии применения
- Оценка влияния аминокислотной замены на функцию белка
- Ранжирование вариантов белка по вероятному функциональному эффекту
- Сравнение исходной и мутировавшей белковых последовательностей
- Заполнение маски аминокислот в белковой последовательности
- Получение представлений белковых последовательностей для последующего анализа
Ограничения
Основное назначение модели — оценка эффектов вариантов по последовательностям; она сама по себе не выдает трехмерную структуру белка. Для практического ранжирования вариантов могут потребоваться специальные методы подсчета оценок и сопоставление нескольких моделей ансамбля.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- EsmForMaskedLM
- Ревизия весов
- 8bfdb18