ESM2 Quantized Base
This is the base model for T33 quantized model. To use the quantized model, access gabrielbianchin/esm2_t33_long_int4.
Характеристики
- Контекст
- 2 050 токенов
- Параметры
- 865 млн
- Архитектура
- esm · dense
- Опубликована
- 26 апр 2024
Ссылки
base_esm2_t33_long
Базовая модель ESM2 T33 для предсказания замаскированных токенов в последовательностях белков и основы для её квантизованной версии.
21скачиваний за 30 дней0лайковвеса обновлены26 авг 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
gabrielbianchin/base_esm2_t33_long — базовая версия ESM2 T33, заявленная как основа для квантизованной модели gabrielbianchin/esm2_t33_long_int4. Это плотная модель класса EsmForMaskedLM с 865,1 млн параметров, предназначенная для предсказания замаскированных токенов в последовательностях белков. Модель принимает текстовое представление последовательности и выдаёт распределения токенов для заполнения масок; заявленная длина контекста — 2050 токенов.
Карточка не сообщает о дообучении на конкретной задаче, поддерживаемых языках или специализированных прикладных областях. В репозитории указаны веса SafeTensors. Лицензия в доступных сведениях не приведена.
Сценарии применения
- заполнение пропусков в аминокислотных последовательностях
- предсказание аминокислот по контексту последовательности
- подготовка базы для создания квантизованной модели ESM2 T33
Ограничения
README не приводит результаты оценки качества или сведения о пригодности модели для конкретных биологических задач. Указанная длина контекста составляет 2050 токенов.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
IV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- EsmForMaskedLM
- Ревизия весов
- 306f836