Характеристики
- Контекст
- 512 токенов
- Параметры
- 116 млн
- Лицензия
- Apache 2.0
- Архитектура
- bert · dense
- Опубликована
- 15 фев 2024
Ссылки
DNABERT-S
DNABERT-S — BERT-модель, создающая видоспецифичные эмбеддинги ДНК для классификации видов и метагеномного анализа.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
DNABERT-S — модель для получения видоспецифичных векторных представлений последовательностей ДНК, разработанная Zhihan Zhou и соавторами из MAGICS-LAB. Она основана на DNABERT-2 и обучена формировать эмбеддинги, которые помогают группировать геномы по видам. Модель применяют для идентификации и классификации видов, биннинга метагеномных последовательностей и анализа эволюционных связей.
Это BERT-модель с 116,4 млн параметров, принимающая последовательности ДНК в виде токенизированного текста; максимальная длина контекста — 512 токенов. Основной результат работы — эмбеддинги последовательностей, пригодные для кластеризации и классификации, в том числе при ограниченном количестве размеченных данных. Модель распространяется по лицензии Apache-2.0. Для загрузки через Transformers в карточке Hugging Face указано использовать trust_remote_code=True.
Сценарии применения
- создание эмбеддингов последовательностей ДНК
- классификация и идентификация видов по ДНК
- биннинг метагеномных последовательностей по видам
- кластеризация геномов разных видов
- анализ эволюционных связей между последовательностями
Ограничения
Контекст ограничен 512 токенами. Для загрузки модели через Transformers требуется включить trust_remote_code=True.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- BertModel
- Ревизия весов
- 00e47f9