ankh-base

Ankh Base — базовая версия белковой языковой модели, разработанной командой Ahmed Elnaggar и коллегами из Технического университета Мюнхена, Proteinea и Колумбийского университета. Модель предназначена для анализа аминокислотных последовательностей и получения представлений белков, применимых в задачах биоинформатики и белковой инженерии. В карточке указана архитектура encoder-decoder на основе T5, около 396,5 млн параметров и поддержка Transformers/PyTorch.

Модель может использоваться для извлечения эмбеддингов и как основа для downstream-моделей, например для предсказания вторичной структуры, локализации, растворимости и удалённой гомологии белков. Она обрабатывает последовательности белков, а не естественный язык; контекстное окно в использованных источниках не установлено. Модель доступна по лицензии Creative Commons Attribution-NonCommercial-ShareAlike 4.0, которая ограничивает коммерческое использование.