IV.6Научные исследования, математика и новые материалы

MorphEm — модель извлечения признаков изображений, разработанная Vidit Agrawal, John Peters и Juan Caicedo и опубликованная Caicedo Lab. Это Vision Transformer Small, обученный методом самообучения по рецепту DINO Bag of Channels на наборе CHAMMI-75, включающем 75 исследований и 2,8 миллиона многоканальных изображений микроскопии. Модель предназначена для извлечения векторов признаков клеточной морфологии из изображений, уже прошедших сегментацию. Полученные эмбеддинги можно использовать для анализа одиночных клеток, исследований базовой биологии, функциональной геномики и поиска лекарств. Для многоканальных данных каждый канал обрабатывают отдельно, а векторы объединяют. Модель оценивали на шести бенчмарках, включая CHAMMI, HPA v23 и Jump-CP; авторы сообщают о конкурентных результатах на большинстве из них. MorphEm не выполняет сегментацию клеток и не предназначена для клинической диагностики. Карточка указывает лицензию MIT.

Модель raynardj/ner-chemical-bionlp-bc5cdr-pubmed — модель на базе RoBERTa для распознавания химических веществ в биомедицинских текстах. По карточке, её дообучили на наборах BioNLP и BC4CDR, используя PubMed-предобученную RoBERTa; размер составляет 151,8 млн параметров, контекст — 514 токенов. Модель выполняет маркировку токенов и выделяет упоминания химических веществ. Карточка также предлагает проверять её на упоминаниях генов и их продуктов, а также заболеваний, однако описанная схема меток содержит только классы O и Chemical, поэтому распознавание этих сущностей не подтверждено. Поддерживается английский язык. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Ограничение контекста составляет 514 токенов; схема меток ориентирована на химические вещества и не включает отдельные классы для генов, продуктов генов или заболеваний.

NovoMolGen_32M_SMILES_AtomWise — компактная авторегрессионная модель семейства NovoMolGen от chandar-lab для генерации молекул в представлении SMILES. Модель построена на плотной архитектуре Llama, содержит 31,5 млн параметров и обучена на 1,5 млрд молекул из ZINC-22 с использованием FlashAttention. Контекст составляет 2048 токенов. Модель предназначена для безусловной и целевой генерации молекул, в том числе для сценариев поиска молекул с заданными свойствами. Она выдаёт текстовые последовательности SMILES; заявлено высокое качество на задачах генерации, однако в карточке не приведены численные результаты. Для загрузки используется Transformers, доступна Transformers-native версия контрольной точки на ревизии hf-checkpoint. Лицензия — MIT.

Это GGUF-квантизированная версия языковой модели OpenMath-Nemotron-7B, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и ориентирована прежде всего на математические задачи; исходная модель обучалась на наборе данных nvidia/OpenMathReasoning. Заявленный язык — английский. Модель содержит около 7 миллиардов параметров и распространяется в форматах с различными уровнями квантизации — от BF16 до Q2 и IQ3/IQ4. Это позволяет выбирать баланс между качеством, размером файла и требованиями к памяти; доступны варианты примерно от 3,49 до 15,24 ГБ. Модель можно запускать через llama.cpp, LM Studio и другие совместимые проекты. В README не указаны архитектура исходной модели, размер контекстного окна и поддержка модальностей, поэтому подтверждённо речь идёт только о текстовой генерации. Сильными сторонами являются специализация на математическом reasoning, широкий выбор квантизаций и возможность локального запуска на совместимом оборудовании. Более компактные варианты экономят память, но могут заметно уступать по качеству полноразмерным версиям; сама модель ориентирована на английский язык, а качество и возможности конкретной сборки зависят от выбранного уровня квантизации. Указана лицензия CC BY 4.0.

Protein-Llama-3-8B — специализированная модель на архитектуре Llama 3, разработанная Esperanto и дообученная методом LoRA на наборах последовательностей белков. Она генерирует новые белковые последовательности по текстовым подсказкам: как без заданных свойств, так и с управляемой генерацией для поддерживаемых семейств белков. Модель предназначена для исследовательских и инженерных сценариев в биотехнологии, включая поиск вариантов белков для разработки лекарств и химического синтеза. Она содержит 7,5 млрд параметров, работает через Transformers и имеет контекстное окно 8192 токена. README указывает на 10 поддерживаемых классов для управляемой генерации, но не перечисляет их. Модель основана на Meta-Llama-3-8B и рассчитана на работу с белковыми последовательностями и текстовыми подсказками. Лицензия в доступных данных не указана.

ProtGPT2 — авторегрессионная языковая модель для последовательностей белков, разработанная для генерации белковых последовательностей и их проектирования de novo. Модель создана на базе архитектуры GPT-2: это декодерный трансформер с 36 слоями и 738 млн параметров, предобученный на последовательностях UniRef50 версии 2021_04 без заголовков FASTA и аннотаций. В метаданных указаны формат PyTorch, контекст 1024 токена и лицензия Apache-2.0. Модель предсказывает следующий токен в последовательности и может применяться для исследования белкового пространства, генерации кандидатов и инженерии белков. По данным карточки, генерируемые последовательности сохраняют некоторые характерные свойства природных белков, включая предпочтения аминокислот, содержание вторичных структур и глобулярность; перплексия коррелирует с pLDDT AlphaFold2 и предлагается как способ отбора последовательностей. Разработчики сообщают о ProtGPT3 с более высокой производительностью и рекомендуют перейти на него, поэтому ProtGPT2 может уступать более новой версии.

ProtGPT3-10B-dpo — модель генерации белковых последовательностей из семейства ProtGPT3, разработанная AI4PD. Это причинная авторегрессионная языковая модель на архитектуре Mixtral с механизмом смеси экспертов; в метаданных указано 1,5 млрд параметров и контекст 16 384 токена. Модель дообучена методом Direct Preference Optimization (DPO) на основе ProtGPT3-10B: выравнивание смещает генерации в сторону последовательностей с более высокой предсказанной структурной уверенностью и меньшим содержанием низкосложных участков, сохраняя разнообразие. Модель предназначена для безусловной генерации белковой последовательности или генерации по заданному аминокислотному префиксу. Её можно применять для вычислительного проектирования белков, первичного отбора кандидатов и генерации вариантов последовательностей; результаты следует проверять предсказанием структуры и другими вычислительными методами, а затем экспериментально. Модель выдаёт аминокислотные последовательности, а не подтверждённые функциональные белки. Лицензия в предоставленных данных не указана.

ProtSent-V2-ESMC-300M — модель GrimSqueaker на базе белкового языкового представления ESM-C 300M, дообученная контрастивным обучением. Она преобразует аминокислотные последовательности в векторы фиксированной длины, в которых близость векторных представлений призвана отражать биологическое сходство белков. Модель предназначена для поиска похожих последовательностей, кластеризации и переноса аннотаций по ближайшим соседям. В README описано обучение на данных семейств Pfam, AlphaFold DB, STRING-DB и DMS; для части источников последовательности очищались от пересечения с тестовыми наборами. Карточка приводит результаты оценки на наборе из 23 задач, включая структурный поиск, kNN и линейный перенос, и отмечает преимущество над исходным необученным бэкбоном в ряде задач. Архитектура — ESMplusplus, класс ESMplusplusForMaskedLM; метаданные указывают 442,4 млн параметров. Модель работает с белковыми последовательностями и выдаёт эмбеддинги; карточка помечает английский язык, хотя основное содержимое — последовательности аминокислот. Лицензия — MIT. README предупреждает, что данные DMS не очищались от пересечения с тестовыми последовательностями. Приведённые результаты зависят от бенчмарка и не означают превосходства над специализированными средствами: в тесте SCOPe-40 HMMER показал более высокие значения, чем модель. Для загрузки через SentenceTransformer в примере включён trust_remote_code.

Модель amayuelas/Qwen3.5-4B-MatRL-MT-SFT — экспериментальный чекпойнт Qwen3.5-4B, дообученный разработчиком amayuelas методом supervised fine-tuning на 1 123 многоходовых эпизодах использования инструментов для обратного проектирования кристаллических структур. Она предназначена для агентного цикла: предложить структуру, оценить её с помощью инструментов, уточнить и отправить итоговый вариант в пределах лимита ходов. Модель принимает текст и, как мультимодальная архитектура Qwen3.5, поддерживает обработку изображений; заявленный сценарий обучения и настройки — текстовый вызов инструментов. Чекпойнт обучен на базе Qwen/Qwen3.5-4B, с assistant-only loss в течение трёх эпох; README указывает 423 шага и финальную потерю около 0,36. Обучение ориентировано на формат взаимодействия и завершение эпизода, а не на самостоятельное освоение химии: знания о предметной области предполагается развивать последующим этапом RL. Для сохранения обученного поведения рассуждений необходимо включать thinking channel; режим enable_thinking=false отключает его. Для загрузки через vLLM нужны конфигурации обработки изображений и видео, даже при текстовом обслуживании. Лицензия — Apache-2.0.

QwQ-LCoT-7B-Instruct-GGUF — квантизированная версия языковой модели QwQ-LCoT-7B-Instruct, разработанной prithivMLmods и подготовленной пользователем bartowski. Модель предназначена для генерации текста с акцентом на задачи, требующие развернутого пошагового рассуждения, прежде всего для математических запросов и других сценариев text generation. В карточке также указано обучение с учителем (SFT) на наборе данных amphora/QwQ-LongCoT-130K. Модель содержит 7B параметров, относится к семейству Qwen2.5 и поддерживает английский язык. Представлена в формате GGUF, совместимом с llama.cpp и приложением LM Studio. Доступны варианты от F16 до низкоразрядных Q2–Q8-квантизаций; версии Q4 и выше позиционируются как подходящие для большинства сценариев, а Q6_K и Q6_K_L — как варианты с очень высоким качеством. Квантизация уменьшает требования к памяти, но в низкоразрядных вариантах может заметно снижать качество ответов. Модель подходит для локального запуска на совместимом CPU или GPU, протоколирования рассуждений и решения математических задач. Она является текстовой и не предназначена для обработки изображений или других мультимодальных данных. Размер контекста и дополнительные характеристики архитектуры в README не указаны. Распространяется по лицензии CreativeML OpenRAIL-M.

RITA-L — крупная авторегрессионная языковая модель белков, разработанная LightOn совместно с группой OATML Оксфордского университета и лабораторией Debbie Marks Гарвардского университета. Она обучена на UniRef-100 и предназначена для генерации белковых последовательностей и связанных задач моделирования последовательностей белков. Модель использует архитектуру RITA с причинным языковым моделированием; в метаданных указано около 792,8 млн параметров и реализация на PyTorch. В README для версии Large приведены 680 млн параметров, 24 слоя и размерность d_model 1536; расхождение с параметрами метаданных отражено в источниках. Указанная в карточке потеря на UniRef-100 составляет 1,82. Лицензия в предоставленных данных не указана.

RITA-XL — авторегрессионная языковая модель для белковых последовательностей, разработанная LightOn совместно с группой OATML Оксфордского университета и лабораторией Debbie Marks Гарвардского университета. Модель относится к семейству RITA и построена на плотной архитектуре причинного языкового моделирования; в репозитории доступны веса PyTorch и SafeTensors. Метаданные указывают размер 1,4 млрд параметров, а карточка сообщает об обучении на UniRef-100. Модель предназначена для генерации белковых последовательностей и может применяться для исследования вариантов последовательностей и моделирования белковых данных. В Hugging Face для неё указан тег text-generation; каталог также отмечает text-classification как поддерживаемую задачу. В README приведены результаты для меньших вариантов семейства, но отдельная оценка качества RITA-XL не описана. Лицензия в предоставленных данных не указана.

SaProt_650M_AF2_inverse_folding — дообученная модель семейства ESM, созданная на базе SaProt_650M_AF2 и адаптированная для обратного фолдинга белков. Она обучена на наборе CATH и предназначена для подбора аминокислотной последовательности по структуре белка; по данным авторов, модель превосходит исходную SaProt_650M_AF2 и конкурентоспособна с ProteinMPNN, требуя при этом меньше времени на инференс. Модель содержит 865,6 млн параметров, принимает до 1026 токенов и распространяется в формате PyTorch. Для использования указанного назначения требуется задавать структурное представление белка; карточка описывает обучение на CATH, но не уточняет языки интерфейса, подробные ограничения по длине последовательности или результаты на других наборах данных. Лицензия — MIT.

DanL представляет дообученную модель PubMedBERT для многометочной классификации научных предложений. Она определяет, описывает ли предложение исследовательскую проблему или пробел в знаниях, а также содержит ли оно возможное направление дальнейших исследований, например гипотезу или предложение изучить вопрос. Модель предназначена для поиска таких фрагментов в научной литературе, в частности в исследованиях о COVID-19 и связанных с ним исторических работах. Она обучена на 2 894 предложениях с окружающим контекстом из 1 786 полнотекстовых статей корпуса CORD-19, размеченных экспертами в биомедицине и обработке биомедицинского языка. По метаданным, это BERT-модель с 136,7 млн параметров, архитектурой BertForSequenceClassification и контекстом до 512 токенов; принимает текст и выдаёт метки классификации. Карточка указывает английский язык. Модель подходит для автоматического обнаружения ограничений, проблем и исследовательских возможностей в корпусах научных публикаций. README просит цитировать статью при использовании модели и набора данных, но сведения о лицензии в предоставленных данных отсутствуют.

SELFYBPE — предварительно обученная языковая модель RoBERTa для молекулярных строк SELFIES, разработанная Miguelangel Leon Mayuare. Модель обучена восстанавливать замаскированные токены (MLM) на 2 млн молекул из PubChem с использованием BPE-токенизатора. Архитектура содержит 6 слоёв, скрытый размер 768, промежуточный размер 1536 и 12 голов внимания; в метаданных указан размер 66,1 млн параметров и контекст до 512 токенов. Модель предназначена для дообучения под задачи хемоинформатики, включая классификацию соединений и предсказание их свойств, например токсичности и проницаемости гематоэнцефалического барьера. Она работает с представлением SELFIES и не предназначена для обработки SMILES напрямую. Авторы сообщают об оценке на наборах MoleculeNet BBBP, HIV и Tox21; качество конкретных прикладных моделей зависит от дообучения и проверки на соответствующих данных. Лицензия — MIT. Среди ограничений README отмечает возможное смещение обучающих данных, переобучение на предобучающей задаче и необходимость валидации для конкретного применения; предсказания вне области обучающих данных могут быть ненадёжны.

JuIm разработал SMILESBERT — модель семейства RoBERTa с архитектурой RobertaForMaskedLM, обученную предсказывать замаскированные токены в строках SMILES. Для предобучения использовано 50 тысяч SMILES-соединений из BindingDB, связывающихся с белками с определённой аффинностью. Модель содержит 153,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для дальнейшего дообучения на задачах, связанных с молекулярными структурами: прогнозирования аффинности связывания, физических свойств, химической и биологической активности, а также классификации соединений. В текущем виде её основная задача — восстановление замаскированных токенов SMILES; специализированные прогнозы требуют дополнительного дообучения. Данные карточки не сообщают лицензию, поэтому условия использования по ней определить нельзя.

qinghuiwan/structural-isomorphism-v2-expanded — модель Sentence Transformers на базе BERT, дообученная для поиска структурного сходства между научными явлениями из разных областей. Она преобразует текстовые описания в эмбеддинги и помогает находить явления с общей математической или динамической структурой, даже если они относятся к разным предметным областям. Модель рассчитана на сопоставление описаний и поиск строгих междисциплинарных аналогий; в карточке сообщается о более высокой точности отбора по сравнению с предыдущей версией. Модель дообучена на shibing624/text2vec-base-chinese и содержит 129,5 млн параметров. Она использует архитектуру BERT, принимает текст, имеет контекстное окно 512 токенов и ориентирована на китайский язык. В README описаны обучение на 5 689 примерах и оценка на наборе научных явлений; опубликованные результаты относятся к указанным в карточке тестовым наборам и не гарантируют качество для иных данных. Лицензия — MIT.

Ulam-1 — математическая модель рассуждений на 27,36 млрд параметров, разработанная Ulam AI на основе Qwen/Qwen3.8-27B. Это слитый чекпойнт BF16 для Transformers: дообучение затрагивало текстовый декодер, а исходные токенизатор, процессор и ветвь обработки изображений сохранены. Модель предназначена для исследовательского решения математических задач, отладки доказательств и поиска возможных подходов; также поддерживает ввод изображений и видео через мультимодальный интерфейс Qwen. Длина контекста в архитектурной конфигурации — 262 144 токена, но фактическая вместимость зависит от оборудования и настроек обслуживания. Модель полезна как помощник для изучения математических задач, но её выводы не являются формально проверенными доказательствами. Она может допускать существенные математические ошибки, оставлять пробелы в рассуждениях или выдавать длинные цепочки рассуждений вместо краткого ответа. Ветвь зрения после текстового дообучения отдельно не оценивалась. Распространяется по лицензии Apache-2.0.

AbLang_heavy — версия модели AbLang для тяжёлых цепей антител, опубликованная в формате Hugging Face. Это языковая модель семейства RoBERTa с архитектурой RobertaForMaskedLMV2 и примерно 113,3 млн параметров. Она обучена на последовательностях аминокислот и предназначена для извлечения признаков белков и дообучения для последующих задач, связанных с антителами. Модель принимает последовательности аминокислот, записанные заглавными буквами; README отдельно предупреждает, что строчные буквы не поддерживаются. Контекст ограничен 160 токенами. Для сравнения последовательностей доступна задача sentence-similarity, а архитектура masked language model позволяет предсказывать замаскированные аминокислоты. Репозиторий содержит веса PyTorch и Safetensors. Модель разработана авторами AbLang; README ссылается на научную статью и первоначальный репозиторий. Лицензия — BSD. Карточка предлагает применять модель для извлечения признаков или дообучать её под целевые задачи; качество на конкретных downstream-задачах зависит от такого дообучения.

Ankh3-XL — белковая языковая модель лаборатории ElnaggarLab на архитектуре T5 с 4,4 млрд параметров. Она обучена на последовательностях белков из UniRef50 и оптимизирована для восстановления скрытых аминокислот и продолжения последовательности по её начальной части. Модель подходит для извлечения представлений белковых последовательностей и их продолжения. Такие представления можно использовать как признаки в последующих вычислительных задачах анализа белков. Репозиторий содержит веса PyTorch; для использования модели предусмотрена библиотека Transformers. Модель работает с последовательностями аминокислот, а не с естественным языком или изображениями. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях, с ограничением на коммерческое использование.

Ankh Base — базовая версия белковой языковой модели, разработанной командой Ahmed Elnaggar и коллегами из Технического университета Мюнхена, Proteinea и Колумбийского университета. Модель предназначена для анализа аминокислотных последовательностей и получения представлений белков, применимых в задачах биоинформатики и белковой инженерии. В карточке указана архитектура encoder-decoder на основе T5, около 396,5 млн параметров и поддержка Transformers/PyTorch. Модель может использоваться для извлечения эмбеддингов и как основа для downstream-моделей, например для предсказания вторичной структуры, локализации, растворимости и удалённой гомологии белков. Она обрабатывает последовательности белков, а не естественный язык; контекстное окно в использованных источниках не установлено. Модель доступна по лицензии Creative Commons Attribution-NonCommercial-ShareAlike 4.0, которая ограничивает коммерческое использование.

gabrielbianchin/esm2_t12_long_int4 является квантизированной версией этой базовой модели ESM2. Репозиторий содержит базовую модель ESM2 с архитектурой EsmForMaskedLM и примерно 44,3 млн параметров; формат весов — safetensors, контекст составляет до 2050 токенов. Модель предназначена для заполнения масок в последовательностях аминокислот и других задач языкового моделирования белковых последовательностей. README указывает, что этот чекпойнт служит базой для квантизированной модели gabrielbianchin/esm2_t12_long_int4. Условия лицензии в предоставленных данных не описаны.

BatteryBERT — англоязычная модель на архитектуре BERT, разработанная Shu Huang и Jacqueline Cole для работы с текстами исследований аккумуляторов. Модель дообучена от bert-base-cased на корпусе из 400 366 научных статей о батареях, опубликованных в 2000 — июне 2021 года; используется задача маскированного языкового моделирования. Несмотря на название в заголовке README, карточка описывает регистрозависимую версию. Модель подходит для предсказания замаскированных слов и извлечения контекстных признаков для последующей тонкой настройки на классификацию текстов, разметку токенов и ответы на вопросы по материалам об аккумуляторах. Она содержит 135,5 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт текстовые предсказания. Модель распространяется по лицензии Apache-2.0. Она не предназначена для генерации текста; применимость к темам за пределами аккумуляторных исследований может быть ограничена специализацией обучающего корпуса.

ChemDFM-v1.5-8B — диалоговая языковая модель для химии и молекулярных наук, разработанная командой OpenDFM. Версия 1.5 создана на базе LLaMA-3-8B с дополнительным доменным предобучением и настройкой на инструкции; каталог указывает архитектуру LLaMA, 7,5 млрд параметров и контекст до 8192 токенов. Модель распространяется в формате Safetensors по лицензии AGPL-3.0. Модель предназначена для диалоговых ответов на вопросы по химии и выполнения типичных химических задач, включая запросы с обозначениями SMILES. Карточка рекомендует канонизировать SMILES с помощью RDKit и формировать запросы с шаблоном диалога. Указана поддержка английского и китайского языков. В README сообщается о высоких результатах на типичных химических задачах, однако модель может выдавать неверную или вводящую в заблуждение информацию; ответы следует проверять с экспертами, особенно перед принятием решений.

ChemGPT-19M — модель генерации молекул на основе архитектуры GPT-Neo, представленная авторами работы «Neural Scaling of Deep Chemical Models». Она обучена на подмножестве молекул из PubChem10M: строки SMILES предварительно преобразовали в SELFIES. Модель предназначена для генерации молекулярных последовательностей и исследований влияния предварительного обучения и дообучения на последующие задачи. Это плотная авторегрессионная модель GPTNeoForCausalLM с 22,2 млн параметров и контекстом 2048 токенов; для работы используется PyTorch и библиотека Transformers. Карточка описывает химическую генерацию, а не поддержку обычного общения на естественных языках. Обучение на ограниченном подмножестве PubChem может ограничивать разнообразие и применимость генерируемых молекул. Модель преимущественно предназначена для исследований; перед практическим использованием результаты требуют химической проверки. Сведения о лицензии в предоставленных данных отсутствуют.

nayohan/corningQA-llama2-13b-chat — дообученная модель семейства Llama 2, разработанная для Corning. Она предназначена для многошаговых диалогов по химической тематике и генерации ответов в формате чат-ассистента. Модель имеет плотную архитектуру LlamaForCausalLM и около 12,9 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст длиной до 4096 токенов. Модель построена на базе meta-llama/Llama-2-13b-chat-hf и дообучена на датасете CorningAI-DocQA. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Модель подходит для ответов на вопросы по химической тематике и ведения связанных диалогов. Лицензия репозитория — Apache 2.0.

Dayhoff-170M-GRS-SS-74000 — модель для генерации белковых последовательностей, относящаяся к ресурсу Dayhoff, разработанному указанной в карточке командой исследователей. Она предназначена для исследовательского моделирования белков: генерации последовательностей, оценки эффектов мутаций без дополнительного обучения и проектирования последовательностей с заданными структурными мотивами или эволюционным контекстом. Для этой версии метаданные указывают архитектуру Jamba с классом JambaForCausalLM, 23,6 млн параметров и контекст до 262 144 токенов; модель использует формат safetensors и библиотеку Transformers. Лицензия — MIT. Модель обучена на белковых последовательностях и поддерживает длинные контексты, в том числе представления множественных выравниваний последовательностей. Карточка предупреждает, что её не следует использовать для генерации обычного текста или последовательностей ДНК; реалистичность генерируемых белков не гарантируется, а генерация новых последовательностей без сходства с природными остаётся сложной задачей.

Dayhoff-3b-UR90-10000 — генеративная языковая модель для белковых последовательностей, разработанная авторами проекта Dayhoff. Она предназначена для исследовательских задач белкового моделирования: генерации последовательностей, безпримерного прогнозирования эффектов мутаций и создания белковых каркасов с заданными структурными мотивами. Модель использует гибридную архитектуру Jamba: слои Mamba и Transformer чередуются с блоками смеси экспертов. По метаданным, модель содержит 445,7 млн параметров, принимает контекст до 262 144 токенов и распространяется в формате Safetensors; для этого варианта в карточке указана задача text-generation. Модель обучена на данных Dayhoff и поддерживает авторегрессионную генерацию белковых последовательностей, включая заполнение пропусков в любом направлении и работу с длинными последовательностями и развёрнутыми множественными выравниваниями. Она не предназначена для обычного текста или последовательностей ДНК; сгенерированные белки не всегда реалистичны, а создание последовательностей без сходства с природными остаётся сложной задачей. Лицензия — MIT.

Dayhoff-3b-UR90-20350 — авторегрессионная языковая модель белковых последовательностей, созданная командой исследователей, перечисленных в карточке Dayhoff. Она предназначена для исследовательских задач белкового моделирования: генерации последовательностей, оценки эффектов мутаций без дополнительного обучения и проектирования белковых каркасов с заданными структурными мотивами. Модель обучена на данных Dayhoff Atlas и использует гибридную архитектуру Jamba: слои Mamba и Transformer с блоками смеси экспертов. Поддерживает контекст до 262 144 токенов и моделирование последовательностей в обоих направлениях; размер репозитория по метаданным — 445,7 млн параметров. Модель работает с белковыми последовательностями, а не с естественным языком или последовательностями ДНК. Она может генерировать белки без условия и использовать эволюционный или структурный контекст для управляемой генерации. Не все сгенерированные последовательности реалистичны, а создание качественных белков без сходства с природными последовательностями остаётся сложной задачей. Лицензия — MIT.

ESM-1v — белковая языковая модель, разработанная Facebook AI Research (ныне Meta AI) для оценки эффектов генетических вариантов по аминокислотным последовательностям. Этот чекпойнт — один из пяти вариантов ESM-1v с архитектурой Transformer: 33 слоя, около 865 млн параметров и максимальная длина входа 1026 токенов. Он предсказывает пропущенные аминокислотные токены и может использоваться в методах оценки вариантов, основанных на вероятностях модели. Модель работает с последовательностями белков, а не с естественными языками. Репозиторий содержит веса PyTorch и TensorFlow и размечен задачей fill-mask. Карточка Hugging Face не содержит сведений о лицензии; ESM-1v опубликована как исследовательская модель для предсказания эффектов вариантов. Модель сама по себе не выдаёт клинический диагноз и её оценки требуют интерпретации в исследовательском контексте.