IV.6Научные исследования, математика и новые материалы

Dayhoff-170m-UR50-BRq — модель семейства Dayhoff, разработанная исследовательской командой, перечисленной в карточке модели Microsoft. Это авторегрессионная языковая модель для генерации белковых последовательностей; карточка описывает применение Dayhoff для безусловного дизайна белков, предсказания эффектов мутаций и проектирования последовательностей с заданными структурными мотивами или эволюционным контекстом. Архитектура сочетает слои Mamba и Transformer с механизмом смеси экспертов (MoE). Метаданные указывают 23,6 млн параметров, контекст до 262 144 токенов и формат safetensors. Модель обучалась на белковых последовательностях и поддерживает обработку длинных последовательностей и развернутых множественных выравниваний. Лицензия — MIT. Модель предназначена для исследований в области моделирования и проектирования белков. Она не предназначена для генерации естественного языка или последовательностей ДНК; сгенерированные последовательности не всегда реалистичны, а получение новых белков без сходства с известными природными последовательностями остаётся сложной задачей.

Dayhoff-170M-UR90-HL-32000 — генеративная языковая модель белковых последовательностей из проекта Dayhoff, разработанного Kevin K. Yang и соавторами. Она предназначена для исследовательских задач белковой инженерии: генерации последовательностей, оценки эффектов мутаций без дополнительного обучения и проектирования белковых каркасов по структурным мотивам или эволюционному контексту. Модель использует гибридную архитектуру Jamba: слои Mamba и Transformer чередуются с блоками Mixture-of-Experts. Она обучена авторегрессионно в направлениях N→C и C→N, поддерживает контекст длиной до 262 144 токенов и работает с отдельными последовательностями и развёрнутыми множественными выравниваниями. В метаданных указано 23,6 млн параметров; веса доступны в формате safetensors. Лицензия — MIT. Модель рассчитана на белковые последовательности, а не на естественный язык или последовательности ДНК. Сгенерированные последовательности не всегда биологически реалистичны; создание высококачественных последовательностей без гомологии известным природным последовательностям остаётся сложной задачей.

Dayhoff-170M-UR90-HL-46000 — модель Microsoft для генерации и анализа белковых последовательностей. Она предназначена для исследовательских задач белкового языкового моделирования: безусловного дизайна последовательностей, предсказания эффектов мутаций и создания последовательностей для структурных мотивов. Карточка описывает семейство Dayhoff как гибрид Mamba и Transformer с блоками Mixture-of-Experts; архитектура этой конкретной модели обозначена как JambaForCausalLM. Метаданные указывают 23,6 млн параметров и контекст до 262 144 токенов. Модель обучалась на данных Dayhoff Atlas и поддерживает генерацию белковых последовательностей. README также описывает для семейства моделей обработку длинных контекстов, включая развёрнутые множественные выравнивания последовательностей, и авторегрессионное обучение в направлениях N→C и C→N. Лицензия — MIT. Модель не предназначена для естественного языка, ДНК или других биологических последовательностей; генерируемые последовательности не гарантированно реалистичны, а генерация последовательностей без сходства с природными белками остаётся сложной. Для запуска README перечисляет PyTorch, mamba, causal-conv1d и flash-attn.

DrugGPT — генеративная модель для разработки кандидатов в лекарства, опубликованная пользователем liyuesen. Она использует архитектуру GPT-2 для генерации молекул с потенциальной способностью связываться с заданными белками. По README, обучение проводилось на массиве до 1,8 млн данных о связывании белков и лигандов. Модель предназначена для исследования химического пространства: на вход подают FASTA-файл белка или его аминокислотную последовательность, а инструмент drug_generator.py генерирует молекулы-кандидаты. В метаданных указаны GPT2LMHeadModel, формат PyTorch и контекст 1024 токена; библиотека — Transformers. Карточка не сообщает отдельные показатели качества сгенерированных молекул или языковую поддержку.

electramed-small-JNLPBA-ner — модель на базе Electra, разработанная автором репозитория и дообученная из giacomomiolo/electramed_small_scivocab на наборе JNLPBA для распознавания именованных сущностей в биомедицинских текстах. Она присваивает метки отдельным токенам и подходит для извлечения биологических сущностей из научных публикаций. Модель содержит 20,4 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. На тестовой выборке JNLPBA указаны F1 0,8494, точность 0,8225, полнота 0,8782 и accuracy 0,9621. Лицензия в предоставленных данных не указана.

Synthyra разработала эту сборку белковой языковой модели ESM-2 для работы с библиотекой Hugging Face Transformers и средой FastPLMs. В основе лежит чекпойнт facebook/esm2_t30_150M_UR50D; модель содержит 196,6 млн параметров и принимает аминокислотные последовательности, преобразованные в токены остатков. Максимальная длина контекста — 1026 токенов. Основная задача модели — предсказывать замаскированные аминокислотные остатки. Чекпойнт также можно использовать для получения представлений белковых последовательностей и остатков, анализа контактов и последующего дообучения для классификации последовательностей или токенов. Головы классификации при публикации не обучены, поэтому их выходы нельзя интерпретировать как готовые предсказания без дообучения. Модель предназначена для вычислительных задач в биологии и не подтверждает биологическую функцию белка сама по себе. Весовые файлы опубликованы в формате safetensors. Лицензия — MIT. Для загрузки через стандартный интерфейс Transformers README указывает `trust_remote_code=True`; следует использовать проверенную версию репозитория и кода FastPLMs.

NVIDIA публикует оптимизированную версию ESM-2 t33 650M UR50D — трансформерной языковой модели для последовательностей белков, первоначально разработанной Facebook Research. Веса в этой версии, согласно карточке, совпадают с исходной моделью с точностью до численных различий; оптимизация выполнена с помощью TransformerEngine. В метаданных указаны архитектура NVEsmForMaskedLM, 865,1 млн параметров и контекст 1026 токенов, а в README — около 650 млн параметров и максимальная длина входа 1022 аминокислоты. Модель принимает строку аминокислотной последовательности и выдаёт векторные представления для каждого остатка; обучение на UniRef90 и UniRef50 использует задачу masked language modeling. Её можно применять для получения эмбеддингов и дообучать для задач над белковыми последовательностями. README также заявляет сценарий предсказания структуры белка, однако описанный выход этой версии — эмбеддинги, а не готовая 3D-структура. Для длинных последовательностей вход обрезается до 1022 аминокислот. Модель доступна по лицензии MIT для коммерческого и некоммерческого использования; NVIDIA указывает совместимость с GPU Ampere, Hopper и Blackwell.

Модель AmelieSchreiber/esm2_t6_8M_UR50D_rna_binding_site_predictor предназначена для предсказания участков связывания РНК в белковых последовательностях. Она построена на базе ESM-2 facebook/esm2_t6_8M_UR50D и дообучена на наборе S1 из коллекции данных об участках связывания белков с РНК. Модель использует архитектуру ESM для классификации токенов; содержит 9,8 млн параметров и принимает последовательности длиной до 1026 токенов. Модель подходит для разметки белковой последовательности по позициям, чтобы выявлять предполагаемые участки взаимодействия с РНК. В карточке указан validation loss 0,1274. Репозиторий распространяется по лицензии MIT; файлы представлены в форматах PyTorch и safetensors.

Synthyra/ESM3_small — опубликованная компанией Synthyra версия контрольной точки biohub/esm3-sm-open-v1 с runtime FastPLMs для Transformers. Это белковая языковая модель ESM3 с плотной архитектурой FastESM3 и 1,8 млрд параметров, предназначенная для извлечения представлений белков и использования в биологических задачах. Входные данные включают последовательности, структуры и функциональные треки, подготовленные мультимодальными помощниками ESM3; основное назначение модели в карточке — feature extraction. Модель загружается через стандартный интерфейс Transformers. Её представления можно использовать для построения эмбеддингов белков и как основу для последующей классификации последовательностей или остатков. Классификационные головы, создаваемые AutoModel-классами, инициализируются заново и требуют дообучения, прежде чем их выходы можно интерпретировать как предсказания. Лицензия — MIT.

Synthyra/ESMplusplus_small — версия контрольной точки Biohub ESMC-300M, упакованная разработчиками FastPLMs для работы через Hugging Face Transformers. Это плотная белковая языковая модель с 442,4 млн параметров и головой masked language modeling; она принимает аминокислотные последовательности, преобразованные в идентификаторы остатков. Основная задача модели — предсказывать замаскированные остатки в белковой последовательности. Репозиторий также предоставляет интерфейсы для получения эмбеддингов и downstream-классификации последовательностей и остатков. Модель подходит для векторизации белковых последовательностей и подготовки признаков для биологических анализов. Головы классификации в этом артефакте инициализированы заново и требуют дообучения, прежде чем их выходы можно интерпретировать как предсказания. Поддерживаются несколько attention-бэкендов; численные результаты BF16 в Flex Attention и FlashAttention 3 могут отличаться от SDPA. Лицензия — MIT.

GB.RNA-650M — базовая модель для работы с последовательностями РНК, разработанная GenBio AI. Это плотная архитектура RNABert с примерно 646,1 млн параметров, обученная на 42 млн последовательностей некодирующих РНК с разрешением до отдельного нуклеотида; заявленная длина контекста — 1024 токена. Модель предназначена для получения представлений РНК и создания на её основе downstream-моделей классификации последовательностей и токенов, а также регрессии. В метаданных указана задача fill-mask, соответствующая архитектуре RNABertForMaskedLM. Модель работает с последовательностями РНК; README описывает также получение эмбеддингов и адаптацию для задач классификации и регрессии через ModelGenerator. Репозиторий содержит веса PyTorch и Safetensors. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория.

Taykhoom Dalal поддерживает минимальный перенос GENA-LM-bert-base для Hugging Face Transformers. Это плотная трансформерная модель класса BERT для маскированного языкового моделирования последовательностей ДНК. Она принимает ДНК-токены, разбитые BPE-токенизатором с алфавитом из 32 000 токенов, и предсказывает скрытые токены; также её скрытые представления можно использовать для получения эмбеддингов последовательностей и дообучения под задачи классификации. В README указано обучение на сборке генома человека T2T и назначение для длинных последовательностей человека и нескольких видов. Модель имеет 12 слоёв, 12 голов внимания, размерность представлений 768 и контекст 512 токенов. Веса перенесены из AIRI-Institute/gena-lm-bert-base; реализация проверена на побитовое совпадение с исходными весами при eager-внимании и также поддерживает SDPA и FlashAttention 2. Порт не включает исходные NSP-голову и pooler. Распространяется по лицензии MIT.

GENA-LM-t2t-lastln-base — перенос на Hugging Face модели GENA-LM, разработанной Fishman, Kuratov и коллегами из AIRI Institute; порт поддерживает Taykhoom Dalal. Это плотная трансформерная модель типа BERT для маскированного языкового моделирования последовательностей ДНК человека и других видов. Модель содержит 137,8 млн параметров, 12 слоёв и 12 голов внимания, использует BPE-токенизатор на 32 000 токенов и принимает последовательности длиной до 512 токенов. Модель обучалась на сборке генома человека T2T с добавлением вариантов из 1000 Genomes и gnomAD. Она предназначена для предсказания замаскированных участков ДНК, получения представлений последовательностей и дальнейшей тонкой настройки под задачи анализа геномных последовательностей. Порт воспроизводит исходные веса и результаты побитно в режиме eager и также поддерживает SDPA и FlashAttention 2. Распространяется по лицензии MIT. Это не генеративная модель для свободного текста: основной интерфейс предсказывает токены в масках. Для задач классификации или других задач на уровне последовательности потребуется дополнительная предсказательная голова и соответствующая настройка; исходные NSP-голова и pooler не включены.

lamm-mit/Graph-Preflexor-4b_07012026 — диалоговая визуально-языковая модель семейства Gemma 4, дообученная на основе lamm-mit/Graph-Preflexor-sft-4b_0621026. Она предназначена для ответов на запросы с изображениями и текстом; теги карточки также связывают её с рассуждениями о графах и AI4Science, а в качестве датасета указан graph_reasoning_10K. Модель работает через Transformers, веса опубликованы в формате safetensors. README содержит только заголовок об использовании сервера mistral.rs и не описывает качество, точный размер, контекст или поддерживаемые языки. Модель распространяется по лицензии Apache-2.0.

Exscientia IgBert — белковая языковая модель семейства BERT, разработанная Exscientia для работы с последовательностями белков и антител. Модель предварительно обучена с задачей восстановления замаскированных токенов, а эта версия дообучена на парных последовательностях антител из набора Observed Antibody Space на базе Exscientia/IgBert_unpaired. Число параметров — 503,3 млн; максимальный контекст — 40 000 токенов. Модель принимает последовательности аминокислотных остатков и выдаёт контекстные представления токенов, пригодные для усреднения в эмбеддинги последовательностей и последующего дообучения под задачи классификации или другие задачи уровня последовательности. Для подготовки входов используется токенизатор Transformers с разделителями для парных последовательностей. Репозиторий распространяется по лицензии MIT.

Llama3-KALE-LM-Chem-1.5-8B — специализированная диалоговая языковая модель для химии, разработанная лабораторией USTC Knowledge Computing Lab. Это дообученная версия Meta-Llama-3-8B-Instruct с плотной архитектурой Llama и 7,5 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации ответов на вопросы по химии и других текстовых задач в этой области. В README приведены результаты оценивания на ChemBench, MMLU-Chem, SciQ и других бенчмарках, однако они сами по себе не гарантируют точность ответов в практических сценариях. Модель работает с текстом и ориентирована на английский язык. Модель распространяется по лицензии Llama 3. Ее специализация ограничивает применение химической областью, а сгенерированные ответы могут содержать ошибки и требуют проверки.

kevinkawchak дообучил диалоговую модель NousResearch/Hermes-2-Pro-Llama-3-8B на наборе zjunlp/Mol-Instructions, посвящённом молекулярным инструкциям и проектированию молекул по описанию. Это плотная авторегрессионная модель семейства Llama 3 с примерно 7,5 млрд параметров и контекстом 8192 токена; она принимает текст и генерирует текстовые ответы. Модель предназначена для ответов на общие и биохимические вопросы, а также для генерации представлений молекул в SELFIES. В карточке отмечено, что ответы на общие вопросы были точными, а качество биохимических ответов и структур SELFIES ограничено; последующие настройки улучшили такие ответы, но автор указывает на необходимость дальнейшей проверки. Карточка сообщает о лицензии Llama 3; для обучающего набора указана лицензия CC-BY-4.0.

OmniGenome-52M — трансформерная модель семейства OmniGenome для работы с геномными последовательностями, разработанная для исследований в RNA-геномике, биоинформатике и молекулярной биологии. По карточке, модель использует выравнивание последовательностей и вторичных структур РНК и поддерживает преобразования Seq2Str и Str2Seq. В метаданных указан размер 70,1 млн параметров, контекст 1026 токенов и формат safetensors; README описывает версии семейства на 52 млн и 186 млн параметров. Модель предназначена для предсказания вторичной структуры РНК, дизайна последовательностей РНК и других геномных задач, включая оценку деградации мРНК. Её также можно адаптировать для задач на ДНК, например предсказания активности промоторов, экспрессии генов и доступности хроматина. Предобучение выполнено на последовательностях более чем тысячи видов растений из базы OneKP; структуры предсказывались с помощью ViennaRNA. В метаданных основная задача указана как fill-mask, также перечислены text-generation, text-classification и token-classification. Карточка сообщает о хороших результатах на вычислительных бенчмарках, но перенос на человеческую ДНК может требовать дообучения, а результаты in vivo не подтверждены. Модель распространяется по лицензии MIT.

OpenMed-NER-GenomeDetect-ModernClinical-149M — модель OpenMed для распознавания упоминаний генов и белков в биомедицинском тексте. Это дообученный трансформер ModernBERT для классификации токенов: он присваивает токенам BIO-метки B-GENE/PROTEIN и I-GENE/PROTEIN, чтобы выделять границы сущностей. Модель содержит 149 млн параметров, принимает токенизированный текст и поддерживает контекст до 8192 токенов. Модель обучена на корпусе BC2GM и предназначена для извлечения генов и белков из научной литературы и клинических документов. Её можно применять для поиска биомедицинских сущностей в публикациях, анализа медицинских записей и построения баз знаний. В README указаны F1 0,85, точность 0,84 и полнота 0,86 на BC2GM; результаты на других типах текстов не приведены. Модель распространяется по лицензии Apache-2.0.

OpenMed-ZeroShot-NER-Genome-Multi-209M — модель OpenMed для распознавания упоминаний генов и белков в биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе BC2GM с примерами из аннотаций MEDLINE. Модель принимает текст и возвращает найденные сущности с метками и границами фрагментов; поддерживает zero-shot-запросы с заданными типами сущностей. Модель предназначена для извлечения генов и белков при анализе научной литературы, а также для геномной курции, поиска связей и извлечения вариантов и ассоциаций. README сообщает F1 0,75 на тестовых данных, исключённых из обучения, но приводит и иные результаты для вариантов семейства, поэтому метрики следует соотносить с конкретной оценкой. Для редких или пользовательских типов сущностей рекомендуется подбирать порог предсказания; качество таких запросов не гарантируется. Модель выпущена под лицензией Apache-2.0.

PepMLM-650M — модель ChatterjeeLab для генерации линейных пептидных связывателей de novo по аминокислотной последовательности белка-мишени. Она основана на ESM-2 и использует masked language modeling: последовательность мишени подаётся с особой схемой маскирования, чтобы модель восстановила последовательность пептида-связывателя в конце входа. В метаданных указаны архитектура ESM с классом EsmForMaskedLM, 865,1 млн параметров и контекст до 1026 токенов. Модель предназначена для поиска кандидатов в пептидные связыватели без необходимости задавать структуру белка-мишени, в том числе для последующей разработки систем направленного изменения протеома. Авторы сообщают о вычислительной оценке с AlphaFold-Multimer и экспериментальной проверке пептидов, слитых с доменами E3-лигаз, в клеточных моделях. Это не подтверждает связывание или эффективность каждого сгенерированного кандидата; результаты требуют отдельной вычислительной и экспериментальной проверки. Лицензия — MIT.

Это зеркало базовой модели ProGen2-medium, созданной Nijkamp и соавторами. Репозиторий содержит слегка изменённые конфигурацию и прямой проход модели; автор также указывает на пример её дообучения в своём GitHub-репозитории. Модель относится к семейству ProGen и использует плотную авторегрессионную архитектуру ProGenForCausalLM для генерации текста. Карточка Hugging Face относит её к задаче text-generation и указывает контекст длиной 1024 токена. Репозиторий содержит веса в формате safetensors. ProGen предназначена для генерации белковых последовательностей, поэтому модель подходит для исследовательских экспериментов с созданием и изучением последовательностей белков. README не сообщает подробностей о точных сценариях применения или ограничениях качества. Лицензия — BSD 3-Clause.

ProSST-2048 — предобученная белковая языковая модель, разработанная авторами проекта ProSST для анализа аминокислотных последовательностей с учётом структуры белка. Модель представлена как masked language model на базе Transformer с раздельным механизмом внимания к последовательности и структурным токенам; вариант 2048 использует словарь из 2048 структурных токенов. В метаданных указано 113,3 млн параметров. Модель предназначена для восстановления замаскированных белковых токенов и получения представлений белков; авторы также демонстрируют её применение для безобучающего предсказания эффектов мутаций и downstream-задач. Она объединяет информацию о последовательности и локальной структуре, а предобучение проводилось на миллионах структур белков. Это модель для белковых данных, а не естественного языка; в работе отмечено, что нарушения или неточности в структурных данных могут ограничивать качество структурно-зависимых прогнозов. Код проекта распространяется по лицензии CC BY-NC-ND 4.0.

ProstT5 — белковая языковая модель Майкла Хайнцингера, дообученная на основе ProtT5-XL-U50 для преобразования между аминокислотными последовательностями и представлением структуры белка в токенах 3Di. Это модель типа encoder-decoder на архитектуре T5 с 352,5 млн параметров и контекстом до 512 токенов. Обучение включало данные для 17 млн белков с высококачественными предсказаниями структуры из AlphaFoldDB. Модель поддерживает преобразование аминокислотной последовательности в 3Di-последовательность и обратное преобразование. Она также подходит для извлечения признаков и эмбеддингов как из последовательностей, так и из представлений структуры. Полученные 3Di-последовательности можно использовать с Foldseek для поиска удалённой гомологии без явного вычисления трёхмерной структуры. Для генерации требуется последовательное декодирование, поэтому преобразование медленнее извлечения признаков. Контекст ограничен 512 токенами. Модель распространяется по лицензии MIT.

ProteinGLM-100B-INT4 — квантизированная до INT4 версия белковой языковой модели семейства ProteinGLM, разработанного исследователями Университета Цинхуа. Модель предназначена для анализа белковых последовательностей и проектирования белков: авторы описывают семейство как объединяющее masked language models для понимания белков и causal language models для генерации последовательностей. В README приведён пример генерации белковой последовательности по короткому аминокислотному префиксу. Репозиторий содержит модель с 120,8 млрд параметров и контекстом 2048 токенов. Метаданные указывают архитектуру ProteinGLM и формат safetensors; README называет веса INT4. Примеры использования показывают интерфейсы Transformers для генерации, классификации последовательностей и токенов, а также получения представлений последовательности. Модель ориентирована на биологические последовательности, а не на обычный текстовый диалог. README ссылается на работы о xTrimoPGLM и обучении белковых языковых моделей. Базовая модель в метаданных не указана, поэтому точную связь данного репозитория с конкретной исходной моделью установить нельзя. Лицензия в предоставленных данных не приведена. Для запуска README использует trust_remote_code и CUDA; практическое применение зависит от совместимого программного окружения и ресурсов для модели такого размера.

ProtGPT3-MSA — авторегрессионная языковая модель белковых последовательностей из семейства ProtGPT3, разработанная AI4PD. Она предназначена для генерации новых последовательностей белков с учётом набора гомологов: пользователь задаёт до 15 родственных последовательностей, а модель продолжает их в семейно-согласованном стиле без дообучения под конкретную задачу. Поддерживаются выровненные MSA-последовательности с гэпами и невыровненные последовательности; также предусмотрены режимы генерации от N-конца к C-концу и в обратном направлении. Модель использует авторегрессионную архитектуру decoder-only со sparse Mixture-of-Experts в стиле Mixtral. В метаданных указаны 21 млн параметров и контекст до 16 384 токенов. Обучение проводилось примерно на 8,5 млн множественных выравниваний последовательностей из OpenProteinSet Uniclust30. Основной сценарий — few-shot генерация последовательностей, обусловленная белковым семейством. Качество результата зависит от релевантности, чистоты и разнообразия поданных гомологов; сгенерированные последовательности могут быть нефункциональными, нестабильными или биологически неправдоподобными и требуют вычислительной и экспериментальной проверки. Модель не предназначена для самостоятельного основания клинических, экологических или критически важных решений. README не сообщает условия лицензии.

ProtSent-V2.5-150M — контрастивно дообученная модель на основе ESM-2, разработанная GrimSqueaker для получения эмбеддингов белковых последовательностей и поиска белков по сходству. Она использует mean pooling, формирует векторы размерности 640 и принимает последовательности длиной до 512 аминокислот; архитектура — ESM, размер модели по метаданным — 196,6 млн параметров. Модель предназначена для поиска структурно или функционально близких белков, извлечения признаков и использования эмбеддингов в задачах биологии белков. Обучение продолжено с ProtSent-V2-150M на данных Pfam, AlphaFold DB, STRING-DB и DMS; опубликованные результаты показывают улучшения относительно исходной ESM-2 в некоторых задачах поиска и k-NN-оценивания. Выигрыш зависит от метрики и способа оценки: на SCOPe-40 HMMER сохраняет преимущество по R@1, а при линейной оценке некоторые показатели ухудшаются. Модель распространяется по лицензии MIT. Она предназначена для белковых последовательностей, поэтому языковые коды карточки не следует трактовать как указание на поддержку обычного текста.

ProtT5-XL-UniRef50 — белковая языковая модель семейства T5, разработанная Rostlab и предварительно обученная на последовательностях белков из UniRef50. Она основана на T5-3B и использует архитектуру encoder-decoder с целью обучения, похожей на BART: модель восстанавливает случайно замаскированные аминокислоты. В карточке указано 352,5 млн параметров, а README сообщает об исходном чекпойнте ProtT5-XL-BFD; обучение проводилось на последовательностях длиной до 512 токенов. Модель предназначена для извлечения эмбеддингов белковых последовательностей и дообучения для прикладных задач биоинформатики. Эмбеддинги энкодера могут использоваться для прогнозирования свойств и структуры белков; README приводит результаты на задачах предсказания вторичной структуры. На вход подаются последовательности аминокислот заглавными буквами, редкие символы U, Z, O и B заменялись на X. Модель не предназначена для обычного текста и не обрабатывает последовательности длиннее указанного контекста без специальной сегментации. Лицензия в предоставленных данных не указана.

Qwen3 4B LaTeX Correction v3 BF16 — дообученная методом SFT языковая модель на архитектуре Qwen3, разработанная автором репозитория xu2409324124 на базе Qwen/Qwen3-4B-Instruct-2507. Она преобразует шумные, разговорные или похожие на псевдокод описания математических выражений в канонические формулы LaTeX и выдаёт только формулу в заданном формате: дроби оформляются через \frac с двумя аргументами в фигурных скобках, матрицы — окружением bmatrix, верхние и нижние индексы — в фигурных скобках. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 262 144 токенов. Репозиторий содержит объединённый чекпойнт BF16 для инференса через Transformers, преобразования для vLLM, дальнейшего дообучения или создания квантизованных версий. В оценке на 292 примерах автор сообщает 98,97% семантической точности и 100% покрытия разбора; точная посимвольная точность составила 83,22%. Лицензия — MIT. Модель специализирована на коррекции математических формул и не предназначена для общего диалога; качество за пределами описанной задачи в карточке не оценивалось.

RIBOSPAN-1K-15 — чекпойнт семейства фундаментальных моделей RIBOSPAN для работы с последовательностями РНК. Модель разработана SII-GAIR-NLP и представляет собой плотный трансформер RiboSpanForMaskedLM с 1,61 млрд параметров и контекстом до 1 024 токенов. Вариант обучен с маскированием 15% токенов и предназначен для задачи fill-mask: предсказания замаскированных фрагментов последовательности. Модель подходит для анализа и исследования РНК-последовательностей, включая восстановление замаскированных участков и получение контекстных предсказаний для геномных и транскриптомных данных. Использует веса PyTorch и является дообучением SII-GAIR-NLP/RIBOSPAN-FM. Лицензия указана как other; конкретные условия использования следует сверять с карточкой модели и лицензией базовой модели.