IV.6Научные исследования, математика и новые материалы
В разделе собраны самостоятельные задачи, где AI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
4 120 моделейLDM-CoT-SFT-Qwen3.5-9B-MixedScience — дообученная Yangtze AI Lab модель Qwen3.5-9B, предназначенная для роли proposer в цикле Large Discovery Models. Она анализирует историю экспериментов и предлагает следующий кандидат для проверки, учитывая, какие области поиска уже исследованы, а где остаётся неопределённость. В отличие от родственной версии, значения Gaussian process и функции приобретения скрыты от модели: выводы об исследовании или эксплуатации она строит по наблюдениям и их текстовому описанию. Модель обучена полнопараметрическим supervised fine-tuning на наборе LDM-CoT-SFT-16K; её ответы включают рассуждение на английском языке и структурированное действие. Она рассчитана на работу внутри цикла generate → select → evaluate → update и сама не оценивает предложенные кандидаты. Поведение зависит от оракулов и предметных областей, представленных при сборе данных. Репозиторий распространяется по лицензии MIT.
MolDeBERTa-tiny-10M-mlm — компактный энкодер молекулярных последовательностей, разработанный SaeedLab на архитектуре DeBERTaV2. Модель предварительно обучена на 10 млн молекул с помощью masked language modeling (MLM); входные молекулы представляются в формате SMILES и токенизируются байтовым BPE. В репозитории указано 8,6 млн параметров и контекст длиной 128 токенов. Модель предназначена для извлечения эмбеддингов молекул и последующей настройки для предсказания их свойств или классификации последовательностей. Полученные представления можно использовать для измерения сходства, визуализации молекул и обучения отдельных предикторов в задачах химии, биоинформатики и поиска лекарств. README описывает преимущества семейства MolDeBERTa на бенчмарках MoleculeNet, но не приводит отдельные результаты именно этой tiny MLM-конфигурации. Лицензия CC BY-NC-ND 4.0 ограничивает использование и распространение модели; перед применением следует проверить её условия, в частности ограничения на коммерческое использование и создание производных материалов. Контекст модели ограничен 128 токенами.
CuiSiwei/nougat-for-formula — это дообученная на IM2LATEX-100K модель Nougat Small для распознавания математических формул на изображениях. Она использует архитектуру vision encoder-decoder и преобразует изображение с формулой в чёрном цвете на белом фоне в код LaTeX; модель рассчитана на распознавание формул, а не на разбор произвольных документов. Её можно применять для оцифровки формул из конспектов и скриншотов, а также в приложениях, которые автоматически создают LaTeX-разметку. В README приведены результаты на тестовой части IM2LATEX-100K: BLEU 0,8157 и CER 0,1601. Длина формулы ограничена максимальной длиной генерации используемой конфигурации; модель может ошибаться на неподходящем фоне или при отличающемся оформлении формул. Лицензия — Apache-2.0.
OpenMed-ZeroShot-NER-DNA-Multi-209M — модель распознавания именованных сущностей для молекулярно-биологических текстов, разработанная OpenMed. Она построена на архитектуре GLiNER и дообучена на корпусе JNLPBA, составленном из аннотаций MEDLINE. Модель извлекает белки, ДНК, РНК, клеточные линии и типы клеток; подход zero-shot позволяет задавать собственные категории сущностей без отдельного дообучения. Модель предназначена для разметки научной литературы и других биомедицинских текстов, например для курирования биологических путей и поиска молекулярных взаимодействий. В README приведён показатель F1 0,78 на тестовом наборе, исключённом из обучения. Метаданные указывают задачу token-classification, язык английский и лицензию Apache-2.0, допускающую коммерческое использование при соблюдении её условий.
OpenMed-ZeroShot-NER-Protein-Multi-209M — модель OpenMed для распознавания именованных сущностей в биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе FSU, посвящённом белкам и молекулярной биологии. Модель поддерживает zero-shot извлечение сущностей: пользователь может задавать типы сущностей при запуске без отдельного дообучения под каждую задачу. Основная специализация — обнаружение белков, белковых комплексов, семейств и вариантов. Модель предназначена для анализа научной литературы и других биомедицинских текстов, в том числе для майнинга взаимодействий белок–белок, анализа путей и системной биологии. Метаданные указывают задачу token-classification и поддержку английского языка; репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. В README приведён F1 0,78 на тестовом наборе, исключённом из обучения; заявленные показатели в таблице сравнения относятся к вариантам других размеров и не должны переноситься на эту модель. Качество может зависеть от выбранных меток и порога предсказания; заявленная возможность задавать произвольные типы сущностей не гарантирует одинаковой точности для типов, не представленных в обучающих данных.
PhysBERT — специализированная модель текстовых эмбеддингов для физической литературы, разработанная Thorsten Hellert, João Montenegro и Andrea Pollastro при финансировании Министерства энергетики США и Lawrence Berkeley National Laboratory. Это модель на архитектуре BERT, дообученная методом SimCSE на корпусе из 1,2 млн публикаций arXiv по физике. Модель предназначена для поиска научных публикаций, классификации цитирований, кластеризации и категоризации физической литературы. Она рассчитана на английский язык и поддерживает обработку последовательностей длиной до 512 токенов. По данным авторов, PhysBERT превосходит универсальные модели в задачах NLP, связанных с физикой. Модель распространяется в формате safetensors и доступна через Transformers. Условия лицензии в предоставленных данных не описаны.
ProtBert — предварительно обученная белковая языковая модель на основе BERT, опубликованная Rostlab. Она обучена методом masked language modeling на 217 млн последовательностей белков из UniRef100 и содержит около 503 млн параметров. Модель принимает последовательности аминокислот в верхнем регистре, разделённые пробелами; редкие аминокислоты U, Z, O и B при подготовке данных заменялись на X. В метаданных указан контекст длиной до 40 000 токенов. Основное назначение модели — предсказывать замаскированные аминокислоты и извлекать векторные представления белковых последовательностей для последующего анализа или дообучения под прикладные задачи. Представления модели могут отражать биофизические свойства, связанные со структурой белка; в карточке приведены результаты дообучения для предсказания вторичной структуры. Модель работает с белковыми последовательностями, а не с обычным текстом. Указанная в карточке лицензия не приводится.
ProteinForceGPT — авторегрессионная языковая модель белковых последовательностей от lamm-mit, основанная на архитектуре GPT-NeoX и дообученная для анализа и предсказания механических свойств белков. Модель поддерживает прямые задачи CalculateForce, CalculateEnergy, CalculateForceEnergy и CalculateForceHistory, а также обратные задачи генерации последовательностей с заданными механическими ограничениями. Модель содержит около 604,4 млн параметров по метаданным, использует 36 слоёв, 16 голов внимания, скрытый размер 1024, GeLU и RoPE. Она принимает текстовое представление аминокислотных последовательностей и генерирует текст — продолжение или новые последовательности. Контекст составляет 2048 токенов. Репозиторий использует формат Safetensors; лицензия Apache-2.0.
Protein Matryoshka Embeddings — модель на базе BERT, созданная monsoon-nlp для получения векторных представлений белковых последовательностей. Она дообучена на Rostlab/prot_bert_bfd с использованием Matryoshka loss и данных о сходстве пар белков из UniProt/Swiss-Prot. Модель содержит 503,3 млн параметров, принимает последовательности аминокислот в однобуквенных кодах IUPAC-IUB и поддерживает контекст до 40 000 токенов. Векторные представления предназначены для поиска сходных белков и последующего использования в задачах классификации и регрессии. Matryoshka loss позволяет применять укороченные эмбеддинги для более быстрого поиска; в README приведены результаты корреляции косинусного сходства на валидационных парах. Лицензия — CC.
ProtGPT3-1.3B — авторегрессионная языковая модель белковых последовательностей из семейства ProtGPT3. Это декодерная модель со sparse Mixture-of-Experts архитектурой в стиле Mixtral, обученная предсказывать следующий элемент белковой последовательности. В карточке указаны 205 млн параметров и контекст 1025 токенов. Модель генерирует последовательности белков без условия или продолжает заданный аминокислотный префикс. Специальный начальный токен задаёт направление генерации: от N-конца к C-концу или наоборот. Её можно использовать как основу для проектирования белков, генерации вариантов и семействоспецифичной генерации. ProtGPT3-1.3B разработана для задач генеративного моделирования белков. README не называет конкретную лицензию. Генерируемые последовательности могут быть нефункциональными, нестабильными, нерастворимыми или биологически неправдоподобными; перед применением им нужны вычислительная и экспериментальная проверка. Модель не предназначена для самостоятельного принятия клинических, экологических или критически важных решений.
Qwen2-Math-72B-Instruct-IMat-GGUF — квантизированная версия языковой модели Qwen/Qwen2-Math-72B-Instruct. Исходную модель разработала команда Qwen, а квантизацию выполнил legraphista с использованием llama.cpp и IMatrix-калибровки. Модель предназначена для генерации текста в диалоговом формате и решения математических задач, включая сценарии локального запуска через совместимые инструменты llama.cpp и GGUF. Модель содержит 72 млрд параметров, изначально представлена в формате BF16 и доступна в нескольких вариантах GGUF-квантизации: от Q8_0 до 1–3-битных форматов, включая Q4_K, Q3_K и Q2_K. Для ряда вариантов применена IMatrix, призванная сохранить качество при уменьшении размера. В карточке указаны английский язык и текстовая модальность; размер контекста и точная архитектура не приведены. Сильная сторона модели — специализация на математическом рассуждении и широкий выбор вариантов квантизации, позволяющий выбирать баланс между качеством, размером файлов и требованиями к памяти. Ограничения связаны с очень большим исходным размером: даже доступные квантизированные файлы занимают примерно от 29,81 до 77,26 ГБ, а некоторые варианты разделены на несколько частей. Качество и потребление ресурсов зависят от выбранного формата квантизации. Лицензия обозначена как other с названием tongyi-qianwen; подробные условия приведены в лицензии исходной модели Qwen/Qwen2-Math-72B-Instruct.
QwQ-32B-Preview-IdeaWhiz-v1-GGUF — это GGUF-квантизованная версия языковой модели QwQ-32B-Preview-IdeaWhiz-v1, опубликованная bartowski. Модель предназначена для генерации текста и ориентирована на задачи в областях химии, биологии, климата и медицины. В README указан английский язык, а исходная модель и датасет liveideabench связаны с разработчиком 6cf. Модель содержит 32B параметров; точная архитектура, размер контекста и поддерживаемые модальности в README не указаны. Доступны варианты от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантований размером примерно от 13,7 до 65,5 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix. Более качественные варианты Q6_K_L, Q6_K, Q5_K и Q4_K обычно рекомендуются разработчиком, а Q3 и некоторые IQ-варианты экономят оперативную память за счёт снижения качества. Сильной стороной модели является возможность локального запуска через llama.cpp и LM Studio при выборе подходящего уровня квантизации, а также специализация на научно-технических сценариях. Ограничения включают отсутствие в README количественных оценок качества, подробностей об архитектуре и контексте, а также потенциальную потерю качества в младших вариантах квантизации. Указана лицензия Apache-2.0.
Это контрольная точка SAM 2 Tiny, размещённая mfranzon для демонстрации отслеживания клеток и бактерий в Model Garden. Веса взяты из facebook/sam2-hiera-tiny и повторно опубликованы без обучения; лицензия репозитория — Apache-2.0. Модель предназначена для сегментации объектов в видео и переноса масок между кадрами: пользователь отмечает объект несколькими кликами, после чего SAM 2 распространяет маску на следующие кадры. Подход подходит для классов объектов, для которых нет заранее обученных детекторов с метками, например для отслеживания нейтрофила и бактерии. В README указан вариант SAM 2 Tiny и описан вызов через video predictor API репозитория SAM 2. Сценарий демонстрации ориентирован на микроскопические изображения; модель не обучена специально на этих объектах и требует начальной разметки кликами.
ZymCTRL (Enzyme Control) — условная языковая модель для генерации искусственных ферментов, разработанная группой AI for Protein Design Центра геномной регуляции. По заданному номеру ферментативной комиссии EC модель генерирует последовательность белка, предназначенную для соответствующей каталитической реакции. Её обучили на более чем 37 млн последовательностей ферментов из UniProt с аннотациями EC; при обучении номера EC помещались перед последовательностями, чтобы модель связывала классы ферментов с их последовательностями. Модель использует авторегрессионную архитектуру декодера на основе CTRL Transformer, реализованную как GPT2LMHeadModel: 36 слоёв, размерность 1280 и 738 млн параметров. Контекст составляет 1024 токена. Модель предназначена для генерации последовательностей по классам EC, в том числе в режиме zero-shot; README также описывает дообучение на пользовательском наборе последовательностей. Авторы сообщают, что сгенерированные последовательности имеют упорядоченную глобулярную структуру и могут отличаться от природных последовательностей при соответствии заданной каталитической функции. Для использования требуется работать с последовательностями белков и номерами EC; модель не является экспериментальной проверкой ферментативной активности. Репозиторий распространяется по лицензии Apache-2.0.
AMPLIFY 350M — белковая языковая модель лаборатории FLAIR Lab, предварительно обученная на наборе UR100P методом masked language modeling. Модель содержит 353,9 млн параметров и использует плотный BERT-подобный энкодер на 32 слоя с RoPE, SwiGLU и RMSNorm. Токенизация выполняется на уровне аминокислот; размер словаря — 32 токена, контекст — до 2048 токенов. Модель предназначена для получения представлений отдельных остатков и последовательностей белка, оценки эффектов вариантов по pseudo-log-likelihood и дообучения для задач предсказания фитнеса, стабильности, связывания и функциональной аннотации. Выпускается в формате Safetensors для Transformers; лицензия MIT.
Карточка модели sschet/biobert_chemical_ner на Hugging Face совпадает с карточкой alvaroalon2/biobert_chemical_ner, поэтому описание составлено по ней. Это модель BioBERT, дообученная alvaroalon2 для распознавания химических веществ в биомедицинских текстах. Она решает задачу распознавания именованных сущностей (NER) и предназначена для использования в системах BioNER/BioNEN. Обучение проводилось на корпусах BC5CDR-chemicals и BC4CHEMD. Модель основана на архитектуре BERT, содержит 135,5 млн параметров и принимает последовательности длиной до 512 токенов. Она размечает текстовые фрагменты, относящиеся к химическим веществам; заявленный язык — английский. Доступны веса в форматах PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0.
ChemDFM-v2.0-14B — диалоговая языковая модель для химии и молекулярных наук, разработанная командой OpenDFM. Это версия ChemDFM без режима рассуждений; её обучали на базе Qwen2.5-14B, улучшив доменное предварительное обучение и настройку по инструкциям. В корпус добавили молекулы и реакции, сведения о функциональных группах и свойствах, а набор инструкций расширили по задачам и формулировкам. Модель предназначена для диалога и генерации ответов на химические вопросы, включая работу с молекулярной информацией и обозначениями SMILES. Имеет архитектуру Qwen2, 14 млрд параметров и контекст до 131 072 токенов; заявлены английский и китайский языки. Для нормализации SMILES авторы рекомендуют предварительную канонизацию с помощью RDKit. Модель может выдавать неверную или вводящую в заблуждение информацию, поэтому результаты следует проверять с химическими экспертами. Лицензия — AGPL-3.0.
recobo/chemical-bert-uncased-tsdae — модель на базе BERT, представленная в формате Sentence Transformers и предназначенная для получения векторных представлений химических текстов и сравнения их семантической близости. По названию модель относится к химическому домену; README показывает загрузку через SentenceTransformer. Модель содержит 137,1 млн параметров, принимает текст длиной до 512 токенов и выдаёт эмбеддинги для задач поиска сходных предложений и извлечения признаков. Модель распространяется по лицензии Apache-2.0. README и метаданные не раскрывают обучающий датасет и подробные результаты оценки качества.
ChemLLM-7B-Chat — языковая модель для химии и науки о молекулах, разработанная командой AI4Chem на основе InternLM2. Это чат-модель с архитектурой InternLM2ForCausalLM и 7,4 млрд параметров; она принимает текст и генерирует ответы в формате диалога. Модель предназначена для вопросов по химии и смежным научным темам, а также для профессионального перевода. Для диалогов README рекомендует использовать шаблон InternLM2 и системный промпт Agent Chepybara. В тестах MMLU, приведённых в карточке, модель показала результаты выше сравниваемых моделей на задачах по химии, математике и физике; эти результаты не гарантируют точность отдельных ответов. Модель поддерживает английский и китайский языки, имеет контекст до 32 768 токенов и распространяется по лицензии Apache-2.0. Авторы предупреждают, что ответы могут быть ошибочными, и советуют проверять их; в README также указаны более новые версии ChemLLM.
Javis001/coal-maceral-segformer-b3 — чекпойнт проекта для семантической сегментации отражённых RGB-изображений угля, полученных при микроскопии. Модель предназначена для выделения четырёх классов: фона, инертинита, липтинита и ещё одного класса мацералов. В основе используется SegFormer-B3 с проектным декодером, coordinate attention и вспомогательными ветвями для выделения границ. На вход подаётся RGB-изображение, которое сохраняет пропорции и помещается в рамку 512 × 512 пикселей; для пикселей применяется заданная нормализация без предварительного деления на 255. На выходе — карта сегментации классов. Это специализированная модель для угольной петрологии и микроскопии, а не готовый пакет Transformers: для инференса нужна реализация из связанного исходного проекта. Карточка допускает некоммерческие исследования и оценку, а также экспертное изучение сегментации мацералов. Метрики качества не заявлены, обучающие данные и разбиения не опубликованы; результаты требуют проверки специалистом и не подходят для автономной сертификации или решений, критичных для безопасности. Лицензия указана как other; конкретные условия следует сверять с лицензией репозитория и связанного проекта.
Synthyra/ESM2-35M — публикация чекпойнта ESM2 от Meta (исходный репозиторий facebook/esm2_t12_35M_UR50D) с runtime FastPLMs для Transformers. Это плотная модель masked language modeling на 44,3 млн параметров, принимающая аминокислотные последовательности, разбитые на токены остатков; длина контекста — до 1026 токенов. Основной сценарий — предсказание скрытых аминокислотных остатков и получение представлений белковых последовательностей. Модель также предоставляет интерфейсы для классификации последовательностей и отдельных остатков, извлечения эмбеддингов и предсказания контактных карт. Головы классификации и пулер, если они добавлены, изначально не обучены и требуют дообучения перед использованием для предсказаний. Для работы с белками специальные естественные языки не применяются. Модель опубликована под лицензией MIT. README указывает использование Transformers с `trust_remote_code=True` и перечисляет несколько доступных backend-механизмов внимания. Результаты сами по себе не подтверждают биологическую функцию белка; тестовое обучение может ухудшать результат и требует дополнительных вычислительных ресурсов.
ESM-2 — модель семейства ESM, разработанная Meta AI для работы с последовательностями белков. Этот чекпойнт использует архитектуру masked language model: он предсказывает скрытые аминокислоты в последовательности и может служить основой для дообучения на других задачах, где входом являются белковые последовательности. Модель содержит 36 слоёв и около 3,8 млрд параметров, принимает последовательности длиной до 1026 токенов и распространяется в формате PyTorch. Более крупные чекпойнты ESM-2 в целом показывают несколько более высокую точность, но требуют больше памяти и времени. Лицензия — MIT.
nvidia/esm2_t36_3B_UR50D — оптимизированная NVIDIA версия белковой языковой модели ESM-2, исходно разработанной Facebook Research. Это трансформер с 36 слоями и примерно 3 млрд параметров, обученный на последовательностях белков UniRef90 и UniRef50 методом masked language modeling. Модель принимает строку аминокислотной последовательности длиной до 1022 остатков и выдаёт векторные представления для каждого остатка и последовательности в целом; контекст по метаданным составляет 1026 токенов. Модель предназначена для получения белковых эмбеддингов и тонкой настройки на задачи, принимающие аминокислотные последовательности, включая предсказание структуры белка и классификацию токенов. README описывает структурное предсказание как сценарий применения, однако непосредственно заявленный pipeline tag — fill-mask. Оптимизация выполнена с помощью NVIDIA TransformerEngine; README отмечает возможные небольшие численные отличия от исходной версии. Для длинных последовательностей вход автоматически усекается до 1022 аминокислот. Модель распространяется под лицензией MIT и заявлена как пригодная для коммерческого и некоммерческого использования. В README указана ориентация на ускорение на GPU NVIDIA; также модель доступна через Transformers.
multimolecule/esmc-600m — неофициальная реализация ESM Cambrian (ESMC), белковой языковой модели, разработанной авторами работы «Language Modeling Materializes a World Model of Protein Biology» и выпущенной командой MultiMolecule. Это предварительно обученный энкодерный Transformer с 573,4 млн параметров, rotary position embeddings, нормализацией QK и блоками SwiGLU. Модель принимает последовательности аминокислот и обучена предсказывать замаскированные токены по окружающему контексту; максимальный контекст — 2048 токенов. Модель предназначена для восстановления пропущенных аминокислот, получения представлений белковых последовательностей и использования в качестве основы для последующего дообучения на задачах классификации или регрессии последовательностей и отдельных остатков. Обучение проводилось на данных UniRef, MGnify и Joint Genome Institute; карточка указывает, что upstream-модель обучалась примерно на 2,8 млрд белковых последовательностей. Реализация использует библиотеку multimolecule и распространяется в форматах PyTorch и safetensors. Лицензия — AGPL-3.0. Реализация обозначена как неофициальная; команда MultiMolecule сообщает о совпадении промежуточных представлений с оригинальной реализацией. Модель не дообучена для конкретной downstream-задачи, поэтому для классификации или регрессии требуется дополнительное дообучение.
Synthyra/ESMFold2 — опубликованная Synthyra упаковка чекпойнта biohub/ESMFold2 для запуска через FastPLMs и Transformers. Модель принимает аминокислотные последовательности и спецификации молекулярных комплексов, предсказывает белковую структуру и оценки уверенности; поддерживает одиночные последовательности, входы с MSA, а также типизированные входы с несколькими цепями, РНК, модификациями и ковалентными связями. Веса представлены в формате safetensors, лицензия — MIT. Чекпойнт содержит 48-блочный ESMFold2 и может выдавать структуру в формате mmCIF. Его обученное представление остатков имеет размерность 256; отдельный API извлечения эмбеддингов рассчитан на одиночные белковые цепи. Возможны настройки, ускоряющие обработку длинных белков ценой изменения численного результата. Классификационные головы для последовательностей и остатков в этой упаковке инициализированы заново и требуют дообучения перед использованием для предсказаний. Модель не подтверждает биохимическую активность предсказанных структур; карманное и дистограммное кондиционирование не поддерживаются выпущенным форвард-проходом.
Synthyra/ESMFold2-300 — экспериментальная модель Synthyra для предсказания пространственной структуры белков и оценки уверенности предсказания. Она упаковывает чекпойнт biohub/ESMFold2-Experimental-Fast-base300M-step1500k с FastPLMs runtime и адаптированной головой уверенности для Transformers. В основе — замороженный 300-миллионный ESM++ backbone и 24 блока сворачивания; модель принимает аминокислотные последовательности и типизированные описания комплексов белковых цепей или молекул. Доступны оценки pLDDT, PAE, pTM и ipTM. Модель работает без MSA-кондиционирования: входы и признаки, полученные из MSA, не поддерживаются. Значения суффикса 300 относятся к масштабу backbone, а не к общему числу параметров. Классификационные классы Transformers используют backbone, но их головы инициализированы заново и требуют дообучения; их исходные логиты не следует считать готовыми предсказаниями. Уверенность оценивалась на тестовых целях, но эти результаты сами по себе не подтверждают эквивалентность качества структур production-версии ESMFold2. Модель опубликована под лицензией MIT. Для выполнения требуется Transformers с загрузкой через trust_remote_code=True; описанный режим использует BF16 backbone и CUDA BF16 autocast для FP32 параметров сворачивания, а FP8 не поддерживается.
Synthyra/ESMFold2-Experimental-Cutoff2025 — это опубликованная Synthyra упаковка контрольной точки biohub/ESMFold2-Experimental-Cutoff2025 для запуска через FastPLMs и Hugging Face Transformers. Модель семейства ESMFold2 предназначена для предсказания трёхмерной структуры белков по аминокислотной последовательности; поддерживает одиночные последовательности, входы с множественным выравниванием и типизированные комплексы с белками и другими молекулами. Контрольная точка содержит 48 блоков, а её обученное представление остатков имеет размерность 256. Интерфейс также предоставляет извлечение представлений, но классификационные головы создаются заново и не обучены: их выходы нельзя трактовать как предсказания без дообучения. Модель умеет выдавать координаты и оценки уверенности, которые сами по себе не подтверждают биохимическую активность. Карточка описывает экспериментальные режимы точности и ускорения, включая FP8 только для инференса и оконное внимание, меняющее численный результат. Для структурной подготовки нужен ресурс CCD из biohub/ESMFold2. Лицензия — MIT.
G4mer — трансформерная модель для анализа последовательностей РНК, разработанная авторами одноимённой работы. Она классифицирует фрагмент длиной 70 нуклеотидов по бинарному признаку: способен ли он образовывать РНК G-квадруплекс (rG4). Модель дообучена на основе Biociphers/mRNAbert; для токенизации используются перекрывающиеся 6-меры. В README также описан веб-инструмент для поиска rG4 в транскриптоме и оценки влияния генетических вариантов. Модель предназначена для анализа последовательностей РНК человека в задачах геномики и молекулярной биологии. Для последовательностей длиннее 70 нуклеотидов авторы рекомендуют сканирование окнами длиной 70 нуклеотидов с выбором максимальной оценки rG4. Репозиторий содержит веса PyTorch и распространяется по лицензии с обозначением «other»; конкретные условия следует сверить с файлами лицензии проекта.
GB.Cell-100M — клеточная foundation-модель, разработанная GenBio AI для анализа экспрессии генов в отдельных клетках человека. Она обучена на 50 миллионах клеток из более чем 100 типов тканей и органов и предназначена для задач одно-клеточной геномики, включая кластеризацию без обучения на целевой задаче, классификацию типов клеток и моделирование эффектов возмущений. Модель содержит 87 млн параметров и использует двунаправленный трансформерный энкодер BERT-типа с 18 слоями, авто-дискретизацию значений экспрессии и цель предобучения Read Depth-Aware: по данным с низкой глубиной считывания модель предсказывает значения для замаскированных генов при большей глубине. Для каталога Hugging Face основная задача указана как fill-mask. Контекст — до 19 264 токенов; репозиторий содержит веса PyTorch и Safetensors. Модель формирует представления транскриптомного контекста клетки и показывает сильные результаты в перечисленных задачах одно-клеточной геномики. Она рассчитана на данные экспрессии генов человека; сведения о поддержке других организмов не приведены. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.
tdc/Geneformer — объединённая версия Geneformer, трансформерной модели семейства BERT для анализа одноклеточных транскриптомов. Исходная модель разработана для контекстных предсказаний в сетевой биологии и предварительно обучена на крупном корпусе транскриптомов; эта версия использует выпуск 20L-95M-i4096, обученный на версии Genecorpus объёмом 95 млн записей. В репозитории указаны 178,7 млн параметров, контекст до 4096 токенов и формат safetensors. Модель предназначена для предсказаний по экспрессии генов, изучения динамики и регуляции генных сетей и дообучения на задачах с ограниченными данными, в том числе для моделирования заболеваний и поиска потенциальных терапевтических мишеней. Основная задача в метаданных — fill-mask. Модель принимает последовательности токенов, представляющих транскриптомные данные, и предсказывает замаскированные токены. Лицензия — Apache-2.0. README не описывает проверку клинической пригодности результатов; предсказания для исследований заболеваний требуют независимой валидации.