IV.6Научные исследования, математика и новые материалы

ScholarCopilot-v1 — дообученная TIGER-Lab языковая модель для помощи в написании научных статей. Она основана на Qwen2.5-7B: плотная архитектура Qwen2 с 7,1 млрд параметров, контекст до 131 072 токенов. Модель обучена на полном корпусе научных статей arXiv и поддерживает генерацию текста на английском языке. Модель предлагает продолжение текста на следующие три предложения, генерирует черновики разделов и по запросу рекомендует релевантные научные публикации и места для цитирования. Она предназначена прежде всего для работы над введением и обзором связанных работ; генерация всей статьи пока не поддерживается. Для рекомендаций цитат используется контекстно-зависимый подход с поиском по источникам (RAG), однако точность ссылок следует проверять. Модель распространяется по лицензии Apache-2.0.

aozalevsky/search_slm_demo — дообученная модель на 4 млрд параметров, созданная на базе Qwen/Qwen3.5-4B и предназначенная для преобразования запросов на естественном языке в структурированные запросы к RCSB PDB Search API v2. Она также может редактировать предыдущий запрос по уточнению пользователя и возвращать структурированную ошибку, если запрос не относится к поиску структур или в нём не хватает данных для поиска. Модель рассчитана на запуск через Transformers на одной видеокарте с 16 ГБ памяти и обучена на англоязычных запросах к макромолекулярным структурам.

Модель Starling oral-bioavailability transfer разработана для оценки переноса поведения пероральной биодоступности между двумя молекулами. На вход она принимает SMILES и метаданные исследования для каждой молекулы, а также измеренное значение биодоступности молекулы A; на выходе выдаёт вероятность того, что биодоступность молекулы B будет сходной в заданном контексте исследования. Архитектура использует общие для обеих молекул замороженные энкодеры: MolFormer-XL преобразует SMILES в вектор размерности 768, а MiniLM кодирует семь полей метаданных. Их представления объединяются и поступают в позиционно-зависимую голову на базе residual SwiGLU MLP с 32 блоками. Голова обучена предсказывать сходство значений биодоступности с пороговой разметкой; в README указано около 407 млн обучаемых параметров. Для пропущенных полей метаданных предусмотрены отдельные обучаемые представления. Модель предназначена для оценки переноса результатов между молекулами при подборе аналогов и анализе данных о пероральной биодоступности. README приводит AUROC около 0,87 на валидации same_species_v2 и около 0,95 на междатасетной проверке tianang. Репозиторий распространяется под лицензией MIT.

Tranception Large — модель для оценки приспособленности белковых последовательностей, созданная в совместном проекте Marks lab и OATML и представленная в работе о предсказании эффектов вариантов белков. Она использует авторегрессионную трансформерную архитектуру и при выводе может извлекать сведения о гомологичных последовательностях. Модель предназначена для оценки влияния мутаций, включая множественные замены и вставки или делеции, а также для анализа вариантов белков и проектирования биотерапевтических белков. По карточке модели Tranception показывает высокое качество на нескольких мутациях, устойчивость к неглубоким выравниваниям и возможность оценивать вставки и делеции. Метаданные указывают архитектуру Tranception, библиотеку PyTorch и контекст до 1024 токенов. Репозиторий содержит веса в формате PyTorch. Сведения о лицензии в предоставленных материалах отсутствуют.

Azu/trocr-handwritten-math — модель семейства TrOCR от автора Azu для распознавания рукописных математических выражений на изображениях и преобразования их в последовательности LaTeX. Она использует архитектуру vision-encoder-decoder и доступна в формате PyTorch. В README приведён результат CER 0,5078 на тестовой выборке CROHME 2014. Модель подходит для оцифровки рукописных формул и подготовки математических записей в LaTeX. Указанный результат на CROHME 2014 свидетельствует об ошибках распознавания; качество на других наборах данных и типах рукописного ввода не описано. Сведения о лицензии в доступных данных отсутствуют.

TSO Foundation Model v11 — модель общего назначения для временных рядов, разработанная автором репозитория Sejibeji. Она учится представлять динамику рядов как геометрию и линейные операторы, а не разбивать числа на токены. Архитектура включает вложения Такенса, представления на нескольких масштабах, глубокий энкодер с пространством скрытых признаков размерности 256 и скрытым слоем 768, а также голову для определения направления времени. Предобучение на 40 рядах из восьми областей использует самоконтролируемые задачи реконструкции, динамики Кoopman, масштабной ковариантности и различения прямого и обратного порядка. Модель предназначена для прогноза новых временных рядов без градиентного дообучения: для нового ряда выполняется вычисление оператора Koopman в замороженном латентном пространстве. В описанной автором оценке она превзошла GRU, обучаемую отдельно для каждого ряда, на 29 из 40 рядов; также README сообщает о структурном обнаружении цикла солнечной активности на отложенном ряде пятен. Модель распространяется по лицензии MIT. Ограничения: закрытый линейный пробник уступает на рядах со всплесками и почти единичным корнем, где простое продолжение последнего значения может быть лучше. Перенос зависит от ширины модели и разнообразия корпуса, а предварительные задачи дают заметную пользу после примерно 15 тысяч итераций.

TSO Foundation Model v13 — разработанная авторами проекта модель-основа для временных рядов, обученная находить геометрию динамических систем. Она предназначена для прогнозирования ранее не встречавшихся рядов без градиентного дообучения: модель кодирует ряд в скрытое представление, после чего динамика оценивается закрытой формой оператора Кoopмана. Архитектура использует вложения Такенса, представления на нескольких масштабах, глубокий энкодер для линейного представления динамики и сверточную голову для определения направления времени. Размер латентного представления — 128, скрытого слоя — 384. Предобучение использует самоконтролируемые задачи реконструкции, моделирования динамики Кoopмана, согласованности масштабов и определения направления времени. В README указаны ряды из восьми областей, включая энергетику, метеорологию, ЭКГ, финансы, эпидемиологию, экономику, солнечную физику и хаотические системы. В тестах модель превзошла GRU для отдельных рядов в 25 из 40 сравнений, а на отложенном ряде пятен Солнца восстановила цикл около 128 месяцев. Модель распространяется по лицензии MIT. Ограничения проявляются на рядах со скачками и близких к случайному блужданию: закрытый линейный пробник может уступать простому прогнозу последним значением. Перенос также ограничен емкостью модели и охватом обучающей выборки; согласно README, полезный эффект предобучения проявляется после примерно 15 тысяч итераций, а продолжение сверх насыщения предобучающих задач не улучшило перенос.

UTRBERT-6mer — порт на Hugging Face модели 3UTRBERT, первоначально разработанной Yang et al. и перенесённой в этот репозиторий Taykhoom Dalal. Это модель BERT для работы с последовательностями человеческих мРНК, предварительно обученная на 3'-нетранслируемых областях (3' UTR) с задачей masked language modeling. Модель использует 12 слоёв, 12 голов внимания и размерность эмбеддингов 768; всего 116,4 млн параметров. Токенизатор преобразует T в U и разбивает последовательность на перекрывающиеся 6-меры с шагом 1. Контекст — до 512 токенов; исходная предобработка ограничивала последовательности 510 нуклеотидами. Основная задача в каталоге — заполнение замаскированных токенов; эмбеддинги последовательностей можно использовать для последующего обучения предсказательных голов. Модель предназначена для анализа РНК-последовательностей, прежде всего человеческих 3' UTR. Для загрузки требуется Transformers и trust_remote_code=True; доступны eager, SDPA и Flash Attention 2. Порт сверялся с исходными весами. Распространяется по лицензии CC BY 4.0.

AbLang2 — белковая языковая модель только с энкодером, предназначенная для работы с последовательностями антител. Её разработали Tobias H. Olsen, Iain H. Moal и Charlotte M. Deane; этот чекпойнт — неофициальная реализация MultiMolecule, для которой команда сообщает о совпадении промежуточных представлений с оригинальной реализацией. Оригинальный проект опубликован в репозитории oxpig/AbLang2. Модель содержит около 44,3 млн параметров, 12 слоёв, скрытый размер 480 и 20 голов внимания. В ней используются rotary position embeddings и блоки SwiGLU. Обучение проводилось на 35,6 млн непарных последовательностей тяжёлых и лёгких цепей и 1,26 млн парных последовательностей антител из Observed Antibody Space; целевая задача — предсказание замаскированных остатков с уменьшением смещения к герминальным последовательностям. Длина последовательности чекпойнта при обучении — 256 токенов. AbLang2 подходит для предсказания замаскированных аминокислотных остатков и извлечения признаков последовательностей антител. Для классификации или регрессии на уровне последовательности либо остатков модель нужно дообучить на соответствующей задаче. Для использования требуется библиотека multimolecule. Лицензия — AGPL-3.0.

ANIMA-Phi-Neptune-Mistral-10.7B — плотная языковая модель семейства Mistral, созданная разработчиком Severian как depth-upscaled merge модели Severian/ANIMA-Phi-Neptune-Mistral-7B методом passthrough. Веса объединяют слои исходной модели и образуют вариант на 10,6 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалога о науке, природе и биомимикрии, а также для использования как основы дальнейшего дообучения или замены исходного варианта на 7 млрд параметров. Она обучалась на примерах биомимикрии и процесса биомиметического проектирования, STEM-материалах и текстах по науке и философии. Подходит, например, для поиска природных аналогов инженерных решений и пошаговой проработки биомиметических задач. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Для применения требуются совместимые инструменты, например Transformers. Лицензия — Artistic-2.0. Результаты генерации могут быть неточными, а специализированные сведения следует проверять; опубликованные тесты не гарантируют качество в конкретной задаче.

Synthyra/ANKH_large — публикация контрольной точки ANKH-large от ElnaggarLab, упакованная с runtime FastPLMs для Transformers. Это плотная encoder-decoder модель семейства T5 с 1,6 млрд параметров: она принимает токенизированные аминокислотные последовательности и подходит для получения представлений белков и задач seq2seq. Доступны полная модель encoder-decoder и отдельный encoder для эмбеддингов; поддерживаются классы Transformers для генерации, классификации последовательностей и разметки токенов. Модель предназначена для вычислительных задач с белковыми последовательностями: получения эмбеддингов, генерации последовательностей и построения downstream-предсказаний после дообучения. Головы классификации последовательностей и токенов инициализируются заново и требуют обучения, прежде чем их выходы можно трактовать как предсказания. Маскированная языковая модель в FastPLMs является расширением, а не официальной головой ANKH. Весам ANKH соответствует лицензия CC BY-NC-SA 4.0. Тестовое обучение адаптеров увеличивает задержку и расход памяти и может ухудшить результат; оно само по себе не подтверждает биологическую функцию. Указанный репозиторий содержит полный encoder-decoder чекпойнт, а не только encoder.

Ares softmoe 4b l2 consecutive 150K — белковая языковая модель примерно на 4,24 млрд параметров, разработанная авторами проекта Ares. Это двунаправленный энкодер на архитектуре Mixture-of-Experts, обученный с нуля на UniRef50 с задачей восстановления замаскированных аминокислотных остатков. В 20-блочном энкодере первые 10 слоёв плотные, а последние 10 используют 32 эксперта с мягкой маршрутизацией и L2-нормализацией маршрутизатора; чекпойнт соответствует 150 000 шагов обучения. Модель предназначена для заполнения масок в белковых последовательностях, получения представлений остатков и последовательностей, а также для исследований свойств белков и эффектов мутаций. README приводит результаты downstream-оценок, включая ProteinGym, вторичную структуру и локализацию, но для таких применений требуются отдельные оценочные или дообучающие процедуры. Модель принимает аминокислотные последовательности и выдаёт оценки токенов либо скрытые представления; авторегрессивно генерировать последовательности она не умеет. Обучающий контекст составляет 1024 остатка; более длинные входы технически возможны, но их качество не проверено. Веса хранятся в формате safetensors в float32 и занимают около 16,9 ГБ; для вывода авторы рекомендуют bfloat16. Модель рассчитана на одиночные белковые цепи и не принимает структуры, MSA, мультимеры или нуклеотидные последовательности. Качество зависит от типа оценки, а база UniRef50 может смещать результаты в пользу хорошо представленных организмов и семейств. Лицензия — MIT; модель не валидирована для клинических, диагностических или биобезопасностных решений.

Sciarrilli выпустил эту модель как дообученную версию dmis-lab/biobert-base-cased-v1.2 для распознавания биомедицинских сущностей в тексте. Модель построена на BERT и обучена для классификации токенов на наборе JNLPBA; число параметров — 135,5 млн, максимальная длина контекста — 512 токенов. Модель подходит для извлечения упоминаний биомедицинских сущностей из научных текстов. На оценочной выборке указаны F1 0,7683, точность 0,7151 и полнота 0,8301. Использование ограничено задачей и типом данных, представленными обучающим набором; лицензия в доступных сведениях не приведена.

BioReason-Pro RL — созданная Wang Lab версия BioReason-Pro, дообученная с помощью обучения с подкреплением по алгоритму GRPO на основе SFT-чекпойнта. Модель предназначена для предсказания функций белков и связанных с ними терминов Gene Ontology (GO), формируя ответы с рассуждениями. Это плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Карточка описывает её как мультимодальную, однако конкретные входные модальности не перечислены. Доступные файлы — в формате safetensors. Лицензия — Apache-2.0.

BulkFormer-50M — фундаментальная модель для транскриптомов bulk RNA-seq, представленная Kang, Fan и соавторами и опубликованная в Cell Systems в 2026 году. Это второй по размеру из пяти вариантов BulkFormer, с 50 млн параметров. Модель преобразована в совместимый с Transformers формат и распространяется в виде весов Safetensors. Модель предназначена для извлечения признаков на уровне генов и экспрессии из bulk RNA-seq данных. Полученные представления можно использовать для последующего дообучения с классификационной головой, продолжения предобучения с masked imputation или объединения с эмбеддингами ESM2. Лицензия — MIT. Для запуска README указывает пакет bulkformer; подробности использования вынесены в отдельную карточку пакета.

CARP-640m — языковая модель белковых последовательностей на основе свёрточной архитектуры ByteNet, представленная командой MultiMolecule как неофициальная реализация работы Кевина Янга, Николо Фузи и Алекса Лу. Модель содержит 458,8 млн параметров и обучена предсказывать замаскированные аминокислоты по контексту последовательности. В архитектуре используются обучаемые эмбеддинги токенов, остаточные блоки с дилатированными одномерными свёртками и слой нормализации перед декодером MLM. Модель подходит для восстановления замаскированных фрагментов белковых последовательностей и извлечения признаковых представлений для последующих биоинформатических задач. Она предварительно обучена на UniRef50 (выпуск марта 2020 года), но не настроена под конкретные задачи классификации или регрессии: для них потребуется дообучение. Для загрузки предусмотрена библиотека multimolecule; опубликованные веса представлены в форматах PyTorch и safetensors. Лицензия — AGPL-3.0.

ChartVerse-2B-GGUF — квантованные GGUF-версии компактной мультимодальной vision-language модели ChartVerse-2B, разработанной opendatalab и дообученной на базе Qwen3-VL-2B-Instruct. Модель предназначена для понимания изображений и текста, прежде всего для анализа сложных диаграмм и графиков, ответов на вопросы по визуальным данным и многошагового рассуждения. Указан английский язык, формат pipeline — image-text-to-text, а размер базовой модели составляет около 2 млрд параметров. Ключевые особенности — специализация на chart reasoning, поддержка Chain-of-Thought рассуждений, проверки ответов с опорой на выполнение кода и множество вариантов квантования GGUF с размерами файлов примерно от 618 МБ до 4,07 ГБ. По данным README, модель показала средний результат 54,3% на шести сложных бенчмарках, превзойдя указанные специализированные модели большего размера. Для работы заявлена интеграция с llama.cpp и Transformers; в Transformers используется класс Qwen3VLForConditionalGeneration, а максимальное число новых токенов указано как 16384. Основное ограничение — узкая специализация на анализе диаграмм и заявленная поддержка только английского языка; характеристики контекстного окна в README явно не указаны, хотя для обучения упоминается контекст 22k. Доступ предоставляется по лицензии Apache 2.0, что допускает использование и развертывание в соответствии с её условиями.

Code-as-World-VL-4B — мультимодальная модель MirroS-Lab, дообученная на базе Qwen/Qwen3.5-4B для понимания физических процессов и количественных рассуждений по видео. Она принимает видео и текстовые запросы; для видео автор рекомендует использовать 16 кадров. Модель основана на плотной архитектуре Qwen3.5 с 4 млрд параметров и представлена в формате BF16 Safetensors для Transformers. Модель предназначена для исследовательских задач, связанных с анализом физических явлений, измерениями и оценками величин по изображениям и видео. Её можно применять, например, для вопросов о движении объектов и количественных характеристиках сцены. Ответы могут быть неточными, поэтому их следует проверять независимо, особенно перед использованием в сценариях, критичных для безопасности. Лицензия — Apache-2.0.

Dayhoff-170M-GR-46000 — модель генерации белковых последовательностей из семейства Dayhoff, разработанная исследовательской группой, перечисленной в карточке модели. Это авторегрессионная модель архитектуры Jamba, сочетающая слои Mamba и Transformer с механизмом смеси экспертов; в репозитории указано 23,6 млн параметров и контекст до 262 144 токенов. Модель предназначена для исследовательских задач белкового языкового моделирования: генерации последовательностей, оценки эффектов мутаций и проектирования последовательностей с заданными структурными мотивами или эволюционным контекстом. Модель принимает последовательности белковых аминокислот и выдаёт белковые последовательности. Она обучена на данных Dayhoff, включая естественные и синтетические белковые последовательности; поддерживает моделирование одиночных последовательностей и развёрнутых множественных выравниваний. Лицензия — MIT. Модель не предназначена для естественного языка, ДНК или других биологических последовательностей. Сгенерированные последовательности не всегда реалистичны, а генерация качественных последовательностей без сходства с природными белками остаётся сложной задачей.

Dayhoff-170M-GR-61000 — генеративная модель белковых последовательностей из ресурса Dayhoff, разработанного Kevin K. Yang и соавторами. Это вариант семейства Dayhoff с гибридной архитектурой Jamba: слои Mamba и Transformer с механизмом Mixture-of-Experts. В метаданных указано 23,6 млн параметров и контекст до 262 144 токенов; модель распространяется в формате Safetensors и доступна по лицензии MIT. Модель предназначена для исследовательских задач белкового языкового моделирования: генерации последовательностей, оценки эффектов мутаций и проектирования белков с заданными структурными мотивами или эволюционным контекстом. Автогрессивное обучение в направлениях N→C и C→N позволяет выполнять infilling без фиксированного порядка последовательности. Карточка Dayhoff также описывает использование семейства для безусловного дизайна белков и предсказания эффектов мутаций. Модель рассчитана только на аминокислотные последовательности белков и не предназначена для естественного языка или ДНК. Сгенерированные последовательности не всегда реалистичны, а создание белков без сходства с известными природными последовательностями остаётся сложной задачей. Для работы README указывает PyTorch и зависимости mamba-ssm, causal-conv1d и flash-attn.

Dayhoff-170M-GRS-76000 — модель генерации белковых последовательностей из семейства Dayhoff, разработанная командой авторов, перечисленных в карточке Microsoft. Она предназначена для исследовательских задач белкового языкового моделирования: генерации последовательностей, оценки эффектов мутаций без дополнительного обучения и проектирования последовательностей с заданными структурными мотивами или эволюционным контекстом. Архитектура — гибрид Mamba и Transformer с блоками Mixture-of-Experts; модель поддерживает длинный контекст до 262 144 токенов и обучалась генерировать последовательности в направлениях N→C и C→N. В метаданных указаны 23,6 млн параметров и формат safetensors. Обучение основано на данных белковых последовательностей Dayhoff Atlas. Модель предназначена только для белковых последовательностей, а не для естественного языка или ДНК. Сгенерированные последовательности не всегда реалистичны, а генерация качественных белков без сходства с природными последовательностями остаётся сложной задачей. Лицензия — MIT.

Dayhoff-170M-GRS-SS-134000 — модель генерации белковых последовательностей из семейства Dayhoff, разработанная Kevin K. Yang и соавторами. Она предназначена для исследований в области белкового моделирования: генерации последовательностей, оценки эффектов мутаций без дополнительного обучения и проектирования белковых каркасов с заданными структурными мотивами. Модель использует гибридную архитектуру Jamba: слои Mamba и Transformer чередуются с блоками Mixture-of-Experts. Она обучена авторегрессионному предсказанию последовательностей в направлениях N→C и C→N, поддерживает контекст до 262 144 токенов и может работать с одиночными последовательностями и развёрнутыми множественными выравниваниями. В метаданных указано 23,6 млн параметров; веса доступны в формате safetensors. Модель рассчитана только на белковые последовательности, а не на естественный язык или ДНК. Сгенерированные последовательности не всегда реалистичны, а генерация белков без сходства с природными последовательностями остаётся сложной задачей. Лицензия — MIT.

Dayhoff-170M-UR90-1000 — модель генерации белковых последовательностей из семейства Dayhoff, разработанная авторами, перечисленными в карточке Dayhoff. Она предназначена для исследовательских задач белкового языкового моделирования: генерации белков, оценки эффектов мутаций и проектирования последовательностей с заданными структурными мотивами или эволюционным контекстом. Архитектура сочетает слои Mamba и Transformer с механизмом Mixture-of-Experts; модель построена на JambaForCausalLM и опубликована в формате safetensors. Она принимает последовательности белков и может работать с длинным контекстом до 262 144 токенов. В карточке описаны задачи белкового моделирования, а метаданные указывают размер 23,6 млн параметров. Лицензия — MIT. Модель не предназначена для естественного языка или последовательностей ДНК. Сгенерированные последовательности не всегда реалистичны, а генерация белков без сходства с известными природными последовательностями остаётся сложной задачей.

Dayhoff-170M-UR90-HL-10000 — модель семейства Dayhoff, разработанная исследовательской группой авторов карточки для генерации и анализа белковых последовательностей. Она предназначена для исследовательского моделирования белков: генерации последовательностей, оценки эффектов мутаций без дообучения и проектирования белковых каркасов с заданными структурными мотивами. В карточке описана гибридная архитектура Mamba и Transformer с механизмом Mixture-of-Experts; модель обучена на белковых последовательностях и поддерживает очень длинный контекст — 262 144 токена. Метаданные указывают 23,6 млн параметров и библиотеку Transformers. Модель работает с белковыми последовательностями, а не с естественным языком или последовательностями ДНК. Генерируемые последовательности не всегда реалистичны, а создание белков без сходства с известными природными последовательностями остаётся сложной задачей. Лицензия — MIT.

Dayhoff-170M-UR90-HL-20000 — белковая языковая модель из ресурса Dayhoff, разработанного Кевином К. Янгом и соавторами. Модель предназначена для генерации белковых последовательностей и исследовательских задач белкового моделирования. Она построена на гибридной архитектуре Jamba: слои Mamba и Transformer чередуются с блоками Mixture-of-Experts. Модель содержит 23,6 млн параметров, работает с контекстом до 262 144 токенов и обучена на белковых последовательностях из набора Microsoft Dayhoff. Лицензия — MIT. Модель может использоваться для безусловного проектирования белковых последовательностей, оценки эффектов мутаций без дополнительного обучения и создания белковых каркасов для заданных структурных мотивов. Она принимает текстовое представление белковой последовательности и генерирует текстовую последовательность аминокислот. Модель не предназначена для обычного естественного языка, ДНК или иных биологических последовательностей; сгенерированные последовательности не всегда реалистичны, а генерация без сходства с известными природными последовательностями остаётся сложной задачей.

Dayhoff-170M-UR90-HL-34000 — модель генерации белковых последовательностей из семейства Dayhoff, разработанная авторами, перечисленными в карточке модели. Это гибридная архитектура Jamba: слои Mamba и Transformer с механизмом Mixture-of-Experts. Модель насчитывает 23,6 млн параметров и рассчитана на контекст до 262 144 токенов. Модель предназначена для исследовательских задач белкового языкового моделирования: генерации белковых последовательностей, оценки эффектов мутаций без дообучения и проектирования белков с заданными структурными мотивами или эволюционным контекстом. Она обучалась на данных Dayhoff, включая метагеномные и синтетические последовательности, и поддерживает моделирование одиночных последовательностей и развёрнутых множественных выравниваний. Обучение в направлениях N→C и C→N позволяет выполнять заполнение последовательностей без зависимости от порядка. Модель не предназначена для естественного языка, ДНК или других биологических последовательностей, кроме белков. Сгенерированные последовательности не обязательно реалистичны; генерация высококачественных последовательностей без сходства с известными природными белками остаётся сложной задачей. Лицензия — MIT.

electramed-small-BC5CDR-ner — модель семейства ELECTRA, разработанная путём дообучения giacomomiolo/electramed_small_scivocab на наборе BC5CDR. Она предназначена для разметки токенов и распознавания сущностей в биомедицинских текстах, связанных с химическими веществами и заболеваниями. Модель содержит 20,4 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. В README приведены результаты на оценочном наборе BC5CDR: F1 0,8444, точность 0,8092 и полнота 0,8829. Лицензия в предоставленных данных не указана.

jiahuizhang/esm-150m-peptide-fine-tune — дообученная модель семейства ESM-2 для работы с последовательностями пептидов. Она основана на facebook/esm2_t30_150M_UR50D и обучена на наборе из 2 миллионов пептидных последовательностей в рамках работы PepBenchmark: A Standardized Benchmark for Peptide Machine Learning. Модель содержит 196,6 млн параметров, использует архитектуру EsmForMaskedLM и рассчитана на контекст до 1026 токенов. Основная задача модели — предсказание замаскированных аминокислот в последовательности пептида, что может быть полезно для анализа и исследования пептидных последовательностей. Она распространяется в формате safetensors по лицензии MIT. Карточка не сообщает о дополнительных задачах или специализированных ограничениях качества.

nvidia/esm2_t6_8M_UR50D — версия белковой языковой модели ESM-2, оптимизированная NVIDIA с помощью TransformerEngine. Исходная модель разработана Facebook Research; в этой версии веса и выходы совпадают с оригиналом с учётом небольшой численной погрешности. Архитектура — трансформер NVEsmForMaskedLM, около 9,8 млн параметров, контекст до 1026 токенов по метаданным. Модель обучалась на последовательностях белков и предназначена для работы с аминокислотными последовательностями. Она формирует векторные представления для каждого аминокислотного остатка и всей последовательности, а также подходит для дообучения под задачи анализа белковых последовательностей. В README описано применение для предсказания структуры белка, однако указанный формат выходов — эмбеддинги; это не следует трактовать как непосредственную выдачу готовой 3D-структуры. Для входных последовательностей длиннее 1022 аминокислот README указывает усечение. Оптимизация ориентирована на NVIDIA GPU, также возможен запуск через Hugging Face Transformers. Лицензия — MIT; README допускает коммерческое и некоммерческое использование.

FishCaduceus-20L-512 — предварительно обученная на геномных последовательностях рыб ДНК-языковая модель семейства FishCaduceus, разработанная на основе Caduceus. Она использует двунаправленную архитектуру пространства состояний с компонентами, учитывающими обратное комплементарное представление, и обучена восстанавливать замаскированные нуклеотиды. Модель содержит 41,3 млн параметров, 20 слоёв с размерностью 384 и контекст предварительного обучения 512 нуклеотидов; токенизация выполняется на уровне отдельных нуклеотидов. Модель предназначена для анализа геномных последовательностей рыб: предсказания нуклеотидов, получения представлений последовательностей, переноса обучения и дообучения для задач геномной аннотации, сравнительной и эволюционной геномики, а также исследовательского анализа вариантов и регуляторных последовательностей. Основной язык входных данных — последовательности ДНК; выход включает оценки нуклеотидов и векторные представления. Для загрузки используется PyTorch и Transformers с пользовательским кодом модели. Качество может снижаться на последовательностях далёких таксономических групп и зависит от вида, участка генома и downstream-задачи. Длинные последовательности следует разбивать на окна, соответствующие контексту модели; предсказания сами по себе не доказывают биологическую функцию или причинность и требуют экспериментальной проверки. Лицензия — Apache-2.0.