IV.6Научные исследования, математика и новые материалы

Taykhoom поддерживает эту публикацию весов и токенизатора DNABERT-2, модели-основы для анализа геномных последовательностей, разработанной Zhou и соавторами. Репозиторий содержит веса исходной модели из zhihan1996/DNABERT-2-117M и токенизатор; реализация загружается из Taykhoom/MosaicBERT-updated. Модель основана на BERT и содержит 12 слоёв, 12 голов внимания и размерность эмбеддингов 768; общее число параметров — 116,4 млн. DNABERT-2 обучена на больших массивах геномов разных видов с задачей masked language modeling. Она использует BPE вместо токенизации k-mer, смещения ALiBi и FFN с GLU. Подходит для предсказания замаскированных фрагментов ДНК и получения представлений последовательностей; метаданные также указывают классификацию текста как поддерживаемую задачу. В README описаны варианты ускорения внимания SDPA и Flash Attention 2. Для загрузки этой публикации требуется доверять удалённому коду Taykhoom/MosaicBERT-updated. Репозиторий распространяется по лицензии MIT.

DNABERT-2-117M-fish20-adapted — модель на архитектуре BERT, дообученная на геномном корпусе FishNALM, включающем геномы 20 видов рыб. Это адаптация DNABERT-2 с 116,4 млн параметров для masked language modeling; используется BPE-токенизация, а контекст составляет 512 токенов. Модель предназначена для восстановления замаскированных участков последовательностей ДНК и связанных задач классификации последовательностей. Карточка также указывает на наличие собственного кода модели для загрузки через Transformers с параметром trust_remote_code=True.

vojtam представил DNAGPT2_256 — авторегрессионную модель для последовательностей геномной ДНК на архитектуре GPT-2 Small. В README указаны около 86 млн параметров, 12 слоёв, 12 голов внимания, размерность эмбеддингов 768 и контекст 1 024 токена; модель использует вариант словаря размером 256. Она обучена с нуля на данных DNABERT-2: 135 геномов разных групп организмов, всего около 32,5 млрд нуклеотидов. Модель принимает последовательности из символов A, C, G и T и предсказывает вероятности следующего токена. Её назначение — моделирование геномных последовательностей и сжатие ДНК совместно с арифметическим кодированием. В README приведены результаты сжатия другой конфигурации семейства, DNAGPT2_32, поэтому эти показатели нельзя напрямую считать результатами DNAGPT2_256. Неоднозначный символ N исключён из обучающих данных. Репозиторий использует Transformers и формат safetensors; лицензия — Apache-2.0.

ESMC-AR 846M PLE wide16 — авторская авторегрессионная языковая модель белков, представленная пользователем IvanHU. Это плотная Transformer-модель с 16 широкими блоками, PLE и gated attention; gated residual не используется. В README указано 845 824 000 параметров, тогда как метаданные каталога указывают 419,6 млн, поэтому точный размер требует уточнения. Модель обучена предсказывать следующий токен на 5 млрд токенов из выборки данных QingWY/protein-pretraining-data и предназначена для продолжения последовательностей белков и генерации белковых токенов. Контекст — 2048 токенов, используется токенизатор ESMC; автоматическая вставка BOS/EOS не выполняется. Веса представлены в формате FP32 safetensors, модель самодостаточна для Transformers и включает собственный код и токенизатор. README сообщает о проверке экспорта относительно исходного обучающего чекпойнта и приводит validation loss 2.115281, отмечая, что сравнение с моделями, обученными на смесях задач, некорректно. В качестве среды проверки названы PyTorch 2.5.1 и Transformers 4.51.0; FlashAttention необязателен. Сведения о лицензии в предоставленных данных отсутствуют.

formalmathatepfl/qwen3-grpo-feedback-sft-reasoning — дообученная разработчиком formalmathatepfl модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; в качестве основы использована formalmathatepfl/qwen3-sft-feedback-with-proof-repair-rl-125-unmasked, а дополнительное обучение выполнено на наборе lean_reasoning_sft_feedback. Модель принимает текстовые запросы и генерирует текст, поддерживает контекст до 32 768 токенов. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории модели.

FIM-PP — модель FIM4Science для анализа маркированных временных точечных процессов. Она оценивает условные функции интенсивности событий по контекстному набору последовательностей и поддерживает применение без дообучения, а также последующую тонкую настройку. Модель построена на архитектуре FIMHawkes и загружается через Transformers; для работы также требуется пакет fim. Выпущенный чекпойнт настроен максимум на 22 типа событий и ожидает контекстные данные и тензоры вывода в формате Hawkes, описанном в учебном руководстве OpenFIM по точечным процессам. Лицензия — MIT.

Antibody Generator — специализированная модель генерации белковых последовательностей для разработки терапевтических антител. Её разработали Joseph Roberts, David Noble, Rahul Suresh и Neel Patel на архитектуре ProGen2 от Salesforce; вариант small содержит 151 млн параметров. Модель дообучена на примерно 5 000 экспериментально разрешённых кристаллических структурах антител и их антигенов. Контекст составляет 1 024 токена. Модель предназначена для исследователей и специалистов в биоинформатике и молекулярной биологии: она генерирует последовательности кандидатов антител для задач иммунологии, разработки вакцин и медицинских исследований. Качество последовательностей можно предварительно анализировать, в частности, с помощью ANARCI и оценки разнообразия. Модель выдаёт кандидатов, а не подтверждённые функциональные антитела; результаты необходимо проверять экспериментально. Лицензия — Apache 2.0. README предупреждает о возможности вредоносного использования генерируемых последовательностей.

GENA-LM Athaliana — предобученная модель семейства GENA-LM от AIRI Institute для работы с последовательностями ДНК Arabidopsis thaliana. Это BERT-подобный трансформер с 12 слоями, 12 головами внимания, размером скрытого состояния 768 и словарём из 32 тысяч токенов; число параметров — 137,8 млн. Модель обучена на геномах 32 экотипов Arabidopsis thaliana с задачей восстановления замаскированных токенов и принимает последовательности длиной до 512 токенов. Модель подходит для заполнения пропусков в последовательностях ДНК и как основа для дообучения под задачи классификации геномных последовательностей. В метаданных указаны PyTorch и задача fill-mask. Карточка описывает модель как открытую, но конкретные условия лицензии не приведены в доступных данных.

Taykhoom Dalal поддерживает перенос GENA-LM-t2t-bert-base в Transformers — плотную модель семейства BERT для маскированного языкового моделирования последовательностей ДНК человека и нескольких видов. Модель принимает последовательности нуклеотидов, разбитые на 32 000 BPE-токенов, и предсказывает замаскированные участки. Её можно использовать для получения эмбеддингов последовательностей и дообучать для задач классификации последовательностей. Архитектура включает 12 слоёв, 12 голов внимания и размерность эмбеддингов 768; размер модели по метаданным — 137,8 млн параметров, контекст — 512 токенов. Перенос воспроизводит веса исходного чекпойнта AIRI-Institute/ gena-lm-bert-base-t2t побитно в eager-режиме; доступны также реализации внимания SDPA и FlashAttention 2. Модель распространяется по лицензии MIT. Модель предназначена для биологических последовательностей, а не для обычного текста. В переносе отсутствуют исходные NSP-голова и pooler, поэтому для эмбеддингов следует использовать скрытое состояние токена CLS или усреднение непустых позиций.】【。

GENA-LM-t2t-bigbird-base — языковая модель для последовательностей человеческой ДНК, опубликованная в виде порта исходного чекпойнта AIRI Institute. Это модель BigBird с маскированным языковым моделированием: она предсказывает скрытые токены ДНК и может выдавать контекстные представления последовательностей для последующей настройки на прикладные задачи. Архитектура включает 12 слоёв, 12 голов внимания и размерность представлений 768; всего 137,8 млн параметров. Токенизатор BPE содержит 32 000 токенов, а контекст составляет 4096 токенов. Модель обучена на сборке человеческого генома T2T с добавлением вариантов SNP из 1000 Genomes и gnomAD. BigBird использует полное внимание для коротких последовательностей и разреженное блочное внимание для длинных, что позволяет работать с более протяжёнными участками ДНК. Порт сохраняет веса исходной модели и использует стандартную реализацию BigBird в Transformers без необходимости включать trust_remote_code. Лицензия — MIT. Модель подходит для заполнения маскированных участков ДНК, извлечения представлений последовательностей и дообучения для задач классификации или предсказания свойств геномных последовательностей. Диагностические веса внимания для длинных последовательностей в block-sparse режиме некорректны в указанной версии Transformers; это не влияет на скрытые состояния и логиты модели.

GenomeOcean-4B — базовая предобученная модель микробных геномов, разработанная Lawrence Berkeley National Laboratory и Northwestern University. Это плотная авторегрессионная языковая модель семейства Mistral с 4,2 млрд параметров, обученная предсказывать последовательности методом Causal Language Modeling. Для токенизации используется BPE с размером словаря 4096 токенов. Модель предназначена для работы с последовательностями ДНК микроорганизмов и может применяться для генерации и анализа геномных последовательностей, в том числе в задачах микробиомики и метагеномики. README указывает максимальную длину последовательности 10 240 токенов, что соответствует примерно 50 тысячам пар оснований; метаданные каталога указывают контекст 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия указана как BSD; в карточке также приведено уведомление о правах правительства США и контакты Berkeley Lab для вопросов использования и распространения. Модель специализирована на микробных геномах и не заявлена как универсальная языковая модель для естественного языка.

Genos-m — фундаментальная модель для геномов микробов, связанных с человеком, разработанная BGI-HangzhouAI. Она предварительно обучена предсказывать последовательности микробной ДНК на уровне отдельных нуклеотидов и предназначена для анализа геномных последовательностей с длинным контекстом. Метаданные указывают архитектуру Mixtral с механизмом Mixture of Experts, 189 млн параметров и контекст до 1 048 576 токенов; README отдельно описывает вариант Genos-m-4.7B с 4,7 млрд общих и 0,33 млрд активируемых параметров. Обучающий корпус включает около 1,2 трлн токенов из ресурсов прокариотических геномов и геномов микробов, ассоциированных с человеком: 186 типов, 3 448 семейств и 69 056 видов. Модель применима к исследованию микробных геномов человека из кишечника, полости рта, кожи, дыхательных путей и женского репродуктивного тракта. Доступны чекпойнты для Transformers и Megatron-LM. Лицензия — Apache-2.0. README отсылает за подробными инструкциями и бенчмарками к GitHub и статье, поэтому конкретные показатели качества здесь не приводятся.

Это квантованная в формате GGUF F16 версия Carbon-8B, модели семейства Llama на 7,6 млрд параметров, разработанной HuggingFaceBio. Carbon-8B предназначена для генерации и анализа длинных последовательностей ДНК и РНК; репозиторий DevQuasar распространяет её квантованные веса для запуска в совместимых инструментах. Модель принимает текстовые запросы и выдаёт текст. Метаданные указывают задачу text-generation и формат GGUF F16. Специализация на биологических последовательностях делает её пригодной для сценариев работы с ДНК и РНК, однако README не приводит результатов оценки качества, требований к запуску или подробностей о языковой поддержке. Лицензия в предоставленных данных не указана.

HyenaDNA tiny-1k — компактная геномная языковая модель семейства HyenaDNA, разработанная авторами проекта LongSafari. Это причинная плотная модель с архитектурой HyenaDNAForCausalLM и примерно 460,3 тыс. параметров; репозиторий содержит веса в формате safetensors. Она предсказывает следующие нуклеотиды в последовательности ДНК, токенизированной на уровне отдельных нуклеотидов. Вариант tiny-1k рассчитан на последовательности длиной до 1 тыс. токенов. Модель подходит для генерации продолжения ДНК-последовательностей и как основа для дообучения и классификации геномных последовательностей, например для анализа регуляторных элементов. Базовая HyenaDNA предварительно обучена на человеческом референсном геноме HG38; архитектура использует операторы Hyena вместо механизма внимания и поддерживает длинный контекст с субквадратичной вычислительной сложностью. Лицензия — BSD 3-Clause.

Intern-S1-mini assay transfer V27 — BBB Martins L3 — это дообученная модель jiosephlee на базе jiosephlee/Intern-S1-mini-lm. Она предназначена для ранжирования записей биологических анализов при переносе результатов между тестами, в частности в сценарии BBB Martins L3. Это плотная причинная языковая модель семейства Qwen3 с 7,6 млрд параметров, доступная в формате Safetensors; контекст — до 65 536 токенов. Модель принимает текст и генерирует текстовые ответы в режиме чата. Чекпойнт выбран по метрике на валидационной выборке; в README также приведено сравнение с Morgan-ранжировщиками на отложенном тесте. Для модели указаны бинарный macro-F1@3 0,8611 и regression MAE@3 0,7717, однако Spearman@3 составляет −0,0802, а Top-1 hit@3 — 0,1408, поэтому метрики отражают разные стороны качества и не гарантируют превосходство во всех сценариях. Обучение остановили до завершения запланированных эпох. Лицензия в предоставленных данных не указана.

Intern-S1-mini context-conditioned molecule transfer V10.4 — Oral bioavailability — это дообученная модель jiosephlee на базе Intern-S1-mini-lm, разработанная для переноса свойств молекул с учётом контекста и ориентированная на пероральную биодоступность. Модель имеет архитектуру Qwen3ForCausalLM с 7,6 млрд параметров, принимает текст и выдаёт текст; её нативная длина контекста составляет 65 536 токенов. Чекпойнт доступен в формате safetensors для Transformers. Модель предназначена для контекстно обусловленного сравнения молекул и поиска кандидатов с похожей ожидаемой биодоступностью. В README приведены тестовые значения Macro-F1@5 0,6814 и NDCG@5 0,7364, полученные на 267 запросах. Это специализированный экспериментальный чекпойнт, поэтому качество на других наборах данных и в практических сценариях может отличаться. Сведения о лицензии в предоставленных материалах отсутствуют.

NVIDIA Ising-Calibration-1-35B-A3B — мультимодальная модель NVIDIA для анализа графиков экспериментов по калибровке квантовых вычислительных систем. Это дообученная версия Qwen3.5-35B-A3B с архитектурой vision-language Mixture-of-Experts: всего около 35 млрд параметров, примерно 3 млрд активируются на токен; в модели 256 экспертов, из которых активны 8. Модель принимает одно или несколько изображений графиков и текстовый запрос, а в ответ формирует технический анализ. Она предназначена для описания графиков, формулирования выводов и оценки значимости эксперимента, качества аппроксимации, извлечения параметров и классификации успешности эксперимента. В README указан контекст 262 144 токена; для запуска предлагаются Transformers и vLLM с FlashAttention в BF16 на поддерживаемых NVIDIA GPU. Модель обучена на 72,5 тыс. синтетических примеров и оценивалась на QCalEval, охватывающем эксперименты со сверхпроводниковыми кубитами и нейтральными атомами. Её выводы следует проверять с участием специалистов по квантовым вычислениям. Условия использования определяются NVIDIA Open Model License Agreement.

LANTERN MAPT model C — это ансамбль из пяти 3D-сетей ResEncLUNet, разработанный для сегментации амилоид-бета-бляшек в очищенном целом мозге мышей, снятом методом светолистовой микроскопии. Модель дообучена на когорте MAPT/APOE на основе apooladi/lantern-ki3-abeta: энкодер ResEncL заморожен, дообучался декодер. Всего в модели 102,3 млн параметров, из них 12,1 млн обучаемых; выход включает три класса, но основным результатом является канал бляшек. Модель предназначена для обнаружения и очерчивания Aβ-бляшек в канале Abeta с разрешением 4× и заданной близкоизотропной сеткой. На отложенных патчах размером 128³ объектный F1 составил 0,354, или 0,402 после удаления компонент меньше 8 вокселей. Для корректного применения нужны ресэмплинг до 4,0 × 3,25 × 3,25 мкм и нормализация исходной интенсивности по тайлам. Лицензия CC BY-NC 4.0 допускает некоммерческое использование. Результаты следует считать исследовательскими: обучение велось на 40 патчах, разбиение выполнено по патчам, а не по животным, поэтому качество на новых животных может быть ниже. Модель не валидирована для оценки абсолютной нагрузки бляшками; класс ложноположительных структур является вспомогательным и нестабильным между фолдами. Она не предназначена для диагностики.

Mdist_8B_Chem_from_Mspec_ASFT_alpha0.05_Qwen3_8B — дообученная модель Qwen3-8B от автора yileitu. Она предназначена для генерации текста в диалоговом формате; название и датасет указывают на настройку для вопросов и ответов по химическим масс-спектрам, однако README не раскрывает её конкретные возможности и качество в этой области. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors, работает через библиотеку Transformers; длина контекста — 40 960 токенов. Базовая Qwen3-8B поддерживает несколько языков, рассуждения, следование инструкциям, код и вызов инструментов, но эти возможности нельзя автоматически считать подтверждёнными для данного дообученного чекпойнта. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели.

Mistral-BioMed-Tool-Caller-7B — дообученная модель Rumiii на базе Mistral-7B-Instruct-v0.3, предназначенная для вызова биомедицинских инструментов. Получив вопрос и схемы доступных инструментов, она выбирает подходящий API и формирует аргументы вызова в формате [TOOL_CALLS] модели Mistral. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Дообучение выполнено методом QLoRA с 4-битной базой, рангом и alpha адаптера 32. Обучающий набор BioTool включает 7 040 проверенных человеком примеров и шаблоны для 127 инструментов NCBI E-utilities, UniProt REST и Ensembl REST. Небольшая доля общих инструкций была добавлена для сохранения диалоговых возможностей базовой модели. Модель подходит для поиска геномных и белковых данных, анализа вариантов и сравнительной геномики. Лицензия — Apache-2.0. Модель не обучалась для клинических API, включая поиск по ICD-10, лекарственным базам и реестрам клинических испытаний; надёжность сформированных вызовов следует проверять перед использованием. В метаданных указан английский язык.

NT-v2-250M fish20 adapted — модель семейства Nucleotide Transformer, адаптированная к корпусу геномов 20 видов рыб с помощью доменного дообучения для masked language modeling. Она предназначена для предсказания замаскированных участков последовательностей ДНК и может служить основой для задач классификации и разметки геномных последовательностей. Модель использует архитектуру ESM с плотными слоями, токенизацию 6-меров и принимает контекст длиной до 2050 токенов; размер составляет около 229,6 млн параметров. Репозиторий содержит пользовательский код модели и рассчитан на загрузку через Transformers с параметром trust_remote_code=True. Сведения о лицензии в предоставленных данных отсутствуют.

InstaDeepAI/NTv3_100M_post — постобученная модель семейства NTv3 от InstaDeepAI для анализа геномных последовательностей и предсказания функциональных признаков. Она построена на условной архитектуре U-Net с адаптивными нормами слоёв, стеком Transformer и отдельными головами предсказания для разных видов и сборок генома. Модель принимает последовательности ДНК на уровне нуклеотидов; для выбора вида или сборки используются условия. Длина входа должна быть кратна 128. Модель предсказывает замаскированные нуклеотиды, функциональные геномные треки в формате BigWig и геномные элементы в формате BED; также доступны эмбеддинги и промежуточные состояния. NTv3 обучалась на последовательностях 24 видов животных и растений и поддерживает контекст длиной до 1 Мб. Репозиторий предоставляет веса в форматах Flax и safetensors; для загрузки требуется Transformers версии 4.55.0 или выше и пользовательский код модели. Модель подходит для функциональной аннотации генома, анализа регуляторных и других геномных признаков, а также получения представлений последовательностей для последующего анализа. Карточка указывает лицензию «other», поэтому конкретные условия использования следует проверять в файлах репозитория. При инференсе по умолчанию используется fp32; bf16 может ускорить вычисления на совместимом оборудовании, но способен внести небольшие численные расхождения.

Nucleotide Transformer 2.5B 1000G — модель семейства Nucleotide Transformers, разработанная InstaDeep, NVIDIA и TUM для анализа последовательностей ДНК. Это плотный трансформер с архитектурой ESM и задачей masked language modeling: модель восстанавливает скрытые токены в последовательности и может служить основой для прогнозирования молекулярных фенотипов и других задач геномики. Модель содержит 3,4 млрд параметров по метаданным каталога; в README для варианта указано 2,5 млрд. Она предобучена на последовательностях из 3202 генетически разнообразных геномов людей проекта 1000 Genomes, включая данные 27 популяций. Токенизатор использует 6-меры, а длина входа достигает 1000 токенов; модель принимает токенизированные последовательности ДНК и предсказывает токены, включая замаскированные. Репозиторий предоставляет веса PyTorch, а README также упоминает TensorFlow. Модель подходит для заполнения масок в ДНК и как основа для задач геномного прогнозирования. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные материалы на тех же условиях и запрещает коммерческое использование. Предобучение отражает набор данных человеческих геномов, поэтому применение к другим видам и популяциям требует отдельной оценки; максимальная последовательность ограничена примерно 1000 токенами.

OpenMed-NER-ProteinDetect-BioPatient-108M — специализированная модель OpenMed для распознавания биомедицинских сущностей в научных и клинических текстах. Она основана на архитектуре BERT и дообучена для классификации токенов; в метаданных указано 135,5 млн параметров и контекст до 512 токенов. Модель принимает токенизированный текст и возвращает BIO-разметку сущностей, включая белки, белковые комплексы, семейства и варианты белков. Модель предназначена для извлечения упоминаний белков и связанных сущностей из медицинских записей и научной литературы, в том числе для анализа взаимодействий белков, мониторинга нежелательных явлений и построения биомедицинских баз знаний. В README приведены результаты на корпусе FSU: F1 0,91, точность 0,90, полнота 0,92 и accuracy 0,97. Карточка указывает английский язык; лицензия — Apache-2.0. Результаты и заявления о надёжности приведены разработчиком и не гарантируют качество на данных других типов или вне домена белковой биологии.

OpenMed/OpenMed-ZeroShot-NER-Genome-Base-220M — специализированная модель OpenMed для распознавания упоминаний генов и белков в биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе BC2GM, содержащем аннотированные упоминания генов и белков в аннотациях MEDLINE. Размер модели в идентификаторе — 220 млн параметров; в метаданных указан формат PyTorch. Модель предназначена для извлечения генов и белков, включая варианты написания и синонимы, из научной литературы и других биомедицинских текстов. Zero-shot-интерфейс позволяет задавать типы сущностей при использовании без отдельного дообучения, однако карточка описывает обучение именно для распознавания генов и белков. В README заявлен F1 0,80 на тестовой выборке BC2GM, исключённой из обучения. Лицензия — Apache-2.0. Показатель F1 относится к указанному корпусу и сам по себе не гарантирует такое же качество на клинических записях, других типах сущностей или текстах вне биомедицинской области.

OpenMed-ZeroShot-NER-Protein-Tiny-60M — модель OpenMed для распознавания биомедицинских сущностей в тексте. Она построена на архитектуре GLiNER и дообучена на корпусе FSU, посвящённом белкам, их взаимодействиям и молекулярной биологии. Заявленный размер — 60 млн параметров; модель работает с текстом на английском языке и возвращает метки и фрагменты распознанных сущностей. Основное назначение — извлечение белков, белковых комплексов, семейств и вариантов из научной литературы и других биомедицинских текстов. Это может помогать при поиске взаимодействий белок–белок, моделировании путей и анализе системной биологии. GLiNER позволяет задавать типы сущностей для извлечения, однако качество для пользовательских или редких типов зависит от порога распознавания и требует проверки. В README для Tiny-модели указан F1 0,62 на тестовом наборе FSU. Модель распространяется по лицензии Apache-2.0. README также перечисляет широкие сценарии клинического NLP и распознавания произвольных биомедицинских сущностей, однако приведённый результат относится к корпусу FSU и специализации на белках; переносимость на другие типы сущностей и клинические данные отдельно не подтверждена.

PlantHelixSeek-translation_onoff — дообученная модель Zhangtao Lab на базе PlantHelixSeek для бинарного предсказания того, включена ли трансляция в листьях растений при переносе между видами. Для обучения использован набор данных cross_species_leaf_on_off_translation из ModelScope; указаны три эпохи обучения. Модель построена на архитектуре HelixSeek типа MoE, имеет около 163,6 млн параметров и принимает последовательности длиной до 8192 токенов. Метаданные указывают класс sequence classification и формат весов safetensors. Модель предназначена для анализа геномных последовательностей растений и оценки состояния трансляции. Базовая модель PlantHelixSeek разработана для предсказания замаскированных нуклеотидов и анализа ДНК растений. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей. Для загрузки в Transformers в README указан параметр trust_remote_code=True.

PlantPLM-150M — модель Meta ESM-2, адаптированная автором репозитория к белковым последовательностям растений царства Viridiplantae. Это плотная трансформерная архитектура ESM-2 с 30 слоями, размером 196,6 млн параметров и контекстом до 1026 токенов; обучение продолжено на сокращённом по сходству наборе UniProt TrEMBL с примерно 4,37 млн последовательностей растений. Модель предназначена для предсказания функции растительных белков, получения их эмбеддингов и дальнейшего дообучения на небольших размеченных наборах. Она поддерживает задачу fill-mask, то есть предсказание замаскированных аминокислот в белковых последовательностях. Лицензия — MIT. Адаптация к растительным белкам полезна для аннотации функций, поиска сходных последовательностей, кластеризации и переноса обучения на задачи для растений. Модель не предназначена для белков других организмов и предсказания структуры; для этих сценариев README рекомендует исходную ESM-2 или ESMFold соответственно. Для этого чекпойнта не проводилась оценка на downstream-бенчмарках.

PlasmidGPT-319M — условная языковая модель ДНК от разработчика McClain, созданная для генерации последовательностей плазмид по заданным биологическим свойствам. Это дообученная модель на базе GPT-2: архитектура GPT2LMHeadModel с 319 млн параметров, 24 слоями, 16 головами внимания и размерностью эмбеддингов 1024. Модель работает с токенами A, C, G и T и специальными токенами условий; длина контекста составляет 16 384 токена. Модель предназначена для генерации последовательностей плазмид с условиями, такими как организм-хозяин, устойчивость к антибиотикам и содержание GC. Обучение проводилось на 13 260 уникальных парах «условия — последовательность» из дедуплицированных плазмид Addgene. Карточка приводит значение perplexity на валидации 1,88. Лицензия — MIT. Модель специализирована на синтезе последовательностей, а не на естественно-языковом диалоге или анализе биологических данных. Качество и биологическая пригодность сгенерированных последовательностей требуют отдельной проверки; карточка не описывает такие процедуры проверки.

ProLLaMA_Stage_1 — белковая языковая модель, разработанная на основе Llama 2 и предназначенная для многоцелевой обработки белковых последовательностей. Она принимает последовательность аминокислот в формате `Seq=<...`; модель построена на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров. Максимальная длина контекста — 4096 токенов. Модель генерирует текстовые продолжения последовательности и рассчитана на задачи работы с белковым языком. README отсылает к статье и репозиторию проекта за дополнительными сведениями, поэтому конкретные поддерживаемые белковые задачи и качество по ним определить нельзя. Для весов указаны форматы PyTorch и safetensors. Лицензия в метаданных — Apache-2.0, однако README просит соблюдать лицензию Llama 2, на которой основана модель; условия использования следует сверять с лицензией базовой модели.