IV.6Научные исследования, математика и новые материалы

EvoLenTokenizer/base-100k — BERT-base-модель EvoLen для анализа последовательностей человеческой ДНК. Она разработана в рамках исследования EvoLen: Evolution-Guided Tokenization for DNA Language Model и обучена предсказывать замаскированные токены в геномных последовательностях. Архитектура включает 12 слоёв, 768 скрытых единиц, 12 голов внимания и словарь из 5 120 токенов; контекст составляет 512 токенов. Модель предназначена для извлечения признаков и дообучения для задач анализа генома, включая классификацию регуляторных элементов и задачи ATAC-seq. Предобучение выполнено на референсном геноме человека hg38; оценка на отложенной части того же корпуса показала loss 5,0825, accuracy 0,2308 и perplexity 161,17. Модель принимает токенизированные последовательности ДНК и выдаёт контекстные представления или предсказания замаскированных токенов. Перенос на другие организмы и неконсервативные последовательности может требовать дополнительной адаптации. Лицензия — MIT.

hung200504/bert-squadv2 — модель на базе PubMedBERT, дообученная на SQuADv2 для поиска ответов на вопросы в биомедицинских текстах. Она обрабатывает вопросы с ответом и без ответа, поэтому может сообщить, когда в предоставленном контексте нет подходящей информации. Модель построена на архитектуре BERT и содержит 136,7 млн параметров. Она принимает текст вопроса и контекста и выделяет ответ в тексте; максимальная длина контекста составляет 512 токенов. Базовая модель предварительно обучена на аннотациях и полных текстах статей PubMed, а дообучение выполнялось на SQuADv2. Модель ориентирована на английский язык и биомедицинскую литературу. Лицензия — MIT.

BioMistral-7B-Natural-Products-RE-Diversity-1000-synt-v1.2 — дообученная языковая модель mdelmas для извлечения отношений между природными продуктами и организмами из научных текстов. Она предназначена для автоматизации аннотирования связей, полезных при поиске и разработке лекарств, в том числе для дополнения существующих биологических ресурсов. Модель основана на BioMistral-7B и использует плотную авторегрессионную архитектуру Mistral с 7,1 млрд параметров. Она дообучена на синтетических данных, созданных Mixtral-8x7B-Instruct-v0.1, поддерживает чатовый формат, принимает текст и генерирует текст. Контекст — до 32 768 токенов; в карточке указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

BiRNA-BERT — энкодерная модель семейства BERT для представления последовательностей РНК в виде эмбеддингов. Модель обучена с использованием фреймворка MosaicBERT и токенизации BPE и отдельными нуклеотидами, что позволяет получать представления как на уровне нуклеотидов, так и на уровне всей последовательности. В репозитории указана архитектура BertForMaskedLM с 116,4 млн параметров; основная длина контекста составляет 128 токенов. Модель предназначена для извлечения признаков РНК, которые можно использовать в последующих задачах анализа последовательностей. Метаданные также указывают задачу fill-mask. В README приведён пример изменения настройки длины последовательности до 2048, однако это изменение конфигурации само по себе не подтверждает качество модели на такой длине. Лицензия в предоставленных данных не указана.

CodonBERT — разработанный Li и перенесённый на Hugging Face Taykhoom Dalal BERT-языковой модель для последовательностей мРНК, обученная на представлениях кодонов. Модель содержит 113,3 млн параметров, 12 слоёв, 12 голов внимания и размер эмбеддинга 768; контекст — до 1024 токенов. Токенизатор автоматически переводит T в U и разбивает сырые нуклеотидные последовательности на кодоны. Основная задача — восстановление замаскированных кодонов; также при предобучении использовалось предсказание таксономической связи пар последовательностей, но соответствующая голова в этом порте удалена. Модель предназначена для анализа кодирующих последовательностей мРНК: получения эмбеддингов и последующего дообучения для классификации или регрессии на уровне последовательности. Предобучение охватывало более 10 миллионов последовательностей мРНК млекопитающих, бактерий, вирусов человека и дрожжей. Порт реализован для Transformers и поддерживает eager, SDPA и Flash Attention 2 для оценки. При обучении с SDPA или Flash Attention 2 не применяется заданный dropout внимания; для дообучения README рекомендует eager. Известны также ограничения API и поддержки изменения размера словаря. Лицензия указана как other, поэтому конкретные условия использования следует сверить с репозиторием и исходным архивом.

Cold-Start Chemical–Gene Ranking Readout (1B) — дообученная BioRel модель на архитектуре Llama 3.2 1B Instruct, предназначенная для ранжирования генов-кандидатов по запросу о взаимодействии химического соединения и гена в сценарии холодного старта, когда соединение не встречалось при обучении. Модель оценивает кандидатов по длина-нормированной последовательной логарифмической вероятности; свободная генерация для этой задачи не предназначена. В README сообщается о воспроизводимом результате MRR 0,536 при ранжировании полного набора из 13 972 генов. Модель содержит 1,2 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и выдаёт текстовые оценки для ранжирования. Базовая модель поддерживает контекст до 131 072 токенов; основное применение этой модели — оценка и упорядочивание списка кандидатов. README описывает её как общий, не специализированный на биомедицине чекпойнт, дообученный для задачи химико-генных связей. Модель предназначена для исследовательского ранжирования химико-генных связей, а не для клинических решений. Распространяется по лицензии llama3.2; применяйте условия этой лицензии.

Dayhoff-170M-GRS-SS-98000 — модель генерации белковых последовательностей семейства Dayhoff, разработанная Kevin K. Yang и соавторами. Она предназначена для исследовательского белкового моделирования: генерации последовательностей, предсказания эффектов мутаций без дополнительного обучения и проектирования белковых каркасов с заданными структурными мотивами или эволюционным контекстом. Архитектура сочетает слои Mamba и Transformer с механизмом смеси экспертов (MoE); модель обучена авторегрессионно в направлениях N→C и C→N. Метаданные указывают 23,6 млн параметров и контекст до 262 144 токенов. Модель принимает белковые последовательности и выдаёт белковые последовательности; она не предназначена для естественного языка, ДНК или других биологических последовательностей. Сгенерированные последовательности не гарантированно реалистичны, а получение новых последовательностей без сходства с природными остаётся сложной задачей. Лицензия — MIT.

Dayhoff-170M-UR90-HL-28000 — модель генерации белковых последовательностей из ресурса Dayhoff, разработанного группой авторов, перечисленных в карточке модели. Она предназначена для исследований в области белкового дизайна и белкового языкового моделирования: генерирует последовательности белков и может применяться для оценки эффектов мутаций и проектирования последовательностей с заданными структурными мотивами или эволюционным контекстом. Архитектура Jamba сочетает слои Mamba и Transformer с механизмом смеси экспертов; модель обучена авторегрессионно в направлениях N→C и C→N. Контекст составляет 262 144 токена, число параметров в метаданных — 23,6 млн. В репозитории указаны веса safetensors и библиотека Transformers. Модель принимает последовательности белков, а не естественный язык, ДНК или другие биологические последовательности. Сгенерированные последовательности могут быть нереалистичными; также остаётся сложной генерация качественных последовательностей без сходства с известными природными белками. Лицензия — MIT.

Dayhoff-170M-UR90-HL-44000 — модель из семейства Dayhoff, разработанная авторами, перечисленными в карточке Dayhoff, для работы с белковыми последовательностями. Это авторегрессионная языковая модель на гибридной архитектуре Jamba: слои Mamba и Transformer чередуются с блоками Mixture-of-Experts. По метаданным, в этой версии 23,6 млн параметров, контекст — до 262 144 токенов; модель распространяется в формате safetensors через Transformers. Модель предназначена для генерации белковых последовательностей и исследовательских задач белковой инженерии. Семейство Dayhoff также поддерживает предсказание эффектов мутаций и генерацию последовательностей с заданным эволюционным или структурным контекстом; карточка описывает эти возможности для семейства, но не подтверждает их отдельно для данной версии. Модель не предназначена для естественного языка, ДНК или других биологических последовательностей. Сгенерированные последовательности не гарантированно реалистичны, а создание качественных последовательностей без гомологии с природными остаётся сложной задачей. Лицензия — MIT.

Dayhoff-3b-GR-HM-41000 — модель генерации белковых последовательностей из семейства Dayhoff, разработанная группой исследователей, перечисленных в карточке модели. Она предназначена для исследовательских задач белкового языкового моделирования: генерации последовательностей, оценки эффектов мутаций без дополнительного обучения и проектирования белковых каркасов с заданными структурными мотивами или эволюционным контекстом. Суффикс GR-HM связан с гомологичным кондиционированием, указанным среди сценариев применения семейства Dayhoff. Модель использует гибридную архитектуру Mamba и Transformer с блоками Mixture-of-Experts и авторегрессионным обучением в направлениях N→C и C→N. Метаданные указывают 445,7 млн параметров, контекст до 262 144 токенов, формат safetensors и библиотеку Transformers. Модель работает с белковыми последовательностями и может учитывать развёрнутые множественные выравнивания последовательностей; естественный язык и ДНК не поддерживаются. Лицензия — MIT. Сильные стороны — длинный контекст, генерация с учётом гомологов и структурного контекста, а также поддержка предсказания эффектов мутаций без дообучения. Сгенерированные последовательности не гарантированно реалистичны, а создание высококачественных белков без сходства с известными природными последовательностями остаётся сложной задачей. Модель не следует использовать для генерации данных, отличных от белковых последовательностей.

DNABERT-2-117M — официальная предобученная трансформерная модель для геномики, разработанная авторами работы DNABERT-2: Efficient Foundation Model and Benchmark For Multi-Species Genome. В основе разработки лежит реализация MosaicBERT от команды MosaicML. Модель обучена на геномах нескольких видов и содержит 116,4 млн параметров; для загрузки используется Transformers с поддержкой пользовательского кода. Её применяют для получения эмбеддингов последовательностей ДНК, а также задач заполнения масок и классификации геномных последовательностей. Контекст составляет 512 токенов. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

DNAGPT2_8192 — авторегрессионная модель семейства DNAGPT2 от vojtam, обученная с нуля на последовательностях геномной ДНК. Она использует декодерную архитектуру GPT-2 Small с примерно 86 млн параметров, 12 слоями и контекстом до 1 024 токенов; вариант 8192 относится к размеру словаря. Модель принимает последовательности из символов A, C, G и T и предсказывает вероятности следующего токена. Модель предназначена для моделирования геномных последовательностей и сжатия ДНК в сочетании с арифметическим кодированием. Предобучение проводилось на 135 геномах разных групп организмов, на данных авторов DNABERT-2; неоднозначный символ N исключался. В приведённых испытаниях DNAGPT2 показывала лучшее сжатие, чем gzip, однако результаты относятся к отдельным наборам данных и варианту DNAGPT2_32, а не напрямую к версии 8192. Репозиторий использует Transformers и формат safetensors; лицензия — Apache-2.0.

Taykhoom/Evo1-1-7B-8K — порт базовой модели Evo 1, разработанной Together Computer, на библиотеку Hugging Face Transformers. Это плотная причинная языковая модель архитектуры StripedHyena примерно с 7 млрд параметров; в метаданных указано 8,6 млрд. Модель обучена предсказывать следующий байт в последовательностях ДНК и рассчитана на контекст до 8 192 токенов. Словарь основан на сырых байтах UTF-8, а исходный чекпойнт — togethercomputer/evo-1-8k-base@1.1_fix. Модель предназначена для генерации продолжений последовательностей ДНК, получения логитов и скрытых представлений для последующего анализа и обучения специализированных голов. Порт открывает доступ к скрытым состояниям и весам внимания, поддерживает загрузку через AutoModel и выбор реализации внимания. README сообщает о побитном совпадении с исходной реализацией при использовании flash_attention_2; другие бэкенды могут давать небольшие численные расхождения. Для работы с чекпойнтом рекомендуется bf16, а flash_attention_2 требует установленного flash-attn. Лицензия — Apache-2.0.

Taykhoom/Evo2-7B-8K — порт базовой модели Evo 2 7B от Arc Institute в формат Hugging Face, подготовленный Taykhoom. Это плотная авторегрессионная модель на архитектуре StripedHyena 2 с чередованием блоков Hyena и многоголового внимания. Она обучена предсказывать следующий байтовый токен в последовательностях ДНК на корпусе OpenGenome2, включающем 8,8 триллиона токенов из разных областей жизни; контекст составляет 8 192 токена. В метаданных указано 8,6 млрд параметров, тогда как README оценивает размер примерно в 6,5 млрд. Модель предназначена для генерации последовательностей ДНК и извлечения скрытых представлений, логитов и весов внимания для анализа геномных последовательностей. Порт поддерживает загрузку через Hugging Face Transformers и выполнение в bf16 без Transformer Engine; заявлена поблочная точная эквивалентность исходному чекпойнту при контролируемой конфигурации SDPA. Для ускорения можно использовать Flash Attention 2, которому нужна отдельная установка flash-attn. README рекомендует bf16; float16 не поддерживается из-за численной нестабильности фильтров, а float32 также поддерживается. Веса происходят из arcinstitute/evo2_7b_base и преобразованы для совместимости с Hugging Face; для загрузки с удалённым кодом требуется trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Её специализация — биологические последовательности, поэтому пригодность для обычного текста не заявлена.

EvoNB_1 — дообученная белковая языковая модель, созданная на основе facebook/esm2_t33_650M_UR50D. Разработчик обучал её на наборе примерно из 7,66 млн последовательностей нанотел; это одна из пяти полученных моделей EvoNB. Архитектура — ESM с классом EsmForMaskedLM, размер — 865,1 млн параметров, максимальный контекст — 1026 токенов. Модель предназначена для предсказания скрытых позиций в последовательностях нанотел и поддержки анализа белковых последовательностей. Она использует задачу fill-mask и распространяется в формате safetensors через Transformers. Лицензия — MIT. README не приводит сравнительных оценок качества или результатов практической проверки.

FungiHelixSeek — ДНК-модель семейства HelixSeek, разработанная Zhangtaolab для анализа грибных геномов. Это модель со смесью экспертов (MoE), сочетающая линейное внимание и Transformer; она предварительно обучена на грибных геномах методом двунаправленного masked language modeling на уровне отдельных нуклеотидов. В метаданных указаны 163,6 млн параметров и контекст до 8192 токенов; README приводит общее число параметров 263 млн и около 112 млн активных параметров на токен. Модель предназначена для заполнения масок в последовательностях ДНК и может применяться как основа для задач геномной классификации, аннотации структуры генов и анализа эпигеномных признаков грибов. В README сообщается о первом месте в 11 из 12 задач бенчмарка грибной эпигеномики; это результат авторского сравнения. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

gLM-150M — перенос модели gLM2 на Hugging Face, поддерживаемый Taykhoom Dalal; исходную модель разработала команда Tatta Bio. Это плотная трансформерная модель с 150 млн параметров для предсказания замаскированных токенов в геномных последовательностях. Она обучена на корпусе OMG с целью masked language modeling и обрабатывает смешанные последовательности из токенов аминокислот и ДНК, различая их по регистру: заглавные буквы обозначают аминокислоты, строчные — нуклеотиды. Архитектура включает 30 слоёв, 10 голов внимания и размерность эмбеддингов 640; длина контекста — 4096 токенов. Модель подходит для восстановления пропущенных элементов последовательности, анализа геномных контекстов и получения представлений последовательностей для последующей настройки на задачи уровня последовательности. В README указана побитовая проверка соответствия весам исходной модели для реализации SDPA. Для использования опубликованы веса в формате safetensors, библиотека — Transformers; лицензия — Apache-2.0. Токенизатор сохраняет регистрозависимую семантику и не добавляет CLS или EOS автоматически, поэтому при задачах классификации требуется самостоятельно выбрать способ объединения представлений токенов. Модель специализирована на геномных данных и не предназначена для обычного естественного языка.

IgT5_unpaired — белковая языковая модель компании Exscientia, дообученная на непарных последовательностях антител из набора Observed Antibody Space. Модель основана на ProtT5 и обучалась с помощью задачи masked language modeling; её архитектура — T5 с 352,5 млн параметров, доступная в формате safetensors. Контекст составляет 512 токенов. Модель предназначена для получения векторных представлений аминокислотных последовательностей антител. Её можно применять в биоинформатических исследованиях для анализа и сравнения антительных последовательностей и построения признаков для последующих задач. README описывает использование энкодера и токенизатора через библиотеку Transformers. Лицензия — MIT.

IntelliTex — экспериментальная компактная языковая модель на архитектуре T5, дообученная автором на базе Salesforce/codet5p-220m. Она преобразует краткие описания математических выражений на естественном английском языке, в том числе сформулированные в разговорном стиле, в одну формулу LaTeX. Репозиторий содержит модель с 123,7 млн параметров в формате safetensors; нативная длина контекста — 512 токенов. Модель предназначена для черновой генерации уравнений и экспериментов с компактными моделями для специализированного преобразования текста. В описанных испытаниях дообучение повышало точность на тесте Speech2LaTeX, а дополнительное доменное обучение помогало на длинных входах и целевых формулах. Результат следует проверять: на длинных формулах точное совпадение оставалось низким, а автор не рекомендует полностью автоматическую генерацию без проверки. Лицензия — MIT.

NVIDIA Ising Calibration 1.5 31B BF16 — мультимодальная модель NVIDIA для анализа изображений графиков калибровочных экспериментов в квантовых вычислениях. Она дообучена на базе плотной модели google/gemma-4-31b и сочетает обработку изображений с генерацией текста. Размер модели составляет около 31 млрд параметров; формат весов — BF16 safetensors. Модель принимает текстовые запросы и одно или несколько изображений графиков, а в ответ формирует технический анализ: описание эксперимента, выводы и их значимость, оценку качества подгонки, извлечение параметров и классификацию успешности эксперимента. Она предназначена для исследователей квантовых вычислений, инженеров по калибровке и разработчиков автоматизированных или вспомогательных калибровочных процессов. В карточке указаны коммерческое применение и запуск через NVIDIA NIM с бэкендом vLLM; лицензия обозначена как other, поэтому перед внедрением следует проверить её условия. Обучение проводилось на синтетических текстовых и визуальных данных, включая 72,5 тысячи обучающих примеров. Оценка на QCalEval охватывает задачи анализа калибровочных графиков, извлечения параметров и классификации статуса калибровки, но не является широкой оценкой общих возможностей. Выводы и извлечённые значения следует проверять с экспертами предметной области; модель рассчитана на GPU NVIDIA, а в карточке указана совместимость с Blackwell и Hopper.

KONI-Llama3-8B-Instruct-20240729 — диалоговая языковая модель, разработанная Корейским институтом науки и технологий информации (KISTI) для задач в области науки и технологий. Она основана на объединённой KONI-Llama3-8B-Merged-20240724, созданной из Meta-Llama-3-8B и KONI-Llama3-8B-20240630, и дообучена с помощью SFT и DPO на примерно 11 тысячах примеров SFT и 7 тысячах примеров предпочтений DPO. Модель использует плотную архитектуру Llama, содержит 7,5 млрд параметров и работает с контекстом до 8192 токенов. Она предназначена для ответов на вопросы, диалога и помощи с научно-технической информацией; основным языком является корейский. По результатам LogicKor авторы сообщают о сильных показателях в рассуждениях, математике и письме среди публичных моделей класса 8B на дату публикации результатов. Модель распространяется в формате Safetensors по лицензии Llama 3. Ее специализация на научно-технических данных и корейском языке ограничивает применимость в других областях и языках; приведённые результаты бенчмарка заявлены авторами и не гарантируют качество на конкретных задачах.

OntoProtein — предобученная белковая языковая модель, представленная авторами в научной работе и впервые опубликованная в этом репозитории. Она объединяет masked language modeling (MLM) последовательностей белков с обучением на графе знаний Gene Ontology (GO): граф связывает GO и соответствующие белки, а контрастивное обучение с подбором отрицательных примеров учитывает связи в графе. Модель предназначена для анализа белковых последовательностей и работы с представлениями белков и понятий Gene Ontology. Это плотная архитектура BERT с головой masked language modeling, около 503 млн параметров и контекстом до 40 000 токенов. Модель принимает аминокислоты только в верхнем регистре. Репозиторий содержит веса PyTorch; метаданные указывают задачу fill-mask. Лицензия в предоставленных данных не указана.

OpenMed/OpenMed-NER-ProteinDetect-MultiMed-568M — модель OpenMed для распознавания и классификации биомедицинских сущностей в тексте. Это дообученный XLM-RoBERTa с архитектурой XLMRobertaForTokenClassification и примерно 658,7 млн параметров; модель принимает токенизированный текст и выдаёт BIO-разметку. Указанный контекст составляет 8194 токена. Модель обучена на корпусе FSU и распознаёт белки, белковые комплексы, семейства и группы белков, а также варианты белков. Модель предназначена для извлечения сущностей из научной биомедицинской литературы и других текстов о молекулярной биологии, например для поиска упоминаний белков при анализе взаимодействий и построении баз знаний. В README приведены результаты на FSU: F1 0,9579, точность 0,9564, полнота 0,9595 и accuracy 0,9788; эти показатели относятся к указанному набору данных. Карточка указывает лицензию Apache-2.0. Заявленное применение к медицинским записям требует отдельной проверки: описанные типы сущностей и корпус ориентированы на белки и молекулярную биологию.

OpenMed разработала OpenMed-NER-ProteinDetect-SuperClinical-184M — дообученную модель DeBERTa для распознавания биомедицинских сущностей в тексте. Она выделяет белки, белковые комплексы, семейства и группы белков, варианты белков и другие типы сущностей, размечая их тегами BIO. Модель содержит 211,6 млн параметров, принимает токенизированный текст и поддерживает контекст до 512 токенов. Модель обучена на корпусе FSU, посвящённом белкам, их взаимодействиям и сущностям молекулярной биологии. Её можно применять для извлечения белковых сущностей из научных статей и медицинских текстов, подготовки данных для анализа молекулярных путей и построения биомедицинских баз знаний. Заявленные в карточке показатели на FSU: F1 0,92, точность 0,91, полнота 0,93 и accuracy 0,97. Модель предназначена для английского языка и доступна в формате Safetensors для экосистемы Transformers. Лицензия — Apache-2.0. Качество на других корпусах и за пределами английского языка не подтверждено; окно контекста ограничено 512 токенами.

OpenMed-ZeroShot-NER-Genomic-XLarge-770M — модель OpenMed для извлечения упоминаний генов и связанных с генетикой сущностей из биомедицинских текстов. Она построена на архитектуре GLiNER и дообучена на корпусе GELLUS; размер модели — 770 млн параметров. Модель принимает текст и возвращает найденные сущности с разметкой токенов. Для извлечения типов сущностей можно задавать метки, в том числе пользовательские, без отдельного дообучения. Модель предназначена для анализа научной литературы и других текстов по геномике и молекулярной биологии, включая выявление генов и генетических вариантов для исследований генетических ассоциаций и курирования вариантов. В README приведён результат F1 0,9003 на тестовом наборе GELLUS; этот показатель относится к конкретному бенчмарку и не гарантирует такую же точность на других данных. Карточка указывает английский язык и лицензию Apache-2.0. Несмотря на заявления README о широком распознавании медицинских сущностей, описание датасета и специализация этой версии сосредоточены на генетике.

OpenMed-ZeroShot-NER-Oncology-Tiny-60M — специализированная модель OpenMed для распознавания именованных сущностей в онкологических и генетических текстах. Модель построена на архитектуре GLiNER и дообучена на корпусе BioNLP 2013 CG; метаданные указывают размер файлов в формате PyTorch, но не сообщают число параметров. Модель извлекает из текста упоминания рака, генов и их продуктов, аминокислот, клеток, тканей, органов и других биомедицинских сущностей. Она предназначена для анализа научной литературы по онкологии, курирования генетических путей и поиска генов-мишеней. GLiNER поддерживает задание типов сущностей для zero-shot извлечения, однако качество для типов и текстов вне обучающего домена может различаться. В README приведён F1 0,54 на тестовом наборе BioNLP 2013 CG. Принимает биомедицинский текст и возвращает размеченные сущности. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

Jookare предоставляет большую Vision Transformer-модель ViT-Large с патчами 16×16 и входным разрешением 224×224, предварительно обученную с нуля методом Masked Autoencoder на нескольких наборах изображений планктона. В статье Self-Supervised Pretraining for Fine-Grained Plankton Recognition эта модель обозначена как with-daplankton; веса сохранены в формате Safetensors и предназначены для использования через библиотеку timm. Модель содержит только предварительно обученный энкодер, без классификационной головы. Её можно использовать для извлечения визуальных признаков или дообучить с классификатором для распознавания планктона, в том числе тонких различий между его категориями. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

PlasmidGPT-RL — языковая модель на архитектуре GPT-2, разработанная McClain и дообученная методом Group Relative Policy Optimization (GRPO) на базе UCL-CSSB/PlasmidGPT-SFT. Она предназначена для генерации последовательностей плазмидной ДНК. Обучение с подкреплением использовало оценку наличия корректных oriV, генов устойчивости к антибиотикам (ARGs) и отсутствия проблемных повторов. Модель принимает текстовые запросы и генерирует текстовые последовательности ДНК. Контекст — 2048 токенов; веса опубликованы в формате safetensors и предназначены для использования через Transformers. Лицензия — MIT. Карточка не приводит сведений о конкретных экспериментальных проверках функциональности сгенерированных последовательностей.

PlasmidLM — авторегрессионная языковая модель McClain для генерации последовательностей плазмидной ДНК по функциональным аннотациям, заданным специальными токенами. Она обучена на примерно 108 тысячах последовательностей плазмид из Addgene, аннотированных с помощью pLannotate, и предназначена для исследовательских задач в геномике и синтетической биологии. Модель построена на плотном трансформере-декодере в стиле LLaMA; в метаданных указано 23,6 млн параметров, а в README — 17,7 млн. Она принимает текстовый промпт с аннотациями и генерирует последовательность из оснований A, T, C и G. Контекст — до 16 384 токенов, примерно 16 тысяч пар оснований. Расхождение в указанном числе параметров не позволяет однозначно определить точный размер модели. Это базовая предобученная модель: размещение функциональных элементов не оптимизировано, а сгенерированные последовательности не прошли экспериментальную проверку. Обучающая выборка смещена в сторону часто публикуемых в Addgene векторов. Перед практическим применением последовательности требуют вычислительной и экспериментальной проверки. Лицензия — Apache-2.0.

Preferential-250k — языковая модель антител, разработанная Briney Lab на основе архитектуры ESM-2. Она предварительно обучена на парных последовательностях антител из наборов Jaffe et al. и Hurtado et al.; модель содержит 471,9 млн параметров и рассчитана на контекст до 322 токенов. Вход представляет собой последовательности тяжёлой и лёгкой цепей, записанные подряд в формате HEAVY_CHAINLIGHT_CHAIN. Основная задача модели — предсказание замаскированных токенов в последовательностях антител. Её также можно дообучить с классификационной головой для задач вроде определения специфичности и классификации пар антител. Модель распространяется в формате safetensors и под лицензией MIT.