IV.4Клиническая медицина и общественное здоровье

GB.Cell-100M — клеточная foundation-модель, разработанная GenBio AI для анализа экспрессии генов в отдельных клетках человека. Она обучена на 50 миллионах клеток из более чем 100 типов тканей и органов и предназначена для задач одно-клеточной геномики, включая кластеризацию без обучения на целевой задаче, классификацию типов клеток и моделирование эффектов возмущений. Модель содержит 87 млн параметров и использует двунаправленный трансформерный энкодер BERT-типа с 18 слоями, авто-дискретизацию значений экспрессии и цель предобучения Read Depth-Aware: по данным с низкой глубиной считывания модель предсказывает значения для замаскированных генов при большей глубине. Для каталога Hugging Face основная задача указана как fill-mask. Контекст — до 19 264 токенов; репозиторий содержит веса PyTorch и Safetensors. Модель формирует представления транскриптомного контекста клетки и показывает сильные результаты в перечисленных задачах одно-клеточной геномики. Она рассчитана на данные экспрессии генов человека; сведения о поддержке других организмов не приведены. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории.

GENA-LM BigBird Base Sparse T2T — открытая модель AIRI Institute для работы с длинными последовательностями человеческой ДНК. Это трансформерная masked language model на архитектуре BigBird с разреженным вниманием; модель содержит 137,8 млн параметров и принимает до 4096 BPE-токенов, что соответствует примерно 36 000 нуклеотидам. Токенизатор обучен на ДНК, а предобучение выполнено на сборке человеческого генома T2T с аугментацией SNP-вариантами из gnomAD. Основной сценарий — восстановление замаскированных участков ДНК и получение контекстных представлений последовательностей для последующей адаптации к задачам геномной классификации. По сравнению с DNABERT модель использует BPE вместо k-меров и поддерживает более длинный контекст. Для разреженного внимания требуется DeepSpeed; README указывает поддержку GPU с compute capability не ниже 7.0. Лицензия в предоставленных данных не указана.

Карточка модели LongSafari/hyenadna-tiny-1k-seqlen-d256-hf на Hugging Face совпадает с карточкой LongSafari/hyenadna-medium-450k-seqlen-hf, поэтому описание составлено по ней. HyenaDNA — геномная фундаментальная модель, разработанная исследователями из Stanford и Harvard и представленная организацией LongSafari. Этот чекпойнт использует архитектуру HyenaDNAForCausalLM с 7,3 млн параметров и предназначен для генерации последовательностей ДНК и последующей адаптации к задачам анализа геномных последовательностей. Модель предварительно обучена предсказывать следующий нуклеотид на референсном геноме человека HG38. Односимвольный токенизатор сохраняет разрешение до одного нуклеотида, а операторы Hyena обеспечивают обработку длинных последовательностей с глобальным рецептивным полем. Название репозитория указывает на вариант с длиной последовательности 450 тыс.; README описывает семейство HyenaDNA с контекстами до 1 млн токенов, но не приводит отдельного подтверждения предельной длины именно этого чекпойнта. Модель применима для генерации ДНК, а также как основа для дообучения на классификацию последовательностей, включая поиск регуляторных элементов, анализ профилей хроматина и классификацию видов. README указывает, что для обучения на последовательностях до примерно 250 тыс. нуклеотидов на T4 с 16 ГБ VRAM удавалось проводить эксперименты, а для варианта medium-450k рекомендует A100-40GB для предобучения и дообучения, T4 для инференса. Поддерживаемый формат весов — safetensors. Лицензия — BSD-3-Clause.

HyperCLOVA X SEED Think-14B — AI Hub 71875 Base-wrong Correction Minimal SFT — это экспериментальная корейскоязычная языковая модель, созданная автором репозитория на основе naver-hyperclovax/HyperCLOVAX-SEED-Think-14B. К исходным весам применён и объединён адаптер LoRA ранга 4, обученный на 606 примерах из набора AI Hub 71875 по медицинским вопросам с вариантами ответа A–D. Модель имеет плотную архитектуру HyperCLOVAXForCausalLM, около 14,1 млрд параметров и контекст до 131 072 токенов; веса представлены в BF16 safetensors, сохранён официальный шаблон чата HyperCLOVA X. Модель предназначена для контролируемого исследования и оценки исправления неверных ответов базовой модели на корейских медицинских вопросах из областей внутренней медицины, акушерства и гинекологии, педиатрии и неотложной медицины. Обучение было небольшим и узкоспециализированным: 606 примеров, одна эпоха; публичные бенчмарки не использовались. Результаты не следует трактовать как общее улучшение качества или бенчмарк. Модель может допускать фактические ошибки и ошибки рассуждения и не заменяет профессиональную консультацию. Лицензия указана как other; применяются ограничения допустимого использования HyperCLOVA X, условия исходных данных AI Hub и действующее законодательство.

SegmentNT — модель сегментации геномных последовательностей, разработанная InstaDeep. Она определяет расположение 14 типов геномных элементов человека с точностью до отдельного нуклеотида: генов и их частей, сайтов сплайсинга, сигналов polyA, промоторов, энхансеров и участков связывания CTCF. Модель использует энкодер nucleotide-transformer-v2-500m-multi-species без языковой головы и одномерную U-Net-голову сегментации. В README указано 562 млн параметров; входные последовательности могут достигать 30 тыс. нуклеотидов. Данные обучения охватывают геном человека, а обучение и проверка проводились с выделенными хромосомами для валидации и тестирования. SegmentNT предназначена для аннотирования геномных последовательностей и анализа расположения геномных и регуляторных элементов. Для использования README указывает на необходимость установить Transformers из исходного кода до следующего выпуска. Модель распространяется по лицензии CC-BY-NC-SA-4.0.

AvitoTech SigLIP2-Base for Animal Identification — модель зрения, дообученная на базе google/siglip2-base-patch16-224 для распознавания отдельных кошек и собак. Она принимает изображения размером 224×224 пикселя и выдаёт векторы признаков размерностью 768, предназначенные для сопоставления и повторной идентификации животных.

Tranception Large — модель для оценки приспособленности белковых последовательностей, созданная в совместном проекте Marks lab и OATML и представленная в работе о предсказании эффектов вариантов белков. Она использует авторегрессионную трансформерную архитектуру и при выводе может извлекать сведения о гомологичных последовательностях. Модель предназначена для оценки влияния мутаций, включая множественные замены и вставки или делеции, а также для анализа вариантов белков и проектирования биотерапевтических белков. По карточке модели Tranception показывает высокое качество на нескольких мутациях, устойчивость к неглубоким выравниваниям и возможность оценивать вставки и делеции. Метаданные указывают архитектуру Tranception, библиотеку PyTorch и контекст до 1024 токенов. Репозиторий содержит веса в формате PyTorch. Сведения о лицензии в предоставленных материалах отсутствуют.

TxGemma-27B-Predict — языковая модель Google для задач разработки терапевтических средств, дообученная на базе Gemma 2. Это вариант с 27 млрд параметров из семейства TxGemma; архитектура — трансформер-декодер, библиотека запуска — Transformers. Модель принимает текстовые запросы, сформулированные в узком формате Therapeutics Data Commons (TDC), и генерирует текстовые предсказания. Модель предназначена для прогнозирования свойств терапевтических соединений и мишеней, включая малые молекулы, белки, нуклеиновые кислоты, заболевания и клеточные линии. Её применяют в исследованиях по поиску мишеней, предсказанию взаимодействия лекарство–мишень и оценке вероятности одобрения клинических испытаний. TxGemma дообучена на инструкционных наборах Therapeutics Data Commons и показала результаты на бенчмарке из 66 терапевтических задач. Модель рассчитана на исследования и разработку терапевтических средств; предсказания требуют проверки на данных, подходящих для конкретного применения. Условия использования определяются лицензией Health AI Developer Foundations.

Карточка модели Ankitdajhgf565/vit-large-skin-cancer-ham10000 на Hugging Face совпадает с карточкой Kuldeepmishra3/vit-large-skin-cancer-ham10000, поэтому описание составлено по ней. Модель Kuldeepmishra3/vit-large-skin-cancer-ham10000 разработана как личный проект для изучения дообучения моделей на медицинских изображениях. Это ViT-Large на базе google/vit-large-patch16-224, дообученная на наборе HAM10000 для классификации дерматоскопических изображений по семи типам кожных поражений. Модель принимает изображение и выдаёт вероятности классов; в README приведены результаты на валидационной части HAM10000: точность 92,74% и взвешенная F1-мера 92,60%. Репозиторий содержит веса в формате safetensors, размер модели — 402,7 млн параметров. Лицензия — MIT. Модель подходит для экспериментальной классификации дерматоскопических изображений и учебных проектов по компьютерному зрению в дерматологии. Она не предназначена для постановки диагноза или принятия медицинских решений. Качество снижается на редких классах из-за дисбаланса данных; меланому модель может путать с меланоцитарными невусами. Обучение проводилось только на дерматоскопических снимках HAM10000, преимущественно полученных от европейских пациентов, поэтому модель может плохо работать на обычных фотографиях кожи и хуже обобщаться на другие группы населения.

EvoLenTokenizer/base-100k — BERT-base-модель EvoLen для анализа последовательностей человеческой ДНК. Она разработана в рамках исследования EvoLen: Evolution-Guided Tokenization for DNA Language Model и обучена предсказывать замаскированные токены в геномных последовательностях. Архитектура включает 12 слоёв, 768 скрытых единиц, 12 голов внимания и словарь из 5 120 токенов; контекст составляет 512 токенов. Модель предназначена для извлечения признаков и дообучения для задач анализа генома, включая классификацию регуляторных элементов и задачи ATAC-seq. Предобучение выполнено на референсном геноме человека hg38; оценка на отложенной части того же корпуса показала loss 5,0825, accuracy 0,2308 и perplexity 161,17. Модель принимает токенизированные последовательности ДНК и выдаёт контекстные представления или предсказания замаскированных токенов. Перенос на другие организмы и неконсервативные последовательности может требовать дополнительной адаптации. Лицензия — MIT.

BioReason-Pro RL — созданная Wang Lab версия BioReason-Pro, дообученная с помощью обучения с подкреплением по алгоритму GRPO на основе SFT-чекпойнта. Модель предназначена для предсказания функций белков и связанных с ними терминов Gene Ontology (GO), формируя ответы с рассуждениями. Это плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Карточка описывает её как мультимодальную, однако конкретные входные модальности не перечислены. Доступные файлы — в формате safetensors. Лицензия — Apache-2.0.

DNA_bert_6 — модель DNABERT разработчиками которой являются исследователи, включая Жихана Чжоу и Яньжун Цзи. Это BERT-подобный двунаправленный трансформер, предварительно обученный на геномных последовательностях; версия 6 использует токенизацию ДНК 6-мерными фрагментами. Число параметров — 116,4 млн, максимальная длина контекста — 512 токенов. Модель предназначена для предсказания замаскированных фрагментов ДНК и может служить основой для дообучения на задачах анализа геномных последовательностей, включая распознавание промоторов, сайтов сплайсинга и сайтов связывания транскрипционных факторов. Она принимает последовательности ДНК, а не естественный язык, и выдаёт предсказания токенов; разработчики отмечают возможность адаптации к другим организмам. В репозитории указана лицензия MIT.

Taykhoom/Evo2-7B-8K — порт базовой модели Evo 2 7B от Arc Institute в формат Hugging Face, подготовленный Taykhoom. Это плотная авторегрессионная модель на архитектуре StripedHyena 2 с чередованием блоков Hyena и многоголового внимания. Она обучена предсказывать следующий байтовый токен в последовательностях ДНК на корпусе OpenGenome2, включающем 8,8 триллиона токенов из разных областей жизни; контекст составляет 8 192 токена. В метаданных указано 8,6 млрд параметров, тогда как README оценивает размер примерно в 6,5 млрд. Модель предназначена для генерации последовательностей ДНК и извлечения скрытых представлений, логитов и весов внимания для анализа геномных последовательностей. Порт поддерживает загрузку через Hugging Face Transformers и выполнение в bf16 без Transformer Engine; заявлена поблочная точная эквивалентность исходному чекпойнту при контролируемой конфигурации SDPA. Для ускорения можно использовать Flash Attention 2, которому нужна отдельная установка flash-attn. README рекомендует bf16; float16 не поддерживается из-за численной нестабильности фильтров, а float32 также поддерживается. Веса происходят из arcinstitute/evo2_7b_base и преобразованы для совместимости с Hugging Face; для загрузки с удалённым кодом требуется trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Её специализация — биологические последовательности, поэтому пригодность для обычного текста не заявлена.

gLM-150M — перенос модели gLM2 на Hugging Face, поддерживаемый Taykhoom Dalal; исходную модель разработала команда Tatta Bio. Это плотная трансформерная модель с 150 млн параметров для предсказания замаскированных токенов в геномных последовательностях. Она обучена на корпусе OMG с целью masked language modeling и обрабатывает смешанные последовательности из токенов аминокислот и ДНК, различая их по регистру: заглавные буквы обозначают аминокислоты, строчные — нуклеотиды. Архитектура включает 30 слоёв, 10 голов внимания и размерность эмбеддингов 640; длина контекста — 4096 токенов. Модель подходит для восстановления пропущенных элементов последовательности, анализа геномных контекстов и получения представлений последовательностей для последующей настройки на задачи уровня последовательности. В README указана побитовая проверка соответствия весам исходной модели для реализации SDPA. Для использования опубликованы веса в формате safetensors, библиотека — Transformers; лицензия — Apache-2.0. Токенизатор сохраняет регистрозависимую семантику и не добавляет CLS или EOS автоматически, поэтому при задачах классификации требуется самостоятельно выбрать способ объединения представлений токенов. Модель специализирована на геномных данных и не предназначена для обычного естественного языка.

MedForge Qwen3.5-4B-DPO — экспериментальная медицинская модель рассуждений, созданная автором fang04 путём постобучения Qwen/Qwen3.5-4B. Она использует плотную архитектуру Qwen3.5 с 4 млрд параметров и предназначена для диалоговой генерации ответов на медицинские вопросы. Для обучения применялось DPO на предпочтениях, полученных из собственных выборок базовой модели и проверенных калиброванным оценщиком; внешние примеры рассуждений не использовались. Модель рассчитана прежде всего на медицинские вопросы на китайском языке, при этом обучающие данные включали китайский и английский. В описанных автором экспериментах на CMExam, CMB-val и MedXpertQA модель не показала статистически значимого улучшения относительно базовой модели. Результаты получены на выборочных тестовых наборах при одном случайном зерне и одном запуске обучения; оценщик проходил калибровку с использованием сильной модели и ручной проверки. Автор указывает, что модель не предназначена для постановки диагнозов или назначения лечения и не является медицинской рекомендацией. Лицензия — Apache-2.0.

medicinal-QnA-phi2-custom — дообученная YuvrajSingh9886 модель Microsoft Phi-2 на наборе Amod/mental_health_counseling_conversations. Это плотная авторегрессионная языковая модель с 3,5 млрд параметров и контекстом до 2048 токенов; она принимает текст и генерирует текст. Модель предназначена для экспериментов с чат-ботом, который отвечает на вопросы и ведёт беседы о психическом здоровье. В README указаны 10 эпох обучения, обучающая потеря 2,229 и валидационная потеря 2,223. Автор описывает модель как хобби-проект и proof of concept, требующий осторожной оценки последствий. Она не подтверждена как клинический инструмент: ответы могут быть неточными или неподходящими для консультаций по вопросам здоровья. Условия лицензии в доступных данных не приведены.

NTv3_650M_pre — предварительно обученная masked language model из семейства геномных моделей NTv3, разработанного InstaDeep. Модель использует архитектуру в стиле U-Net: сверточный блок, стек Transformer, деконволюционный блок и языковую голову. Она принимает нуклеотидные последовательности, токенизированные на уровне символов из алфавита A, T, C, G и N, и предсказывает замаскированные позиции. Размер скрытого представления — 1536; длина входной последовательности должна быть кратна 128. Модель предназначена для обучения представлений геномных последовательностей и последующей адаптации к предсказанию геномных функций, аннотации и генерации последовательностей. Семейство NTv3 обучалось на 9 триллионах пар оснований и рассчитано на моделирование дальних зависимостей до 1 Мб; в этой карточке опубликована предварительно обученная MLM-версия. Репозиторий содержит веса для Transformers, требует transformers версии 4.55.0 или выше и пользовательского кода модели. Лицензия указана как other, поэтому конкретные условия использования следует сверить с репозиторием.

RIBOSPAN-1K-15 — чекпойнт семейства фундаментальных моделей RIBOSPAN для работы с последовательностями РНК. Модель разработана SII-GAIR-NLP и представляет собой плотный трансформер RiboSpanForMaskedLM с 1,61 млрд параметров и контекстом до 1 024 токенов. Вариант обучен с маскированием 15% токенов и предназначен для задачи fill-mask: предсказания замаскированных фрагментов последовательности. Модель подходит для анализа и исследования РНК-последовательностей, включая восстановление замаскированных участков и получение контекстных предсказаний для геномных и транскриптомных данных. Использует веса PyTorch и является дообучением SII-GAIR-NLP/RIBOSPAN-FM. Лицензия указана как other; конкретные условия использования следует сверять с карточкой модели и лицензией базовой модели.

RIBOSPAN-1K-40 — чекпойнт семейства фундаментальных моделей RIBOSPAN для работы с последовательностями РНК. Разработчик — SII-GAIR-NLP. Модель содержит 1,61 млрд параметров и использует плотную трансформерную архитектуру RiboSpanForMaskedLM с 32 слоями и размерностью скрытого пространства 2048; длина контекста составляет 1024 токена. Чекпойнт получен продолжением предобучения RIBOSPAN-1K-15 с долей маскирования 40%. Он предназначен для восстановления замаскированных фрагментов РНК, в том числе при сильном повреждении последовательности, сохраняя представления базовой модели. Применим в задачах анализа РНК и геномики, где требуется предсказание скрытых участков последовательности. Для использования указана лицензия other; её конкретные условия следует проверить в репозитории модели. В метаданных указан датасет предобучения SII-GAIR-NLP/RIBOSPAN-FM-Corpus.

Карточка модели trillionlabs/TxGravity-30B-A6B-Open на Hugging Face совпадает с карточкой trillionlabs/TxGravity-30B-A5B-Open, поэтому описание составлено по ней. TxGravity-30B-A5B-Open — специализированная модель для прогнозирования терапевтических свойств молекул и биомолекулярных взаимодействий. Её совместно разработали SK Biopharmaceuticals и Trillion Labs на базе Trillion Labs/Gravity-30B-A5B; архитектура совместима с DeepSeek-V3 и использует MoE. В карточке указано 3,8 млрд параметров, а в README — 29,56 млрд общих и около 6 млрд активных параметров; эти сведения о размере расходятся. Модель дообучена на 57 задачах Therapeutic Data Commons, преобразованных в одношаговые инструкции. Она предназначена для прогнозирования ADMET-свойств малых молекул, токсичности, взаимодействий лекарств с мишенями, белок-белковых и пептидно-MHC взаимодействий и других задач бенчмарка TDC. Ожидаемый формат ответа — метки (A)/(B) для классификации или нормализованный бин 000–1000 для регрессии. Контекст — до 131 072 токенов; интерфейс рассчитан на текстовые запросы и ответы. В сравнении с TxGemma-27B на сопоставимых задачах TDC модель показала 16 побед, 26 ничьих и 18 поражений. Она не является универсальным помощником и не предназначена для свободного диалога: надёжность вне обучающих форматов и задач не установлена. Прогнозы могут быть неточными, смещёнными или неполными и требуют независимой проверки до экспериментального, клинического или иного принятия решений. Открытая версия выпущена под лицензией Apache-2.0; при обучении исключены датасеты с ограничением на некоммерческое использование.

BertAIP — модель на основе BERT, разработанная Jianchao Ying и соавторами для предсказания противовоспалительной активности пептидов. Она классифицирует белковые последовательности и выдаёт оценочную вероятность того, что последовательность является противовоспалительным пептидом, вместе с результатом классификации. Модель использует архитектуру BERT для классификации текста, содержит 136,7 млн параметров и рассчитана на контекст до 512 токенов. Инструмент принимает последовательности в формате FASTA; согласно документации проекта, длина последовательности не должна превышать 54 аминокислот, а неоднозначные символы и символы-заполнители не допускаются. Модель ориентирована на анализ белковых последовательностей, а не на обычный текст. Hugging Face указывает формат PyTorch; сведения о лицензии в доступных источниках не установлены.

buetnlpbio/bpe-only-dna-bert — модель на архитектуре BERT, разработанная для работы с последовательностями ДНК. Она обучена только на датасете генома человека в течение одной эпохи для абляционного эксперимента; в метаданных указаны 116,4 млн параметров и контекст длиной 128 токенов. Модель поддерживает задачу fill-mask и может использоваться для предсказания замаскированных токенов в последовательностях ДНК. Обучение выполнено на основе фреймворка MosaicBERT. Карточка предупреждает, что качество на других типах ДНК может быть ограниченным. Модель опубликована в формате PyTorch; метаданные не содержат сведений о лицензии.

C2S-Scale-Gemma-2-2B — языковая модель van Dijk Lab (Йельский университет) в сотрудничестве с Google Research и Google DeepMind, дообученная на базе Gemma 2 2B для анализа данных одноклеточного секвенирования РНК. Она преобразует профили экспрессии генов в упорядоченные текстовые последовательности генов и использует их для предсказаний и генерации. Модель построена на декодерном трансформере Gemma2ForCausalLM, содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для аннотации типов клеток и тканей, анализа одноклеточных данных, ответа на биологические вопросы, описания кластеров и предсказания изменений при возмущениях. Также она может генерировать профили экспрессии генов и служить основой для дальнейшей специализации. Обучение проводилось на более чем 57 миллионах клеток человека и мыши из свыше 800 наборов данных CellxGene и Human Cell Atlas. Вход и выход — текст; инструкции и списки генов следует оформлять в ожидаемом моделью формате. Модель ориентирована на исследования в одноклеточной геномике и вычислительной биологии. Её знания ограничены генами, типами клеток и условиями, представленными в обучающих данных; качество на новых типах клеток, технологиях и существенно отличающихся форматах запросов не гарантируется и требует проверки. Лицензия — CC BY 4.0.

CodeXomics-ToolAgent-4B-v1 — модель на 4,2 млрд параметров, разработанная для геномного рабочего пространства CodeXomics и дообученная методом QLoRA на базе Qwen/Qwen3.5-4B. Она генерирует текст и выполняет вызовы функций из реестра инструментов CodeXomics для загрузки файлов, навигации по геному, анализа последовательностей, аннотирования, работы с треками, экспорта, BLAST, подбора праймеров, поиска биологических данных и управления интерфейсом. Модель предназначена для диалогового управления анализом и визуализацией геномных данных, в том числе для многошаговых сценариев внутри CodeXomics. В README указан максимальный размер последовательности 3 072 токена. В тестах CodeXomics Benchmark модель выполнила 172 из 172 проверок; это результат на конкретном наборе тестов и настройках оценки, а не гарантия точности в других условиях. Данных о поддержке изображений самой моделью в этом сценарии нет. Модель опубликована под лицензией Apache-2.0. Она специализирована для рабочих процессов CodeXomics; обобщение на вызов инструментов в других областях не оценивалось.

Evo-1-131k-base — биологическая фундаментальная модель, разработанная Together AI для моделирования и генерации генетических последовательностей. Она предназначена для анализа на уровне отдельных нуклеотидов и задач масштаба целого генома. Модель использует гибридную архитектуру StripedHyena с многоголовочным вниманием и управляемыми свёртками. В карточке указаны 8,6 млрд параметров; модель обучена на данных OpenGenome и имеет контекстное окно 131 072 токена. В README также описана генерация последовательностей длиной более 650 тысяч символов. Evo-1-131k-base построена на базе Evo-1-8k-base и обучалась для работы с длинным контекстом. Для запуска требуются пользовательские ядра StripedHyena; README сообщает об исправленной ревизии 1.1_fix, поскольку прежняя перестановка некоторых проекций снижала качество генерации. Весы распространяются по лицензии Apache-2.0.

GENA-LM — крупная модель семейства BERT, разработанная AIRI Institute для анализа последовательностей ДНК человека. Это masked language model: при предобучении модель училась восстанавливать замаскированные токены в геномной последовательности. Модель предназначена для извлечения представлений последовательностей и последующего дообучения на геномные задачи, например предсказание промоторов и сайтов сплайсинга. Модель содержит 435,4 млн параметров, имеет 24 слоя, 16 голов внимания, размер скрытого представления 1024 и словарь из 32 тысяч токенов. BPE-токенизация позволяет обрабатывать около 4500 нуклеотидов в пределах 512 токенов. Для предобучения использована сборка генома человека T2T, а данные расширялись вариантами из набора gnomAD. Веса доступны в форматах PyTorch и safetensors; для загрузки README указывает Transformers. Основное применение — предобученная основа для задач моделирования геномных последовательностей и их дообучения, а не готовая модель для клинической диагностики. Конкретные результаты зависят от последующего дообучения и целевого набора данных. Лицензия в предоставленных источниках не указана.

MarinDNA v0.5 scaling ladder — 1B — это одношаговая авторегрессионная языковая модель для последовательностей ДНК, разработанная совместно с Marin. В репозитории опубликован финальный чекпойнт обучения; модель имеет около 1,12 млрд параметров и использует декодерный Transformer, совместимый с Qwen3. Веса сохранены в формате safetensors, токенизатор включён в репозиторий. Модель принимает сырые последовательности ДНК из оснований A, C, G и T без пробелов и предсказывает продолжение последовательности. Токенизатор нечувствителен к регистру и кодирует одно основание одним токеном; при контексте 256 токенов вход ограничен 255 основаниями, поскольку одну позицию занимает BOS. Обучение использовало смесь кодирующих, upstream- и downstream-последовательностей с пониженным весом потерь для soft-masked позиций. Модель предназначена для геномных экспериментов, включая исследование последовательностей и предсказание эффектов вариантов. Лицензия — Apache-2.0. README также заявляет сопоставление с Evo 2 40B для предсказания эффектов вариантов, но подробности результата в доступном описании отсутствуют.

Это исследовательский чекпойнт RaR-Medicine static R0, созданный на базе плотной языковой модели Qwen3-4B-Instruct-2507 с 3,7 млрд параметров. Модель дообучена для эксперимента, обозначенного как matched dense; README указывает шаг 14 и наличие весов BF16 для инференса. Чекпойнт предназначен для генерации текста в медицинском контексте. Его можно применять для экспериментальной оценки ответов на медицинские запросы и диалогов на эту тему. Поддерживаются чатовый режим и контекст до 262 144 токенов; из доступных данных нельзя установить поддерживаемые языки и конкретные медицинские задачи. Модель распространяется по лицензии Apache-2.0. README ограничивает назначение исследовательским использованием; небольшой номер шага указывает на промежуточный экспериментальный чекпойнт, поэтому его пригодность для клинического применения не подтверждена.

Red Pill V1.1 — языковая модель для фармацевтических исследований и разработки, созданная автором репозитория и дообученная на наборе RED-PILL из 1 047 многоходовых инструкций. В метаданных указаны 837,6 млн параметров, архитектура семейства Llama с классом LlamaForCausalLM, формат safetensors и контекст до 131 072 токенов. README называет базой MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-heretic; веса LoRA слиты с базовой моделью, поэтому адаптер отдельно не требуется. Модель предназначена для диалоговых сценариев в области поиска лекарств, анализа молекул и ADMET-профилей, подбора стратегий виртуального скрининга, разработки лекарственных форм, выбора вспомогательных веществ, химического синтеза и регуляторных вопросов. Карточка также заявляет поддержку анализа научной литературы. Модель ориентирована на английский язык и фармацевтические R&D-запросы; лицензия MIT. В небольшой оценке на 32 экспертных вопросах лучший результат был в принятии решений (41,4%), а авторы отмечают ограничения в сложных многошаговых задачах и узкую область обучения.

wukevin/tcr-bert — модель на базе архитектуры BERT для анализа последовательностей T-клеточных рецепторов. Разработчик описывает её как трансформерную модель, обученную предсказывать замаскированные аминокислоты и классифицировать последовательности по меткам антигенов из PIRD. Модель предназначена для исследовательского анализа связывания TCR с антигенами; в примерах приведены последовательности, связанные с антигенами цитомегаловируса и гриппа. Модель содержит около 70,8 млн параметров, принимает последовательности длиной до 64 токенов и доступна в формате PyTorch. Её применение ориентировано на биологические последовательности, а не на обычный текст. В предоставленной карточке не указаны лицензия и результаты оценки качества, поэтому условия использования и точность предсказаний по этим данным установить нельзя.