IV.6Научные исследования, математика и новые материалы

PromoGen2 — специализированная авторегрессионная языковая модель на архитектуре GPT-2, предназначенная для генерации и оценки последовательностей прокариотических промоторов. Разработчики модели не указаны. Она ориентирована на создание видоспецифичных последовательностей, в том числе для организмов, по которым мало экспериментально подтверждённых данных. Модель принимает последовательности и параметры генерации, включая контекстную метку, температуру и top-p, и выдаёт новые варианты последовательностей. Для оценки вариантов можно вычислять их правдоподобие по модели с помощью описанной в карточке функции score. Контекст модели — 256 токенов; в репозитории указаны веса safetensors и библиотека Transformers. Модель предназначена для исследовательских задач синтетической биологии, связанных с проектированием и предварительной оценкой промоторных последовательностей. Генерация и оценка моделью сами по себе не подтверждают биологическую активность последовательности; её следует проверять экспериментально. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

ProTrek_650M_UniRef50_text_encoder — модель SentenceTransformer, представленная в формате, совместимом с библиотекой sentence-transformers. Она предназначена для преобразования текстов о белках в векторы размерности 1024 и сравнения их по косинусному сходству; карточка указывает сценарии семантического поиска, кластеризации и извлечения признаков. Архитектура текстового энкодера основана на BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext. Максимальная длина последовательности — 512 токенов. Модель входит в мультимодальную систему ProTrek, которая совместно обучает представления текстов, аминокислотных последовательностей и структур белков с помощью контрастивного обучения. Этот репозиторий содержит текстовый энкодер в формате SentenceTransformer; метаданные классифицируют его как дообученную модель на базе westlake-repl/ProTrek_650M_UniRef50. Лицензия — MIT. Модель подходит для поиска и сопоставления текстовых описаний белков. Доступные сведения не подтверждают, что этот репозиторий сам принимает последовательности или структуры белков: для таких сценариев нужны соответствующие энкодеры ProTrek. Текстовый энкодер основан на англоязычной PubMedBERT, поэтому его применение к другим языкам не подтверждено.

vandijklab/pythia-160m-c2s — модель EleutherAI Pythia-160m, дообученная командой Cell2Sentence для работы с данными одноклеточного секвенирования РНК (scRNA-seq). Она использует архитектуру GPT-NeoX и генерирует продолжения последовательностей генов, упорядоченных по уровню экспрессии и представленных как «предложения клеток». Веса содержат около 151,9 млн параметров, контекст — до 9 200 токенов. Модель обучена на наборе иммунных клеток и предназначена для условной и безусловной генерации клеток, а также предсказания типа клетки. Для условной генерации можно задавать тип клетки в промпте; модель также оценивали по классификации KNN и расстоянию Gromov–Wasserstein. Для генерации полных клеток авторы рекомендуют GPU A100 из-за требований к скорости и памяти. Веса распространяются по лицензии CC BY 4.0.

RiNALMo Mega — модель семейства RiNALMo, разработанная Rafael Josip Penić, Tin Vlašić, Roland G. Huber, Yue Wan и Mile Šikić; эта версия опубликована командой MultiMolecule как неофициальная реализация. Это плотная BERT-подобная модель с 196,6 млн параметров, предварительно обученная на последовательностях некодирующей РНК с помощью masked language modeling. Она принимает последовательности нуклеотидов РНК, а задача fill-mask позволяет предсказывать замаскированные нуклеотиды; также модель можно использовать для извлечения признаков последовательностей и дообучать для downstream-задач. Контекст составляет 1024 токена. При обучении использовались RNAcentral, Rfam, Ensembl Genome Browser и Nucleotide; U заменялась на T, а токенизатор может выполнять обратное преобразование. Модель предназначена для анализа последовательностей РНК и может служить основой для задач предсказания структуры и других задач классификации или регрессии после дообучения. Она не дообучена для конкретной downstream-задачи, поэтому готовые предсказания классов или свойств последовательности от неё ожидать не следует. Репозиторий распространяется по лицензии AGPL-3.0.

TxGravity-30B-A5B — специализированная языковая модель компании Trillion Labs для прогнозирования терапевтических свойств. Она дообучена методом supervised fine-tuning на базе trillionlabs/Gravity-30B-A5B-Base и использует архитектуру GravityMoE, совместимую с DeepSeek-V3. По README, модель содержит 29,56 млрд параметров, из которых активно 5,34 млрд; метаданные указывают 3,8 млрд параметров. Поддерживается контекст до 131 072 токенов, веса доступны в формате safetensors, запуск предусмотрен через Transformers. Модель обучена на инструкционных данных Therapeutic Data Commons для 57 задач. Она принимает текстовые запросы в формате instruction → answer и выдаёт текстовые ответы: метки (A)/(B) для бинарной классификации или нормализованные значения от 000 до 1000 для регрессии. Сценарии включают прогнозирование ADMET и токсичности малых молекул, взаимодействий лекарств с мишенями, белок-белковых и пептид-MHC взаимодействий. README сообщает, что на 53 из 57 оценивавшихся задач модель превзошла TxGemma-27B. Модель не предназначена для общего диалога и не является safety-aligned ассистентом; её ответы рассчитаны на терапевтические запросы в стиле TDC. Предсказания могут быть неточными, смещёнными или неполными, поэтому их необходимо независимо проверять до экспериментального, клинического или иного практического применения. Лицензия — Apache-2.0.

ghadeermobasher/WELT-PubMedBERT-BC5CDRChemical — модель Ghadeer Mobasher, созданная в рамках проекта WeLT совместно с Olga Krebs, Wolfgang Müller и Michael Gertz. Это специализированная модель для token classification и распознавания химических сущностей в биомедицинских текстах, в частности в корпусе BC5CDR-Chemical. Модель основана на PubMedBERT и дообучена для biomedical named entity recognition с использованием WeLT — cost-sensitive подхода, учитывающего дисбаланс классов при обучении. Она предназначена для выделения упоминаний химических веществ и лекарственных соединений в научных публикациях и последующей обработки средствами biomedical text mining. Модель работает с текстом, а не с изображениями или аудио; точный размер, длина контекста, языковой охват и параметры архитектуры для данного репозитория в доступной карточке модели явно не указаны. Сильная сторона модели — специализация на биомедицинской лексике и применение взвешенной функции потерь, направленное на снижение ошибок, связанных с преобладанием неименованных токенов. Ограничения включают узкую предметную область, зависимость качества от сходства входных текстов с BC5CDR и отсутствие подтверждённых данных о качестве на других корпусах. Лицензия в доступных материалах для этой модели не указана.

Ares-ec-moe-4b-86k — белковая языковая модель HazemLab, обученная с нуля на UniRef50 для заполнения маскированных аминокислот и получения представлений белковых последовательностей. Это двунаправленный энкодер с 20 слоями и разреженной архитектурой Mixture-of-Experts: первые 10 слоёв используют плотные блоки, а последние 10 — MoE с маршрутизацией expert choice. В модели около 4,22 млрд параметров, при обработке каждого токена активно примерно 0,44 млрд; чекпойнт сохранён в формате safetensors с весами float32. Модель подходит для скоринга последовательностей, извлечения эмбеддингов остатков и белков, а также для экспериментального анализа эффектов аминокислотных замен. Она обучалась 86 000 шагов на 68 млн последовательностей UniRef50. Обучающий контекст — 1024 остатка; работа с более длинными последовательностями возможна благодаря RoPE, но её качество не проверено. Модель принимает только одноцепочечные аминокислотные последовательности: она не обрабатывает структуры, MSA, мультимеры или нуклеотидные последовательности и не генерирует белки авторегрессионно. Это исследовательский артефакт, а не производственный энкодер: в маршрутизаторе expert choice известен дефект нормализации, а токены могут не попасть ни к одному эксперту. Качество прогнозирования эффектов вариантов сильно зависит от типа анализа, а смещения UniRef50 отражаются в обученных представлениях. Модель не валидирована для клинических, диагностических или биобезопасностных решений. Лицензия — MIT.

BarcodeBERT — предварительно обученная модель на архитектуре BERT, разработанная для анализа данных ДНК-баркодирования насекомых и таксономической классификации. Карточка представляет её как модель для извлечения признаков в задачах анализа биоразнообразия; архитектура репозитория — BertForTokenClassification, размер — 37,9 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для извлечения признаков и классификации последовательностей ДНК-баркодов насекомых. Доступны веса PyTorch и Safetensors; лицензия MIT. Метаданные указывают английский язык, однако основное содержимое модели — биологические последовательности, поэтому английский не следует считать основным языком для пользовательского ввода.

Carbon-3B — авторегрессионная геномная языковая модель семейства Carbon, разработанная командой HuggingFaceBio. Модель с плотной decoder-only архитектурой LlamaForCausalLM содержит 3,5 млрд параметров и обучена на последовательностях ДНК и РНК, преимущественно эукариотических. Для ДНК используется токенизация неперекрывающимися 6-мерами, а для английского текста — словарь Qwen3 BPE. Модель предназначена для генерации и восстановления геномных последовательностей, предсказания эффектов вариантов и анализа изменений мотивов. Нативный контекст составляет 32 768 токенов, что соответствует примерно 197 тыс. пар оснований; при инференсе его можно расширить до 65 536 токенов (около 393 тыс. пар оснований) с помощью YaRN. По оценке авторов, Carbon-3B сочетает конкурентные результаты на ряде геномных задач с высокой скоростью инференса. Модель доступна в формате safetensors и совместима с Transformers; для токенизатора требуется trust_remote_code=True. Лицензия — Apache-2.0. Обучение преимущественно на эукариотических данных ограничивает специализацию на прокариотах; качество извлечения информации резко снижается при расширении контекста до 128 тыс. токенов. При работе с генетическими данными следует учитывать, как выбранный провайдер обрабатывает входы и результаты.

CENO-1B-base — базовый чекпойнт предобучения геномной модели CENO, разработанный CladeTeam. Он предназначен для генерации последовательностей ДНК, извлечения эмбеддингов и последующей адаптации к задачам геномики. В отличие от вариантов CENO-P, этот чекпойнт не описан как специализированный инструмент для предсказания эффектов вариантов. Модель использует причинную языковую архитектуру Nemotron-H с гибридным backbone Mamba, attention и смесью экспертов (MoE), посимвольный токенизатор и не принимает MSA-входы. README сообщает о 1,3024 млрд параметров и 38 слоях, тогда как метаданные Hugging Face указывают 638,1 млн параметров; точный размер модели по источникам расходится. Контекст составляет 1 048 576 токенов. Модель работает с последовательностями ДНК; лицензия — Apache-2.0. Для загрузки README указывает использование trust_remote_code=True.

CENO Base 1B Preview — базовая языковая модель для работы с последовательностями ДНК, опубликованная CladeTeam. Модель создана на основе NVIDIA Nemotron-H: в репозитории переименована реализация Transformers, а веса оставлены без изменений. Она использует причинную языковую архитектуру и символьный токенизатор CENO; для загрузки требуется включить доверие к коду репозитория в Transformers. Модель предназначена для оценки правдоподобия последовательностей ДНК, получения представлений и дальнейшего дообучения на данных конкретных видов или задач. Для работы кода нужны PyTorch и стек Mamba/Triton; при отсутствии mamba-ssm и causal-conv1d можно отключить ядра Mamba и использовать реализацию на чистом PyTorch. Выпуск обозначен как предварительный. Лицензия — Apache-2.0.

ChatNT — разработанная InstaDeep мультимодальная разговорная модель для вопросов о последовательностях ДНК, РНК и белков. Она сочетает энкодер Nucleotide Transformer v2 на 500 млн параметров, модуль Perceiver Resampler и замороженный декодер Vicuna-7B; ответы формируются авторегрессионно на английском языке. Модель принимает текстовый запрос с маркером последовательности и соответствующую последовательность ДНК, разбитую на перекрывающиеся 6-меры; вход ограничен 2048 токенами, примерно 12 тысячами оснований ДНК. ChatNT дообучена по инструкциям на корпусе для 27 задач с ДНК, РНК и белками. Она предназначена для диалогового анализа биологических последовательностей и выдаёт текстовые ответы, включая метки классов, мульти метки и числовые значения. Модель ограничена задачами и форматами, представленными при обучении; может ошибаться на новых входах и допускать ошибки в числовых прогнозах. Она не предназначена для клинической диагностики, а важные результаты следует проверять экспериментально или специализированными биоинформатическими методами. Условия лицензирования в предоставленных данных не описаны.

Dayhoff-170m-UR50-BRu — модель для генерации белковых последовательностей из семейства Dayhoff, разработанного исследовательской командой, перечисленной в карточке. Она предназначена для исследовательских задач белкового языкового моделирования, включая безусловный дизайн последовательностей и оценку эффектов мутаций без дополнительного обучения. Архитектура сочетает слои Mamba и Transformer с механизмом смеси экспертов (MoE); модель имеет 23,6 млн параметров и контекст до 262 144 токенов. Модель обучена авторегрессионному предсказанию последовательностей в направлениях N→C и C→N, что поддерживает заполнение пропусков в произвольном порядке. В карточке Dayhoff также описаны условный дизайн белковых каркасов и работа с гомологами, но эти сценарии приведены для семейства в целом и не подтверждены отдельно для данного чекпойнта. Модель не предназначена для естественного языка, ДНК или других биологических последовательностей; реалистичность сгенерированных белков не гарантируется. Лицензия — MIT.

DNA_bert_3 — предварительно обученная модель DNABERT, разработанная командой проекта DNABERT для представления последовательностей ДНК в виде «языка генома». Это BERT-модель с 113,3 млн параметров, предназначенная прежде всего для предсказания замаскированных фрагментов ДНК; представления модели также применяются в задачах классификации последовательностей и анализа геномных мотивов. Модель принимает последовательности ДНК в формате k-mer и поддерживает контекст до 512 токенов. Это специализированная биологическая модель, а не модель для естественного языка. В репозитории указана лицензия Apache-2.0. Для загрузки через Transformers требуется доверенная загрузка пользовательского кода; проектная документация также описывает обучение и инференс на GPU.

Taykhoom Dalal поддерживает этот перенос DNABERT-6mer в формате Hugging Face: BERT-base для анализа последовательностей ДНК, предобученный на референсном геноме человека GRCh38. Модель использует 12 слоёв, 12 голов внимания и размерность эмбеддингов 768; она предсказывает замаскированные токены в задаче fill-mask. Входную последовательность необходимо заранее разбить на перекрывающиеся 6-меры с шагом 1 и разделить их пробелами. Контекст составляет 512 токенов. Модель подходит для восстановления пропущенных 6-меров и получения представлений ДНК, которые можно использовать как основу для дообучения на задачах классификации последовательностей. README сообщает о проверке соответствия исходному чекпойнту DNABERT-6mer. Последовательности короче шести нуклеотидов не содержат 6-меров и не подходят для описанных операций с токенами. В репозитории находятся веса и файлы токенизатора; код архитектуры загружается из Taykhoom/BERT-updated. Модель распространяется по лицензии Apache-2.0.

yashm/gemma4-12b-bioinfo — дообученная модель на основе Gemma 4 12B Instruction от Google DeepMind, предназначенная для ответов на вопросы по биоинформатике, геномике и вычислительной биологии. Адаптер LoRA обучен методами QLoRA и SFT, затем объединён с базовой моделью; репозиторий содержит веса для прямого использования через Hugging Face Transformers. Модель рассчитана на помощь в исследованиях и обучении, включая работу с транскриптомикой, протеомикой, анализом последовательностей, биологическими базами данных и распространёнными биоинформатическими инструментами. Архитектура Gemma 4 Unified поддерживает мультимодальные входы, однако карточка этой производной модели описывает прежде всего ответы на текстовые вопросы. Лицензия — Gemma. Модель не является медицинским устройством и не предназначена для диагностики, выбора лечения или профессиональных медицинских рекомендаций.

GENA-LM BigBird Base T2T — открытая предобученная языковая модель AIRI Institute для анализа длинных последовательностей человеческой ДНК. Это трансформер BigBird с архитектурой BigBirdForMaskedLM, примерно 137,8 млн параметров и разреженным вниманием. Модель обучена предсказывать замаскированные фрагменты геномной последовательности; токенизатор BPE обучен на ДНК и использует словарь размером 32 тысячи токенов. Контекст составляет до 4096 BPE-токенов, что соответствует примерно 36 тысячам нуклеотидов. Предобучение выполнено на сборке человеческого генома T2T с аугментацией вариантами SNP из данных 1000 Genomes. Модель подходит для извлечения представлений последовательностей и адаптации к задачам геномной аннотации; сама по себе она не является специализированным предсказателем конкретных признаков, например сайтов сплайсинга. README не приводит лицензию, поэтому условия использования по имеющимся данным уточнить нельзя.

Taykhoom Dalal поддерживает минимальный порт модели GENA-LM для анализа длинных последовательностей человеческой ДНК. Это плотная модель masked language modeling на архитектуре BigBird с блочно-разреженным вниманием и токенизацией BPE; в ней 137,8 млн параметров, а максимальная длина контекста составляет 4096 токенов. Исходный чекпойнт обучен AIRI Institute на сборке генома человека T2T с добавлением вариантов SNP из 1000 Genomes и gnomAD. Модель предсказывает замаскированные токены ДНК и может создавать представления последовательностей для последующей тонкой настройки. Порт вычисляет блочно-разреженное внимание в чистом PyTorch без зависимости от DeepSpeed; для коротких последовательностей до 256 токенов внимание становится плотным. Репозиторий распространяется по лицензии MIT. Модель предназначена для биологических последовательностей, а не для естественного языка. Исходный код не включает NSP-голову и pooler; точное совпадение исполнения с прежним ядром DeepSpeed/Triton не заявлено, хотя для длинных последовательностей проверено соответствие математической схеме разреженного внимания.

GENERanno-eukaryote-0.5b-base — базовая плотная модель семейства GENERanno, разработанная для работы с эукариотическими последовательностями ДНК. Она содержит 493,2 млн параметров и обучена на наборе данных объёмом 386 млрд пар оснований; длина контекста составляет 8192 токена, что соответствует заявленным в карточке 8 тысячам пар оснований. Модель использует архитектуру GenerannoForMaskedLM и предназначена для предсказания замаскированных участков последовательности. Модель ориентирована на геномную аннотацию: поиск расположения генов, предсказание их функций и разбор структуры генов. В README также заявлена сопоставимая с GENERator производительность на Genomic Benchmarks, NT tasks и Gener tasks. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Авторы отмечают, что модель находится в разработке и технические подробности будут дополняться.

GENERanno-prokaryote-0.5b-base — базовая геномная модель GenerTeam для анализа прокариотической ДНК. Это плотная модель с архитектурой GenerannoForMaskedLM и примерно 493,2 млн параметров, обученная на наборе данных объёмом 715 млрд пар оснований. Она обрабатывает последовательности с разрешением до одного нуклеотида и поддерживает контекст до 8192 токенов, соответствующих парам оснований. Модель предназначена для заполнения маскированных участков ДНК и может применяться как основа для задач геномного анализа, включая классификацию последовательностей и разметку токенов. В карточке также описана отдельная производная модель для аннотации метагеномных последовательностей, но этот репозиторий содержит базовую модель, а не аннотатор. Модель распространяется по лицензии MIT. Данные карточки указывают на специализацию на прокариотических геномах; результаты и характеристики отдельной модели-аннотатора не следует автоматически переносить на эту базовую модель.

gLM2_650M — геномная языковая модель tattabio на 650 млн параметров, обученная на наборе данных OMG. Это трансформер-энкодер с целью masked language modeling: он обрабатывает геномный контиг как последовательность кодирующих белок участков CDS и межгенных участков IGS. CDS кодируются токенами аминокислот, IGS — токенами отдельных нуклеотидов; специальные токены обозначают положительную или отрицательную цепь. В обновлённой версии контекст увеличен до 4096 токенов. Модель предназначена для анализа геномных последовательностей, в частности для восстановления замаскированных токенов и получения представлений геномных участков. При подготовке входа аминокислоты должны быть в верхнем регистре, а нуклеотиды — в нижнем, чтобы избежать неоднозначности токенов. Данные OMG были очищены от близких дубликатов методом SemDedup. Репозиторий распространяется по лицензии Apache-2.0.

GROVER — предварительно обученная языковая модель генома, разработанная PoetschLab. Она использует архитектуру BERT и предсказывает замаскированные токены в последовательностях ДНК, учитывая их контекст; модель предназначена для анализа геномных последовательностей. Чекпойнт содержит 113,7 млн параметров, работает в PyTorch и принимает контекст длиной до 512 токенов. При токенизации BPE представление последовательности может заметно меняться на участках короче 50 нуклеотидов; на более длинных участках также следует учитывать края последовательности. Авторы рекомендуют добавлять по 100 нуклеотидов с обоих концов, чтобы повысить соответствие исходной токенизации. Модель распространяется под лицензией, которая в предоставленных данных не указана.

HIV-BERT — модель семейства BERT, разработанная damlab как специализированное продолжение предварительного обучения ProtBert-BFD для задач, связанных с ВИЧ. Модель использует архитектуру BertForMaskedLM и кодирует каждую аминокислоту отдельным токеном; объём составляет 503,3 млн параметров, формат весов — PyTorch. В метаданных указан контекст длиной до 40 000 токенов. Модель обучена предсказывать замаскированные аминокислоты и может применяться для поиска вероятных замен в последовательностях ВИЧ, выявления необычных мутаций и артефактов секвенирования, а также как основа для дообучения классификаторов, специфичных для ВИЧ. Для дополнительного предварительного обучения использованы 1 790 полных геномов ВИЧ из базы Los Alamos, представленные примерно 3,9 млн аминокислотных токенов; обучение проводилось на фрагментах по 256 аминокислот с маскированием 15% токенов. Лицензия — MIT. Модель работает с аминокислотными последовательностями, а не с обычным текстом.

HyenaDNA — предобученная геномная языковая модель, разработанная авторами из Stanford и их соавторами. Этот чекпойнт LongSafari содержит вариант tiny с контекстом до 16 тысяч нуклеотидов; в метаданных указано 460,3 тыс. параметров. Модель построена на Hyena-операторах, которые заменяют механизм внимания субквадратичными свёртками и пропусканием сигналов, и использует посимвольную токенизацию нуклеотидов для работы с последовательностями на уровне отдельных оснований. Модель предназначена для предсказания следующего нуклеотида и может служить основой для задач классификации геномных последовательностей, например выявления регуляторных элементов или определения вида. Она предобучена на референсном геноме человека HG38. Контекст этого конкретного варианта ограничен 16 тысячами нуклеотидов, хотя семейство HyenaDNA включает чекпойнты с существенно более длинным контекстом. Репозиторий распространяется по лицензии BSD 3-Clause.

Это дообученная модель Intern-S1-mini от jiosephlee для ранжирования результатов переноса AMES assay на уровне записей. Она принимает текстовые A/B-промпты переноса assay и предназначена для оценки и упорядочивания кандидатов в рамках этой задачи, а не для предсказания свойств молекул общего назначения. Модель основана на плотной архитектуре Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст до 65 536 токенов; для работы используются Transformers и файлы весов safetensors. Контрольная точка выбрана по валидационной метрике KNN regression MAE@3; README также приводит результаты на отложенном тестовом ранжировании и сравнение с Morgan fingerprint-бейзлайнами. Модель обучена на датасете AMES general V27 с soft-target loss. В карточке указано, что загрузка требует trust_remote_code=True для пользовательского токенизатора. Сведения о лицензии и поддерживаемых естественных языках не приведены.

Intern-S1-mini molecule transfer V9.0.2 TDC V2 — Skin Reaction — это дообученная языковая модель jiosephlee на базе jiosephlee/Intern-S1-mini-lm. Чекпойнт отобран по валидации для ранжирования молекул в задаче Skin Reaction; обучение проводилось на объединённом наборе из 13 536 записей TDC и 85 321 прямой записи Starling с дополнительными косвенными примерами. Модель построена на плотной архитектуре Qwen3 с причинной языковой моделью Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст до 65 536 токенов. В тестовом сравнении она достигла бинарного macro-F1@5 0,6192 и превзошла оба варианта Morgan по этой метрике, но уступила им по Top-1 hit@3; результат Spearman@3 отрицательный. Это специализированный экспериментальный чекпойнт для оценки и ранжирования молекулярных кандидатов по реакции кожи, а не универсальный предиктор химических свойств. Для загрузки требуется Transformers и trust_remote_code=True для пользовательского токенизатора. Лицензия в предоставленных сведениях не указана.

LLaVA-Med v1.5 Mistral 7B — медицинская визуально-языковая модель, разработанная Microsoft на основе архитектуры LLaVA-Mistral. Она предназначена для исследователей, изучающих обработку биомедицинских изображений и ответы на вопросы по ним, а также для воспроизведения результатов исследования. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы; её размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Обучение опирается на набор PMC-15M с 15 млн пар изображений и подписей из биомедицинских статей; в данных представлены, среди прочего, микроскопия, рентгенография и гистология. Модель рассчитана на английский язык и поддерживает диалоговый режим. Лицензия — Apache-2.0. Модель предназначена для исследований, а не для клинического применения или принятия медицинских решений. Она проверена на ограниченном наборе биомедицинских бенчмарков, может ошибаться и наследует ограничения LLaVA; данные обучения могут отражать смещения научных публикаций.

MicroGlot — специализированная языковая модель ДНК для микробной геномики, разработанная Athan Z. Li и соавторами. Это 23-слойный декодерный трансформер с разреженной архитектурой mixture-of-experts, обученный предсказывать следующий нуклеотид на корпусе из 378,3 млрд нуклеотидов и 3,70 млн последовательностей от 99 700 видов микроорганизмов. В карточке указано 2,98 млрд параметров, из которых активно используются 479 млн на токен; метаданные репозитория указывают 255,6 млн параметров. Модель принимает последовательности ДНК и, в основной версии, сведения о виде организма. Таксономия представлена гиперболическими вложениями и используется для управления маршрутизацией экспертов. Она предназначена для извлечения признаков и генерации последовательностей ДНК в задачах микробной геномики. Для последовательностей без известного вида предусмотрена версия MicroGlot-plain; при таксономической классификации рекомендуется использовать её, чтобы не передавать модели целевую метку как условие. Для работы требуются Transformers, NVIDIA GPU и FlashAttention-2; README сообщает о тестировании на Linux. Лицензия — CC BY 4.0. Размер параметров в README расходится с метаданными репозитория, а описание не приводит результаты конкретных бенчмарков.

mlm-baseline-hg38 — маскированная языковая модель нуклеотидных последовательностей генома человека hg38, опубликованная Songlab. Она принимает закодированные последовательности ДНК и для замаскированных позиций предсказывает распределение вероятностей по нуклеотидам A, C, G и T. Модель использует сверточную нейронную сеть, обученную методом masked language modeling; архитектура устроена так, чтобы согласованно обрабатывать последовательность и её обратный комплемент. Модель подходит для оценки того, насколько вариант последовательности неожиданен в контексте генома, и для извлечения признаков последовательности. В README указано, что это частичный чекпойнт, выпущенный примерно на половине запланированного цикла обучения до снижения learning rate; для воспроизводимых экспериментов следует закрепить ревизию. Веса опубликованы в формате safetensors, лицензия — MIT.

Molexar-1-10M-PT — базовая предварительно обученная модель семейства Molexar от авторов проекта Molexar. Это плотная авторегрессионная языковая модель для молекулярных последовательностей Fragment-SELFIES; декодер построен по схеме Gemma2 с RoPE, grouped-query attention, чередованием слоёв скользящего и полного внимания и logit softcapping. Модель содержит около 10,5 млн параметров, использует контекст до 256 токенов и распространяется в формате PyTorch по лицензии MIT. Модель предназначена для безусловной генерации молекул и продолжения последовательности с заданного фрагмента, включая раннюю генерацию идей для дизайна лекарств. Она предобучена на корпусе молекулярных строк, полученных из UniChem с дополнительным охватом лигандов обучающих наборов SAIR и PLINDER. В опубликованной оценке авторов валидность сгенерированных молекул составила 100%, однако это не подтверждает их биологическую активность, безопасность или синтетическую доступность. Базовая версия не обучена следовать условиям по свойствам, фармакофорам, белковым последовательностям или карманам; для таких сценариев авторы рекомендуют Molexar-1-10M-IT. Модель выдаёт молекулярные строки, не управляет стереохимией и явным 3D-представлением, а токенизатор не содержит токен йода [I]. Результаты требуют химической проверки и экспериментальной валидации.