II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейC2S-Scale-Gemma-2-2B — языковая модель van Dijk Lab (Йельский университет) в сотрудничестве с Google Research и Google DeepMind, дообученная на базе Gemma 2 2B для анализа данных одноклеточного секвенирования РНК. Она преобразует профили экспрессии генов в упорядоченные текстовые последовательности генов и использует их для предсказаний и генерации. Модель построена на декодерном трансформере Gemma2ForCausalLM, содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для аннотации типов клеток и тканей, анализа одноклеточных данных, ответа на биологические вопросы, описания кластеров и предсказания изменений при возмущениях. Также она может генерировать профили экспрессии генов и служить основой для дальнейшей специализации. Обучение проводилось на более чем 57 миллионах клеток человека и мыши из свыше 800 наборов данных CellxGene и Human Cell Atlas. Вход и выход — текст; инструкции и списки генов следует оформлять в ожидаемом моделью формате. Модель ориентирована на исследования в одноклеточной геномике и вычислительной биологии. Её знания ограничены генами, типами клеток и условиями, представленными в обучающих данных; качество на новых типах клеток, технологиях и существенно отличающихся форматах запросов не гарантируется и требует проверки. Лицензия — CC BY 4.0.
Карточка модели introvoyz045/Carbon-3B на Hugging Face совпадает с карточкой HuggingFaceBio/Carbon-3B, поэтому описание составлено по ней. Carbon-3B — авторегрессионная геномная языковая модель семейства Carbon, разработанная командой HuggingFaceBio. Модель с плотной decoder-only архитектурой LlamaForCausalLM содержит 3,5 млрд параметров и обучена на последовательностях ДНК и РНК, преимущественно эукариотических. Для ДНК используется токенизация неперекрывающимися 6-мерами, а для английского текста — словарь Qwen3 BPE. Модель предназначена для генерации и восстановления геномных последовательностей, предсказания эффектов вариантов и анализа изменений мотивов. Нативный контекст составляет 32 768 токенов, что соответствует примерно 197 тыс. пар оснований; при инференсе его можно расширить до 65 536 токенов (около 393 тыс. пар оснований) с помощью YaRN. По оценке авторов, Carbon-3B сочетает конкурентные результаты на ряде геномных задач с высокой скоростью инференса. Модель доступна в формате safetensors и совместима с Transformers; для токенизатора требуется trust_remote_code=True. Лицензия — Apache-2.0. Обучение преимущественно на эукариотических данных ограничивает специализацию на прокариотах; качество извлечения информации резко снижается при расширении контекста до 128 тыс. токенов. При работе с генетическими данными следует учитывать, как выбранный провайдер обрабатывает входы и результаты.
mrm8488/chEMBL_smiles_v1 — языковая модель RoBERTa, обученная с нуля разработчиком mrm8488 на молекулярных строках SMILES из набора примерно 438 тысяч очищенных записей. Модель использует архитектуру masked language modeling: по строке с замаскированными токенами она предсказывает пропущенные части. В метаданных указаны 29,7 млн параметров, контекст до 514 токенов и задача fill-mask. Модель предназначена для изучения закономерностей в представлении молекул и заполнения частей SMILES, что может помочь исследователям в генерации и разработке новых молекулярных структур. Она не выдаёт оценку биологической активности и сама по себе не подтверждает, что предложенная структура является лекарством. Карточка не сообщает лицензию, поэтому условия использования определить нельзя.
DarkBERT — модель семейства BERT, разработанная для исследования языка даркнета и описанная в работе «DarkBERT: A Language Model for the Dark Side of the Internet» (ACL 2023). Она предварительно обучена на корпусе текстов из даркнета и предназначена для исследовательских и академических задач, связанных с анализом таких текстов. В каталоге указана задача fill-mask: модель предсказывает скрытые токены в английском тексте. Доступ предоставляется после рассмотрения заявки; использовать модель разрешено только для некоммерческих исследований, а распространение её файлов запрещено. Лицензия — CC BY-NC 4.0.
Модель victorbarra/ddpm-celebahq-finetuned-butterflies-2epochs — диффузионная модель безусловной генерации изображений на основе DDPMPipeline из библиотеки Diffusers. Она создаёт изображения без текстового запроса; README показывает загрузку модели и получение одного изображения. Название репозитория указывает на дообучение модели CelebA-HQ на изображениях бабочек в течение двух эпох, однако README не приводит подробностей о наборе данных или качестве результатов. Модель распространяется в форматах Diffusers и Safetensors по лицензии MIT.
google/ddpm-church-256 — безусловная диффузионная модель генерации изображений на архитектуре Denoising Diffusion Probabilistic Models (DDPM), опубликованная Google в библиотечном формате Diffusers. Модель создаёт изображения церквей размером 256×256 пикселей по процессу последовательного удаления шума; текстовый запрос или другое условие для генерации не требуется. Модель предназначена для синтеза изображений и экспериментов с диффузионной генерацией. В карточке приведены общие сведения о DDPM и примеры использования конвейера Diffusers. Лицензия — Apache-2.0. В README не приведены отдельные показатели качества или сведения об обучающих данных именно этой версии; генерация безусловная, поэтому управлять содержанием изображения текстовыми подсказками нельзя.
AmelieSchreiber/esm2_t6_8M_finetuned_cafa5_v2 — модель на основе ESM-2, предварительно дообученная для предсказания функций белков в задаче CAFA-5. Она принимает аминокислотную последовательность и классифицирует её по терминам Gene Ontology (GO), выполняя многометочную классификацию. В карточке указано, что модель прошла четыре эпохи предварительного дообучения и предназначена для дальнейшего дообучения на втором этапе с помощью LoRA, включая обучение с весами классов для учёта иерархии GO. Модель использует архитектуру ESM с классификационной головой EsmForSequenceClassification; размер — 9,8 млн параметров, нативная длина контекста — 1026 токенов. Репозиторий содержит веса PyTorch. Лицензия — MIT. Это специализированный исследовательский чекпойнт для предсказания функций белков, а README рекомендует дополнительное дообучение перед применением.
Synthyra/ESMFold2-300 — экспериментальная модель Synthyra для предсказания пространственной структуры белков и оценки уверенности предсказания. Она упаковывает чекпойнт biohub/ESMFold2-Experimental-Fast-base300M-step1500k с FastPLMs runtime и адаптированной головой уверенности для Transformers. В основе — замороженный 300-миллионный ESM++ backbone и 24 блока сворачивания; модель принимает аминокислотные последовательности и типизированные описания комплексов белковых цепей или молекул. Доступны оценки pLDDT, PAE, pTM и ipTM. Модель работает без MSA-кондиционирования: входы и признаки, полученные из MSA, не поддерживаются. Значения суффикса 300 относятся к масштабу backbone, а не к общему числу параметров. Классификационные классы Transformers используют backbone, но их головы инициализированы заново и требуют дообучения; их исходные логиты не следует считать готовыми предсказаниями. Уверенность оценивалась на тестовых целях, но эти результаты сами по себе не подтверждают эквивалентность качества структур production-версии ESMFold2. Модель опубликована под лицензией MIT. Для выполнения требуется Transformers с загрузкой через trust_remote_code=True; описанный режим использует BF16 backbone и CUDA BF16 autocast для FP32 параметров сворачивания, а FP8 не поддерживается.
Synthyra/ESMFold2-600 — экспериментальная модель для предсказания пространственной структуры белков, опубликованная Synthyra на основе экспериментального чекпойнта Biohub. Она принимает аминокислотные последовательности и типизированные описания молекулярных комплексов, а также может выдавать структуру в формате mmCIF. Модель включает замороженную языковую основу ESM++ масштаба 600 млн параметров и 24 блока сворачивания; к ней добавлена обученная Synthyra голова оценки уверенности, которая возвращает pLDDT, PAE, pTM и ipTM. Модель предназначена для предсказания структур отдельных белков и комплексов, а также оценки уверенности результатов. В README приведена оценка корреляции confidence-метрик на тестовых наборах, однако она не подтверждает эквивалентность качества сворачивания производственной ESMFold2. Чекпойнт не использует MSA-кондиционирование; для работы требуется Transformers с включённым trust_remote_code. Основа использует BF16, параметры сворачивания — FP32 с CUDA BF16 autocast; FP8 не поддерживается. Для классификации последовательностей и остатков создаются новые, не обученные головы, поэтому их нужно дообучить перед использованием. Лицензия — MIT.
patyns/Ethnicity_Test_v003 — модель классификации изображений, обученная с помощью AutoTrain. Это плотная модель семейства Vision Transformer (ViT) с архитектурой ViTForImageClassification и 113,2 млн параметров. Она решает задачу многоклассовой классификации изображений; в карточке приведены метрики валидации: accuracy 0,796 и macro F1 0,797. По названию модели и обучающего набора она предназначена для классификации этнической принадлежности по изображениям. Карточка не сообщает условия лицензии и не описывает классы, состав данных или ограничения применимости.
Aivora Financial LLM — языковая модель на 136,9 млн параметров, созданная Ankush0845 с нуля для генерации текста на финансовую тематику. В ней используются смесь экспертов (MoE), multi-head latent attention со сжатым KV-кэшем и multi-token prediction; контекст составляет 1024 токена. Модель обучалась на общих и финансовых текстах, включая материалы FineWeb-Edu, Investopedia и документы SEC/EDGAR. Модель предназначена для экспериментов и обучения, а не для надёжных финансовых ответов: она может писать связный текст в финансовом стиле, но часто ошибается в фактах и не проходила инструкционную настройку. Демонстрационное приложение отдельно рассчитывает числовые показатели калькулятором и ищет определения в глоссарии; это функции приложения, а не самой модели. Весам соответствует лицензия other; условия лицензии в карточке не раскрыты.
Tactus — модель Eximius Labs для преобразования коротких последовательностей тактильных данных векторов давления в пространство текстовых эмбеддингов fusion-embedding-2. Она предназначена для распознавания объектов на ощупь и поиска тактильных эпизодов по текстовым запросам без отдельной классификационной головы. Вход — окна кадров с сетки 32×32 тактильных датчиков; архитектура состоит из свёрточной сети ширины ResNet-18 и проектора в 2048-мерное пространство текстовых векторов замороженной базовой модели Qwen3-VL-Embedding-2B. Обученная часть содержит около 16,2 млн параметров; базовая текстовая модель — около 2,06 млрд параметров. Модель дообучена на данных STAG: сначала выполняется предобучение методом masked autoencoder на кадрах давления, затем контрастивная настройка на текстовых описаниях захватов. В тестах на 27 категориях объектов checkpoint показал точность top-1 0,817 и top-3 0,951; результаты заметно меняются между запусками обучения. Модель рассчитана на английские текстовые запросы и конкретное семейство перчаточных датчиков STAG с сеткой 32×32; перенос на датчики другой геометрии требует дообучения, а распознавание новых категорий объектов не валидировано. Это исследовательская версия, не предназначенная для критически важных решений. Лицензия — CC BY-NC 4.0, коммерческое использование не разрешено.
GAMEBERT — это компактная модель BERT, дообученная Saggarwal на наборе команд для игр на основе google/bert_uncased_L-2-H128_A-2. Она выполняет токенную классификацию: размечает в транскрибированной фразе действия, цели и исправления, чтобы передать команду игре. Модель предназначена для второго этапа конвейера voice-speak-up и рассчитана на низкую задержку; размер составляет 4,4 млн параметров, максимальная длина контекста — 512 токенов. В README приведены результаты на оценочном наборе: F1 0,9697 и точность 0,9900. Базовая модель англоязычная, а данные обучения описаны как пользовательский набор игровых команд; подтверждения поддержки русского языка нет. Модель распространяется под лицензией Apache-2.0.
GB.DNA-7B — ДНК-модель семейства RNABert, разработанная GenBio AI для анализа и генерации нуклеотидных последовательностей. Она основана на плотном двунаправленном трансформере-энкодере BERT с 32 слоями, 32 головами внимания и размером скрытого слоя 4352; число параметров — 7,3 млрд. Модель обучена методом masked language modeling на 10,6 млрд нуклеотидов из геномов 796 видов. Она принимает последовательности ДНК с посимвольной токенизацией A, T, C, G и N и поддерживает контекст до 4000 нуклеотидов. Модель предназначена как основа для задач функциональной геномики, включая поиск геномных элементов, прогноз экспрессии генов, исследования мутаций in silico, аннотацию и направленную генерацию последовательностей. Для классификации последовательностей и отдельных нуклеотидов, регрессии и получения эмбеддингов из неё можно строить downstream-модели. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в карточке модели.
GB.Protein-16B — белковая языковая модель, разработанная GenBio AI для анализа последовательностей белков и построения моделей для биологических задач. Она обучена на последовательностях из UniRef90 и ColabFoldDB с общим объёмом данных свыше 1,3 трлн аминокислот и использует архитектуру Transformer encoder-only со разреженными MoE-слоями. В карточке указано 2,7 млрд параметров, а в названии и README модель обозначена как 16B; это расхождение не позволяет однозначно установить фактический размер. Контекст составляет 2048 токенов, токенизация выполняется на уровне отдельных аминокислот, а обучение использует masked language modeling. Модель предназначена для получения представлений белковых последовательностей и адаптации к задачам классификации на уровне последовательности или токена, регрессии и оценки функциональных свойств белков. README сообщает о результатах на задачах предсказания белковой приспособленности и бенчмарках, а также об адаптации модели для генерации последовательностей с учётом структуры. Для каталога основная задача — text-generation согласно pipeline_tag; fill-mask также указана среди поддерживаемых задач. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с файлами лицензии репозитория.
GB.RNA-1.6B — универсальная фундаментальная модель РНК, разработанная GenBio AI. Это энкодерный трансформер RNABert с 1,6 млрд параметров, обученный на 42 млн уникальных некодирующих РНК из RNAcentral версии 24.0. Предобучение выполнялось на уровне отдельных нуклеотидов с задачей восстановления замаскированных токенов; длина контекста составляет 1024 токена. Модель предназначена для анализа РНК-последовательностей и может использоваться как основа для прогнозирования вторичной структуры, определения функций РНК, задач, связанных с мРНК, и обратного фолдинга РНК. Её представления также можно применять для построения downstream-моделей классификации, регрессии и разметки токенов. README сообщает о сильных результатах на широком наборе задач, но не приводит метрик; для белковых задач отмечен потенциал после адаптации к предметной области. Модель принимает последовательности РНК и обучена на некодирующих последовательностях. Для кодирующих последовательностей разработчик предлагает отдельную адаптированную версию GB.RNA-1.6B-CDS. В репозитории указаны форматы PyTorch и safetensors. Лицензия обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.
GENA-LM — семейство открытых фундаментальных моделей AIRI Institute для анализа длинных последовательностей ДНК. Эта версия представляет собой трансформер BERT с 137,8 млн параметров, обученный предсказывать замаскированные фрагменты последовательности человеческого генома; для неё указан pipeline fill-mask. Модель обучена на сборке человеческого генома T2T с аугментацией вариантами из набора gnomAD. Используется токенизация BPE: контекст составляет 512 токенов, что соответствует примерно 4500 нуклеотидам. Архитектура близка к BERT-base: 12 слоёв, 12 голов внимания, размер скрытого состояния 768 и словарь из 32 тысяч токенов. Модель можно использовать как основу для дообучения на задачах геномной классификации и аннотации последовательностей. Она предназначена для анализа последовательностей человеческой ДНК, а не для обычного текста. В README не приведены результаты оценки и условия лицензии, поэтому качество на конкретных задачах и права использования следует проверять отдельно.
GENA-LM — семейство открытых предварительно обученных моделей AIRI Institute для анализа длинных последовательностей ДНК. Эта версия представляет собой BERT-подобную плотную трансформерную модель с 137,8 млн параметров, обученную предсказывать замаскированные токены в последовательностях генома человека и нескольких видов. Модель использует BPE-токенизацию вместо k-меров и принимает до 512 токенов, что соответствует примерно 4500 нуклеотидам. Архитектура включает 12 слоёв, 12 голов внимания, скрытый размер 768 и словарь из 32 тысяч токенов. Предобучение проводилось на сборке человеческого генома T2T, последовательностях других видов и вариантах, полученных на основе данных gnomAD. Модель подходит для восстановления замаскированных участков ДНК и как основа для дообучения на задачах классификации геномных последовательностей. Её специализация — биологические последовательности, а не обычный текст. Лицензия в предоставленных данных не описана.
Taykhoom Dalal поддерживает минимальный порт модели GENA-LM для анализа длинных последовательностей человеческой ДНК. Это плотная модель masked language modeling на архитектуре BigBird с блочно-разреженным вниманием и токенизацией BPE; в ней 137,8 млн параметров, а максимальная длина контекста составляет 4096 токенов. Исходный чекпойнт обучен AIRI Institute на сборке генома человека T2T с добавлением вариантов SNP из 1000 Genomes и gnomAD. Модель предсказывает замаскированные токены ДНК и может создавать представления последовательностей для последующей тонкой настройки. Порт вычисляет блочно-разреженное внимание в чистом PyTorch без зависимости от DeepSpeed; для коротких последовательностей до 256 токенов внимание становится плотным. Репозиторий распространяется по лицензии MIT. Модель предназначена для биологических последовательностей, а не для естественного языка. Исходный код не включает NSP-голову и pooler; точное совпадение исполнения с прежним ядром DeepSpeed/Triton не заявлено, хотя для длинных последовательностей проверено соответствие математической схеме разреженного внимания.
gslm-scaling-155m-43p5b — модель семейства SLM, опубликованная Tiago Cuervo как контрольная точка для эксперимента по масштабированию речевых языковых моделей из работы «Scaling Properties of Speech Language Models» (EMNLP 2024). Это плотная трансформерная языковая модель примерно на 155 млн параметров; веса опубликованы в формате FP32 safetensors, лицензия — Apache-2.0. Модель генерирует последовательности дискретных речевых единиц: склеенные серии токенов из кластеризации K-means представлений 11-го слоя mHuBERT с частотой 25 Гц и размером словаря K=500. Контрольная точка обучалась на 43,532 млрд токенов. В README приведены оценки на тестах sBLIMP и sStoryCloze/tStoryCloze. Для преобразования сгенерированных единиц в звук нужен отдельный вокодер, который в репозиторий не входит; пример использования построен на библиотеке slm и PyTorch.
gslm-scaling-20m-1p3b — исследовательский речевой языковой чекпойнт, опубликованный как конечная точка кривой масштабирования из работы «Scaling Properties of Speech Language Models» (EMNLP 2024). Он содержит 20 710 912 параметров и обучался на 1 325 120 000 токенах, по 131 200 токенов на обновление. Архитектура — плотная TransformerLM; веса представлены в FP32 и формате safetensors. Модель предсказывает последовательности дискретных речевых единиц: кластеризованные K-means-токены слоя 11 mHuBERT с частотой 25 Гц и размером словаря кластеров K=500. Пример использования генерирует продолжение последовательности таких токенов. В README приведены результаты оценивания на sBLIMP и sStoryCloze/tStoryCloze. Это чекпойнт для исследований масштабирования и оценки речевых языковых моделей; готовый вокодер в комплект не входит, поэтому сами по себе выходные токены не являются аудиосигналом. Модель опубликована под лицензией Apache-2.0. В карточке указана задача text-generation; она генерирует токенизированные представления речи, а не готовую речь или обычный текст для пользователя.
LongSafari/hyenadna-medium-160k-seqlen-hf — версия HyenaDNA, разработанной исследователями из Stanford и других организаций. Это плотная авторегрессионная модель на архитектуре HyenaDNA с 7,3 млн параметров, предназначенная для работы с геномными последовательностями. Модель предсказывает следующий нуклеотид и может использоваться как основа для классификации последовательностей, например для выявления регуляторных элементов, анализа профилей хроматина и классификации видов. Чекпойнт рассчитан на последовательности длиной до 160 тысяч нуклеотидов. Он использует посимвольную токенизацию с отдельными токенами для нуклеотидов и операторы Hyena с длинными свёртками, обеспечивающими глобальное рецептивное поле при субквадратичной вычислительной сложности. Модель предварительно обучена на человеческом референсном геноме HG38. Для дообучения на длине 160 тысяч нуклеотидов авторы рекомендуют GPU уровня T4; для предобучения — A100 с 40 ГБ памяти. Модель предназначена для геномики, а не для обычного текста. README сообщает о сильных результатах семейства на 23 последующих задачах, однако не приводит отдельные оценки именно этого чекпойнта. Распространяется по лицензии BSD 3-Clause.
Модель Intern-S1-mini context-conditioned molecule transfer V10.3-TDC — BBB Martins разработана jiosephlee и представляет собой дообученную версию jiosephlee/Intern-S1-mini-lm: плотную авторегрессионную модель семейства Qwen3 с 7,6 млрд параметров. Она предназначена для контекстно-обусловленного переноса молекул в задаче, связанной с проницаемостью гематоэнцефалического барьера (BBB) и набором данных Martins. Модель распространяется как полный чекпойнт Transformers в формате safetensors и поддерживает контекст до 65 536 токенов. Чекпойнт выбран по метрике knn_binary_macro_f1_at_5 на валидационной выборке. В README приведены значения Macro-F1@5 0,8583 на валидации и 0,7944 на тесте; для сравнения, у базового Morgan vanilla на тесте указано 0,7806. Эти результаты относятся к описанному набору данных и протоколу оценки и сами по себе не подтверждают качество на иных данных. Сведения о лицензии в предоставленных источниках отсутствуют.
ISM — белковая языковая модель, разработанная Jeffrey Ouyang-Zhang, Chengyue Gong, Yue Zhao, Philipp Krähenbühl, Adam Klivans и Daniel J. Diaz. Она представлена в работе «Distilling Structural Representations into Protein Sequence Models» и описана авторами как ESM2 с обогащёнными структурными представлениями белков. Модель предназначена для работы с последовательностями белков и использует архитектуру ESM с плотной сетью и головой masked language modeling. В каталожных метаданных указаны 865,1 млн параметров и контекст до 1026 токенов. Её можно использовать в сценариях, где требуется предсказывать замаскированные аминокислоты или анализировать белковые последовательности с учётом структурных представлений. Карточка рекомендует заменять ею ESM2 в существующем рабочем процессе ESM2. Репозиторий предоставляет веса в формате safetensors. Информация о лицензии в доступных данных отсутствует.
Aratako/Japanese-Novel-Reward-310m-v2 — японская модель оценки качества художественной прозы, созданная дообучением sbintuitions/modernbert-ja-310m. Она предсказывает оценку пользователя для входного текста и предназначена прежде всего для использования в качестве reward-модели при обучении моделей генерации романов с подкреплением. Модель основана на ModernBERT с плотной архитектурой и содержит около 314,6 млн параметров; поддерживает контекст до 8192 токенов и принимает текст, выдавая числовые оценки. В версии v2 увеличен объём обучающих данных, учтена надёжность оценок пользователей и добавлены взвешивание для дисбаланса классов и ordinal regression. Итоговый балл формируется ансамблем регрессионной и ordinal-моделей. На тестовой выборке MAE составила 0,4401, корреляция Пирсона — 0,6738, а доля верно упорядоченных пар с разницей истинных оценок не менее 1,0 — 0,8927. Модель ориентирована на японские романы. Предсказания могут зависеть от жанра, стиля и других факторов помимо качества текста, поэтому оценку следует интерпретировать с учётом возможных смещений. Распространяется по лицензии MIT.
Lobster_24M — белковая masked language model из семейства LBSTER, разработанного Prescient Design. Это энкодерная модель на основе архитектуры BERT для обучения представлений белковых последовательностей; её применяют для получения эмбеддингов, предсказания свойств белков и классификации последовательностей. Модель содержит около 24 млн параметров, обучена на UniRef50 и принимает последовательности длиной до 512 токенов. Модель рассчитана на анализ белковых последовательностей, а не на обычный текст. В карточке Hugging Face не указана лицензия, поэтому условия использования следует проверять отдельно перед внедрением. Для задач предсказания структуры и управляемого проектирования последовательностей в проекте LBSTER предусмотрены другие модели семейства.
MAGEN-O-MAKE (ViT-B/16) — разработанная Xieji Li vision-language модель для дерматологии. Она использует CLIP ViT-B/16 с 149,6 млн параметров, 512-мерными эмбеддингами изображений и текста и текстовым энкодером с контекстом 77 токенов. Модель предназначена для классификации изображений кожи без дообучения: она сопоставляет изображение с предложенными текстовыми метками, а результат зависит от формулировок запроса и набора кандидатов. При предобучении MAGEN создает обогащенные знаниями описания изображений с помощью генерации и проверки на основе поиска, а O-MAKE разбивает клинические тексты на аспекты знаний и согласует их с глобальными и локальными признаками изображений, используя дерматологическую онтологию. В README приведены результаты zero-shot оценки на PAD-UFES-20, Fitzpatrick17K и SNU; точность на детализированных наборах со 100 и более классами заметно ниже клинически приемлемого уровня. Модель предназначена для исследовательской оценки и не является медицинским изделием. Данные обучения собраны из веб-источников, поэтому охват оттенков кожи, регионов и заболеваний неравномерен; часть описаний сгенерирована моделью и проверена поиском, а не врачами, что может приводить к ошибкам разметки. Лицензия CC BY-NC-ND 4.0 разрешает некоммерческое использование при соблюдении её условий.
DmitryPogrebnoy/MedRuBertTiny2 — русскоязычная модель семейства BERT, разработанная Дмитрием Погребным как дообученная версия cointegrated/rubert-tiny2. Модель содержит около 29 млн параметров, использует архитектуру BertForMaskedLM и распространяется в формате PyTorch по лицензии Apache-2.0. Модель дообучена на специально собранном наборе из более чем 30 тысяч русскоязычных медицинских анамнезов. Она предназначена для заполнения пропусков в тексте и ранжирования кандидатов при исправлении опечаток в медицинских историях болезни. Её можно подключить через Transformers как masked language model. Специализация на медицинских анамнезах может ограничивать качество на текстах других областей и на задачах, отличных от заполнения маски или ранжирования кандидатов. В карточке заявлено исследовательское происхождение проекта, но лицензия модели — Apache-2.0.
Модель ExplainableVLM-Rad разработана Vikhram S для генерации радиологических отчётов по рентгеновским снимкам. Она объединяет энкодер Vision Transformer ViT-Base Patch16-224, предварительно обученный на ImageNet21k, с языковым декодером BioGPT в архитектуре VisionEncoderDecoderModel на базе Hugging Face Transformers. Модель принимает изображение и выдаёт текстовый отчёт с разделами «Находки» и «Заключение». Система предназначена для исследований генерации медицинских описаний и демонстрации объяснимых моделей компьютерного зрения: в README заявлены карты внимания, карты значимости на основе градиентов, сопоставление токенов с областями снимка и оценка уверенности. Обучение описано как прототипное, на ограниченном подмножестве MIMIC-CXR; метаданные указывают английский язык и датасет MIMIC-CXR. Лицензия — Apache-2.0. Модель ограничена одиночными проекциями рентгенограмм, не прошла клиническую валидацию и не предназначена для диагностики или принятия клинических решений. Ограниченный набор обучающих данных может снижать обобщающую способность; заявленные возможности объяснения и оценки уверенности не заменяют клиническую проверку.
Mistral-DNA-v1-138M-hg38 — предварительно обученная генеративная модель ДНК, опубликованная Raphael Mourad. Она предназначена для продолжения и моделирования последовательностей ДНК человека на основе сборки генома hg38. Для обучения использовались фрагменты длиной 10 кб. Модель построена на архитектуре трансформера с Mixture of Experts, Grouped-Query Attention и Sliding-Window Attention; токенизатор использует Byte-fallback BPE. В README указано 138 млн параметров, тогда как метаданные Hugging Face сообщают 36,2 млн; размер следует считать противоречивым. Метаданные указывают контекст 512 токенов. Модель основана на Mixtral-8x7B-v0.1, архитектура которой была упрощена для работы с ДНК. Это базовая модель, а не готовая система для клинической интерпретации или диагностики. Лицензия Apache-2.0. Для загрузки README рекомендует Transformers версии 4.34.0 или новее.