IV.6Научные исследования, математика и новые материалы

Kimina-Prover-Distill-8B — языковая модель для автоматического доказательства теорем и решения задач в Lean 4, разработанная командами Project Numina и Kimi. Это плотная авторегрессионная модель семейства Qwen3 с 7,6 млрд параметров, дообученная на базе Qwen/Qwen3-8B и дистиллированная из Kimina-Prover-72B, обученной с помощью масштабного обучения с подкреплением. Модель предназначена для соревнований и задач, где нужно строить формальные доказательства на Lean 4. В README указана точность 77,86% Pass@32 на MiniF2F-test. Модель принимает текст и генерирует текст; доступен контекст до 40 960 токенов. Карточка HF указывает английский язык и интерфейс чата, а также Apache 2.0. Конкретные ограничения, кроме специализации на формальных задачах Lean 4, в карточке не описаны.

Kimina-Prover-Preview-Distill-1.5B — компактная языковая модель для автоматического доказательства теорем в Lean 4, разработанная командами Project Numina и Kimi. Модель создана дистилляцией Kimina-Prover-Preview, обученной с использованием масштабного обучения с подкреплением, и предназначена для задач математического доказательства в стиле соревнований. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 16 384 токенов. README сообщает о лучших на момент выпуска результатах среди моделей сопоставимого размера и вычислительного бюджета на MiniF2F-test. Метаданные указывают английский язык; базовая модель Qwen2.5-Math-1.5B-Instruct описана как предназначенная также для китайского языка, но README не подтверждает языковой охват самой дистиллированной модели. Лицензия — Apache-2.0. Модель ориентирована на формальные математические доказательства в Lean 4; README не сообщает о качестве в других задачах и языках программирования.

MarinDNA v0.5 scaling ladder — 128M — это причинная языковая модель для генерации нуклеотидных последовательностей, разработанная Marin. Модель содержит около 128,5 млн параметров и построена на декодерном Transformer, совместимом с Qwen3; в репозитории опубликованы финальный чекпойнт обучения и токенизатор. Модель принимает строки ДНК из символов A, C, G и T без пробелов и предсказывает продолжение последовательности. Токенизатор нечувствителен к регистру и кодирует один нуклеотид одним токеном; контекст составляет 256 токенов, включая начальный токен, поэтому вход ограничен 255 основаниями. Обучение использовало смесь кодирующих, upstream- и downstream-последовательностей. Репозиторий сопровождает исследовательскую серию по масштабированию моделей ДНК; конкретные задачи вроде предсказания эффекта вариантов в README представлены как контекст сравнения, а не как заявленная специализированная функция этой модели. Модель распространяется под лицензией Apache-2.0. Токенизатор рассчитан на A/C/G/T: прочие символы преобразуются в UNK, а EOS-токен отсутствует; короткий контекст ограничивает работу с длинными последовательностями.

MegaDescriptor-T-224 — модель извлечения признаков изображений на основе Swin-T, представленная проектом WildlifeDatasets. Она предварительно обучена на наборах данных для повторной идентификации животных и предназначена для получения эмбеддингов изображений животных, позволяющих сопоставлять особей по фотографиям. Архитектура — Swin Transformer Tiny с патчами 4×4 и окнами 7×7; модель содержит 28,3 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для построения систем повторной идентификации животных и поиска похожих особей по визуальным признакам. В карточке указан формат PyTorch и лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. README описывает получение эмбеддингов; метаданные также указывают задачу классификации изображений.

NCS-v1-2d-base — базовая модель для анализа сейсмических данных, разработанная Норвежским вычислительным центром совместно с Equinor ASA и AkerBP ASA. Она обучена на 829 полнообъёмных сейсмических кубах с континентального шельфа Норвегии из открытой базы DISKOS и предназначена для извлечения признаков из отдельных двумерных сейсмических срезов — inline- и crossline-секций. Модель использует архитектуру ViT-MAE с двумерными синусно-косинусными позиционными кодировками; размер составляет 113,2 млн параметров. Полученные представления можно применять как основу для дообучения классификаторов сейсмических фаций, сегментации соляных тел, обнаружения геологических структур, поиска похожих сейсмических изображений и отслеживания горизонтов и событий. Лицензия — Apache-2.0. Модель рассчитана на одноканальные двумерные сейсмические изображения, предварительно стандартизованные и ограниченные по амплитуде согласно описанному в карточке протоколу. Оценка представлений выполнена на четырёх геологических бенчмарках с малым числом размеченных примеров; карточка не приводит результатов для всех перечисленных сценариев применения.

SeongryongJung/Qwen-8b-base-GRPO — дообученная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, созданная на основе Qwen/Qwen3-8B-Base. Разработчик применил полное обучение параметров с помощью GRPO и FSDP на локальной обучающей выборке по математике, используя правило для расчёта вознаграждения. В репозитории опубликован итоговый объединённый чекпойнт в формате safetensors. Модель предназначена для исследований и анализа методов обучения языковых моделей математическим задачам с подкреплением, а также для генерации текста в математическом контексте. Контекст — до 32 768 токенов; метаданные указывают поддержку диалогового режима. Карточка не сообщает поддерживаемые естественные языки. Обучение ограничено 100 шагами. Приведённые значения оценки вознаграждения и точности относятся к той же экспериментальной настройке и не являются широкими бенчмарками. Модель не проходила широкую оценку безопасности для производственного использования. Лицензия — Apache-2.0.

raynardj/roberta-pubmed — модель семейства RoBERTa, дообученная на корпусе аннотаций PubMed для предсказания замаскированных слов. Обучающий текст ограничен аннотациями по биомаркерам опухолей, карциномам и клиническим исследованиям; указанный объём корпуса — 531 МБ. Модель содержит 151,8 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель предназначена для подстановки вероятных слов в пропуски медицинского и биомедицинского текста, например в аннотациях исследований. В карточке описано обучение на задаче masked language modeling с вероятностью маскирования 15% в течение трёх эпох. Доступны веса PyTorch, лицензия Apache-2.0. Специализация корпуса на онкологии и PubMed ограничивает надёжность применения к другим областям и типам текста.

sft_quantum_circuit_gen_4B — дообученная Benyucong модель на основе Qwen/Qwen3-4B-Instruct-2507, созданная для генерации и оптимизации квантовых схем. Обучение проведено с использованием TRL на основе работы Agent-Q; в метаданных указан набор данных Benyucong/graph-data-quantum-tokenized-4B_sft. Это плотная языковая модель семейства Qwen3 с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 262 144 токенов. Модель подходит для получения текстовых представлений квантовых схем и их оптимизации по запросу. Метаданные указывают английский язык. Модель распространяется под лицензией Apache-2.0.

TinyBioBERT — компактная модель на архитектуре BERT, полученная дистилляцией BioBERT на корпусе PubMed. Разработчики обучали её 100 тысяч шагов с общим размером пакета 192, применяя послойную дистилляцию: карты внимания и скрытые состояния студенческой модели выравнивались с соответствующими представлениями учительской модели. Модель содержит около 15,1 млн параметров и четыре скрытых слоя; размерность скрытых состояний и эмбеддингов — 768. Она предназначена для предсказания замаскированных токенов в биомедицинском тексте и может использоваться как компактная основа для экспериментов с языковыми задачами в этой области. Максимальная длина контекста — 512 токенов. Доступны веса PyTorch, лицензия — MIT. Карточка не сообщает результатов оценки качества и конкретных поддерживаемых языков. Модель обучалась на PubMed, но её показатели на прикладных биомедицинских задачах отдельно не приведены.

WaveNeXt Base — модель генерации изображений для преобразования одноканальных снимков амплитуды SAR Sentinel-1 в трёхканальные изображения, похожие на оптические снимки Sentinel-2. Она разработана автором репозитория umpaoflumpia и дообучена на базе ConvNeXt V2-Base, предварительно обученной на ImageNet-22K. Архитектура сочетает двухуровневый Haar-вейвлетный входной блок, ConvNeXt V2-Base и обратное Haar-преобразование; размер модели составляет около 98 млн параметров. Модель обрабатывает изображения размером 256×256 пикселей, а веса доступны в форматах ONNX и safetensors. WaveNeXt предназначена для исследований преобразования SAR в оптические изображения, подавления спекл-шума и синтеза мелких деталей в данных дистанционного зондирования. Для обучения использовались парные фрагменты Sentinel-1 и Sentinel-2 из набора SEN1-2, ограниченные пятью сценами. Валидация на отложенных данных SEN1-2 показывает PSNR 18,54 и SSIM 0,432. Модель может создавать правдоподобные оптические реконструкции, но эти выходы не являются измерениями и не подходят для количественного геофизического анализа. Качество на других регионах, сезонах и сенсорах не проверено. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

AudioProtoPNet-1-BirdSet-XCL — модель группы DBD-research-group для многометочной классификации видов птиц по их вокализациям. Она сочетает сверточную основу ConvNeXt Base, предварительно обученную на ImageNet-22k, с классификатором на прототипах: модель сопоставляет аудиозапись с изученными характерными паттернами и тем самым помогает интерпретировать предсказания. Для распознавания звука используются спектрограммы записей. Модель обучена на обучающей части BirdSet, включающей записи тысяч видов птиц, и оценивалась на тестовых наборах из разных географических регионов. В README сообщается о среднем AUROC 0,90 и cmAP 0,42 для варианта AudioProtoPNet-5 и о результатах выше Perch и ConvNeXt на этих оценках. Версия модели в репозитории — AudioProtoPNet-1. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

BFS-Prover-V1-7B — модель генерации тактик для автоматического доказательства теорем в Lean4, выпущенная ByteDance Seed. Это контрольная точка генератора тактик из системы BFS-Prover: по состоянию доказательства Lean4 модель предлагает тактику, которая преобразует его в следующее состояние. Для полного доказательства система использует поиск в ширину по дереву состояний. Модель основана на Qwen2.5-Math-7B и дообучена методом SFT на парах «состояние-тактика», а затем DPO с обратной связью компилятора. Она содержит 7,1 млрд параметров, принимает текстовое состояние в формате с завершающим маркером «:::» и генерирует текст тактики; длина контекста — 4096 токенов. В README сообщается о результате 72,95% на тестовом бенчмарке MiniF2F для полной системы BFS-Prover. Модель предназначена для формализации математических доказательств и работы с Lean4; для получения полного доказательства требуется внешний поиск, перебирающий последовательности тактик. В метаданных указан английский язык, но формат входа ориентирован на формальные состояния Lean4. Лицензия — Apache-2.0.

Bird-MAE-Large — модель группы DBD-research-group для классификации птичьих звуков. Она основана на архитектуре Masked Autoencoder с визуальным трансформером ViT-L/16 и адаптирована к биоакустике с использованием обучающего конвейера для птичьих вокализаций и данных BirdSet. Модель предназначена для многометочной классификации записей и извлечения признаков для последующих задач распознавания видов птиц. В README сообщается о высоких результатах Bird-MAE на многометочном бенчмарке BirdSet, а также о прототипическом пробировании замороженных представлений, полезном в условиях малого объёма размеченных данных и few-shot сценариях. Для запуска README указывает библиотеку Transformers. Данные не сообщают число параметров, контекст или языки; модель работает со звуком и не предназначена для текстовых задач. Лицензия в предоставленных сведениях не указана.

CNN10 — 10-слойная свёрточная нейросеть, разработанная Utrecht University для обнаружения вокализаций шимпанзе в биоакустических записях. Модель выдаёт один из двух классов: вокализация шимпанзе или фон; она предназначена для мониторинга дикой природы и анализа записей из заповедников и природоохранных центров. На вход подаются аудиофрагменты длительностью 0,5 секунды. Перед классификацией звук приводится к частоте 48 кГц, фильтруется в диапазоне 100–2000 Гц и представляется трёхканальной мел-спектрограммой с нормализацией PCEN, нормализацией по файлу и дельта-признаками. Чекпойнт обучен на реальных записях вокализаций и фоновых звуков из Камеруна, а также на синтетических примерах, созданных смешиванием камеруноских вокализаций с фоновым шумом из Замбии. Проверка на записях из Замбии показала переносимость на другую акустическую среду, однако результаты могут отличаться для иных условий записи, микрофонов и видов животных. Модель распространяется в формате safetensors и загружается как обычная модель PyTorch через PyTorchModelHubMixin; интеграции с Transformers нет. Лицензия — Apache-2.0.

ConvNeXT-Base-BirdSet-XCL — сверточная модель классификации изображений, обученная исследовательской группой DBD на наборе XCL проекта BirdSet. Она предназначена для распознавания видов птиц по спектрограммам аудиозаписей; обучение охватывает 9736 видов, представленных в данных Xeno-Canto. Модель принимает одноканальное изображение спектрограммы и выдаёт класс вида птицы. Для подготовки входа требуется специальный процессор из репозитория BirdSet: в репозитории модели собственного процессора нет. Архитектура — ConvNeXt, реализованная классом ConvNextForImageClassification и доступная в формате Safetensors через Transformers. Лицензия в предоставленных данных не указана. Результаты классификации зависят от качества спектрограммы и охвата обучающего набора; модель предназначена для классификации птиц, а не для обработки произвольных изображений.

FlyWire Olfactory SNN — рекуррентная спайковая нейросеть для классификации запахов у дрозофилы, обученная авторами репозитория Vick-MIRE на датасете ответов DoOR. Модель принимает вектор откликов примерно 52 обонятельных рецепторов и предсказывает класс запаха. Архитектура MaskedRecurrentLIFSNN использует нейроны Leaky Integrate-and-Fire и 20 временных шагов. Рекуррентная топология фиксирована по подграфу коннектома FlyWire для проекционных нейронов антеннальной доли и клеток Кеньона; обучаются величины весов, а знаки связей заданы предполагаемыми типами нейромедиаторов. Обучение проведено с Adam, CrossEntropyLoss и суррогатными градиентами. Реализация основана на PyTorch и Norse, веса опубликованы в формате safetensors. Модель предназначена для анализа и классификации ответов обонятельных рецепторов в исследованиях нейронных сетей и обоняния дрозофилы. Её биологически ограниченная структура может быть полезна для изучения связи между коннектомом и распознаванием запахов; применимость за пределами указанного набора данных не подтверждена. Лицензия — MIT.

roychowdhuryresearch/HFO-artifact — модель классификации изображений из набора моделей для анализа высокочастотных осцилляций (HFO) в нейронных сигналах. Разработчики позиционируют её как детектор артефактов, помогающий выявлять и отфильтровывать артефакты при анализе HFO. Модель предназначена для исследовательских и клинических рабочих процессов, связанных с анализом нейронных сигналов и эпилепсией. В репозитории также представлены отдельные модели для обнаружения spike-associated HFO и эпилептических HFO; эта модель выполняет классификацию артефактов. Архитектура указана как ResNet, файлы доступны в форматах ONNX и safetensors. Для интеграции авторы предлагают библиотеку Transformers. Заявлены высокая точность и устойчивость, однако численные результаты и подробности оценки в карточке не приведены. Лицензия — MIT.

jmedroberta-base-manbyo-wordpiece — японская базовая модель RoBERTa, разработанная на основе материалов Japan Science and Technology Agency (JST). Она предварительно обучена на научных статьях по медицинским наукам и предназначена для заполнения пропусков в японском тексте с помощью задачи masked language modeling. Архитектура реализована классом BertForMaskedLM; модель содержит 136,3 млн параметров и принимает последовательности длиной до 512 токенов. Для токенизации используются MeCab с IPAdic и Manbyo Dictionary, а затем WordPiece с словарём из 30 000 токенов. Предобучение использовало японские аннотации и полные тексты научных статей. Для работы требуется установить Manbyo Dictionary в каталог, указанный в README. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование.

HaimingW/Leandojo-CodeLLama-7b — языковая модель на архитектуре Llama, дообученная на бенчмарке LeanDojo для генерации тактических шагов доказательства в Lean. Она принимает состояние цели в формате GOAL $(tactic state) PROOFSTEP и генерирует следующий тактический шаг. Модель содержит 6,6 млрд параметров и поддерживает контекст до 16 384 токенов. Модель предназначена для предсказания шагов формальных доказательств Lean и автоматизации доказательства теорем. В README заявлена точность pass@1 около 57,7% на случайном разбиении LeanDojo; это результат бенчмарка, а не гарантия успешного доказательства для произвольной цели. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Mettle — производный от H-optimus-0 энкодер гистологических изображений, разработанный Slideflow Labs. Он преобразует тайлы изображений тканей в векторы признаков для исследований в вычислительной патологии, разработки моделей и анализа устойчивости к различиям между сканерами и окрашиванием. Архитектура — ViT-g/14 на основе DINOv2 reg4. Доступны CLS-представление размерностью 1536 и представление размерностью 3072, объединяющее CLS-вектор со средним вектором пространственных патчей; результаты опубликованных в карточке бенчмарков рассчитаны для второго варианта. В бенчмарках модель показала результаты на PathoROB, HEST и EVA BACH; сравнение зависит от задачи и выбранного представления. Модель предназначена для извлечения признаков из гистологических изображений, а не для постановки диагнозов. Результаты могут зависеть от типа ткани, подготовки образца, окрашивания, сканера, сжатия, увеличения и протокола анализа; устойчивость к сканерам не гарантирует сохранение всех биологических сигналов. Это предварительная версия для экспериментального использования. Лицензия — CC BY-NC-ND 4.0; обязательства и ограничения лицензии родительской модели также сохраняются.

Signal-JEPA — предварительно обученная модель фундаментального уровня для ЭЭГ, опубликованная Guetschel и соавторами (2024) и упакованная для использования с braindecode. Она обучалась без учителя на наборе Lee2019: 62 канала ЭЭГ в раскладке 10–10, частота дискретизации 128 Гц. Архитектура формирует контекстные признаки с помощью энкодера и трансформера, а не предсказывает классы напрямую. Эту версию выбирают, если каналы записи являются подмножеством 62 каналов предобучения: контрольные точки содержат обученные пространственные эмбеддинги каналов. Извлечённые признаки можно использовать в последующих задачах анализа ЭЭГ или для дальнейшего самообучения. Для классификации поверх SSL-основы предусмотрены варианты архитектур Contextual, Post-local и Pre-local; классификационная голова не входит в контрольную точку и обучается при дообучении. Модель загружается через braindecode из PyTorch/Safetensors. Лицензия — MIT. Для каналов, отсутствующих в исходной раскладке, эта версия с предварительно обученными эмбеддингами не подходит; в таком случае README рекомендует вариант без эмбеддингов каналов. Для прикладной классификации потребуется обучить отдельную классификационную голову.

UniPhysGen-1.7B-Object — модель из семейства UniPhysGen, разработанная для определения физических характеристик целых объектов по их облакам точек. Она принимает геометрию всего объекта без отдельного облака точек целевой детали и формирует структурированный прогноз идентичности и категории объекта, размеров и массы. Формат входных данных включает координаты точек, цвет и нормали; размеры выдаются в сантиметрах, масса — в килограммах. Модель имеет плотную архитектуру UniPhysGenQwen3ForCausalLM, содержит 1,7 млрд параметров и использует базовые модели Qwen/Qwen3-1.7B и facebook/sonata; README указывает на последовательное обучение с последующей настройкой для уровня объекта, а метаданные отмечают объединение моделей. Репозиторий содержит веса Safetensors, модель рассчитана на английский язык и имеет контекст 40 960 токенов. Лицензия CC BY-NC 4.0 запрещает коммерческое использование. Модель предназначена для исследований физического понимания объектов и подготовки приблизительных метаданных для симуляции. Оценки размеров и массы не являются калиброванными измерениями. Качество может снижаться при неполных, разреженных или шумных облаках точек, неверном масштабе, необычных материалах, составных объектах и категориях вне обучающего распределения; результаты следует проверять перед применением в робототехнике, инженерии и системах безопасности.

QizhiPei/biot5-plus-base-mol-instructions-molecule — модель семейства T5 с 126 млн параметров, опубликованная пользователем QizhiPei. Карточка показывает загрузку через Transformers и класс T5ForConditionalGeneration; метаданные указывают PyTorch и формат safetensors. Название репозитория указывает на BioT5+ и инструкции для работы с молекулами, но карточка не описывает конкретные задачи, обучающие данные или способ использования этих инструкций. Метаданные относят модель к генерации текста по текстовому вводу и указывают английский язык. Лицензия — MIT.

CeLLaTe-tapt-bioformer16l-tokenizer-adapted-wwmask-combinedData — модель на основе архитектуры BERT, дообученная Mardiyyah на bioformers/bioformer-16l с использованием набора Mardiyyah/Combined_TAPT_dataset. Она предназначена для заполнения пропусков в тексте: модель предсказывает замаскированные токены, что подходит для языкового моделирования и адаптации к биомедицинским текстам. Модель содержит 51,3 млн параметров, принимает последовательности длиной до 1024 токенов и распространяется в формате safetensors через библиотеку Transformers. На оценочном наборе указаны loss 1,4792, accuracy 0,7139 и perplexity 4,3895. Карточка не приводит подробностей о составе данных или конкретных биомедицинских сценариях; качество за пределами указанной оценки не установлено. Лицензия — Apache-2.0.

sfanm/d24-midtrain-v1base-mathheavy-3.7B — базовая языковая модель автора sfanm после дополнительного обучения на математических данных, но до этапа SFT. Это плотный декодер семейства Llama в стиле nanochat: 24 слоя, скрытая размерность 1536, 12 голов внимания, SwiGLU, RoPE и RMSNorm; около 756,7 млн параметров, словарь GPT-2 BPE размером 50 304 токена и контекст 2048 токенов. Модель предназначена для продолжения текста, в том числе математического, а не для диалогового общения; для чата автор предлагает отдельные контрольные точки после SFT. В README приведён результат GSM8K 5,46% для соответствующей SFT-модели, а не для этого чекпойнта. Модель создана в рамках исследовательского воспроизведения nanochat с обучением с нуля, затем предобучением и математическим mid-training на ClimbMix, FineMath, OpenMath, MetaMath и OpenThoughts. Лицензия репозитория обозначена как other; автор предоставляет веса как есть для исследований и указывает, что нужно учитывать лицензии сторонних обучающих корпусов.

Fiorillo reader v1 — биомедицинская языковая модель с архитектурой ModernBERT-large и примерно 395 млн параметров, созданная разработчиком johanneli на основе энкодера convaiinnovations/laya. К энкодеру добавлена голова masked language modeling, после чего модель дополнительно обучена на англоязычных заголовках и аннотациях PubMed; клинические записи и полные тексты статей в этом обучении не использовались. Модель принимает текст и предсказывает пропущенные в нём токены; размер контекста в метаданных — 8192 токена. Модель предназначена для исследований и дальнейшей настройки биомедицинских языковых моделей, например как текстовый энкодер для последующих медицинских задач. По описанным автором оценкам, дальнейшее обучение улучшило masked-language loss на проверенных аннотациях и текстах PMC; результаты сравнения downstream-задач ограничены двумя вопросами и одним вариантом decision layer. Для классификации и ответов на вопросы требуется отдельная настройка, поскольку классификационная голова не включена. Лицензия — Apache 2.0.

Это модель YOLO26s, дообученная автором репозитория на Global Wheat Head Dataset для обнаружения пшеничных колосьев на изображениях. Она создана в рамках DetectionBench — проекта для воспроизводимого сравнения детекторов на реальных наборах данных; базовая модель — Ultralytics/YOLO26. Модель работает с изображениями и выдаёт рамки объектов класса wheat_head. Модель предназначена для подсчёта и локализации колосьев в полевых снимках, в том числе при высокой плотности объектов, перекрытиях и окклюзии. На тестовой части GWHD указаны mAP@50 70,49%, mAP@50–95 31,39% и точность 79,47%. Результаты различаются между странами, поэтому качество на иных сортах пшеницы и полевых условиях может отличаться. Модель распространяется по лицензии AGPL-3.0. README отдельно указывает лицензию CC BY 4.0 для набора данных; это не заменяет лицензию самой модели.

Hibou-L — большая модель Vision Transformer для цифровой патологии, разработанная HistAI. Она предварительно обучена в рамках подхода DINOv2 на частном наборе из 1,2 млрд изображений и предназначена для извлечения признаков из изображений тканей. Модель можно использовать как визуальный энкодер в системах анализа гистологических изображений и как основу для последующей настройки под конкретные задачи патологии. Репозиторий содержит веса в формате safetensors и использует модифицированную реализацию DINOv2 из Transformers с поддержкой register-токенов. Для загрузки через AutoImageProcessor и AutoModel требуется включить trust_remote_code=True. Лицензия — Apache-2.0. Карточка также упоминает вариант Hibou-B.

alabnii/jmedroberta-base-sentencepiece — японская базовая модель RoBERTa, разработанная и предварительно обученная на академических статьях по медицинским наукам, собранных Японским агентством науки и технологий (JST). Она предназначена для заполнения пропусков в тексте и других сценариев с masked language modeling. Модель содержит 136,3 млн параметров, использует SentencePiece Unigram с словарём из 30 000 токенов и принимает последовательности длиной до 512 токенов. Для обработки входной текст необходимо заранее преобразовать в полноширинные символы. Обучение проводилось на аннотациях и полных текстах научных публикаций. Архитектура реализована классом BertForMaskedLM; авторы называют её RoBERTa из-за обучения с максимальной длиной 512 токенов, без цели NSP и с динамическим маскированием. Модель рассчитана на японский язык и медицинскую научную литературу. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях некоммерческого распространения и сохранения той же лицензии.

katielink/llava-med-7b-vqarad-delta — дельта-веса LLaVA-Med, модели зрения и языка для биомедицинских задач, опубликованные авторами LLaVA-Med. Модель основана на LLaVA и непрерывно обучалась поэтапно: сначала для связывания биомедицинских понятий с изображениями, затем для следования инструкциям; этот вариант настроен на VQA-Rad. Архитектура — LLaVA с языковой частью на основе LLaMA, размер — 6,6 млрд параметров. Модель предназначена для исследовательских экспериментов с визуальными вопросами и ответами о биомедицинских изображениях, включая рентгенограммы, микроскопию и гистологию, а также для воспроизведения результатов статьи. Она принимает изображения и текстовые вопросы, формирует текстовые ответы. Обучение проводилось на английских данных, поэтому модель ориентирована на английский язык. Репозиторий содержит дельта-веса, которые нельзя использовать самостоятельно: их нужно применить к исходным весам LLaMA, соблюдая условия лицензии базовой модели. Код, данные и веса предназначены только для некоммерческих исследований. Модель не предназначена для клинической помощи или принятия медицинских решений; ответы могут быть неточными, а наборы оценки ограничены. В данных могут присутствовать смещения, характерные для опубликованных биомедицинских исследований.