IV.4Клиническая медицина и общественное здоровье
В разделе собраны самостоятельные задачи, где AI помогает поддерживать диагностику, лечение, наблюдение и организацию медицинской помощи. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
2 635 моделейGuilherme34 разработал экспериментальную мультиязычную разговорную модель-психолога на базе Llama 3.2 3B Instruct. Это плотная авторегрессионная модель на 3,2 млрд параметров с контекстом до 131 072 токенов, представленная в формате safetensors и предназначенная для генерации диалоговых ответов. Модель поддерживает беседы в поддерживающем, терапевтическом стиле, ролевые диалоги и адаптацию тона общения — например, более мягкого, строгого или игривого. В карточке указаны английский, португальский и румынский языки; обучение выполнено на наборе данных по психологии в формате ShareGPT. Доступен интерфейс общения с моделью и вызова инструментов. Это бета-версия для экспериментов и разговорного взаимодействия; автор отмечает, что дообучение не завершено. Модель не заменяет профессиональную помощь в области психического здоровья. Лицензия — Llama 3.2.
VetBERTDx — модель классификации ветеринарных клинических записей, созданная дообучением VetBERT. Она определяет синдром заболевания по тексту клинической записи и предназначена для NLP-задач в ветеринарной медицине. Модель построена на архитектуре BERT и имеет около 135,5 млн параметров; максимальный размер контекста — 512 токенов. Репозиторий содержит веса PyTorch, модель можно загружать с помощью библиотеки Transformers. VetBERT был инициализирован из Bio_ClinicalBERT, а затем предварительно обучен на корпусе VetCompass Australia, содержащем более 15 млн ветеринарных записей и 1,3 млрд токенов. VetBERTDx дополнительно дообучен на 5002 аннотированных клинических записях для классификации синдромов. Модель ориентирована на английские ветеринарные записи. Лицензия в предоставленных данных не указана.
BulkFormer-37M — компактная модель на 37 млн параметров для представления транскриптомов bulk RNA-seq. Она основана на архитектуре BulkFormer, разработанной Kang, Fan и соавторами, и выпущена в формате, совместимом с Transformers; веса представлены в safetensors. Модель предназначена для извлечения признаков на уровне генов и экспрессии, а также для последующей тонкой настройки с классификационной головой или продолжением предобучения для masked imputation и объединения эмбеддингов с ESM2. Модель ориентирована на анализ bulk RNA-seq данных и может служить основой для задач классификации транскриптомов и изучения профилей экспрессии. Репозиторий указывает лицензию MIT. Длина контекста и перечень поддерживаемых языков не приводятся; для этой биологической модели естественные языки не являются основным входом.
BulkFormer-50M — фундаментальная модель для транскриптомов bulk RNA-seq, представленная Kang, Fan и соавторами и опубликованная в Cell Systems в 2026 году. Это второй по размеру из пяти вариантов BulkFormer, с 50 млн параметров. Модель преобразована в совместимый с Transformers формат и распространяется в виде весов Safetensors. Модель предназначена для извлечения признаков на уровне генов и экспрессии из bulk RNA-seq данных. Полученные представления можно использовать для последующего дообучения с классификационной головой, продолжения предобучения с masked imputation или объединения с эмбеддингами ESM2. Лицензия — MIT. Для запуска README указывает пакет bulkformer; подробности использования вынесены в отдельную карточку пакета.
BulkFormer-93M — фундаментальная модель BulkFormer для представления транскриптомов bulk RNA-seq, опубликованная в пяти вариантах размера; эта версия содержит 93 млн параметров. Модель разработана авторами работы Kang, Fan и соавторами и представлена в формате, совместимом с Transformers. Модель предназначена для извлечения признаков на уровне генов или экспрессии из данных bulk RNA-seq. Полученные представления можно использовать для последующего дообучения с классификационной головой, продолжения предобучения для импутации пропущенных значений и объединения с эмбеддингами ESM2. Репозиторий распространяется под лицензией MIT.
tiantiaf/childvox-speechmaturity-whisper-large — модель классификации аудио, разработанная Tiantian Feng и основанная на Whisper large-v3 от OpenAI. Она дообучена на наборе данных SpeechMaturity для анализа детских вокализаций и отнесения аудиофрагментов к категориям Canonical, Non-Canonical, Crying, Laughing или Junk. Категория Canonical обозначает зрелые слоги с переходом от согласного к гласному, Non-Canonical — незрелые вокализации, например изолированные гласные или согласные, а Junk — фрагменты, не являющиеся детскими вокализациями, включая шум и взрослую речь. Модель принимает аудио и выдаёт категорию. Базовая Whisper large-v3 мультиязычна; карточка не уточняет языковой охват классификатора. Модель предназначена для исследовательского анализа детских вокализаций. Её нельзя использовать для клинической диагностики, индивидуальной оценки развития без экспертной проверки, наблюдения или вторжения в частную жизнь. Коммерческое использование запрещено; лицензия указана как OpenRAIL.
Chinese-MentalBERT — модель на основе BERT, разработанная для задач, связанных с психическим здоровьем. Авторы применили доменно-адаптивное предварительное обучение и стратегию маскирования, направляемую китайским лексиконом депрессии. Модель содержит 129,5 млн параметров, поддерживает контекст до 512 токенов и предназначена для заполнения маскированных фрагментов текста на китайском языке. Модель можно использовать для восстановления пропущенных слов и изучения языковых представлений в текстах о психическом здоровье. Она опубликована в формате PyTorch под лицензией Apache-2.0. В карточке не приведены оценки качества или сведения о клинической проверке, поэтому модель не следует считать инструментом диагностики или медицинской рекомендации.
Wiam/distilhubert-finetuned-babycry-v7 — модель классификации аудио, созданная дообучением distilhubert от NTU. Она предназначена для распознавания звуков младенческого плача по аудиозаписям. Модель содержит 18,9 млн параметров и использует архитектуру HuBERT для классификации последовательности аудио. В README приведены результаты на тестовой выборке: accuracy 0,87, F1 0,81, precision 0,76 и recall 0,87. Базовая distilhubert рассчитана на аудио с частотой 16 кГц. Модель распространяется по лицензии Apache-2.0. Карточка не уточняет набор классов и условия оценки, поэтому приведённые метрики не гарантируют такое же качество на иных записях.
LastBox Gemma 4 E2B v3 — модель-ассистент для офлайн-помощи в ситуациях выживания, разработанная автором репозитория norecyc и дообученная методом SFT на базе unsloth/gemma-4-E2B-it. Она предназначена для текстовых вопросов о первой помощи, бушкрафте, навигации, энергоснабжении и опасностях. В связке с внешним vision-проектором SigLIP модель также может описывать растения, раны и местность по изображениям с камеры. Для работы на Raspberry Pi 5 автор подготовил квантованный вариант GGUF Q4_K_M для llama.cpp; также доступны веса BF16 в GGUF и merged-модель в safetensors. Для ответов, передаваемых по LoRa, предусмотрено ограничение в 150 байт UTF-8. В README приведены результаты тестирования на небольшой выборке: качество ответов 0,506, соблюдение формата 0,52. Автор указывает, что в этой версии выдача вызовов инструментов практически отсутствует из-за несовпадения формата eval-промпта с обучающим. Также оценка через streaming SSE потеряла часть диалогов из-за разрывов соединения. Лицензия — Gemma.
LLaVA-Med — исследовательская модель компьютерного зрения и языка для биомедицины, разработанная Chunyuan Li, Cliff Wong и соавторами. Это плотная архитектура LLaVA на базе LLaMA с 6,6 млрд параметров, дообученная в два этапа: на согласование биомедицинских понятий и затем на выполнение инструкций. Репозиторий содержит delta-веса: их нельзя использовать самостоятельно, для получения рабочих весов LLaVA-Med их нужно применить к исходным весам LLaMA. Модель предназначена для исследований в области биомедицинских визуально-языковых систем: она принимает изображения и текстовые запросы и формирует текстовые ответы, в том числе для визуальных вопросов и открытых вопросов о биомедицинских изображениях. В обучающих данных PMC-15M представлены изображения микроскопии, рентгенографии, гистологии и других типов. Карточка описывает оценку на наборах PathVQA, VQA-RAD и других исследовательских задачах. Модель обучалась на англоязычных корпусах и может быть ограничена английским языком. Она может ошибаться, а данные обучения могут отражать смещения научных публикаций. Модель не предназначена для клинической помощи или принятия медицинских решений. Использование ограничено исследовательскими и некоммерческими целями; также применяются ограничения лицензий базовых LLaMA, Vicuna и GPT-4, а данные распространяются по CC BY-NC 4.0.
Это языковая модель thrishala/mental_health_chatbot на архитектуре Llama, дообученная на базе NousResearch/Llama-2-7b-chat-hf методом QLoRA. Она содержит около 6,6 млрд параметров, принимает текст и предназначена для диалоговой поддержки людей по вопросам психического здоровья, включая тревогу, стресс, отношения и личностный рост. Контекст модели составляет до 4096 токенов. Модель может генерировать эмпатичные и персонализированные ответы в чат-ботах и приложениях поддержки. Она не предназначена для медицинской диагностики или кризисного вмешательства и не заменяет профессиональную помощь; возможны ошибки в понимании контекста и смещения, связанные с обучающими данными. Сведения о разработчике и лицензии в доступных материалах отсутствуют.
ModernGENA-large — репакетированная на Hugging Face большая версия геномной модели AIRI Institute, созданная Aspidova и коллегами. Это плотный энкодер ModernBERT с 377,841,664 параметрами, 28 слоями и 16 головами внимания, предварительно обученный методом masked language modeling на 443 сборках геномов позвоночных. Контекст модели составляет 1 024 токена; токенизатор использует 32-тысячный BPE-словарь для ДНК и символов IUPAC, включая символы маскирования. Модель предназначена для предсказания замаскированных участков последовательности ДНК и получения векторных представлений геномных последовательностей, которые можно использовать в последующей тонкой настройке для задач классификации последовательностей. При обучении использовались прямые и обратнокомплементарные цепи; выборка охватывала области около уникальных сайтов начала транскрипции. Репакетирование проверено на побитовое совпадение с исходным чекпойнтом AIRI для представлений, MLM-головы и нескольких режимов внимания. Для загрузки пользовательского класса требуется включить trust_remote_code. Лицензия — Apache-2.0.
Это экспериментальный плотный языковой чекпойнт Qwen3-4B, дообученный командой HYU-NLP-EVAL на базе Qwen/Qwen3-4B-Instruct-2507. Он предназначен для генерации текста в медицинском контексте; название и описание запуска указывают на статический вариант RaR-Medicine с сопоставленным dense-чекпойнтом, шаг 12. Модель принимает текст и поддерживает диалоговый сценарий; базовая модель рассчитана на контекст до 262 144 токенов. Весы доступны в BF16 и формате safetensors, лицензия — Apache-2.0. README ограничивает применение исследовательскими целями. Это ранний чекпойнт конкретного эксперимента, поэтому его пригодность для клинических решений не подтверждена.
t5-sl-medical-gec — небольшая модель MediaAtlas для исправления грамматики в словенских медицинских текстах после машинного перевода. Это дообученная версия cjvt/t5-sl-small с архитектурой T5 и 45,7 млн параметров по метаданным; в карточке модели указано около 76 млн параметров. Для обработки к тексту добавляют префикс «popravi: ». Модель исправляет ошибки падежных окончаний и согласования рода между прилагательными и существительными, стараясь сохранять уже корректные фрагменты. Она обучена на синтетических парах ошибок и исправлений, включая примеры без изменений. Модель предназначена для недорогого этапа постредактирования машинного перевода медицинских текстов на словенском языке. По описанию, на отложенном наборе клинических предложений она исправляет примерно половину остаточных ошибок согласования и падежа после перевода. Лицензия — CC BY-SA 4.0. Это прототипный грамматический корректор, а не источник медицинской информации и не клинический продукт. Он не предназначен для исправления лексических кальк и всех типов ошибок склонения; результат должен проверять специалист. После обработки следует отдельно проверять, что числа, единицы измерения и названия лекарств не изменились. Для токенизатора базовой модели README отмечает проблему загрузки медленной версии в новых версиях Transformers и рекомендует использовать fast-токенизатор.
Thai GPT-2 Fine-Tuned — генеративная языковая модель на базе GPT-2, дообученная студентом Angkun на наборе disease_3000 из 3 000 пар вопросов и ответов о заболеваниях. Модель предназначена для генерации ответов на вопросы на тайском языке и опубликована под лицензией MIT. Модель работает с текстом, поддерживает тайский язык и имеет нативное контекстное окно 1 024 токена. В метаданных указано назначение text-generation; модель может использоваться для прототипов систем вопросов и ответов о заболеваниях, учебных экспериментов и генерации тематических текстовых ответов. Ограниченная предметная область и небольшой объём обучающих данных могут снижать точность, полноту и устойчивость ответов. Модель не следует использовать как самостоятельный источник медицинских рекомендаций или для принятия клинических решений; перед применением необходима проверка специалистом.
varKoding — модель для идентификации видов по изображениям, полученным из частот k-меров в данных низкопокрывающего секвенирования генома. Её разработал проект varKoder на основе Vision Transformer ViT-Large patch32 из timm/vit_large_patch32_224.orig_in21k; модель инициализировали случайными весами и обучили с помощью fastai на представлениях varKodes и rfCGRs из данных NCBI Sequence Read Archive. Модель предназначена для ДНК-баркодирования и определения видов по небольшому объёму геномных данных, включая анализ eDNA, мониторинг биоразнообразия и судебную аутентификацию видов. Она выдаёт многометочные таксономические прогнозы с оценками уверенности, а также прогнозы характеристик библиотеки и платформы секвенирования. В README заявлены точность 96% и полнота 95% для идентификации видов, в том числе при низком покрытии генома. Модель принимает изображения varKodes или rfCGRs, а не необработанные последовательности ДНК. Качество зависит от соответствия входного представления обучающим данным и может снижаться на сильно деградированной ДНК; README также указывает на возможные трудности при высоком уровне ошибок секвенирования Nanopore. Лицензия — Apache-2.0.
Taykhoom/AIDO.DNA-300M — 300-миллионная модель для геномной ДНК из набора AIDO (AI-Driven Digital Organism), разработанная Ellington et al. и перенесённая на Hugging Face Taykhoom Dalal. Это плотный Transformer с 24 слоями, 16 головами внимания, размером эмбеддинга 1024 и контекстом до 4000 токенов; модель доступна в формате safetensors и использует библиотеку Transformers. Модель предварительно обучена на геномных последовательностях из набора Nucleotide Transformer с целью masked language modeling. Она принимает последовательности ДНК, разбитые на отдельные нуклеотиды, и подходит для предсказания скрытых нуклеотидов, извлечения представлений последовательностей и дообучения для задач классификации или других задач на геномных данных. Для максимальной точности автор README рекомендует более крупную AIDO.DNA-7B. Токен U присутствует в словаре из-за совместимости с общей RNABert-токенизацией, но не встречался при обучении; следует использовать T вместо U. Лицензия указана как other, поэтому условия использования нужно уточнить в карточке модели. Порт сопоставлен с исходным контрольным чекпойнтом genbio-ai/GB.DNA-300M по скрытым состояниям и логитам MLM.
ibm-research/biomed.rna.llama.47m.wced.multitask.v1 — модель IBM Research для получения эмбеддингов и предсказаний по данным экспрессии РНК на уровне отдельных клеток. Это конвертированная в SafeTensors версия чекпойнта BMFM-RNA на архитектуре SCLLama, содержащая 35,7 млн параметров с контекстом 512 токенов; для запуска требуется пакет biomed-multi-omic и его плагин для vLLM. Модель обучена с целью Whole-cell Expression Decoder (WCED), предсказывающей профиль экспрессии всей клетки, и дополнительными многозадачными целями: классификацией типов клеток и тканей и подавлением информации об идентификаторе донора. Она предназначена для анализа scRNA-seq, включая аннотацию клеток и получение признаков для последующих задач. В README также описаны общие возможности фреймворка для прогнозирования возмущений, однако конкретно этот чекпойнт заявлен прежде всего для эмбеддингов и предсказаний RNA. Модель принимает данные экспрессии генов, подготовленные в формате h5ad с сырыми значениями и символами генов, и выдаёт эмбеддинги и предсказания. Лицензия Apache 2.0. В описании нет результатов количественной оценки качества; применение зависит от совместимого кода biomed-multi-omic и корректной подготовки данных.
C2S-Scale-Pythia-1b — модель на базе EleutherAI Pythia-1b, дообученная командой Cell2Sentence с использованием фреймворка C2S для задач биологии одиночных клеток. Она преобразует профили экспрессии scRNA-seq в упорядоченные последовательности названий генов («предложения клеток») и использует их как текстовые последовательности для генерации и анализа данных.
luqh/ClinicalT5-base — текстовая модель семейства T5 для генерации текста по текстовому запросу. В карточке приведён пример загрузки через Transformers из Flax-чекпойнта с помощью AutoTokenizer и T5ForConditionalGeneration. Модель содержит 123,8 млн параметров, её контекст составляет 1024 токена. Название указывает на клиническую направленность, однако README не описывает обучение, клинические задачи или проверенные сценарии применения. Поэтому её можно рассматривать как основу для экспериментов с преобразованием медицинских текстов, но пригодность для конкретных клинических задач по имеющимся сведениям подтвердить нельзя. Лицензия и результаты оценки в предоставленных данных не указаны.
tdc/Geneformer — объединённая версия Geneformer, трансформерной модели семейства BERT для анализа одноклеточных транскриптомов. Исходная модель разработана для контекстных предсказаний в сетевой биологии и предварительно обучена на крупном корпусе транскриптомов; эта версия использует выпуск 20L-95M-i4096, обученный на версии Genecorpus объёмом 95 млн записей. В репозитории указаны 178,7 млн параметров, контекст до 4096 токенов и формат safetensors. Модель предназначена для предсказаний по экспрессии генов, изучения динамики и регуляции генных сетей и дообучения на задачах с ограниченными данными, в том числе для моделирования заболеваний и поиска потенциальных терапевтических мишеней. Основная задача в метаданных — fill-mask. Модель принимает последовательности токенов, представляющих транскриптомные данные, и предсказывает замаскированные токены. Лицензия — Apache-2.0. README не описывает проверку клинической пригодности результатов; предсказания для исследований заболеваний требуют независимой валидации.
GPT-2-fine-tuned-mental-health-i1-GGUF — это квантизированная версия модели TheCarBun/GPT-2-fine-tuned-mental-health. Исходную модель дообучил TheCarBun, а наборы GGUF подготовил mradermacher. Модель распространяется в формате GGUF и предназначена для генерации текста на английском языке. Модель ориентирована на текстовые и conversational AI-сценарии, связанные с тематикой психического здоровья: например, на создание диалоговых ответов и экспериментальные приложения для работы с текстом на эту тему. В метаданных указаны базовая архитектура GPT-2, библиотека Transformers, английский язык и источники данных custom-dataset и Kaggle. Точный размер базовой модели, длина контекста и дополнительные модальности в README не указаны; доступные файлы имеют размер около 0,2 ГБ каждый и представлены в различных вариантах квантизации. Сильной стороной является возможность локального использования компактных GGUF-файлов с выбором компромисса между скоростью, размером и качеством; README рекомендует варианты i1-Q4_K_M и i1-Q4_K_S, при этом часть низкобитных вариантов отмечена как имеющая низкое качество. К ограничениям относятся возможная потеря качества из-за квантизации и отсутствие подтверждений клинической точности или пригодности для медицинской помощи. Лицензия модели — Apache-2.0.
HyenaDNA — семейство геномных языковых моделей, разработанное исследователями из Стэнфорда, Harvard Medical School и других организаций. Эта версия содержит 3,7 млн параметров и рассчитана на последовательности длиной до 32 тыс. нуклеотидов. Модель использует архитектуру HyenaDNAForCausalLM со стеком операторов Hyena, односимвольной токенизацией нуклеотидов и авторегрессионным предсказанием следующего нуклеотида. По сравнению с плотным вниманием операторы Hyena масштабируются субквадратично по длине последовательности. Модель предварительно обучена на человеческом референсном геноме HG38. Она предназначена для генерации и анализа последовательностей ДНК, а также для дообучения на задачах классификации, включая предсказание регуляторных элементов, профилей хроматина и классификацию видов. Контекст до 32 тыс. нуклеотидов позволяет учитывать дальние зависимости в геномных последовательностях. Для обучения README приводит требования к GPU для семейства моделей, но указанные ресурсы различаются по размеру чекпойнта. Репозиторий содержит веса в формате safetensors. Лицензия — BSD 3-Clause. Хотя README описывает обучение на человеческом геноме и экспериментальные результаты для разных видов, метаданные не указывают коды языков; естественные языки для этой модели не применимы. Фактические пределы производительности и пригодность к конкретным геномным задачам зависят от данных и дообучения.
LLaVA-Med v1.5 Mistral 7B — медицинская визуально-языковая модель, разработанная Microsoft на основе архитектуры LLaVA-Mistral. Она предназначена для исследователей, изучающих обработку биомедицинских изображений и ответы на вопросы по ним, а также для воспроизведения результатов исследования. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы; её размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Обучение опирается на набор PMC-15M с 15 млн пар изображений и подписей из биомедицинских статей; в данных представлены, среди прочего, микроскопия, рентгенография и гистология. Модель рассчитана на английский язык и поддерживает диалоговый режим. Лицензия — Apache-2.0. Модель предназначена для исследований, а не для клинического применения или принятия медицинских решений. Она проверена на ограниченном наборе биомедицинских бенчмарков, может ошибаться и наследует ограничения LLaVA; данные обучения могут отражать смещения научных публикаций.
Это предобученная модель латентной диффузии из проекта DM4CT, предназначенная для реконструкции компьютерных томограмм. Она разработана для бенчмарка DM4CT по реконструкции КТ, представленного на ICLR 2026. Модель учится безусловному априорному распределению срезов КТ в сжатом латентном пространстве и рассчитана на совместное применение с коррекцией согласованности с измерениями при восстановлении изображений. Архитектура включает VQ-VAE для кодирования и декодирования изображений и двумерный UNet, который выполняет диффузию в латентном пространстве по схеме DDPM с предсказанием шума и линейным расписанием. Модель рассчитана на одноканальные изображения срезов КТ разрешением 512 × 512; геометрическая информация в неё не заложена. Обучение проводилось на наборе Low Dose Grand Challenge, изображения нормализованы в диапазон от −1 до 1. Модель распространяется в формате Diffusers и safetensors по лицензии MIT. Она предназначена для исследовательской реконструкции КТ и не является самостоятельным решением полного процесса реконструкции: для него требуется согласование с измерениями и соответствующая обвязка.
Caduceus-Ph — предобученная модель семейства Caduceus, разработанная группой Kuleshov. Она предназначена для моделирования последовательностей ДНК и предсказания замаскированных участков; архитектура включает 16 слоёв MambaDNA со скрытым размером 256, всего 14,7 млн параметров. Модель обучали на референсном геноме человека с длиной последовательности 131 072 токена и аугментацией обратным комплементом (RC). Модель принимает токенизированные последовательности ДНК и выдаёт оценки токенов для заполнения масок. Для downstream-задач её следует дообучать с RC-аугментацией, а при инференсе обрабатывать исходную последовательность и её обратный комплемент, затем усреднять предсказания. Это предобученный чекпойнт, а не готовое решение для конкретной прикладной задачи. Лицензия — Apache-2.0.
CENO-600M-base — базовый предобученный чекпойнт семейства CENO от CladeTeam для работы с геномными последовательностями ДНК. Это причинная языковая модель на гибридной архитектуре Nemotron-H, сочетающей Mamba, attention и Mixture-of-Experts; модель работает без входов MSA. В карточке Hugging Face указано 336,1 млн параметров, а README описывает семейство как 600M и приводит для этого чекпойнта значение 630,8 млн параметров. Контекст составляет 1 048 576 токенов; токенизатор посимвольный и сопоставляет основания ДНК их ASCII-кодам. Модель предназначена для генерации геномных последовательностей и извлечения эмбеддингов, а также для последующей адаптации и исследования задач геномики. Она опубликована в формате safetensors и доступна по лицензии Apache-2.0. Для загрузки карточка указывает использование trust_remote_code=True с кодом модели, включённым в репозиторий.
Taykhoom/Evo2-40B-1M — это порт весов Evo 2 40B от Arc Institute в формат Hugging Face, подготовленный Taykhoom. Модель семейства StripedHyena 2 сочетает каскад Hyena-блоков с блоками многоголового внимания и обучена предсказывать следующий байт в последовательностях ДНК. В метаданных указано 53,7 млрд параметров; README описывает исходную конфигурацию как примерно 38 млрд параметров и 50 слоёв. Контекст составляет до 1 млн токенов.
MindChat-Baichuan-13B — китайская модель диалоговой генерации для психологической поддержки, созданная исследовательской группой профессора Сюэ Дуна из Восточно-Китайского университета науки и технологий. Модель основана на Baichuan и содержит около 12,9 млрд параметров. Она предназначена для поддерживающих бесед, обсуждения эмоций и повседневных трудностей, а также заявлена авторами для психологической оценки и помощи в вопросах психического здоровья. Примеры в карточке показывают разговоры об учёбе, семейных отношениях, дружбе, работе и личной безопасности. Модель работает с текстом и ориентирована прежде всего на китайский язык. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными; её нельзя использовать как окончательный источник решений в важных или высокорисковых ситуациях. Модель распространяется по лицензии GPL-3.0.
Nucleotide Transformer v2 50M 3mer Multi-Species — трансформерная языковая модель InstaDeep для анализа последовательностей ДНК. Она предварительно обучена на 850 геномах разных видов, включая модельные и немодельные организмы; обучающая выборка охватывает около 174 млрд нуклеотидов. Модель содержит 50,4 млн параметров и использует семейство архитектур ESM с rotary positional embeddings и Gated Linear Units. Модель предназначена для предсказания молекулярных и белковых признаков по геномным последовательностям и для переноса на downstream-задачи биоинформатики. В каталоге основная задача обозначена как fill-mask; архитектура также поддерживает классификацию последовательностей и токенов. Вход — последовательности ДНК, представленные токенами; доступный контекст в метаданных составляет 2050 токенов, а при предобучении использовалась длина последовательности 1000 токенов. Предобучение охватывает широкий набор видов, но в него не включены растения и вирусы. Для использования README указывает на необходимость устанавливать Transformers из исходного кода до следующего выпуска. Лицензия CC BY-NC-SA 4.0 требует атрибуции, ограничивает коммерческое использование и предусматривает распространение производных материалов на тех же условиях.